مصطلح الاختبار الخلفي
الاختبار التقدّمي / خارج العينة
الاختبار التقدّمي يضبط استراتيجية على شريحة واحدة من التاريخ، ثم يجبرها على إثبات نفسها بشكل أعمى على الشريحة التالية التي لم ترها قط. الميزة التي تعمل فقط على السنوات التي تم ضبطها عليها هي ضوضاء محفوظة، وليست السوق.
يضبط الاختبار التقدّمي استراتيجية على شريحة واحدة من التاريخ، ثم يختبرها على الشريحة التالية التي لم يرها قط، ويُمرر تلك النافذة إلى الأمام عبر الزمن. يتم الضبط على فترة واحدة من البيانات. ثم يتم الاختبار بشكل أعمى على الفترة التي تليها مباشرة. تُدمج تلك الفترة في مجموعة التدريب، ثم يتم الاختبار بشكل أعمى على الفترة التالية. تتكرر العملية حتى تصل النافذة إلى اليوم.
خارج العينة هو جوهر الأمر. إذا كانت الميزة حقيقية، فإنها تعمل على بيانات لم يتمكن المحسّن من الاطلاع عليها أثناء اختيار المعلمات. إذا كانت تتألق فقط في السنوات التي تم ضبطها عليها، فقد حفظت الضوضاء وسمتها قاعدة. هذا هو الفحص الذي يفصل القاعدة الحقيقية عن المصادفة المزخرفة جيدًا، وهو الفحص الذي تتجاهله معظم الاختبارات الخلفية المنشورة لأنه يجعل النتائج تبدو أسوأ.
بدون الاختبار التقدّمي، يجب أن ترضي الاستراتيجية سيدًا واحدًا فقط: المنحنى التاريخي الذي تم ضبطها عليه. أضف ما يكفي من المعلمات، وقف هنا، وفلتر هناك، وطول نظرة سحرية، ويمكن جعل أي منحنى أسهم تقريبًا يتسلق. لا يجب أن ينجو أي من هذا الضبط من عام لم يلمسه المحسّن أبدًا. الاختبار التقدّمي يجبرها على ذلك.
نحن نختبر على سنوات وأدوات تم استبعادها من أي ضبط، ونُشغل تلك النافذة المستبعدة مقابل 13 عامًا من عقود CME الآجلة وبيانات الفوركس على مستوى التجزئة مع عروض أسعار حقيقية (bid/ask)، وليس الفترة التي تم معايرة الاستراتيجية عليها. الاستراتيجية التي تحتاج إلى رؤية الإجابة قبل الاختبار لا تتنبأ. إنها تستعيد.
النظام الذي يتفوق في الملاءمة داخل العينة ولكنه ينهار في الاختبار التقدّمي عادة ما يكون مجرد الفرط في الملاءمة متنكرًا، وهو ملاءمة تم العثور عليها بتجربة ما يكفي من الاختلافات بحيث كان لا بد أن يتطابق أحدها مع الضوضاء. يتفاقم هذا الخطر مع كل تكوين إضافي يتم تجربته، وهو بالضبط المشكلة التي تصححها الاختبارات المتعددة. يهاجم الاختبار الوهمي سؤالًا ذا صلة من زاوية أخرى، وهو ما إذا كانت الميزة ستنجو إذا تم خلط الإدخالات عشوائيًا. يسأل الاختبار التقدّمي ما إذا كانت تنجو من الزمن بدلاً من ذلك.
الميزات الحقيقية مملة بهذه الطريقة. إنها تستمر في العمل على بيانات لم يقم أحد بضبطها عليها، دون جولة جديدة من الضبط للبقاء على قيد الحياة. القاعدة التي تحتاج إلى إعادة ضبط مستمرة للاستمرار في العمل لم تكن قاعدة أبدًا. لقد كانت منحنى يتم مطاردته.
الأبحاث وراء ذلك
- López de Prado (2018). “Advances in Financial Machine Learning.” Wiley. — مرجع López de Prado القياسي حول فرط الملاءمة في الاختبار الخلفي، والتحقق المتقاطع، وتجنب تسرب البيانات في هذا النوع بالضبط من الاختبارات المستبعدة.
- Bailey, Borwein, López de Prado & Zhu (2014). “Pseudo-Mathematics and Financial Charlatanism: The Effects of Backtest Overfitting on Out-of-Sample Performance.” Notices of the AMS 61(5). — يوضح كيف أن تجربة ما يكفي من تكوينات المعلمات تنتج اختبارًا خلفيًا رائع المظهر حتى مع عدم وجود ميزة حقيقية، وهو الفخ الدقيق الذي يحميه الاختبار التقدّمي.
- Harvey, Liu & Zhu (2016). “…and the Cross-Section of Expected Returns.” Review of Financial Studies 29(1). — يوضح أنه بعد استخراج ما يكفي من العوامل، يجب أن يرتفع مستوى اعتبار العامل حقيقيًا بشكل حاد، وهو منطق الاختبارات المتعددة الذي يحفز الاختبار خارج العينة.
أبحاث خارجية، مرتبطة للسياق والمزيد من القراءة. FoxAlgo مستقلة وليست تابعة لهؤلاء المؤلفين أو الناشرين.
هذه هي المصطلحات وراء القائمة السلبية (The No List) — التدقيق الكامل، كل استراتيجية ومؤشر مسمى، مع حكمه والسبب الدقيق لبقائه أو زواله.
احصل على القائمة السلبية (The No List) →