Hata modu
Aşırı uyum / eğri uydurma
Yeterince parametre ayarlayın ve herhangi bir strateji, gürültü de dahil olmak üzere kendi geçmişine mükemmel bir şekilde uyacaktır. Bu, eğri uydurmadır ve hiçbir anlam ifade etmeyen güzel bir geriye dönük testi üretmenin en kolay yoludur.
Yeterince parametre ayarlayın ve herhangi bir strateji, tekrarlanmayacak rastgele gürültü de dahil olmak üzere geçmişe mükemmel bir şekilde uyacaktır. Bu, eğri uydurmadır: zaten geçmişte kalmış bir geçmişe göre optimize edilmiş, bir keşif gibi gösterilen bir sistem. Örnek içinde kusursuz görünür ve hiç görmediği verilerle karşılaştığı anda dağılır.
Mekanizma, size karşı çalışan basit matematiktir. Bir optimize ediciye yeterince serbest parametre verin ve her zaman tek örneğinizdeki gürültüyü açıklayan bir kombinasyon bulacaktır, çünkü gürültünün şans dışında gerçek bir desenden ayıran hiçbir özelliği yoktur. Buraya bir stop-loss ayarı, oraya bir geriye dönük pencere, tek bir yıldan üç iyi işlemi yakalamak için ayarlanmış bir filtre ekleyin ve öz sermaye eğrisi hemen düzelir. Piyasaların nasıl davrandığını bulmamıştır. Geçmişin o tek diliminin bir kez nasıl hareket ettiğini bulmuştur ve bir daha hareket etmeyecektir.
İşaret, kırılganlıktır. Bir ayarı hafifçe değiştirin — hareketli ortalamayı 20'den 22'ye, stopu %2'den %2.2'ye — ve güzel eğri çöker. Gerçek, yapısal bir avantaja sahip bir strateji, küçük değişikliklere tolerans gösterir çünkü avantaj tek bir sayıda yaşamaz. Eğriye uydurulmuş bir strateji öğrenmek yerine ezberler ve ezberlenmiş bir cevap, daha önce görmediği bir soruya karşı işe yaramaz.
Buna karşı, örnek dışı testler yaparak önlem alıyoruz: optimize edicinin hiç dokunmadığı, sistemin iyi bir puana hileyle ulaşmasını engellemek için özel olarak saklanan yıllar ve enstrümanlar; bu, ileri yürüyen testin arkasındaki mantıkla aynıdır. Ayrıca, biz görmeden önce yüzlerce parametre kombinasyonundan geçirilmiş bir stratejinin, geçirilmemiş bir stratejiden daha yüksek bir çıtayı aşması gerektiği anlamına gelir, çünkü ne kadar çok konfigürasyon denenirse, birinin gürültüye tamamen şans eseri uyma olasılığı o kadar artar — her optimize edici çalıştırmasının içinde yer alan çoklu test problemi.
Saf aşırı uyum, çoğu insanın beklediğinden daha küçük bir ret kovası blijkt. Çoğu eğriye uydurulmuş sistem, bu özel suçla asla suçlanmaz, çünkü önce daha erken bir kontrolü tetiklerler. Aynı kuralları bir plasebo testine, karıştırılmış veya rastgele sıralanmış verilere karşı çalıştırın ve "avantaj" genellikle gerçek şeyde olduğu kadar iyi hayatta kalır — bu, aşırı uyum sağlayacak bir sinyal olmadığını, sadece hiçbir şeyin üzerinde duran iyi uydurulmuş bir serap olduğunu kanıtlar.
On dört ayarlı girişe sahip bir strateji bir avantaj bulmamıştır. Geçmişteki tekrarlanamaz bir yolu ayrıntılı olarak hatırlıyor ve geçmiş zamanında tekrarlanmaz.
Bunun arkasındaki araştırma
- Bailey, Borwein, López de Prado & Zhu (2014). “Pseudo-Mathematics and Financial Charlatanism: The Effects of Backtest Overfitting on Out-of-Sample Performance.” Notices of the AMS 61(5). — Birçok parametre konfigürasyonunu denemenin, ayarlandıkları örnek dışında geçerli olmayan güçlü geriye dönük test sonuçları üretebileceğini gösterir.
- Bailey & López de Prado (2014). “The Deflated Sharpe Ratio: Correcting for Selection Bias, Backtest Overfitting and Non-Normality.” Journal of Portfolio Management 40(5). — Herhangi bir ayarlı geriye dönük teste dahil olan seçim yanlılığı ve aşırı uyum riskini düzeltmek için bir stratejinin Sharpe oranını düzeltme yöntemi.
- López de Prado (2018). “Advances in Financial Machine Learning.” Wiley. — Bir optimize edicinin sadece kendi örneğini ezberlemesini engelleyen sızıntı tuzaklarını ve çapraz doğrulama yöntemlerini ortaya koyar.
Dış araştırma, bağlam ve daha fazla okuma için bağlantılıdır. FoxAlgo bağımsızdır ve bu yazarlar veya yayıncılarla bağlantılı değildir.
Bunlar, The No List'in arkasındaki terimlerdir — tam denetim, her strateji ve gösterge adlandırılmış, kararı ve yaşamasının veya ölmesinin kesin nedeni ile.
The No List'i Alın →