Tryb awarii
Nadmierne dopasowanie / dopasowanie krzywej
Dopasuj wystarczającą liczbę parametrów, a każda strategia będzie idealnie pasować do swojej historii – łącznie z szumem. To jest właśnie dopasowanie krzywej i najprostszy sposób na stworzenie pięknego backtestu, który nic nie znaczy.
Dopasuj wystarczającą liczbę parametrów, a każda strategia idealnie dopasuje się do historii, wliczając w to losowy szum, który się nie powtórzy. To jest właśnie dopasowywanie krzywych : system zoptymalizowany pod kątem przeszłości, która już minęła, przebrany za odkrycie. Wygląda nieskazitelnie w próbce i rozpada się w momencie zetknięcia z danymi, których nigdy nie widział.
Mechanizm to prosta matematyka działająca na twoją niekorzyść. Podaj optymalizatorowi wystarczającą liczbę wolnych parametrów, a zawsze znajdzie kombinację wyjaśniającą szum w jednej próbce, ponieważ szum nie różni się niczym od rzeczywistego wzorca poza szczęściem. Dodaj tu korektę stop-loss, tam okno retrospektywne, filtr dostrojony do wychwytywania trzech dobrych transakcji z jednego roku, a krzywa kapitału prostowuje się. Nie odkrył, jak zachowują się rynki. Znalazł, jak ten jeden fragment historii zmienił się raz i już się nie zmieni.
Wskazówką jest kruchość. Zmień jedno ustawienie – średnią ruchomą z 20 na 22, stop z 2% na 2,2% – i zobacz piękne kratery krzywych. Strategia z realną, strukturalną przewagą toleruje drobne zmiany, ponieważ przewaga ta nie tkwi w żadnej pojedynczej liczbie. Strategia dopasowania krzywej to zapamiętywanie, a nie uczenie się, a zapamiętana odpowiedź jest bezużyteczna w przypadku pytania, na które wcześniej nie natrafiła.
Zabezpieczamy się przed tym, testując poza próbką: lata i instrumenty, których optymalizator nigdy nie dotykał, specjalnie przechowywane, aby system nie mógł oszukać i uzyskać dobrego wyniku, co jest tą samą logiką, która leży u podstaw testowania walk-forward . Oznacza to również, że strategia, która została przetestowana dla setek kombinacji parametrów, zanim ją zobaczyliśmy, musi osiągnąć wyższy poziom niż ta, której nie przetestowano, ponieważ im więcej konfiguracji jest testowanych, tym większe prawdopodobieństwo, że któraś z nich pasuje do szumu czysto przypadkowo – problem wielokrotnego testowania tkwi w każdym uruchomieniu optymalizatora.
Czyste przeuczenie okazuje się być mniejszym koszem odrzutów, niż większość ludzi się spodziewa. Większość systemów dopasowania krzywych nigdy nie zostaje oskarżona o to konkretne przestępstwo, ponieważ uruchamiają wcześniejszą kontrolę. Uruchom te same reguły dla testu placebo , danych pomieszanych lub przetasowanych, a „przewaga” często przetrwa równie dobrze, jak w rzeczywistości – dowód, że nigdy nie było sygnału do przeuczenia, a jedynie dobrze dopasowany miraż na niczym.
Strategia z czternastoma dostrojonymi danymi wejściowymi nie znalazła przewagi. To pamiętanie jednej niepowtarzalnej ścieżki z przeszłości, ze szczegółami, a przeszłość nie powtarza się zgodnie z planem.
Badania, które za tym stoją
- Bailey, Borwein, López de Prado i Zhu (2014). „Pseudomatematyka i szarlataneria finansowa: wpływ nadmiernego dopasowania testów wstecznych na wyniki poza próbą”. Notices of the AMS 61(5). — Pokazuje, jak testowanie wielu konfiguracji parametrów może dać silne wyniki testów wstecznych, które nie sprawdzają się poza próbą, na której zostały dostrojone.
- Bailey i López de Prado (2014). „Zmniejszony współczynnik Sharpe’a: korygowanie błędu selekcji, nadmiernego dopasowania w teście wstecznym i odchylenia od normy”. Journal of Portfolio Management 40(5). — Metoda korygowania współczynnika Sharpe’a strategii pod kątem błędu selekcji i ryzyka nadmiernego dopasowania, uwzględniona w każdym dostrojonym teście wstecznym.
- López de Prado (2018). „Postępy w uczeniu maszynowym w finansach”. Wiley. — Przedstawia pułapki wycieków i metody walidacji krzyżowej, które uniemożliwiają optymalizatorowi zapamiętanie własnej próbki.
Badania zewnętrzne, linki do kontekstu i dalszych materiałów. FoxAlgo jest niezależny i nie jest powiązany z tymi autorami ani wydawcami.
Oto warunki, na których opiera się Lista No — pełny audyt, obejmujący każdą strategię i wskaźnik, wraz z jego werdyktem i dokładnym powodem istnienia lub zniknięcia.
Pobierz listę zakazów →