Termin backtestingu
Walk-forward / poza próbką
Testowanie walk-forward dostraja strategię na podstawie jednego fragmentu historii, a następnie zmusza ją do udowodnienia, że jest ślepa na kolejny, którego nigdy nie widziała. Przewaga, która działa tylko w latach, w których była dopasowana do zapamiętanego szumu, a nie do rynku.
Testowanie w przód dostraja strategię na jednym fragmencie historii, a następnie testuje ją na kolejnym fragmencie, którego nigdy nie widziała, i przesuwa to okno do przodu w czasie. Dopasuj do jednego odcinka danych. Przetestuj ślepo odcinek bezpośrednio po nim. Włącz ten odcinek do zbioru treningowego, a następnie przetestuj ślepo kolejny. Powtarzaj, aż okno osiągnie dzień dzisiejszy.
Istotą jest to, że wyniki są poza próbką. Jeśli krawędź jest rzeczywista, działa na danych, których optymalizator nie mógł sprawdzić podczas doboru parametrów. Jeśli działa tylko w latach, do których została dopasowana, zapamiętuje szum i nazywa to regułą. To właśnie ta kontrola oddziela prawdziwą regułę od dobrze udekorowanego zbiegu okoliczności i jest pomijana w większości publikowanych testów wstecznych, ponieważ pogarsza ich wyniki.
Bez walk-forward strategia musi spełniać tylko jeden warunek: historyczną krzywą, do której została dostrojona. Dodaj wystarczającą liczbę parametrów, stop tu, filtr tam, magiczną długość lookback, a niemal każda krzywa kapitału własnego może zacząć rosnąć. Żadne z tych dostrojeń nie musi przetrwać roku, którego optymalizator nie dotknął. Walk-forward ją do tego zmusza.
Testujemy na latach i instrumentach, które nie były poddawane żadnemu dostrajaniu, porównując to okno z 13-letnimi danymi z kontraktów terminowych CME i danymi FX z ceną tickową, z rzeczywistymi cenami bid/ask, a nie z okresem, na którym została skalibrowana strategia. Strategia, która musi zobaczyć odpowiedź przed testem, nie jest prognozą. Jest recytacją.
System, który z powodzeniem przechodzi test dopasowania w próbie, ale załamuje się podczas testu Walk-forward, zazwyczaj jest po prostu ukrytym przeuczeniem, dopasowaniem znalezionym poprzez wypróbowanie wystarczającej liczby wariantów, które z pewnością pasowałyby do szumu. To ryzyko narasta z każdą dodatkową konfiguracją, co jest dokładnie tym problemem, który koryguje testowanie wielokrotne . Test placebo atakuje pokrewne pytanie z innej strony – czy krawędź przetrwałaby, gdyby wpisy zostały potasowane do losowego. Test Walk-forward pyta natomiast, czy przetrwałaby w czasie.
Prawdziwe krawędzie są nudne pod tym względem. Ciągle pracują na danych, do których nikt ich nie dopasował, bez nowej rundy dostrajania, aby pozostać aktywnymi. Reguła, która wymaga ciągłego dopasowywania, aby działać, nigdy nie była regułą. To była krzywa, za którą się podąża.
Badania, które za tym stoją
- López de Prado (2018). „Postępy w uczeniu maszynowym w finansach”. Wiley. — Standardowe źródło Lópeza de Prado dotyczące nadmiernego dopasowania testów wstecznych, walidacji krzyżowej i unikania wycieków danych w tego typu testach rozłożonych w czasie.
- Bailey, Borwein, López de Prado i Zhu (2014). „Pseudomatematyka i szarlataneria finansowa: wpływ nadmiernego dopasowania testów wstecznych na wydajność poza próbką”. Notices of the AMS 61(5). — Pokazuje, jak wystarczająca liczba prób konfiguracji parametrów tworzy świetnie wyglądający test wsteczny nawet przy zerowej przewadze rzeczywistej, czyli pułapce, przed którą chroni metoda walk-forward.
- Harvey, Liu i Zhu (2016). „…i przekrój oczekiwanych zwrotów”. Review of Financial Studies 29(1). — Pokazuje, że po przeanalizowaniu wystarczającej liczby czynników, poprzeczka dla określenia jednego z nich jako rzeczywistego musi gwałtownie wzrosnąć, co jest logiką wielokrotnego testowania, która motywuje do testowania poza próbką.
Badania zewnętrzne, linki do kontekstu i dalszych materiałów. FoxAlgo jest niezależny i nie jest powiązany z tymi autorami ani wydawcami.
Oto warunki, na których opiera się Lista No — pełny audyt, obejmujący każdą strategię i wskaźnik, wraz z jego werdyktem i dokładnym powodem istnienia lub zniknięcia.
Pobierz listę zakazów →