Modo de falha
Sobreajuste / ajuste de curva
Ajuste parâmetros suficientes e qualquer estratégia se encaixará perfeitamente em seu próprio histórico — incluindo o ruído. Isso é ajuste de curvas , e é a maneira mais fácil de fabricar um belo backtest que não significa nada.
Ajuste parâmetros suficientes e qualquer estratégia se encaixará perfeitamente no histórico, incluindo o ruído aleatório que não se repete. Isso é ajuste de curvas : um sistema otimizado para um passado que já se foi, disfarçado de descoberta. Parece impecável dentro da amostra, mas desmorona no momento em que se depara com dados que nunca viu.
O mecanismo é matemática simples trabalhando contra você. Dê a um otimizador parâmetros livres suficientes e ele sempre encontrará alguma combinação que explique o ruído em sua única amostra, porque o ruído não tem nada que o distinga de um padrão real, exceto a sorte. Adicione um ajuste de stop-loss aqui, uma janela de observação ali, um filtro ajustado para capturar três boas negociações de um único ano, e a curva de capital se endireita imediatamente. Ele não descobriu como os mercados se comportam. Ele descobriu como aquele recorte da história se moveu, uma vez, e não se moverá novamente.
O sinal revelador é a fragilidade. Basta um pequeno ajuste — a média móvel de 20 para 22, o stop loss de 2% para 2,2% — e a bela curva desmorona. Uma estratégia com uma vantagem estrutural real tolera pequenas mudanças porque essa vantagem não reside em um único número. Uma estratégia de ajuste de curva memoriza, não aprende, e uma resposta memorizada é inútil contra uma questão nunca vista antes.
Nos protegemos contra isso realizando testes fora da amostra: anos e instrumentos que o otimizador nunca utilizou, mantidos em sigilo especificamente para que o sistema não consiga obter uma boa pontuação por meio de manipulação, que é a mesma lógica por trás dos testes de regressão logística . Isso também significa que uma estratégia que foi testada em centenas de combinações de parâmetros antes de ser analisada precisa atingir um nível de exigência maior do que uma que não passou por esse processo, porque quanto mais configurações são testadas, maior a probabilidade de uma delas se ajustar ao ruído puramente por acaso — o problema de testes múltiplos presente em cada execução do otimizador.
O sobreajuste puro acaba sendo um fator de rejeição menor do que a maioria das pessoas imagina. A maioria dos sistemas de ajuste de curvas nunca é acusada desse crime específico, porque acionam uma verificação anterior. Execute as mesmas regras em um teste placebo , com dados embaralhados ou desordenados, e a "vantagem" geralmente persiste tão bem quanto no teste real — prova de que nunca houve um sinal para sobreajuste, apenas uma miragem bem ajustada sobre o nada.
Uma estratégia com quatorze entradas ajustadas não encontrou vantagem. Ela consiste em memorizar um caminho irrepetível através do passado, em detalhes, e o passado não se repete conforme o planejado.
A pesquisa que fundamenta isso
- Bailey, Borwein, López de Prado e Zhu (2014). “Pseudo-matemática e charlatanismo financeiro: os efeitos do sobreajuste de backtest no desempenho fora da amostra.” Notices of the AMS 61(5). — Mostra como testar muitas configurações de parâmetros pode gerar resultados de backtest robustos que não se mantêm fora da amostra na qual foram ajustados.
- Bailey & López de Prado (2014). “O Índice de Sharpe Deflacionado: Correção para Viés de Seleção, Sobreajuste em Backtest e Não-Normalidade.” Journal of Portfolio Management 40(5). — Um método para corrigir o índice de Sharpe de uma estratégia em relação ao viés de seleção e ao risco de sobreajuste inerentes a qualquer backtest ajustado.
- López de Prado (2018). “Advances in Financial Machine Learning.” Wiley. — Apresenta as armadilhas de vazamento e os métodos de validação cruzada que impedem um otimizador de simplesmente memorizar sua própria amostra.
Pesquisa externa, com links para contexto e leitura complementar. A FoxAlgo é independente e não possui vínculo com esses autores ou editoras.
Esses são os termos por trás da Lista de Proibições — a auditoria completa, com todas as estratégias e indicadores mencionados, seu veredicto e o motivo exato pelo qual foram aprovados ou reprovados.
Obtenha a Lista de Proibidos →