Ensemble de Modelos: A Solução Robusta

Um ensemble bem construido reduz variancia, melhora a calibracao e produz estimativas de probabilidade mais robustas.

Porque e que o Ensemble Funciona

O ganho do ensemble vem de tres mecanismos estatisticos fundamentais:

1. Reducao de Variancia

Cada modelo individual tem erro. Mas se os erros dos modelos forem nao correlacionados (ou melhor, negativamente correlacionados), a media dos erros aproxima-se de zero. E a lei dos grandes numeros aplicada a modelacao.

2. Compensacao de Vieses

Diferentes algoritmos tem diferentes vieses. A regressao logistica assume linearidade. A Random Forest assume que as variaveis podem ser combinadas hierarquicamente. O XGBoost da prioridade a erros residuais. Ao combina-los, os vieses compensam-se mutuamente.

3. Reducao de Overfitting

Um ensemble de modelos com baixa correlacao entre si tem menos probabilidade de estar a memorizar ruido dos dados. Se todos os modelos concordam numa previsao, e mais provavel que o padrao seja real.

Tipos de Ensemble

Existem tres abordagens principais para construir ensembles em mercados de previsao.

1. Voting (Media ou Mediana)

A abordagem mais simples: cada modelo produz uma probabilidade, e o ensemble usa a media (ou mediana) dessas probabilidades.

2. Stacking

Stacking vai alem da media simples: os outputs dos modelos base tornam-se inputs de um meta-modelo que aprende a combina-los de forma otima.

    01
    Modelos Base
    =
    LR, XGBoost, RandomForest
    
  
    02
    Meta-Modelo
    =
    LogisticRegression
     // aprende a combinar outputs
  
    03
    CV
    =
    5-fold cross-validation
    
  
    04
    Log Loss
    =
    0.871
     // 5.3% melhor que melhor individual
  
    05
    ROI Ganho
    =
    +40.3%
     // ensemble vs melhor modelo individual
  
  

O meta-modelo aprende, por exemplo, que quando a LR e a RF concordam mas a XGB diverge, a RF tende a ter razao em certos contextos. Esta nao-linearidade na combinacao e o que da ao stacking o seu poder - e tambem a sua principal fraqueza: maior risco de overfitting.

3. Bagging (Bootstrap Aggregating)

Bagging treina o mesmo algoritmo em diferentes subconjuntos dos dados, criados por amostragem com reposicao. A Random Forest e o exemplo mais conhecido.

Diversidade: O Fator Critico

Dez modelos identicos treinados nos mesmos dados produzem previsoes identicas - o ensemble e inutil. A diversidade e o mecanismo que torna o ensemble superior.

Ensemble Especializado por Mercado

Nem todos os mercados beneficiam do mesmo conjunto de modelos. A especializacao por tipo de mercado melhora a performance:

Metricas de Performance

O ganho de um ensemble sobre o melhor modelo individual nao e marginal - e substancial.

Resultados empiricos em 5 epocas da Primeira Liga:

Pesos Dinamicos: Adaptabilidade ao Mercado

Um ensemble estatico ignora que a performance relativa dos modelos muda ao longo do tempo. Um modelo que funcionou bem na primeira metade da epoca pode degradar-se na segunda (mudancas taticas, lesoes estruturais, alteracoes de treinador).

    01
    modelos_ativos
    =
    3+ modelos no ensemble
    
  
    02
    peso_inicial
    =
    1.0 para cada modelo
    
  
    03
    se CLV > +3%
    =
    peso *= 1.1
     // modelo em boa fase
  
    04
    se CLV < -2%
    =
    peso *= 0.9
     // modelo degradado
  
    05
    normalizacao
    =
    soma dos pesos = 1.0
    
  
    06
    resultado
    =
    Sharpe 0.71 vs 0.52 do melhor individual
    
  
  

O sistema de pesos dinamicos garante que modelos em boa fase tenham mais influencia e modelos degradados percam peso gradualmente. A normalizacao impede que um unico modelo domine o ensemble.

Estrategia de Implementacao

1. Fase de baseline: Comeca com voting simples (3-5 modelos, pesos iguais)
2. Fase de otimizacao: Introduz stacking com meta-modelo, validacao cruzada
3. Fase de adaptacao: Implementa pesos dinamicos com janela rolling de 60 dias
4. Fase de especializacao: Cria ensembles especificos por mercado (Match Odds, O/U, BTTS)
5. Fase de monitorizacao: Correlacao semanal, tracking de CLV por modelo, rebalanceamento

Resumo

• Ensemble combina multiplos modelos para reduzir variancia, compensar vieses e evitar overfitting
• Voting (media/mediana), stacking (meta-modelo) e bagging sao as tres abordagens principais
• A diversidade entre modelos e critica: correlacao media deve ser < 0.70
• Pesos dinamicos adaptam o ensemble a mudancas no mercado
• O ganho tipico do ensemble sobre o melhor modelo individual e de 15-40%
• O falso ensemble (modelos diferentes mas com dados identicos) nao traz beneficios reais