Sunday, November 8, 2015

Over-fitting o... Under-fitting?

Cultura Generale
by Marcello Belguardi

Ecco un esempio di underfitting: il modello statico del trading system ad un certo punto non è più in sincronia con le caratteristiche dinamiche della serie dei prezzi e la curva dell'equity disegna un andamento laterale.

Equity Line - Piattaforma Tradestation

 (...e qui, siccome il trading system è progettato bene, il sistema non perde ma, purtroppo, neppure guadagna; in genere la percentuale di trade vincenti diventa il 50%, il Win/Loss ratio circa 1 che produce un Profit Factor di circa 1, cioè il totale delle perdite è uguale al totale dei guadagni risultando in un profitto nullo.)

Tutti quelli che si cimentano con il trading sistematico conoscono questo tipo di problemi.

E' un fenomeno che è difficile da modellare, non ho trovato, per il momento, nessuna spiegazione esauriente, in termini più o meno statistici. (Si dice che si sta modellando il rumore invece del segnale... una definizione però che non mi accontenta.)

Noi sappiamo che un sistema smette di funzionare se è stato sovraottimizzato sul periodo in-sample, il lasso temporale cioè utilizzato per la progettazione dell'algoritmo.

Ciò spesso accade quando il numero di trades sul periodo in-sample sono troppo pochi per avere significatività statistica. Il risultato è un fitting geometrico invece di un fitting statistico su tale periodo e come risultato il sistema non supererà l'esame dell'out-of-sample, e difficilmente il sistema inizierà a funzionare in paper trading o nel trading reale. Di solito questo effetto viene chiamato overfitting.
Questo è facile da identificare. E per risolvere occorre dedicare un periodo temporale ampio sul quale effettuare la progettazione,  e contemporaneamente avere il coraggio di scartare tutti i trading systems che non superano l'esame dell'out-of-sample.

Ma quello sopra è un fenomeno differente: il sistema viene generato su un periodo in-sample molto lungo, dopodichè supera il periodo di out-of-sample e funziona in paper trading per un periodo, prima di entrare nella fase laterale (non dovuta dalla diminuzione della volatilità ma da una perdita effettiva di edge).

Tale indesiderato effetto potrebbe essere dovuto ad un cambiamento radicale, strutturale, delle dinamiche di quella serie storica, su quel preciso asset. Non è un problema legato alla progettazione del sistema che però, per sua natura, rappresenta un modello statico dei segnali che deve identificare.

Questa mancanza di dinamicità è il limite dei trading systems, dinamicità non sempre necessaria perchè i segnali sulle serie storiche hanno, in genere, una ricorrenza affidabile.

Per fortuna, secondo la mia esperienza, è un fenomeno non troppo frequente (in genere il sistema continua a funzionare bene)  ma dobbiamo comunque tenerne conto. Ogni precauzione, test, ricerca e validazione non è mai abbastanza se si ha l'ambizione di produrre un trading system di qualità disegnato per superare la prova del tempo.