Trust, Risk & Safety intermediate

Model Drift

Also called: concept drift, data drift

Silent degradation as the world moves away from the data a model was trained on.

Il drift accade perché la realtà cambia: i comportamenti dei clienti si spostano, il vocabolario si sposta, un concorrente lancia qualcosa. Il modello resta lo stesso, ma la sua accuratezza decade in silenzio. Il pericolo è che fallisca senza dare errore, quindi solo il monitoraggio se ne accorge.

In pratica: Una previsione della domanda addestrata prima dell’inflazione che continua a restituire numeri sicuri di sé e sbagliati.

Where this comes up