Trust, Risk & Safety intermediate

Model Drift

Also called: concept drift, data drift

Silent degradation as the world moves away from the data a model was trained on.

La dérive survient parce que la réalité change : les comportements clients évoluent, le vocabulaire évolue, un concurrent se lance. Le modèle, lui, est inchangé, mais sa justesse se dégrade en silence. Le danger, c’est qu’il échoue sans produire d’erreur, si bien que seule la surveillance le détecte.

En pratique : Une prévision de demande entraînée avant l’inflation, qui continue de renvoyer des chiffres assurés et faux.

Where this comes up