Trust, Risk & Safety intermediate

Model Drift

Also called: concept drift, data drift

Silent degradation as the world moves away from the data a model was trained on.

Drift entsteht, weil sich die Realität ändert: Kundenverhalten verschiebt sich, Vokabular verschiebt sich, ein Wettbewerber startet. Das Modell bleibt unverändert, aber seine Genauigkeit zerfällt leise. Die Gefahr ist, dass es versagt, ohne einen Fehler zu werfen — deshalb bemerkt es nur ein Monitoring.

In der Praxis: Eine Nachfrageprognose, die vor der Inflation trainiert wurde und weiterhin selbstbewusste, falsche Zahlen liefert.

Where this comes up