Foundations intermediate

Overfitting

When a model memorises its training data instead of learning the pattern, and fails on anything new.

Ein overfittetes Modell hat das Rauschen mitgelernt, nicht nur das Signal. Auf Daten, die es gesehen hat, glänzt es; auf Daten, die es nicht gesehen hat, fällt es durch. Die üblichen Gegenmittel sind mehr Daten, weniger Modellkapazität, Regularisierung und ein früher Abbruch des Trainings, sobald der Validierungs-Loss wieder steigt.

In der Praxis: 99 % auf den Trainingsdaten, 62 % in der Produktion — ein Lehrbuchfall.

Where this comes up