Loss Function
The formula that scores how wrong a model's prediction is — the thing training tries to minimise.
Eine Verlustfunktion verwandelt den Abstand zwischen Vorhersage und Wahrheit in eine einzige Zahl. Training ist nichts anderes als die Suche nach Parametern, die diese Zahl klein machen. Die Wahl der Verlustfunktion ist die Wahl dessen, was dem Modell wichtig sein wird, und damit eine still folgenreiche Entscheidung.
In der Praxis: Vorhergesagt 0,9, wo die Antwort 1,0 war — der Verlust ist klein, also fällt auch die Korrektur klein aus.