Foundations intermediate

Parameter

One of the internal numbers a model adjusts during training; parameter count is a rough proxy for model capacity.

Parameter sind die lernbaren Werte im Inneren eines Modells — überwiegend Gewichte und Biases. Training ist der Vorgang, sie so lange zu verschieben, bis die Ausgaben des Modells aufhören, falsch zu sein. Schlagzeilenzahlen wie ‘70B Parameter’ beschreiben Kapazität, nicht Qualität: Architektur, Daten und Post-Training zählen oft mehr als die reine Größe.

In der Praxis: Ein 70B-Modell hat rund 70 Milliarden justierbare Zahlen; eine größere Zahl bedeutet nicht automatisch bessere Antworten.