Parameter
One of the internal numbers a model adjusts during training; parameter count is a rough proxy for model capacity.
Les paramètres sont les valeurs apprenables à l’intérieur d’un modèle — surtout des poids et des biais. L’entraînement est le processus qui les pousse petit à petit jusqu’à ce que les sorties du modèle cessent d’être fausses. Les chiffres affichés en titre, comme ‘70 milliards de paramètres’, décrivent une capacité, pas une qualité : l’architecture, les données et le post-entraînement comptent souvent plus que la taille brute.
En pratique : Un modèle 70B possède environ 70 milliards de nombres ajustables ; un nombre plus grand ne signifie pas automatiquement de meilleures réponses.