Foundations intermediate

Parameter

One of the internal numbers a model adjusts during training; parameter count is a rough proxy for model capacity.

Parâmetros são os valores aprendíveis dentro de um modelo — em sua maioria pesos e vieses. Treinar é o processo de ajustá-los até que as saídas do modelo parem de estar erradas. Números de destaque como ‘70B de parâmetros’ descrevem capacidade, não qualidade: arquitetura, dados e pós-treinamento muitas vezes pesam mais que o tamanho bruto.

Na prática: Um modelo de 70B tem cerca de 70 bilhões de números ajustáveis; um número maior não significa automaticamente respostas melhores.