Parameter
One of the internal numbers a model adjusts during training; parameter count is a rough proxy for model capacity.
Los parámetros son los valores aprendibles dentro de un modelo — sobre todo pesos y sesgos. El entrenamiento es el proceso de irlos empujando hasta que las salidas del modelo dejan de estar equivocadas. Cifras de titular como ‘70B parámetros’ describen capacidad, no calidad: la arquitectura, los datos y el postentrenamiento suelen importar más que el tamaño puro.
En la práctica: Un modelo de 70B tiene aproximadamente 70 mil millones de números ajustables; un número más grande no significa automáticamente mejores respuestas.