Generative AI & LLMs intermediate

Temperature

The setting that controls randomness in generation — low for consistency, high for variety.

La temperatura remodela la distribución de probabilidad sobre el siguiente token. Cerca de cero el modelo casi siempre elige su opción principal, lo que da salidas repetibles y conservadoras. Los valores más altos aplanan la distribución y dejan pasar tokens menos probables, lo que se lee como creatividad y, pasado cierto punto, como disparate.

En la práctica: Temperatura 0 para extracción de datos; 0.8 para una lluvia de ideas de eslóganes.