Generative AI & LLMs intermediate

Reasoning Model

Also called: thinking model

A model trained to spend extra compute working through a problem before answering.

Los modelos de razonamiento generan pasos intermedios — un borrador privado — antes de producir la respuesta final, y están entrenados para hacerlo bien, no solo empujados a ello por el prompt. Cambian latencia y costo por precisión en matemáticas, código y análisis de varios pasos. En tareas simples son más lentos y más caros sin ningún beneficio.

En la práctica: Quince segundos de trabajo oculto y una respuesta correcta, frente a un segundo y una equivocada.

Where this comes up