Generative AI & LLMs intermediate

Reasoning Model

Also called: thinking model

A model trained to spend extra compute working through a problem before answering.

Les modèles de raisonnement produisent des étapes intermédiaires — un brouillon privé — avant la réponse finale, et sont entraînés à bien le faire plutôt que simplement poussés à le faire par le prompt. Ils échangent de la latence et du coût contre de la précision en maths, en code et en analyse en plusieurs étapes. Sur des tâches simples, ils sont plus lents et plus chers sans aucun bénéfice.

En pratique : Quinze secondes de travail caché avant une bonne réponse, contre une seconde et une mauvaise.

Where this comes up