Generative AI & LLMs intermediate

Reasoning Model

Also called: thinking model

A model trained to spend extra compute working through a problem before answering.

I modelli di ragionamento generano passaggi intermedi — un blocco note privato — prima di produrre la risposta finale, e sono addestrati a farlo bene, non semplicemente indotti a farlo con un prompt. Scambiano latenza e costo con accuratezza su matematica, codice e analisi a più passaggi. Sui compiti semplici sono più lenti e più cari senza alcun vantaggio.

In pratica: Quindici secondi di lavoro nascosto prima di una risposta corretta, contro un secondo e una risposta sbagliata.

Where this comes up