Test-Time Compute
Also called: inference-time scaling
Spending more computation at answer time — thinking longer — to get better results without retraining.
El test-time compute es el segundo eje de escalamiento. En lugar de un modelo más grande, dejas que el modelo existente delibere más tiempo, genere varios intentos o revise su propio trabajo. Te da una perilla de calidad contra costo en vivo, que antes quedaba fija en el entrenamiento.
En la práctica: El mismo modelo, diez veces el presupuesto de pensamiento, y matemáticas notablemente mejores.