LLMOps
MLOps for systems built on language models — prompts, evals, cost, and safety instead of training runs.
Le LLMOps déplace les préoccupations, parce qu’en général vous n’entraînez pas le modèle. Ce que vous versionnez, testez et surveillez, ce sont les prompts, la recherche documentaire, les définitions d’outils, les évaluations, la latence, la dépense et la sûreté des sorties. La discipline de fond reste la même : rien ne part en production sans un test capable d’attraper sa défaillance.
En pratique : Chaque modification de prompt déclenche la suite d’évaluations en CI avant d’atteindre la production.