Foundation Model
A large model trained broadly once, then adapted to many downstream tasks instead of being built per task.
L’idée du modèle de fondation inverse l’ancien flux de travail : plutôt que d’entraîner un modèle neuf pour chaque problème, on entraîne un modèle généraliste à grands frais et on l’adapte à moindre coût par prompting ou par fine-tuning. Cette économie explique pourquoi une poignée de laboratoires entraînent les modèles et pourquoi tous les autres construisent par-dessus. Le règlement européen sur l’IA traite à peu près la même chose sous le nom de modèle d’IA à usage général.
En pratique : Un même modèle de base qui alimente un bot de support, un assistant de code et un résumeur — avec exactement les mêmes poids.