162 articles
Parcourir les guides
Les exemples adverses exploitent le fait que les frontières de décision d’un modèle ne coïncident pas avec la perception humaine. De minuscules modifications ciblées inversent la sortie, avec une grande confiance à l’appui. Ils rappellent qu’une excellente précision sur les benchmarks ne dit rien du comportement sous attaque. En pratique : Un panneau stop couvert de quelques autocollants qu’un modèle de vision lit comme un panneau de limitation de vitesse. ...
L’explicabilité est une affaire de public : une explication doit être utilisable par la personne qui en a besoin — un demandeur, un auditeur, un ingénieur. On l’obtient souvent par des méthodes a posteriori qui approchent le comportement du modèle plutôt que d’en révéler le mécanisme réel. Cette approximation est une vraie limite, pas un détail technique. En pratique : « Refusé principalement en raison du ratio dette/revenu et d’un historique de crédit trop court. » ...
La fenêtre de contexte est la mémoire de travail du modèle pour une seule requête. Tout doit y tenir : prompt système, historique de conversation, fichiers joints et réponse. Dépassez-la et le contenu le plus ancien est écarté, ou l’appel échoue. Notez qu’une grande fenêtre n’équivaut pas à une bonne mémoire à l’intérieur — les modèles perdent encore le fil au milieu. En pratique : Une fenêtre de 200K contient à peu près un livre de 500 pages — mais la réponse doit tenir dedans elle aussi. ...
Le few-shot prompting enseigne par démonstration à l’intérieur de la fenêtre de contexte, sans le moindre entraînement. C’est la technique de prompting la plus rentable pour obtenir de la régularité, en particulier sur la classification et le formatage. Choisissez des exemples qui couvrent les cas limites, pas seulement les cas faciles — le modèle copiera tout ce que vous lui montrez, y compris les manques. En pratique : Cinq tickets étiquetés dans le prompt, et la justesse de catégorisation grimpe sans le moindre fine-tuning. ...
Une fiche de modèle consigne l’usage prévu, les usages hors périmètre, les données d’entraînement à un niveau général, les résultats d’évaluation et les limites connues. Sa section la plus précieuse est celle que les équipes sautent : les limites. Elle est passée d’une norme du monde de la recherche à une attente de conformité, aussi bien du côté du NIST que des cadres européens. En pratique : ‘Évalué en anglais uniquement. Non validé pour des décisions médicales.’ ...
Le fine-tuning met à jour les poids d’un modèle pré-entraîné sur un jeu de données plus petit et ciblé. C’est le bon outil pour enseigner la forme — un ton, un format, un schéma de classification — et le mauvais outil pour enseigner des faits, ce que le RAG gère mieux et pour moins cher. La plupart des équipes se lancent trop tôt dans le fine-tuning ; le travail sur les prompts et la recherche documentaire résolvent plus de problèmes qu’on ne le croit. ...
Une fonction d’activation décide de ce qu’une unité transmet. La non-linéarité est tout l’enjeu : empilez cent couches linéaires et vous avez toujours un modèle linéaire, mais insérez une fonction non linéaire entre elles et le réseau peut représenter des courbes, des interactions et de la structure. ReLU est le choix par défaut le plus courant. En pratique : ReLU : une entrée négative devient zéro, une entrée positive passe inchangée. ...
Une fonction de perte transforme l’écart entre la prédiction et la vérité en un seul nombre. L’entraînement n’est rien d’autre que la recherche de paramètres qui rendent ce nombre petit. Choisir la perte, c’est choisir ce à quoi le modèle va tenir, ce qui en fait une décision discrètement lourde de conséquences. En pratique : Prédiction de 0.9 là où la réponse était 1.0 — la perte est faible, donc la correction est faible. ...
Le fournisseur est le rôle qui porte les obligations les plus lourdes. Il se définit par ce que vous faites, pas par ce que vous construisez : apposez votre marque sur le modèle de quelqu’un d’autre et vous pouvez devenir le fournisseur de ce système. Modifier substantiellement un système à haut risque peut également vous transférer le statut de fournisseur. En pratique : Commercialiser un modèle tiers en marque blanche sous le nom ‘YourCo AI’ peut faire de vous le fournisseur. ...
Les fournisseurs en aval construisent des produits par-dessus le modèle d’IA à usage général d’un tiers. Le règlement oblige le fournisseur du modèle en amont à leur transmettre les informations techniques dont ils ont besoin pour remplir leurs propres obligations. C’est le mécanisme qui rend la chaîne de valeur lisible au lieu d’en faire une boîte noire. En pratique : Construire et vendre un assistant juridique par-dessus l’API de quelqu’un d’autre. ...