162 articles
Parcourir les guides
L’article 3(40) la définit, en excluant les usages accessoires à un autre service et strictement nécessaires pour des raisons techniques. Catégoriser des personnes selon des caractéristiques sensibles ou protégées est une pratique interdite ; les autres formes de catégorisation biométrique relèvent en général du niveau à haut risque. En pratique : Déduire l’origine ethnique ou l’appartenance politique à partir d’un visage est interdit.
Un modèle de classification produit une classe plutôt qu’un nombre : spam ou non, laquelle de cinq langues, quelle maladie. Sa qualité se mesure avec la précision, le rappel et des métriques voisines — l’exactitude seule est trompeuse dès qu’une classe est rare. En pratique : Trier les tickets de support entre facturation, technique et compte client.
Une clé API identifie votre compte auprès du fournisseur. Quiconque la détient peut dépenser votre budget et consulter votre consommation : les clés ont donc leur place sur un serveur ou dans un gestionnaire de secrets, jamais dans du code front-end ni dans un dépôt public. Faites-les tourner et restreignez leur portée partout où le fournisseur le permet. En pratique : Une clé publiée dans un dépôt public est trouvée et utilisée en quelques minutes. ...
Le computer use permet à un agent de travailler avec des logiciels dépourvus d’API, en pilotant directement l’interface. Il ouvre l’accès aux systèmes hérités et aux outils de niche, au prix d’une lenteur et d’une fragilité bien supérieures à celles d’une véritable intégration. Comme il hérite de tous les accès de l’utilisateur, le bac à sable n’est pas facultatif. En pratique : Remplir un formulaire dans un portail interne construit en 2009 et dépourvu d’API. ...
La confidentialité différentielle ajoute un bruit calibré pour que les enregistrements individuels ne puissent pas être reconstitués à partir des sorties, avec un budget de confidentialité réglable qui quantifie la garantie. Contrairement à l’anonymisation, c’est une preuve et non un espoir. Le prix à payer est la précision, et le budget est fini sur l’ensemble des requêtes. En pratique : Publier des statistiques agrégées qui ne permettent d’identifier aucun répondant. ...
Les Content Credentials, fondés sur la norme C2PA, attachent à un fichier un historique infalsifiable — capturé par cet appareil photo, retouché ici, généré par ce modèle. L’approche prouve la provenance au lieu de détecter les faux, ce qui est un problème bien plus abordable. Sa faiblesse : retirer les métadonnées est trivial, donc leur absence ne prouve rien. En pratique : Une image dont les credentials montrent qu’elle vient d’un appareil photo, pas d’un générateur. ...
L’article 14 impose que les systèmes à haut risque soient conçus pour que des personnes physiques puissent effectivement les superviser — en comprendre les capacités et les limites, se méfier du biais d’automatisation, interpréter les sorties, décider de ne pas s’en servir, intervenir ou interrompre le fonctionnement. Le contrôle doit être conçu dans le système, pas affirmé dans une politique interne. En pratique : Une commande d’arrêt visible et un relecteur habilité et formé pour s’en servir. ...
Un copilote travaille à vos côtés à l’intérieur de l’application — en suggérant la ligne suivante, en rédigeant le paragraphe, en proposant la formule. La différence avec un agent tient à qui tient le volant : le copilote propose, vous acceptez. Le nom est désormais générique, même s’il est aussi une marque de produit. En pratique : Une autocomplétion qui termine la fonction que vous alliez écrire.
Les tokens d’entrée et de sortie sont généralement tarifés différemment, la sortie étant le côté cher. Les coûts augmentent avec la longueur de la conversation, puisque l’historique est renvoyé à chaque tour, ce qui explique pourquoi les applications de chat naïves deviennent vite ruineuses. Le cache, un contexte plus court et le routage vers des modèles plus petits sont les leviers habituels. En pratique : Renvoyer un document de 50 pages à chaque question de suivi, et le payer à chaque fois. ...
Un modèle ne sait rien du monde postérieur à sa date de coupure, sauf si on lui donne une recherche ou des documents au moment de l’inférence. C’est pourquoi les modèles décrivent avec assurance des versions périmées de logiciels et passent à côté des événements récents. La recherche documentaire et les outils web sont le remède ; la date de coupure, elle, ne bouge jamais sans réentraînement. En pratique : Demander à un modèle ’la dernière version’ de quoi que ce soit n’est pas fiable s’il ne peut pas chercher. ...