AI Incident
An event where an AI system causes or nearly causes harm — increasingly something you must record and report.
Un incident lié à l’IA couvre les préjudices réels comme les quasi-accidents : résultats discriminatoires, conseils dangereux, fuite de données, action automatisée risquée. Les traiter comme des incidents de sécurité — journalisés, triés, analysés — est ce qui les transforme en apprentissage plutôt qu’en répétition. Le règlement européen sur l’IA impose de signaler les incidents graves pour les systèmes à haut risque.
En pratique : Un chatbot qui promet une politique de remboursement inexistante, à grande échelle, pendant six jours.