AI Incident
An event where an AI system causes or nearly causes harm — increasingly something you must record and report.
Un incidente IA comprende sia i danni reali sia i mancati incidenti: esiti discriminatori, consigli pericolosi, fughe di dati, azioni automatizzate rischiose. Trattarli come incidenti di sicurezza — registrati, classificati, analizzati — è ciò che li trasforma in apprendimento invece che in ripetizione. L’AI Act europeo impone di segnalare gli incidenti gravi per i sistemi ad alto rischio.
In pratica: Un chatbot che promette una politica di rimborso inesistente, su larga scala, per sei giorni.