AI Incident
An event where an AI system causes or nearly causes harm — increasingly something you must record and report.
Un incidente de IA abarca tanto el daño real como los cuasi accidentes: resultados discriminatorios, consejos inseguros, fuga de datos, acciones automatizadas peligrosas. Tratarlos como incidentes de seguridad — registrados, clasificados, revisados — es lo que los convierte en aprendizaje en lugar de repetición. El EU AI Act exige reportar los incidentes graves de los sistemas de alto riesgo.
En la práctica: Un chatbot que promete una política de reembolsos que no existe, a gran escala, durante seis días.