Governance & Regulation intermediate

Human Oversight

Under the EU AI Act: the requirement that people can understand, monitor, override, and stop a high-risk system.

L’articolo 14 impone che i sistemi ad alto rischio siano progettati perché le persone fisiche possano sorvegliarli in modo efficace — il che comprende comprenderne capacità e limiti, tenere d’occhio il bias di automazione, interpretarne l’output, decidere di non usarlo e intervenire o interromperne il funzionamento. La sorveglianza va progettata dentro il sistema, non dichiarata in una policy.

In pratica: Un comando di arresto ben visibile e un revisore che ha il potere e la formazione per usarlo.

Where this comes up