Governance & Regulation intermediate

Human Oversight

Under the EU AI Act: the requirement that people can understand, monitor, override, and stop a high-risk system.

Artikel 14 verlangt, dass Hochrisiko-Systeme so gestaltet sind, dass natürliche Personen sie wirksam beaufsichtigen können — inklusive Verständnis für Fähigkeiten und Grenzen, Wachsamkeit gegenüber Automatisierungsbias, Deutung der Ausgaben, der Entscheidung, das System nicht zu nutzen, und dem Eingreifen oder Anhalten des Betriebs. Aufsicht muss in das System hineinkonstruiert und nicht in einer Richtlinie behauptet werden.

In der Praxis: Ein sichtbarer Stopp-Schalter und eine prüfende Person, die befugt und geschult ist, ihn zu benutzen.

Where this comes up