High-Risk AI System
Under the EU AI Act: a system in a listed sensitive use case, permitted but subject to the strictest obligations.
Hochrisiko umfasst KI, die als Sicherheitsbauteil eines regulierten Produkts dient, plus die Liste aus Anhang III: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, grundlegende Dienste, Strafverfolgung, Migration und Justiz. Hochrisiko ist nicht verboten, sondern reguliert. Zu den Pflichten zählen Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Robustheit sowie die Konformitätsbewertung.
In der Praxis: Software, die Bewerber bewertet oder Prüfungen benotet, fällt unter Anhang III.