Emotion Recognition System
Under the EU AI Act: a system that identifies or infers emotions or intentions from biometric data — banned in workplaces and schools.
Artikel 3(39) definiert den Begriff, Artikel 5 verbietet den Einsatz am Arbeitsplatz und in der Bildung, mit engen Ausnahmen für medizinische und Sicherheitszwecke. Ansonsten gilt er in der Regel als hochriskant. Die wissenschaftliche Grundlage dafür, Emotionen aus Gesicht oder Stimme abzuleiten, ist umstritten — auch deshalb ist die Beschränkung so streng.
In der Praxis: Software, die behauptet, die Begeisterung von Bewerbern aus einem Video-Interview zu bewerten.