Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Risikoklasse und Pflichten im EU-KI-Recht
KI zur Schlussfolgerung von Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 Abs. 1 lit. f AI Act VERBOTEN (seit 2. Februar 2025). Ausgenommen: KI-Systeme, die aus Sicherheitsgründen (z. B. Erschöpfungserkennung bei Sicherheitspersonal, Lokomotiveführer) oder für medizinische Zwecke (Diagnose, Therapiebegleitung) eingesetzt werden. Der Begriff „Emotionserkennung" (Art. 3 Nr. 39) erfasst die Technik, die aus biometrischen Daten auf Emotionen/Intentionen schließt — reine Auswertung explizit geäußerter Aussagen fällt nicht darunter. Höchste Sanktion: bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3). Außerhalb Arbeitsplatz/Bildung kann Emotionserkennung hochriskant (Anhang III Nr. 1) oder begrenzt riskant (Art. 50) sein.
Steve Baka
Das Verbot und sein Anwendungsbereich
Art. 5 Abs. 1 lit. f verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI zur Schlussfolgerung von Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen. „Am Arbeitsplatz" umfasst alle Beschäftigungsverhältnisse und Arbeitsorte; „in Bildungseinrichtungen" alle Bildungseinrichtungen (Schulen, Hochschulen, Weiterbildung). Verboten sind u. a.: Mimik-/Stimmungsanalyse im Videointerview, Aufmerksamkeits-/Stress-Scoring von Beschäftigten, Emotions-Monitoring im Unterricht/Prüfung. Verbot seit dem 2. Februar 2025, höchste Sanktion (Art. 99 Abs. 3).
Ausnahmen: Sicherheit und medizinische Zwecke
Zwei Ausnahmen: (1) Sicherheitszwecke — Emotionserkennung, die ausdrücklich der Sicherheit dient, etwa Erschöpfungserkennung bei Lokomotiveführern/Piloten/Sicherheitspersonal, Ablenkungswarnung bei Fahrern, Aggressionserkennung in sicherheitskritischen Bereichen. (2) Medizinische Zwecke — Diagnose, Therapiebegleitung, psychiatrische/emotionale Gesundheitsanwendungen. Diese Ausnahmen sind eng. Nicht erfasst: Leistungsbeurteilung, Produktivitäts-Scoring, Kunden-/Schüler-Engagement-Tracking. Die Abgrenzung „Sicherheit vs. Leistungsbeurteilung" ist entscheidend: Müdigkeitserkennung zur Pausen-/Sicherheitssteuerung = erlaubt; Müdigkeit zur Gehaltskalkulation = verboten.
Begriff und weiterer Kontext
„Emotionserkennung" ist in Art. 3 Nr. 39 legaldefiniert: eine Technik, die aus biometrischen Daten auf Emotionen oder Intentionen schließt. Reine Auswertung explizit geäußerter Aussagen (z. B. Textanalyse ohne biometrische Merkmale) fällt nicht unter die Legaldefinition. Außerhalb Arbeitsplatz/Bildung: als biometrisches System hochriskant nach Anhang III Nr. 1 (notifizierte Stelle), sonst ggf. begrenzt riskant mit Informationspflicht nach Art. 50 Abs. 3. Überlagert wird das Verbot durch DSGVO (besondere Datenkategorien, Art. 9), AGG (Diskriminierung), Betriebsverfassungsgesetz (Mitbestimmung) und Schulrecht. Eine konservative Auslegung ist ratsam — im Zweifel vom Verbot ausgehen.
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung).
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz.
European Data Protection Board (EDPB)EDPB. Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen.
Bundesamt für Sicherheit in der Informationstechnik (BSI)BSI. IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2.
Datenschutzkonferenz (DSK)DSK. Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI.
Der Bundesbeauftragte für Datenschutz (BfDI)BfDI. Bundesweiter Datenschutzbeauftragter Deutschland.
Rat für Künstliche Intelligenz (Österreich)Bundesministerium AT. Beratendes Gremium und Ministerium für KI-Politik in Österreich.
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)EDÖB / FDPIC. Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz.
Cyber Resilience Act (VO (EU) 2024/2847) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant).
Richtlinie (EU) 2022/2555 (NIS2) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren.
Häufige Fragen
Ist Emotionserkennung im Büro verboten?
Ja. Art. 5 Abs. 1 lit. f verbietet Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (seit 2. Feb. 2025), außer für Sicherheits-/medizinische Zwecke.
Ist Müdigkeitserkennung bei Fahrern erlaubt?
Ja, aus Sicherheitsgründen (Ausnahme). Aber nur, wenn die Daten nicht zur Leistungsbeurteilung/Gehaltskalkulation genutzt werden — sonst Verbot.
Was gilt für Text-Sentiment-Analyse?
Nicht erfasst, wenn keine biometrischen Daten verarbeitet werden (Art. 3 Nr. 41 nur biometrisch). Außerhalb Arbeitsplatz/Bildung: hochriskant (Anhang III Nr. 1) oder begrenzt riskant (Art. 50).
Rechtskonforme Umsetzung für Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen?
Wenn du Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen rechtskonform einführen oder prüfen willst, entwickle ich mit dir die passende Compliance-Strategie — von der Risikoklassifizierung bis zum Nachweis.