Inhalt dieses Beitrags
Nein, und dieses Verbot gilt bereits seit dem 2. Februar 2025. Art. 5 Abs. 1 lit. f der Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) untersagt das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, die Verwendung soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt gebracht werden. Anders als beim Hochrisiko ist hier nichts verschoben worden.
Welche Systeme erfasst das Verbot?
Systeme, die aus biometrischen Daten auf innere Zustände schließen. Art. 3 Nr. 39 KI-VO definiert das Emotionserkennungssystem als KI-System, das dem Zweck dient, Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten. Biometrische Daten sind nach Art. 3 Nr. 34 KI-VO mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu physischen, physiologischen oder verhaltenstypischen Merkmalen.
Damit ist der Anwendungsbereich klarer, als er auf den ersten Blick wirkt. Erfasst sind Kameraauswertungen von Mimik und Blickverhalten, Stimmanalysen, die auf Stress oder Verärgerung schließen, und Auswertungen von Körperhaltung oder physiologischen Signalen. Für eine Analyse, die allein am geschriebenen Wort ansetzt, fehlt es nach dem Wortlaut an dieser Voraussetzung. Ob ein konkretes System auf biometrische Daten zugreift, ist gesondert zu prüfen.
Welche Ausnahmen gelten?
Medizinische Gründe und Sicherheitsgründe, beides eng zu verstehen. Der Ausnahmetatbestand knüpft an die Zweckbestimmung an, mit der das System eingeführt oder in Verkehr gebracht wird. Als Anwendungsfälle kommen etwa die Erkennung von Müdigkeit am Steuer oder an einer gefährlichen Maschine in Betracht sowie der Einsatz im Rahmen einer arbeitsmedizinischen Maßnahme. Ob die Ausnahme im konkreten Fall trägt, ist gesondert zu prüfen und bislang nicht gerichtlich geklärt.
Bei Zwecken, die allein dem Personaleinsatz dienen, liegt die Ausnahme dagegen fern. Motivationsmessung, Zufriedenheitsanalyse, die Bewertung von Servicequalität anhand der Stimmlage oder ein Aufmerksamkeitsscore im Homeoffice lassen sich nur schwer als medizinischer Grund oder als Sicherheitsgrund einordnen. Wer die Ausnahme in Anspruch nimmt, muss den Zweck belegen können, und die Zweckbestimmung wird nicht dadurch zum Sicherheitsgrund, dass sie so genannt wird.
Was ist der Unterschied zur biometrischen Kategorisierung?
Die Kategorisierung ordnet zu, die Emotionserkennung leitet ab. Art. 5 Abs. 1 lit. g KI-VO verbietet Systeme zur biometrischen Kategorisierung, mit denen natürliche Personen individuell auf der Grundlage ihrer biometrischen Daten kategorisiert werden, um ihre Rasse, ihre politischen Einstellungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen oder abzuleiten.
Im Betrieb ist vor allem die Gewerkschaftszugehörigkeit heikel. Ein System, das aus Bild- oder Tonmaterial Rückschlüsse auf eine gewerkschaftliche Bindung zieht, ist unabhängig vom Anlass verboten. Anders als bei lit. f gibt es hier keine Ausnahme für medizinische oder Sicherheitszwecke, sondern nur eine eng gefasste Ausnahme für die Kennzeichnung rechtmäßig erworbener biometrischer Datensätze und für den Bereich der Strafverfolgung.
Was gilt, wenn ein System ausnahmsweise zulässig ist?
Dann greifen Transparenz, Datenschutz und Mitbestimmung. Nach Art. 50 Abs. 3 KI-VO informiert der Betreiber eines Emotionserkennungssystems die davon betroffenen natürlichen Personen über den Betrieb des Systems. Diese Pflicht gilt bereits seit dem 2. August 2026 und trifft den Arbeitgeber unmittelbar, nicht den Anbieter.
Datenschutzrechtlich handelt es sich bei der Verarbeitung biometrischer Daten zur eindeutigen Identifizierung um besondere Kategorien personenbezogener Daten. Selbst wo die KI-Verordnung nicht sperrt, ist damit eine tragfähige Rechtsgrundlage erforderlich, und eine Einwilligung im Arbeitsverhältnis ist wegen des Abhängigkeitsverhältnisses selten belastbar. Kommt ein Betriebsrat hinzu, ist die Einführung als technische Einrichtung zur Überwachung von Leistung und Verhalten nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig. Die Einzelheiten dazu stehen im Beitrag zur Mitbestimmung beim KI-Einsatz.
Was kostet ein Verstoß?
Der schärfste Rahmen der gesamten Verordnung. Art. 99 Abs. 3 KI-VO sieht bei Missachtung der Verbote des Art. 5 KI-VO Geldbußen bis zu 35 Millionen Euro oder bis zu 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem, welcher Betrag höher ist. Zum Vergleich liegt der Rahmen für Verstöße gegen Betreiber- und Transparenzpflichten nach Art. 99 Abs. 4 KI-VO bei 15 Millionen Euro oder 3 Prozent.
Für die betriebliche Praxis kommt ein zweites Risiko hinzu, das schneller eintritt als jedes Bußgeld. Erkenntnisse aus einer verbotenen Maßnahme sind im Kündigungsschutzprozess kaum zu verwerten. Wie die Gerichte die Verwertbarkeit prüfen und warum ein einfacher Datenschutzverstoß dafür nicht genügt, ordnen wir im Beitrag zum Beweisverwertungsverbot im Kündigungsschutzprozess ein.
Wie ordnet sich das in die Grenzen der Mitarbeiterkontrolle ein?
Die KI-Verordnung zieht eine zusätzliche Grenze, sie ersetzt die bestehenden nicht. Wer Beschäftigte beobachtet, muss weiterhin die Verhältnismäßigkeit wahren, das mildere Mittel wählen und die Maßnahme offenlegen, soweit keine Ausnahme greift. Das gilt für die Videoüberwachung am Arbeitsplatz ebenso wie für die GPS-Ortung im Dienstwagen.
Neu ist, dass die KI-Verordnung eine bestimmte Auswertungsart unabhängig von der Verhältnismäßigkeit ausschließt. Wo früher die Abwägung zu führen war, endet die Prüfung heute vorher. Für die Auswahl von Systemen heißt das, die Funktionsbeschreibung genau zu lesen. Emotionserkennung wird selten so genannt, sondern als Sentiment-Modul, Aufmerksamkeitsindex oder Qualitätsanalyse vermarktet. Welche Regeln für die Nutzung von KI durch die Beschäftigten selbst gelten, behandeln wir im Beitrag zu KI am Arbeitsplatz.
Wie belastbar ist diese Einordnung?
Das Verbot steht fest, die Abgrenzung im Detail nicht. Rechtsprechung zu Art. 5 Abs. 1 lit. f KI-VO gibt es bislang nicht. Ob ein System an biometrischen Daten ansetzt und ob eine Zweckbestimmung als Sicherheitsgrund trägt, entscheidet sich an technischen Einzelheiten. Die Abgrenzung in der Abbildung zeigt die Richtung, sie ersetzt die Prüfung des konkreten Systems nicht, und mit den Leitlinien der Kommission zu den verbotenen Praktiken kann sich die Linie noch verschieben.
Häufige Fragen zur Emotionserkennung am Arbeitsplatz
Ist Emotionserkennung am Arbeitsplatz verboten?
Ja. Art. 5 Abs. 1 lit. f KI-VO untersagt die Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz. Ausgenommen sind nur Systeme, die aus medizinischen Gründen oder aus Sicherheitsgründen eingeführt oder in Verkehr gebracht werden sollen. Das Verbot gilt seit dem 2. Februar 2025.
Fällt die Stimmungsanalyse von E-Mails unter das Verbot?
Nach der Begriffsbestimmung des Art. 3 Nr. 39 KI-VO setzt ein Emotionserkennungssystem an biometrischen Daten an. Für eine reine Textanalyse fehlt es nach dem Wortlaut daran, was im Einzelfall zu prüfen ist. Zulässig ist sie damit nicht automatisch, denn Datenschutzrecht, Persönlichkeitsrecht und Mitbestimmung gelten unabhängig davon.
Was kostet ein Verstoß gegen das Verbot?
Nach Art. 99 Abs. 3 KI-VO bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
Als Anwalt für Arbeitsrecht in Köln prüfen wir für Arbeitgeber, ob eine geplante Auswertung unter das Verbot fällt, und gestalten die Alternative, die dasselbe Ziel rechtssicher erreicht. Als Kanzlei für Arbeitsrecht verbinden wir dabei Kontrolle und Überwachung mit dem Beschäftigtendatenschutz und der Frage, was am Ende im Prozess verwertbar bleibt.
Sie wollen ein System einführen und wissen nicht, ob es unter Art. 5 KI-VO fällt? Nehmen Sie Kontakt mit uns auf – die Erstberatung ist für Sie kostenfrei.
