Ist KI im Bewerbungsverfahren erlaubt?

KI im Bewerbungsverfahren ist erlaubt, sie steht aber in der höchsten praktisch relevanten Risikostufe der KI-Verordnung. Anhang III Nr. 4 lit. a der Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-VO) erfasst Systeme, die für die Einstellung oder Auswahl natürlicher Personen verwendet werden, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Wer die Einstufung richtig trifft, spart sich einen ganzen Pflichtenkatalog. Wer sie falsch trifft, hat ihn.

Wann ist ein Bewerbungstool ein Hochrisiko-System?

Sobald es die Auswahl inhaltlich beeinflusst. Der Wortlaut des Anhangs III Nr. 4 lit. a nennt drei Tätigkeiten, und alle drei sind im Recruiting Alltag. Der Wortlaut nennt ausdrücklich das Schalten gezielter Stellenanzeigen, das Sichten und Filtern eingehender Bewerbungen und die Bewertung von Bewerbern. Ob der Anbieter das System als reine Assistenz vermarktet, ist unerheblich. Maßgeblich ist die Zweckbestimmung.

Die zweite Gruppe des Anhangs III Nr. 4 betrifft das laufende Arbeitsverhältnis, also Systeme für Entscheidungen über Bedingungen des Arbeitsverhältnisses, Beförderung und Kündigung, für die Zuweisung von Aufgaben nach individuellem Verhalten sowie für die Beobachtung und Bewertung von Leistung und Verhalten. Beide Gruppen ordnen wir im Überblick zur KI-Verordnung für Arbeitgeber ein.

Welche Ausnahme greift bei rein vorbereitenden Aufgaben?

Art. 6 Abs. 3 KI-VO, aber nur bei echter Randfunktion. Ein in Anhang III KI-VO genanntes System gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte begründet, weil es lediglich eine eng gefasste Verfahrensaufgabe erfüllt, ein zuvor abgeschlossenes menschliches Ergebnis verbessert, Entscheidungsmuster erkennt, ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen, oder eine rein vorbereitende Aufgabe übernimmt.

Wie weit die Ausnahme trägt, ist bislang nicht gerichtlich geklärt. Als Beispiele für eine eng gefasste Verfahrensaufgabe kommen etwa ein Dublettenabgleich, die Umwandlung von Dateiformaten oder die Prüfung in Betracht, ob Unterlagen vollständig beigefügt sind. Je näher eine Funktion an der Bewertung von Bewerbern liegt, desto schwerer lässt sich die Ausnahme begründen. Wo die Grenze im konkreten Fall verläuft, ist gesondert zu prüfen. Der Anbieter muss eine Einstufung außerhalb des Hochrisikos nach Art. 6 Abs. 4 KI-VO dokumentieren. Für den Arbeitgeber ist das ein guter Prüfstein im Einkauf, denn er kann die Dokumentation verlangen.

Was bedeutet Profiling im Bewerbungsverfahren?

Profiling schließt die Ausnahme immer aus. Art. 6 Abs. 3 KI-VO stellt ausdrücklich klar, dass ein in Anhang III KI-VO aufgeführtes System immer dann als hochriskant gilt, wenn es ein Profiling natürlicher Personen vornimmt. Die KI-Verordnung übernimmt dafür in Art. 3 Nr. 52 KI-VO den Profiling-Begriff des Art. 4 Nr. 4 DS-GVO, also die automatisierte Verarbeitung personenbezogener Daten zur Bewertung persönlicher Aspekte, insbesondere zur Analyse oder Vorhersage von Arbeitsleistung, Zuverlässigkeit oder Verhalten.

Bei Systemen, die aus Lebenslaufdaten auf Eignung oder künftige Leistung schließen, liegt die Frage nach einem Profiling nahe. Ob eine bestimmte Software persönliche Aspekte im Sinne des Art. 4 Nr. 4 DS-GVO bewertet, hängt von ihrer Funktionsweise ab und ist im Einzelfall zu prüfen. Fällt diese Prüfung positiv aus, kommt es auf den Anteil der Maschine an der Endentscheidung nach dem Wortlaut des Art. 6 Abs. 3 KI-VO nicht mehr an.

Welche Rolle spielt das AGG?

Das AGG gilt heute schon, ohne Übergangsfrist. Ein Auswahlsystem, das trainierte Muster fortschreibt, kann mittelbar benachteiligen, ohne dass jemand das beabsichtigt hätte. Ein Modell, das aus historischen Einstellungsdaten lernt, übernimmt die Auswahlmuster der Vergangenheit einschließlich ihrer Schieflagen. Für den Prozess ist § 22 AGG entscheidend, weil der Bewerber nur Indizien vortragen muss und der Arbeitgeber dann den Vollbeweis führt, dass kein Verstoß vorlag.

Der praktische Punkt ist die Dokumentation. Wer nicht darlegen kann, welche Kriterien mit welchem Gewicht in die Vorauswahl eingeflossen sind, kann die Vermutung schwer entkräften. Was in der Auswahldokumentation stehen sollte und wie lange sie aufzubewahren ist, behandeln wir im Beitrag zum AGG im Bewerbungsverfahren. Für Fragen, die im Gespräch ohnehin nicht gestellt werden dürfen, gilt beim maschinellen Auslesen nichts anderes als beim Bewerbungsgespräch.

Darf der Arbeitgeber sein Auswahlsystem auf Verzerrungen testen?

Seit dem Digital Omnibus ausdrücklich ja, unter engen Bedingungen. Der neue Art. 4a der KI-Verordnung erlaubt es ausnahmsweise, besondere Kategorien personenbezogener Daten zu verarbeiten, soweit das zur Erkennung und Korrektur von Verzerrungen unbedingt erforderlich ist. Nach Art. 4a Abs. 2 KI-VO gilt das auch für Betreiber von Hochrisiko-Systemen und damit für den Arbeitgeber selbst.

Die Bedingungen sind streng. Der Test muss sich mit anderen Daten, auch mit synthetischen oder anonymisierten, nicht wirksam durchführen lassen. Die Daten unterliegen technischen Beschränkungen für die Weiterverwendung, Pseudonymisierung, strengen Zugriffskontrollen und einem Weitergabeverbot an Dritte. Sie sind zu löschen, sobald die Verzerrung korrigiert ist. Und im Verzeichnis der Verarbeitungstätigkeiten ist zu begründen, warum das Ziel mit anderen Daten nicht erreichbar war. Eine Pflicht, solche Tests durchzuführen, begründet die Vorschrift nicht. Wer sie durchführt und dokumentiert, steht im AGG-Prozess allerdings deutlich besser da.

Was können abgelehnte Bewerber verlangen?

Mehr, als die meisten Arbeitgeber erwarten. Aus der KI-Verordnung folgt Art. 86 KI-VO. Wer von einer Entscheidung betroffen ist, die auf der Ausgabe eines Hochrisiko-Systems nach Anhang III KI-VO beruht und rechtliche Wirkung entfaltet oder erheblich beeinträchtigt, kann vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des Systems im Entscheidungsprozess und zu den wesentlichen Elementen der Entscheidung verlangen.

Daneben stehen die datenschutzrechtlichen Ansprüche, die schon heute regelmäßig geltend gemacht werden. Der Auskunftsanspruch nach Art. 15 DS-GVO erfasst auch die Logik einer automatisierten Entscheidungsfindung, und wie schnell daraus ein Schadensersatzverlangen wird, zeigt unser Beitrag zu Auskunft und Schadensersatz im Bewerbungsverfahren. Art. 22 DS-GVO zieht die Grenze bei der rein automatisierten Absage.

Was Arbeitgeber im Bewerbungsprozess jetzt regeln sollten

Fünf Punkte entscheiden über das Risiko.

• Die Einstufung jedes eingesetzten Systems schriftlich festhalten, einschließlich der Frage, ob ein Profiling stattfindet.
• Vom Anbieter die Dokumentation nach Art. 6 Abs. 4 KI-VO verlangen, wenn er das System nicht als Hochrisiko einstuft.
• Eine benannte Person mit der inhaltlichen Prüfung betrauen, die den Vorschlag der Maschine tatsächlich übersteuern kann und darf.
• Auswahlkriterien und ihre Gewichtung dokumentieren, damit sich der Vollbeweis nach § 22 AGG führen lässt.
• Die Unterrichtung der Arbeitnehmervertreter nach Art. 26 Abs. 7 KI-VO und die Mitbestimmung beim KI-Einsatz vor dem Rollout klären, nicht danach.

Für die Nutzung generativer Werkzeuge durch die Personalabteilung selbst gilt daneben die arbeitsvertragliche Ebene, die wir im Beitrag zu KI am Arbeitsplatz behandeln.

Wie belastbar ist diese Einordnung?

Sie zeigt die Richtung, sie ersetzt die Prüfung des konkreten Systems nicht. Zu den Einstufungsfragen der KI-Verordnung liegt bislang praktisch keine Rechtsprechung vor, und die Leitlinien der Kommission zur Ausnahme des Art. 6 Abs. 3 KI-VO stehen aus. Ob ein bestimmtes Recruiting-Tool hochriskant ist, hängt von seiner Zweckbestimmung und seinen tatsächlichen Funktionen ab und ist im Einzelfall zu prüfen. Die Zuordnung kann sich zudem verschieben, sobald das System um eine Bewertungsfunktion erweitert wird oder sobald Leitlinien die Ausnahme anders fassen.

Häufige Fragen zu KI im Bewerbungsverfahren

Als Anwalt für Arbeitsrecht in Köln prüfen wir für Arbeitgeber, ob ein Auswahlsystem unter Anhang III KI-VO fällt, und bauen den Prozess so auf, dass er im AGG-Verfahren trägt. Als Kanzlei für Arbeitsrecht begleiten wir dabei die Einführung von KI im Arbeitsverhältnis ebenso wie den Beschäftigtendatenschutz im Bewerbungsprozess.

Sie wollen wissen, ob Ihr Recruiting-Tool ein Hochrisiko-System ist? Nehmen Sie Kontakt mit uns auf – die Erstberatung ist für Sie kostenfrei.