Wenn die KI bewirbt: Wer entscheidet im Recruiting wirklich?

Rechtliche Anforderungen an den KI-Einsatz bei der Bewerberauswahl

Bei Hunderten Bewerbungen auf eine einzige Stelle ist der Griff zur Software naheliegend. KI-Systeme lesen Lebensläufe aus, sortieren Unterlagen vor, erstellen Rankings und sprechen Empfehlungen aus. Für die Personalabteilung bleibt dann oft nur noch ein Klick auf „bestätigen“, besonders bei Absagen. Rechtlich ist das heikel: Wer sich auf die Maschine verlässt, ohne selbst zu entscheiden, riskiert Verstöße gegen Datenschutz-, KI- und Antidiskriminierungsrecht.

1. Das Verbot rein automatisierter Entscheidungen

Nach Art. 22 Abs. 1 DSGVO haben Betroffene das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie erheblich beeinträchtigt. Eine Absage im Bewerbungsverfahren kann darunter fallen. Bei Verstößen drohen den Verantwortlichen Entschädigungsansprüche.

Nicht jeder KI-Einsatz ist dabei problematisch. Fasst ein Personaler mit Hilfe von KI lediglich Unterlagen zusammen, prüft die Bewerbung dann aber selbst und entscheidet eigenständig, bleibt der Mensch maßgeblich beteiligt. Kritisch wird es, wenn ein System Kandidaten bewertet oder ordnet und die Personalabteilung dessen Vorschlag regelmäßig übernimmt.

Die vom Europäischen Datenschutzausschuss bestätigten Leitlinien verlangen eine inhaltliche menschliche Kontrolle. Die prüfende Person muss befugt und fachlich in der Lage sein, die Entscheidung zu ändern, und sie muss die relevanten Informationen tatsächlich berücksichtigen. Eine bloße Formalbeteiligung genügt nicht.

Der EuGH hat im Schufa-Urteil (Urt. v. 7.12.2023, C-634/21 u. a.) bereits die Erstellung eines Wahrscheinlichkeitswerts als automatisierte Entscheidung eingeordnet, wenn dieser bei der Entscheidung eines Dritten maßgeblich ins Gewicht fällt. Übertragen auf das Recruiting heißt das: Dass formal noch ein Mensch zwischen Empfehlung und Absage steht, schützt nicht automatisch.

2. Bewerbungs-KI als Hochrisiko-System

Neben die DSGVO tritt die europäische KI-Verordnung. Systeme, die Bewerbungen analysieren und filtern oder Kandidaten bewerten, sind in Anhang III Nr. 4 lit. a KI-VO aufgeführt und gelten nach Art. 6 Abs. 2 KI-VO grundsätzlich als Hochrisiko-Systeme. Art. 6 Abs. 3 KI-VO sieht unter bestimmten Voraussetzungen Ausnahmen vor.

Für solche Systeme verlangt Art. 14 KI-VO eine wirksame menschliche Aufsicht. Die eingesetzten Personen müssen

• Fähigkeiten und Grenzen des Systems verstehen,
• dessen Ergebnisse richtig interpretieren,
• die Gefahr eines übermäßigen Vertrauens in maschinelle Ergebnisse kennen und
• Ergebnisse bei Bedarf außer Acht lassen oder umkehren können.

Daraus folgt eine einfache Faustregel: Je stärker die KI das Ergebnis vorzeichnet, desto weniger darf sich die menschliche Kontrolle auf den letzten Klick beschränken.

3. Auskunftsanspruch: „Hat mich eine KI aussortiert?“

Abgelehnte Bewerber wissen oft nicht, ob ein automatisiertes System beteiligt war. Hier greift Art. 15 Abs. 1 lit. h DSGVO. Betroffene können Auskunft darüber verlangen, ob eine automatisierte Entscheidungsfindung oder ein Profiling stattgefunden hat, und gegebenenfalls aussagekräftige Informationen über die involvierte Logik, die Tragweite und die angestrebten Auswirkungen.

Was „aussagekräftig“ bedeutet, hat der EuGH in der Rechtssache Dun & Bradstreet Austria (Urt. v. 27.2.2025, C-203/22) präzisiert:

• Verlangt wird eine verständliche Erläuterung des konkret angewandten Verfahrens und seiner Grundsätze. Die betroffene Person muss nachvollziehen können, welche ihrer Daten wie verwendet wurden.
• Die Offenlegung des Algorithmus oder des Quellcodes ist nicht erforderlich. Entscheidend ist, dass die Person die Entscheidung verstehen und anfechten kann. Als Beispiel nennt der EuGH die Darstellung, wie sich eine Änderung der berücksichtigten Daten auf das Ergebnis ausgewirkt hätte.
• Geschäftsgeheimnisse oder Daten Dritter lassen den Anspruch nicht einfach entfallen. Die betreffenden Informationen sind der zuständigen Aufsichtsbehörde oder dem Gericht vorzulegen, die die widerstreitenden Interessen abwägen.

Unternehmen müssen also keinen Quellcode herausgeben, aber erklären können, welche personenbezogenen Daten eingeflossen sind, wie sie verarbeitet wurden und wie das Ergebnis zustande kam.

4. Diskriminierungsrisiken nach dem AGG

Auch das Allgemeine Gleichbehandlungsgesetz (AGG) ist zu beachten. Wird ein System mit historischen Personaldaten trainiert, können sich frühere Auswahlmuster fortsetzen. Selbst scheinbar neutrale Kriterien können zu Benachteiligungen führen.

Praktisch bedeutsam ist die Beweislastregel des § 22 AGG: Trägt ein Bewerber Indizien vor, die eine Benachteiligung wegen eines geschützten Merkmals vermuten lassen, muss die Arbeitgeberseite beweisen, dass kein Verstoß vorlag. Bei einem Verstoß kann nach § 15 Abs. 2 AGG eine Entschädigung für den immateriellen Schaden verlangt werden. Bei einer Nichteinstellung ist sie auf drei Monatsgehälter begrenzt, wenn der Bewerber auch bei benachteiligungsfreier Auswahl nicht eingestellt worden wäre. Materielle Schäden können nach § 15 Abs. 1 AGG hinzukommen.

5. Lernende Systeme dürfen keine Blackbox werden

Die KI-VO erfasst ausdrücklich auch Hochrisiko-Systeme, die nach der Inbetriebnahme weiterlernen. Art. 43 Abs. 4 KI-VO regelt, wann Änderungen eine neue Konformitätsbewertung erfordern. Hinzu kommen die Anforderungen an Protokollierung, Transparenz und menschliche Aufsicht nach Art. 12 bis 14 KI-VO. Wer die Empfehlungen eines sich verändernden Systems nicht mehr sinnvoll deuten oder hinterfragen kann, kann keine wirksame Kontrolle gewährleisten.

Fazit und Handlungsempfehlungen

Es genügt nicht, dass ein Mensch am Prozess beteiligt ist. Unternehmen müssen belegen können, was er geprüft und entschieden hat. Für die Praxis empfiehlt sich:

1. Einsatz analysieren: Klären Sie, ob Ihre Tools lediglich unterstützen oder Entscheidungen faktisch vorprägen.
2. Echte Kontrolle organisieren: Schulen Sie die Entscheider, räumen Sie ihnen Entscheidungsspielraum ein und sorgen Sie dafür, dass sie die Systemergebnisse nachvollziehen können.
3. Entscheidungen dokumentieren: Halten Sie fest, welche Prüfung stattgefunden hat und warum eine Empfehlung übernommen oder verworfen wurde.
4. Auskunftsfähig bleiben: Bereiten Sie verständliche Erklärungen zu Datengrundlage und Logik des Systems vor.
5. Diskriminierung vorbeugen: Prüfen Sie Trainingsdaten und Auswahlkriterien auf Verzerrungen.
6. Systemänderungen im Blick behalten: Beobachten Sie lernende Systeme und prüfen Sie, ob Änderungen neue Pflichten auslösen.

Die Fragestellung reicht über das Recruiting hinaus, etwa zu Bonitätsprüfungen und Versicherungen. Überall dort, wo KI wirtschaftliche und berufliche Chancen vorsortiert, bleibt die Kernfrage dieselbe: Entscheidet noch der Mensch, oder bestätigt er nur noch die Maschine?

Gern beraten wir Sie zur rechtssicheren Einführung und Nutzung von KI-Systemen in Ihrer Personalabteilung.

Quelle: Reiber, „Darf die KI über Bewerbungen entschieden?“