Der Einsatz von Künstlicher Intelligenz (KI) im Personalwesen verspricht Effizienzsteigerungen bei der Flut an Bewerbungen. Doch während Vendor:innen mit automatisierten Entscheidungen werben, warnen Rechtsexpert:innen wie Nina Dierks vor massiven Compliance-Risiken.
Dieser Artikel analysiert die rechtliche Lage nach dem EU AI Act, die technischen Grenzen aktueller Modelle und gibt Handlungsempfehlungen für eine rechtssichere Personalauswahl.
Key Takeaways für Entscheider:innen
- Hochrisiko-Klassifizierung: KI-Systeme zur Personalauswahl gelten gemäß EU AI Act als Hochrisiko-Anwendungen und unterliegen strengsten Auflagen.
- Technische Realität: Aktuelle Large Language Models (LLMs) sind Wahrscheinlichkeitsmaschinen ohne logisches Verständnis; Halluzinationen sind systemimmanent.
- Validitätsgebot: Nach DSGVO sind nur eignungsdiagnostische Verfahren zulässig, die wissenschaftlich valide und reliabel sind – eine Hürde, die viele KI-Tools nicht nehmen.
- Haftungsfrage: Der Einsatz von KI entbindet Unternehmen nicht von der Verantwortung; bei Diskriminierung haftet der Arbeitgeber, nicht der Software-Anbieter.
- Kosten-Nutzen-Faktor: Der Aufwand für Compliance (Dokumentation, Human-in-the-Loop, Risikomanagement) übersteigt oft den praktischen Nutzen einfacher Automatisierungen.
Wie funktioniert KI in der Personalauswahl wirklich?
Entgegen dem Marketing-Jargon handelt es sich bei den meisten aktuellen HR-KI-Tools um Large Language Models (LLMs). Diese Systeme arbeiten nicht logisch-deduktiv, sondern statistisch. Sie berechnen die Wahrscheinlichkeit des nächsten Wortes oder Tokens basierend auf Trainingsdaten.
Definition: Halluzination im KI-Kontext Als Halluzination bezeichnet man das Phänomen, bei dem KI-Modelle faktisch falsche, erfundene oder widersprüchliche Inhalte als wahr darstellen. Dies ist keine Panne, sondern eine mathematische Konsequenz der Wahrscheinlichkeitsberechnung.
Für die Personalauswahl bedeutet dies: Ein KI-System kann hervorragende Kandidat:innen aussortieren, weil es statistische Korrelationen (z. B. bestimmte Formulierungen im Lebenslauf) fälschlicherweise mit Inkompetenz verknüpft, ohne den tatsächlichen Kontext zu verstehen.
Warum gilt HR-KI als „Hochrisiko-System“?
Der EU AI Act (KI-Verordnung) unterteilt KI-Anwendungen in Risikoklassen. Systeme, die über Einstellungen, Beförderungen oder Kündigungen entscheiden oder diese vorbereiten, fallen automatisch in die Kategorie der Hochrisiko-KI-Systeme (Anhang III).
Dies hat drastische Konsequenzen für Unternehmen:
- Risikomanagement-Systeme: Es muss ein iterativer Prozess über den gesamten Lebenszyklus der KI etabliert werden.
- Daten-Governance: Trainings-, Validierungs- und Testdatensätze müssen auf Fehlerfreiheit, Vollständigkeit und Repräsentativität geprüft werden, um Bias zu vermeiden.
- Technische Dokumentation: Umfassende Nachweise über die Funktionsweise und Sicherheitsmaßnahmen müssen vor Behörden erbracht werden.
- Menschliche Aufsicht (Human in the Loop): Es muss jederzeit eine qualifizierte Person geben, die das System überwacht und im Fehlerfall eingreifen („Not-Aus“) kann.
Ist „Human in the Loop“ in der Praxis umsetzbar?
Die Verordnung fordert eine menschliche Aufsicht, die in der Lage ist, die Ausgabe der KI zu interpretieren und zu verwerfen. Experten wie Nina Dirks bezweifeln jedoch die Praktikabilität: Wenn die KI aufgrund komplexer neuronaler Netze („Black Box“) Entscheidungen trifft, die für Menschen nicht mehr nachvollziehbar sind, wie soll dann eine effektive Kontrolle stattfinden?
Zudem reicht ein oberflächliches „Drüberschauen“ rechtlich nicht aus. Die kontrollierende Person muss über die Expertise verfügen, um algorithmische Fehler zu erkennen. Fehlt diese Expertise – was bei vielen HR-Fachkräften der Fall ist –, bleibt die Haftung beim Unternehmen.
Welche Alternativen gibt es zur vollautomatisierten Auswahl?
Nicht jede Automatisierung ist gleich KI. Oft sind regelbasierte Systeme die bessere Wahl:
- Harte Filterkriterien: Das Prüfen von formalen Voraussetzungen (z. B. „Besitz einer Physiotherapie-Ausbildung“) kann durch einfache Algorithmen erfolgen, ohne dass eine lernende KI nötig ist.
- Synonym-Erkennung im Sourcing: KI kann sinnvoll eingesetzt werden, um semantische Zusammenhänge zu erkennen (z. B. „Kfz-Mechaniker“ = „Mechatroniker“), um Kandidat:innen in Datenbanken besser zu finden.
- Strukturierte Interview-Vorbereitung: KI kann helfen, Fragenkataloge zu generieren oder Transkripte zu erstellen, die finale Bewertung muss jedoch zwingend durch Menschen erfolgen.
FAQ: Häufige Fragen zu KI im Recruiting
Ist der Einsatz von KI zur Vorauswahl von Bewerbungen in der EU verboten? Nein, er ist nicht pauschal verboten, unterliegt aber als Hochrisiko-Anwendung extrem strengen Auflagen des EU AI Act und der DSGVO. Viele Anbieter können diese aktuell nicht erfüllen.
Wer haftet, wenn eine KI Bewerber:innen diskriminiert? Das einsetzende Unternehmen haftet für die Entscheidung. Regressansprüche gegen Software-Anbieter sind schwierig, da diese meist die Haftung für die Richtigkeit der KI-Ergebnisse vertraglich ausschließen.
Reicht es, wenn ein:e Personaler:in die KI-Ergebnisse kurz prüft? Nein. Die Prüfung muss substanziell sein. Die kontrollierende Person muss in der Lage sein, die Logik der KI nachzuvollziehen und Fehler zu erkennen. Bei komplexen Modellen ist dies ohne tiefes technisches Verständnis kaum möglich.
Warum sind einfache Automatisierungen oft besser als KI? Regelbasierte Automatisierungen sind deterministisch (gleiche Eingabe = gleiches Ergebnis), transparent und leichter zu auditieren. Sie vermeiden das Problem der Halluzinationen und statistischen Zufallsentscheidungen.
