KI im Recruiting: So werden Bewerber automatisch aussortiert
26 ehemalige Beschäftigte haben Meta vor einem Bundesgericht in Oklahoma verklagt. Ihr Vorwurf: Bei Massenentlassungen soll ein KI-gestütztes Bewertungstool Menschen mit Behinderungen oder längeren Krankenständen überproportional als unproduktiv eingestuft und für eine Kündigung vorgeschlagen haben.
Es ist nicht der erste Fall dieser Art. Die Verfahren laufen zwar in den USA, die Fragen dahinter betreffen aber auch europäische Unternehmen: Wie weit darf KI im Recruiting und in der Personalentwicklung gehen? Welche Systeme können rechtssicher eingesetzt werden – und welche Rechte haben Bewerber und Beschäftigte?
Theresa Karall ist Rechtsanwältin bei PHH und spezialisiert auf öffentliches Wirtschaftsrecht, insbesondere auf die Bereiche KI und Datenschutz sowie Vergaberecht.
KURIER: Was ist beim Thema KI und HR bereits rechtlich geregelt?
Theresa Karall: KI eröffnet im HR-Bereich enorme Chancen – von effizienten Recruiting-Prozessen bis hin zu optimiertem Personalmanagement. Aber natürlich gehen damit auch rechtliche Fragen und Herausforderungen einher, insbesondere im Umgang mit personenbezogenen Daten. Geregelt ist der Einsatz insbesondere in der KI-Verordnung (KI-VO) und der Datenschutzgrundverordnung (DSGVO).
Gibt es klare Vorgaben für den Umgang mit KI im Recruiting?
Je höher das Risiko eines KI-Systems, desto strenger sind die Vorgaben, wofür die KI-VO auch Risikoklassen für KI-Systeme vorsieht. Demnach gelten KI-Systeme, die im Recruiting verwendet werden, in der Regel als Hochrisiko-Systeme. Ihr Einsatz ist nur unter Einhaltung umfangreicher Auflagen zulässig. Dazu zählt auch die Informationspflicht gegenüber allen Betroffenen und somit allen Bewerbern, dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen.
Wie äußert sich das in der Jobwelt?
Wenn es beim KI-Einsatz zur Verarbeitung personenbezogener Daten kommt, müssen Unternehmen diesen Einsatz auch nach den Vorgaben der DSGVO prüfen. (Ehemalige) Mitarbeitende und Bewerber haben in diesem Fall bestimmte Auskunfts- und Transparenzrechte bezüglich der Verarbeitung ihrer personenbezogenen Daten. Zudem haben (ehemalige) Mitarbeitende und Bewerber ein Beschwerderecht und können die Löschung ihrer Daten begehren.
Was können Bewerber tun, wenn sie von einer KI aussortiert werden?
Bewerber haben grundsätzlich das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden. Eine vollautomatisierte Entscheidung im Recruiting widerspricht in der Regel bereits den Vorgaben der DSGVO sowie dem Prinzip des „Human in the Loop“, das eine menschliche Prüfung von Entscheidungen vorsieht. Wurden Bewerber von Unternehmen, bei denen sie sich beworben haben, nicht über den KI-Einsatz aufgeklärt, vermuten aber eine automatisierte Entscheidung, so können sie z.B. ein Auskunftsbegehren nach Art. 15 DSGVO stellen.
Was versteht man darunter?
Das Unternehmen muss sie im Rahmen der Auskunftserteilung u.a. über eine mögliche automatisierte Entscheidung und deren Tragweite informieren. Alternativ steht Bewerbern das „Recht auf Erläuterung der Entscheidungsfindung im Einzelfall“ nach der KI-VO zu. Diese Informationen können wichtige Indizien liefern, ob und wie der Bewerbungsprozess abgelaufen ist und ob es zu einer Diskriminierung kam. Besteht der Verdacht einer Diskriminierung, kann diese gerichtlich angefochten werden, wobei Betroffene die Diskriminierung nur glaubhaft machen müssen. Darüber hinaus kann ein unrechtmäßiger KI-Einsatz auch eine Datenschutzverletzung, einen Verstoß gegen die KI-VO oder eine arbeitsrechtliche Pflichtverletzung darstellen.
Und wie lässt sich überhaupt feststellen, ob die Entscheidung von einer KI getroffen wurde?
Hinweise auf den Einsatz von KI können etwa automatisierte Absagen sein, die bereits wenige Minuten nach dem Abschicken von Bewerbungen einlangen. Auch die Auskunftsrechte nach DSGVO und KI-VO helfen, notwendige Informationen für den unrechtmäßigen Einsatz von KI zu sammeln.
In welchen Bereichen ist der Einsatz von KI im HR besonders heikel? Was kann dabei schiefgehen?
Besonders heikel ist der KI-Einsatz bei der Bewerberauswahl, bei Leistungsbewertungen oder bei Beförderungs- und Kündigungsentscheidungen. Dies gilt insbesondere dann, wenn KI in Bereichen eingesetzt wird, die für Betroffene erhebliche Beeinträchtigungen mit sich bringen können. Schiefgehen kann dabei einiges: Diskriminierung durch Bias in den Trainingsdaten etwa, die ohne menschliche Aufsicht nicht aufgedeckt wird, oder mangelnde Nachvollziehbarkeit von Entscheidungen (Black Box). Den Unternehmen drohen bei diesen Rechtsverstößen Sanktionen, Klagen und Reputationsschäden. Positiv ist, dass sich viele Unternehmen ihrer Verantwortung bewusst sind und intensiv daran arbeiten, KI-Systeme rechtskonform und gezielt einzusetzen. Bewerber können aber auch einen Beitrag leisten, indem sie auf Lücken und Problembereiche hinweisen.
Kommentare