#Praxistipp
KI und Personalwesen
Die Digitalisierung hat die Art und Weise, wie Unternehmen ihre Mitarbeitenden verwalten und entwickeln, grundlegend verändert. Eine der bemerkenswertesten Entwicklungen in diesem Bereich ist der Einsatz von künstlicher Intelligenz (KI) in den Human Resources (HR). KI-Technologien bieten Unternehmen die Möglichkeit, ihre HR-Prozesse zu optimieren und das Personal effizient zu verwalten. Von der Rekrutierung und Auswahl von Bewerbern bis hin zur Personalentwicklung und -bewertung bietet KI eine Vielzahl von Lösungen, die Zeit und Ressourcen sparen und gleichzeitig qualitativ hochwertige Ergebnisse liefern. Doch welche rechtlichen Hürden sind dabei zu überwinden? Wir zeigen Sie am Beispiel einer Recruiting-KI.
Was macht eine Recruiting-KI?
Eine Recruiting-KI ist ein System künstlicher Intelligenz, das im Bereich der Personalgewinnung eingesetzt werden kann. Beispielsweise kommen unter anderem Systeme zum Einsatz, die eingegangene Bewerbungen automatisiert analysieren. Personalverantwortliche können damit die richtigen Bewerber:innen für eine Stelle zum Gespräch einladen.
Ist KI im Recruiting erlaubt?
Wenn eine solche Hilfe für die Personalgewinnung eingesetzt werden soll, ist es natürlich wichtig, dass dies auch rechtmäßig geschieht. Welche rechtlichen Fragestellungen sich ergeben, kommt auf das konkrete Einsatzgebiet der KI an. Regelmäßig sind jedoch der Datenschutz und die Gleichbehandlung betroffen.
Datenschutz
Wenn personenbezogene Daten – wie solche aus Bewerbungsunterlagen – verarbeitet werden sollen, dann muss für diese Verarbeitung eine „Erlaubnis“ vorliegen. Diese Anforderung ergibt sich aus Art. 6 der DSGVO (Datenschutzgrundverordnung). Auf den § 26 BDSG – der früher bemüht wurde – kann sich nicht mehr gestützt werden, da nach einem Urteil des EuGH vom 30. März 2023 dieser keine Anwendung mehr findet. Nunmehr gilt: Soweit eine Bewerbung eingeht, ist zumindest von einer Einwilligung für die Verarbeitung im Rahmen des Bewerbungsprozesses auszugehen. Die Bewerberdaten dürfen also durch die KI verarbeitet, d. h. gesichtet, analysiert, gespeichert und aussortiert werden. Nach dem Bewerbungsverfahren sind die Daten – auch die KI-generierten – zu löschen.
Weiterhin verbietet die DSGVO eine automatisierte Entscheidung, die dem Betroffenen „gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt“. Eine Entscheidung über eine Zu- oder Absage auf eine Bewerbung ist eine solche Einzelentscheidung. Es gibt jedoch Ausnahmen. Das Verbot gilt nicht, wenn es vertraglich erforderlich ist (Art. 22 Abs. 2a) DSGVO) oder mit ausdrücklicher Einwilligung erfolgt (Art. 22 Abs. 2c) DSGVO). Um Unsicherheiten zu vermeiden, ist es wohl die beste Lösung, die KI nur zum Vorsortieren der Bewerbungen einzusetzen und im Anschluss die Auswahl sowie die Entscheidung über die Zu- oder Absage nach einem persönlichen Gespräch zu treffen. Damit sind Sie auch rechtlich auf der sicheren Seite.
Gleichbehandlung
Obendrein müssen die Vorgaben des AGG (Allgemeines Gleichbehandlungsgesetz) eingehalten werden. Die KI darf also nicht ungerechtfertigt „aus Gründen der Rasse oder wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität“ benachteiligen (§ 1 AGG).
Hier kommt die Struktur eines KI-Systems ins Spiel: Die KI wird mit Datensätzen trainiert und leitet aus diesen Regeln ab. Dabei kann es jedoch dazu kommen, dass die KI Personen als geeignet oder nicht geeignet einstuft, obwohl die zugrunde liegenden Kriterien nicht zu dieser Beurteilung herangezogen werden dürfen. Wenn die KI beispielsweise mit den bisherigen Stellenbesetzungen trainiert wurde, um neue Bewerbungen zu filtern, könnte es sein, dass Männer bevorzugt und Frauen ausgefiltert werden, weil im Unternehmen bisher Männer über- und Frauen unterrepräsentiert waren. Das würde regelmäßig eine Benachteiligung aufgrund des Geschlechts im Sinne von § 1 AGG darstellen und wäre somit gem. § 7 AGG verboten.
Wenn eine derartige Verzerrung der KI-Ergebnisse (Bias) offenbar wird, kann sie nach dem Training durchaus noch manuell angepasst werden, um passende, nichtdiskriminierende Ergebnisse zu erhalten. Nur ergänzend sei darauf hingewiesen, dass die Parameter, nach denen eingestellt wird, auch nicht absichtlich diskriminieren dürfen; insoweit gilt keine Bevorzugung für derartige Systeme – es gilt das AGG.
Fazit
Die Integration von KI in HR-Prozesse eröffnet Unternehmen die Möglichkeit einer effizienten Personalverwaltung, wobei die Einhaltung der Datenschutzvorschriften gemäß DSGVO gewährleistet sein muss sowie ein diskriminierungsfreies Auswahlverfahren im Einklang mit dem AGG.
Wenn diese grundlegenden Punkte jedoch beachtet sind, kann eine KI auch im HR-Bereich gewinnbringend eingesetzt werden. Ist das System erst einmal eingerichtet, machen dessen Vorteile die ursprünglichen Hürden mehr als wett.
