Mit dem Aufstieg der künstlichen Intelligenz ergeben sich unzählige neue Möglichkeiten in beinah jedem denkbaren Bereich des Lebens. Im Zuge dessen haben auch Unternehmen erkannt, dass diese neue Technologie vielversprechende Möglichkeiten bietet, um insbesondere Prozesse im Personalbereich zu optimieren und zu automatisieren. Jedoch muss bedacht werden, dass sich Arbeitgeber während dieser Nutzung nicht im rechtsfreien Raum bewegen, sondern weiterhin arbeits- und datenschutzrechtliche Aspekte zu beachten sind. Mit diesem Beitrag sollen die datenschutzrechtlichen Grenzen KI-basierter Auswahlentscheidungen untersucht werden, um Ihnen einen Überblick über Chancen und Risiken beim Einsatz solcher Systeme zu geben. 

Definition nach der KI-Verordnung 

Eine KI nach Definition des europäischen Gesetzgebers ist ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und aus Eingaben, die es erhält, Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können. Zu den Techniken, die dem System logische Schlussfolgerungen ermöglichen, gehören Ansätze des maschinellen Lernens, also dem Lernen aus Daten, sowie logik- und wissensbasierte Ansätze. 

Die Fähigkeit eines KI-Systems, logische Schlüsse zu ziehen, geht über die grundlegende Datenverarbeitung und automatische Ausführung von Vorgängen hinaus und ermöglicht Lernen, Schlussfolgerungen oder Modellierung. Ein KI-System muss demnach Schlussfolgerungen treffen können, welche nicht auf vorher festgelegten Algorithmen oder Konzepten beruhen, um als KI im Sinne der Verordnung zu gelten. In diesem Sinne muss eine KI also ein selbstständiger und lernfähiger Organismus sein. 

Im allgemeinen Sprachgebrauch jedoch wird der Begriff der künstlichen Intelligenz meist dazu genutzt, um einfache bis komplexe Algorithmen zu beschreiben. Im Folgenden sollen einige dieser Algorithmus-gestützten Systeme im Zusammenhang mit Personalprozessen vorgestellt werden. 

Die Bedeutung automatisierter Auswahlentscheidungen 

Um Einstellungsprozesse so effizient wie möglich zu gestalten, müssen eingegangene Bewerbungen zunächst nach unternehmens- und stellenspezifischen Kriterien sortiert und geordnet werden, um festzulegen, wer zu einem persönlichen Gespräch eingeladen wird und wem eine Absage zu erteilen ist. Dies findet oft durch die Verwendung sogenannter Personalinformationssysteme statt, also digitalen Softwaresystemen, durch welche persönliche Daten aufbereitet, verwaltet und beurteilt werden.  

Diese Art von Software kann verschiedene Grade der Automatisierung und Zentralisierung annehmen, welche auch die datenschutzrechtliche Beurteilung solcher Systeme beeinflusst. Beispielhaft dient hierbei ein Lebenslauf-Parsing, bei welchem Lebensläufe durch einen Algorithmus anhand von vordefinierten Faktoren vorsortiert werden. Ein komplexeres Beispiel wäre eine Performance-Identifikation von Mitarbeitern, wobei ein Algorithmus erfolgreiche Mitarbeiter durch die Analyse von Performance-Daten und anderen vorgegebenen Parametern identifiziert und zur Beförderung vorschlägt. 

Regeln des Datenschutzes 

Durch die korrekte Anwendung solcher Systeme können Personalabteilungen in Zukunft ein großes Maß an Zeit sparen, um Effizienz in der Bearbeitung solcher Prozesse zu gewinnen. Folgend möchten wir Ihnen einige Punkte bei der Anwendung dieser Systeme nennen, welche sie auch im datenschutzrechtlichen Sinne absichern. 

1. Bewerbern sowie Beschäftigten steht das Recht zu, nicht einer Entscheidung unterworfen zu werden, welche ausschließlich auf der automatisierten Entscheidung eines digitalen Systems basiert. Entscheidungen mit Rechtswirkungen dürfen daher grundsätzlich nur von Menschen getroffen werden. Gestalten Sie Ihre Prozesse daher so, dass dem entscheidenden Menschen ein tatsächlicher Entscheidungsspielraum zukommt und nicht maßgeblich aufgrund des KI-Vorschlags entschieden wird, eine formelle Beteiligung eines Menschen im Entscheidungsprozess ist dabei nicht ausreichend.
2. Einer vollständig automatisierten Einzelentscheidung dürfen Bewerber und Beschäftigte gemäß DSGVO nur dann unterworfen werden, wenn dies für den Abschluss oder die Erfüllung eines Vertrags erforderlich ist, diese aufgrund besonderer Rechtsvorschriften zulässig ist oder über eine ausdrückliche Einwilligung erfolgt. Für die Erfüllung eines Vertrags ist eine automatisierte Entscheidung erst dann erforderlich, wenn diese unvermeidlich oder unumgänglich ist. Alternativ, wenn die automatisierte Entscheidung die Grundlage ist, um die Vertragspflichten zu erfüllen und dessen Erfordernissen nachzukommen.
3. Die Einholung einer ausdrücklichen Einwilligung der Bewerber scheint hier zunächst am naheliegendsten, jedoch gilt folgendes zu beachten: Im Kontext eines Arbeitgeber-Arbeitnehmer Verhältnisses existiert ein Machtgefälle zulasten des Arbeitnehmers, durch welches sich dieser zur Zustimmung etwaiger Maßnahmen gezwungen fühlen könnte. Die DSGVO würdigt diese Problematik durch ein Rechnungstragungsgebot, wonach die Verknüpfung einer Einwilligung mit einem Vertragsabschluss verboten wird und Auswahlentscheidungen durch künstliche Intelligenz in Bewerbungs- und Beförderungsprozessen nicht einwilligungsfähig sind.