Ethikbeirat HR Tech

Vor der Einführung einer KI-Lösung* muss die Zielsetzung für die Nutzung definiert werden.
In diesem Prozess sollen alle relevanten Interessensgruppen identifiziert und eingebunden werden.

Die Nutzung von KI-Anwendungen in Organisationen erfordert einen strategischen Planungsprozess. Ihr Zweck und Nutzen sowie mögliche Zielkonflikte sollen geklärt werden. Dass auch die betrieblichen Interessenvertreter*innen vor Einführung zum „Ob“, dem Ziel der Nutzung und der Durchführung einer KI-Lösung beteiligt werden – oder wo das nicht möglich ist, auch direkt die Beschäftigten – ist eine Selbstverständlichkeit. Transparente Beteiligungs- und Mitbestimmungsprozesse sind für die Nutzung wichtig und stellen eine breite Akzeptanz sicher. Mit diesem Vorgehen soll bei der Einführung einer KI-Lösung auf partizipative Art und Weise auch eine Folgenabschätzung vorgenommen und die Erklärbarkeit und Nachvollziehbarkeit der verwendeten Technologie, ihres Einsatzes und der Ergebnisse sichergestellt werden.

Wer KI-Lösungen anbietet oder nutzt, muss darauf achten, dass diese empirisch evaluiert sind und über eine theoretische Grundlage verfügen.

Anbieter von KI-Lösungen zielen darauf ab, mit ihren Lösungen die bestehende HR-Praxis zu verbessern. Organisationen, die vorhaben, eine KI-Lösung zu nutzen, sollen daher den Anbieter auffordern, darzulegen, wie die Angemessenheit und Güte der KI-Lösung empirisch evaluiert wurde und auf welchen theoretischen Grundlagen diese basiert. Als Referenz für die Praxis, welche Informationen in welchen Umfang zu einer KI-Lösung vorliegen sollen, um ihre Güte beurteilen zu können, wird auf die Anforderungen an Verfahrenshinweise für messtheoretisch fundierte Fragebögen und Tests (DIN 33430, 2016, Anhänge A und B)* verwiesen. Dazu gehören neben Anforderungen an die empirische Evaluation auch Anforderungen an die Handhabung, Zuverlässigkeit und Gültigkeit des Verfahrens.
Formen von KI, die auf einer explorativen, nichtzielgerichteten Datenanalyse basieren – beispielsweise unsupervised learning – können für HR-Anwendungen nicht eingesetzt werden, da ihre Vorgehensweise und ihre Ergebnisse nicht nachvollziehbar sind. Zu Forschungszwecken können solche Ansätze verfolgt werden.

Wer KI-Lösungen einsetzt, muss sicherstellen, dass bei wichtigen Personalentscheidungen die Letztentscheidungsbefugnis einer natürlichen Person obliegt.

Eine KI-Lösung kann als Arbeitsassistenz – zum Beispiel zur Informationsbeschaffung, -strukturierung und Entscheidungsvorbereitung – eingesetzt werden. Auch eine Automatisierung von Entscheidungen ist grundsätzlich möglich und in der Arbeitswelt nichts Ungewöhnliches. Es muss jedoch sichergestellt werden, dass KI-Lösungen in Gesamtlösungen eingebunden sind, die letztverantwortlich von Menschen gesteuert werden. Das ungeprüfte Übernehmen von systemisch erstellten Entscheidungsvorschlägen stellt keine eigene menschliche Entscheidung dar.
Bei wichtigen Personalentscheidungen, die eine Verarbeitung besonderer personenbezogener Daten (Art. 9, 10 und 22 DSGVO, vgl. auch Erwägungsgrund 71) erfordern oder Lebenswege von Menschen wesentlich beeinflussen (zum Beispiel Einstellungen, Beförderungen, Beendigungen von Beschäftigungsverhältnissen), muss die letzte Entscheidungsbefugnis bei einer natürlichen Person liegen. Es ist für jede KI-Lösung zu definieren, wie eine tatsächliche Entscheidung durch Menschen sichergestellt, genug geeignete, qualifizierte Ressourcen dafür vorgehalten und die Entscheidungen überprüft werden können.

Ein erfolgreicher Einsatz von KI-Lösungen durch HR benötigt die Kombination
technologischer, analytischer und personalwirtschaftlicher Kompetenzen.

KI-Lösungen bieten für Organisationen und HR enorme Chancen. Diese Chancen erwachsen für HR-Fragestellungen aus der Kombination technologischer, analytischer und personalwirtschaftlicher Kompetenzen. Wer im Privaten Technologien einsetzt, muss diese nicht unbedingt selbst verstehen. Auch in Organisationen wird künftig nicht Jede/r selbst programmieren – auch nicht in HR.
HR muss aber die erforderlichen Kompetenzen entwickeln und aufbauen, um die einer KI-Lösung zugrundeliegende Technologie, das Prozessmodell sowie die zur Anwendung kommende Entscheidungslogik und die Auswirkungen auf die Arbeitsprozesse verstehen und erklären zu können. Für den Einsatz von KI-Lösungen im sensiblen Personalbereich sind teils andere und/oder ergänzende Prüf- und Entscheidungskriterien heranzuziehen – nicht zuletzt zur Beantwortung ethischer Fragestellungen.
Darüber hinaus müssen Organisationen auch sicherstellen, dass Anwender*innen von KI-Lösungen in ihren Organisationen hinreichend qualifiziert sind, um eine zweckmäßige Nutzung sicherzustellen.

Organisationen, die KI-Lösungen nutzen, sind für die Ergebnisse ihrer Nutzung verantwortlich.

Arbeitgeber tragen gegenüber ihren Mitarbeiter*innen eine besondere Fürsorgepflicht und stehen auch Bewerber*innen gegenüber in der Verantwortung. Die Verantwortung für den diskriminierungsfreien und die Persönlichkeit respektierenden Einsatz von KI kann deshalb nicht auf die Anbieter von KI-Lösungen übertragen werden. Organisationen, die KI-Lösungen in der Personalarbeit nutzen, müssen sich im Klaren darüber sein, wer für die jeweiligen Prozesse und Entscheidungen die Verantwortung und Haftung übernimmt. Vor der Nutzung einer KI-Lösung soll geklärt werden, inwieweit der Prozess rechtlich zulässig ist und/oder ob der Einsatz der KI-Lösung mit Schranken belegt werden muss.

Wer personenbezogene Daten für KI-Lösungen nutzt, muss im Vorfeld definieren, für welche Zwecke diese verwendet werden und sicherstellen, dass diese Daten nur zweckdienlich erhoben, gespeichert und genutzt werden.

Organisationen haben eine besondere Verantwortung im Umgang mit personenbezogenen Daten, die in digitalisierten Organisationsprozessen in wachsendem Umfang entstehen. Diese Daten dürfen nicht für personenbezogene Auswertungen zweckentfremdet werden. Den rechtlichen Rahmen dafür bildet die DSGVO. Sie fordert sowohl das Prinzip der Zweckbindung als auch der Datenminimierung. Personenbezogene Daten, die für einen vorab definierten Zweck erhoben wurden, dürfen grundsätzlich nicht ohne erneute Einwilligung zu ihrer Nutzung für andere Zwecke verwendet werden. Ferner sollen nicht mehr Daten erhoben werden, als für den jeweiligen Zweck erforderlich.
Organisationen können mit einer Pseudonymisierung und/oder Anonymisierung der Daten arbeiten, um Daten unter Wahrung des Datenschutzes verwenden zu können. Eine explorative Datenanalyse ist für Forschungszwecke, das heißt unter Ausschluss einer unmittelbaren Verwendung der Ergebnisse für Personalentscheidungen jeglicher Art, möglich.

Vor bzw. beim Einsatz einer KI-Lösung müssen die davon betroffenen Menschen über ihren Einsatz, ihren Zweck, ihre Logik und die erhobenen und verwendeten Datenarten informiert werden.

Mitarbeiter*innen in Organisationen und Bewerber*innen müssen darüber informiert werden, dass sie mit einer KI-Lösung interagieren („Hallo, ich bin ein Chatbot“). Mitarbeiter*innen in Organisationen und Bewerber*innen müssen eine Möglichkeit haben, eine*n menschliche*n Ansprechpartner*in zu erreichen. Sie sind darüber zu informieren, dass ihre personenbezogenen Daten verarbeitet werden. Die Information muss den Zweck und eine Auflistung der verwendeten Datenarten beinhalten.

Für die Nutzung in KI-Lösungen dürfen ohne rechtzeitige Beteiligung und individuelle Einwilligung
der Betroffenen keine Daten erhoben werden, die deren willentlicher Steuerung entzogen sind.

Subjektqualität ist ein Pfeiler der Menschenwürde und Selbstbestimmung. Für den Anwendungsbereich HR sind diesbezüglich unter anderem Verfahren relevant, bei denen Daten erhoben werden, die Menschen willentlich weder zur Verfügung stellen noch beeinflussen können. Dies können zum Beispiel Stimm- oder Videoanalysen sein oder Verfahren, bei denen Messwerte zur Hauttemperatur genutzt werden. Menschen sind bei Nutzung solcher Verfahren ausschließlich analysiertes Objekt und kein sich selbst wahrnehmendes und handelndes Subjekt.

Die Anwendung solcher Verfahren ist ethisch heikel. Sie verlangen eine transparente, rechtzeitige und verbindliche Beteiligungsvereinbarung als Grundlage zur freiwilligen Einwilligung der Betroffenen. Dies gilt auch für externe Bewerber*innen. Es muss geprüft werden, ob alternative geeignete Verfahren angewendet werden können, die weniger intensiv in die Persönlichkeit eingreifen oder eine höheren Steuerungsintensität durch die Betroffenen gewährleisten. Wegen der Sensibilität der höchstpersönlichen Daten gilt dies selbst dann, wenn der Arbeitgeber beabsichtigt, die Daten im Anschluss an ihre Erhebung nur anonymisiert zu benutzen. Weitergehende Zustimmungserfordernisse der Mitbestimmung sind davon unbenommen.

Vor einer freiwilligen Einwilligung muss eine Aufklärung über zumindest die Art der erhobenen Daten und die Logik ihrer Verarbeitung erfolgen. Das setzt voraus, dass für die entsprechenden KI-Lösungen bereits zuvor transparente Regeln über die Datenerhebung und -nutzung, die Analyse- und Auswertungsmöglichkeiten sowie deren Einsichtsoptionen als auch eine Folgenabschätzung bestimmt werden. Die Betroffenen können ihre Zustimmung erteilen, müssen aber vorher wissen, zu welchem Zweck sie in die Durchführung solcher Analyseverfahren einwilligen und welche Personen Zugang zu ihren Daten erhalten. Dazu werden partizipative Verfahren empfohlen, um den Grundsatz der informierten Einwilligung durch Beteiligung umzusetzen. Ohne informierte Einwilligung in die Verwendung dieser Daten zu den zuvor bestimmten Zwecken darf keine Verarbeitung der Ergebnisse erfolgen.

Wer KI-Lösungen entwickelt oder nutzt, muss sicherstellen, dass die zugrundeliegenden Daten
über eine hohe Qualität verfügen und systembedingte Diskriminierungen ausgeschlossen werden.

Personalverantwortliche handeln im Bewusstsein, dass datenbasierte und/oder automatisierte Entscheidungsprozesse nicht automatisch objektiv und fair sind. Historische Daten, die genutzt werden, um KI-Lösungen zu entwickeln und zu trainieren, sind von normativen Vorgaben zu unterscheiden. Bei personalpolitischen Entscheidungen spielen normative Vorgaben (z.B. Quoten) eine wichtige Rolle. Die Auswertung, wer es in der Vergangenheit in eine Führungsposition geschafft hat, ist nicht die Antwort darauf, wer es in Zukunft schaffen sollte. Deshalb müssen Anbieter und Nutzer von KI-Lösungen dafür Sorge tragen, dass systembedingte Diskriminierungen vermieden werden. Je nach Anwendungszweck sind dafür eine Information über Trainingsdaten und Entscheidungskriterien sowie die proaktive Prüfung von Daten und Systemen auf Diskriminierung notwendig.

Wer KI-Lösungen nach den vorliegenden Richtlinien einführt, soll transparent sicherstellen, dass die Richtlinien auch bei der betrieblichen Umsetzung und der Weiterentwicklung beachtet werden.

Die Nutzung einer KI-Lösung erfordert stetige Kontrolle. Nutzer*innen sind daher in der Pflicht, regelmäßig zu überprüfen, ob die Anwendung in Einklang mit den Richtlinien erfolgt und den festgelegten Zielsetzungen entspricht. Bei Abweichungen sind Anpassungen vorzunehmen. Wichtige Aspekte sind beispielsweise die Beurteilung der zweckmäßigen Nutzung einer KI-Lösung und die Auswirkungen auf die Arbeitsorganisation. Dies erfordert die Einrichtung geeigneter organisationsinterner Prozesse und Institutionen, wie zum Beispiel eine*n Digital-Verantwortliche*n, einen interdisziplinären KI-Beirat oder Digitalrat, sowie die Gewährleistung der Möglichkeit zur Kontaktaufnahme und Interventionsmöglichkeit mit geeigneten Ansprechpartner*innen in allen Fällen, in denen KI-Lösungen genutzt werden.