Ethikbeirat HR Tech

13. Februar 2024 – Zum Download verfügbar: Ethik Check KI

Der Ethikbeirat HR-Tech veröffentlicht den Ethik Check KI, das bislang einzige, frei zugängliche und kostenlose Tool, mit dem HR-Praktiker selbständig die von ihnen verwendeten Technologien auf Vereinbarkeit mit ethischen Grundsätzen überprüfen können. Das Tool stützt sich auf die vom Ethikbeirat HR-Tech erarbeiteten ethischen Richtlinien für den verantwortungsvollen Einsatz von KI und modernen Technologien in der Arbeitswelt.
» Jetzt downloaden
» Zur Presseinformation

Juli 2023 – Einladung: Technik trifft Ethik: KI zwischen Wunsch und Wirklichkeit, 20.11.2023, Stuttgart

Gemeinsam mit Steinbeis Akademie und hkp///group lädt der Ethikbeirat HR-Tech zu einer außergewöhnlichen Veranstaltung in den Höchst­leistungsrechner der ­Universität Stuttgart ein. Die Veranstaltung richtet sich an Entscheidungsträgerinnen und -träger sowie KI-Expertinnen und -Experten aus dem technischen wie aus dem Personalbereich in Unternehmen mit Interesse an einem Blick über den Tellerrand
» Details & Anmeldung

21.12.2022 – Yasmin Fahimi neues Mitglied im Ethikbeirat HR-Tech

Die DGB-Vorsitzende Yasmin Fahimi ist neues Mitglied im Ethikbeirat HR-Tech. Sie löst Reiner Hoffmann ab, der während seiner Amtszeit als DGB-Vorsitzender die Interessen der Arbeitnehmerseite im Expertengremium vertreten hatte.
» Zur Presseinformation

02.02.2022 – ArbeitnehmervertreterInnen blicken mit Skepsis auf den Einsatz von KI in der Personalarbeit

Mitbestimmungsseite und HR befürworten gleichermaßen klare ethische Rahmenbedingungen in der Nutzung von KI und modernen Technologien. Ein Handelsblatt-Bericht sowie die Presseinformation zum Update der Umfrage des Bundesverbands für Personalmanager BPM & Ethikbeirat HR-Tech.
» Zum Handelsblatt-Bericht
» Zur Presseinformation

08.09.2021 – Aktuelle Umfrage des Bundesverbands für Personalmanager BPM & Ethikbeirat HR-Tech

HR Management: Digitalisierung schreitet voran – ethische Leitplanken gewünscht. Moderne Technologien und Künstliche Intelligenz (KI) werden stärker denn je im HR-Management diskutiert und finden hier zunehmend Verbreitung.
» Zur Presseinformation

03.04.2020 – KI in der Arbeitswelt: Diskriminierung verhindern, Professionalisierung fördern

Nach intensiver öffentlicher Konsultation veröffentlicht der Ethikbeirat HR-Tech jetzt zehn Richtlinien für den innovativen und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) und modernen Technologien in der Arbeitswelt.
» Zur Presseinformation

02.04.2020 – DGB: Klare Regeln für Künstliche Intelligenz

Wenn Beschäftigte und KI in Betrieben eingesetzt werden, braucht es klare Regeln – und zwar bevor die Systeme eingeführt werden. Der DGB hat dazu zentrale Leitfragen für den betrieblichen Einsatz und einen 10 Punkte-Plan für die Politik veröffentlicht.
» Zum Konzeptpapier

21.11.2019 – Menschenwürdiges Arbeiten mit KI

In vielen Anwendungen steckt KI. Oft versteckt – aus wirtschaftlichem Interesse oder weil wir hinsichtlich der Auswirkungen noch nicht genug sensibilisiert sind. Es braucht einen transparenten Dialog zum Umgang mit KI und daraus entwickelt einen Wegweiser für menschenwürdiges Arbeiten. Hierzu trägt der Ethikbeirat HR-Tech bei. Transformationsberater Pascal Morgan mit einigen Ergänzungen zu seinen Richtlinien.
» Zum Artikel auf Future of HR



28.10.2019 – Zwischen Euphorie und Skepsis: KI in der Personalarbeit

Ein Statusbericht der Fachgruppe Strategisches Personalmanagement des Bundesverbandes der Personalmanager e. V. zum aktuellen Einsatz künstlicher Intelligenz (KI) in der Personalarbeit
» Zum Bericht



18.10.2019 – Corporate Digital Responsibility muss mehr als geltendes Recht abbilden

Die Richtlinien des Ethikbeirats HR-Tech sind aus ethischer und unternehmerischer Perspektive zu begrüßen – als Selbstverpflichtung müssen sie jedoch über geltendes Recht hinaus reichen. Eine Stellungnahme von Prof. Dr. Alexander Filipovic (Stiftungsprofessur für Medienethik an der Hochschule für Philosophie München) & Christopher Koska (freiberuflicher IT Project Manager und Digital Architect) bei future-of-hr.com
» Zum Artikel



8.10.2019 – Chancen von KI stärker herausstellen!

Personalabteilungen können vom KI-Einsatz stark profitieren. In seinen Richtlinien scheint der Ethikbeirat HR-Tech bei der positiven Bewertung konkreter Anwendungsszenarien jedoch vorsichtig, so Dr. Simone Burel, Geschäftsführerin der Linguistischen Unternehmensberatung (LUB GmbH) in ihrer Stellungnahme auf www.future-of-hr.com
» Zum Artikel



26.9.2019 – „Eine KI kann diskriminierend sein“

Im Personalmagazin Plus über HR-Software spricht Ethikbeirat-Mitglied Prof. Dr. Katharina Simbeck, Leiterin des Fachbereichs Information, Kommunikation und Wirtschaft an der HTW Berlin, über die technischen und ethischen Herausforderungen datengetriebenen HR-Managements.
» Zum Artikel



4.9.2019 – Stellungnahme des Wirtschaftsethikers Ulf D. Posé!

„Macht korrumpiert. Dies zu verhindern ist auch eine Aufgabe der Ethik. Universelle Ethik will weltweit Lebensmehrung für alle Menschen. Und das so vielfältig wie möglich. Der Ethikbeirat HR Tech hat sich genau dem verpflichtet. Freiheit steht am Anfang. Das Freisein von inneren und äußeren Zwängen ist Ziel des Ethikbeirats HR Tech. Auch und vor allem im Umgang mit KI.

Die Forderungen des Ethikbeirats HR Tech sind eindeutig und konkret. Die Alternative des Ethikbeirats HR Tech zur Gesinnungsethik ist Handlungsethik. Gesinnungsethiker haben immer die besten Absichten, jedoch fehlt die notwendige Kompetenz. Der Ethikbeirat HR Tech fordert sachliche, soziale, ethische Kompetenz, die sich im Handeln zeigt. Damit will der Ethikbeirat das Handeln verantwortet sehen und nicht nur Absichten.

Sinnvoll und hilfreich erscheint mir die Offenheit, mit der der Ethikbeirat HR Tech die ethisch relevanten Themen adressiert und völlig undogmatisch im Diskurs mit Personalverantwortlichen so klären möchte, dass konkrete Handlungsweisen bestimmt werden können. Und dies in einer formalen, nicht materialen Ethik. Materiale Ethik kennt nur konkrete Situationen für die konkrete  Handlungsanweisungen vorgesehen sind. Damit wird die Einhaltung einer Regel an die Regel delegiert. Formale Ethiken empfehlen generelle Imperative, die vom Handelnden in konkrete Handlungen übersetzt werden. Damit bleibt die Verantwortung immer beim Handelnden. Der Ethikbeirat hat sich in seinen Statements für eine formale Ethik entscheiden.

Die Angebote, die der Ethikbeirat HR Tech den Personalverantwortlichen unterbreitet, sind umfassend, dialogorientiert, maßnahmenunterlegt, und damit ein kontinuierlicher Prozess, der das soziale Miteinander hin zu mehr Freiheit, Verantwortungsbereitschaft und einer Vertrauenskultur innerhalb und außerhalb von Unternehmen führen kann. Dazu wird es notwendig sein, KI als Unterstützung zu verstehen und nutzen.“



20.8.2019 – „Wir brauchen nicht nur Analytics OF the People, sondern vor allem Analytics FOR the People!“

Bei LinkedIn erklärt Tandemploy-CEO Anna Kaiser, warum sie sich im Ethikbeirat HR-Tech engagiert und warum es wichtig ist, sich vor dem Einsatz von KI und Big Data Gedanken über das Warum zu machen. „Das Ziel: Besseres Arbeiten für alle durch bessere Kommunikation, starke Verbindungen und die Möglichkeit, sich persönlich und fachlich weiterzuentwickeln.“



16.8.2019 – Ethikbeirat HR-Tech im politischen Diskurs“

Eine Anfrage der Bundestagsfraktion Die Linke an die Bundesregierung beschäftigt sich mit dem „Einsatz von automatisierten Entscheidungssystemen und Künstlicher Intelligenz in der Personalauswahl, Personalverwaltung und -entwicklung“. Sie beinhaltet viele interessante Quellen zum Thema und weist auch auf die Arbeit des Ethikbeirat HR-Tech hin.



15.8.2019 – „Die Prinzipien und Darstellungen der normativen Richtlinien für KI in HR des Ethikbeirat HR-Tech erscheinen mir angemessen und vernünftig“

„Die Prinzipien und Darstellungen der normativen Richtlinien für KI in HR des Ethikbeirat HR-Tech erscheinen mir angemessen und vernünftig. Sie haben einen realistischen Blick auf Softwaresysteme und verfallen nicht einer Überinterpretation heutiger KI-Systeme als tatsächlich intelligente Wesen. Einsatzfelder der neuen Technologie werden realistisch gesehen, ständige kritische Feedback-Prozesse sind vorgesehen. Ich wünsche den Initiatoren und Akteuren viel Erfolg bei der vorgesehenen Fortschreibung dieser Arbeit!“

Prof. Dr. Dr. Dr. h.c. Franz Josef Radermacher, Leiter des Forschungsinstituts für anwendungsorientierte Wissensverarbeitung (FAW) in Ulm, Professor für Datenbanken und Künstliche Intelligenz an der Universität Ulm sowie Präsident des Senat der Wirtschaft.



5.8.2019 – „Künstliche Intelligenz in HR: Ohne Transparenz geht es nicht“

Dr. Markus Karbaum plädiert bei Future-of-HR.com dafür, dass der Ethikbeirat HR-Tech in seinen Richtlinien Ergänzungen im Themenbereich Transparenz vornimmt. Ziel müsse sein, die Akzeptanz von Kandidaten und Mitarbeitenden gegenüber digitalen Technologien zu erhöhen, Vertrauen zu schaffen sowie Feedback zuzulassen.



11. 7. 2019 – „Die 10 Gebote für den Einsatz von KI in der Personalarbeit?“ – Dr. Markus Langer mit einer kritischen Stellungnahme zu den vom Ethikbeirat veröffentlichten Richtlinien

Dr. Markus Langer setzt sich in diesem Blogartikel kritisch mit den kürzlich vom Ethikbeirat HR-Tech veröffentlichten Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit auseinander. Darin wird beleuchtet, was die Richtlinien des Ethikbeirats aussagen, wie sie mit den EU-Leitlinien für vertrauenswürdige KI zusammenhängen, wie weitreichend sie sind und welche Herausforderungen sie in ihrer praktischen Umsetzung nach sich ziehen könnten. Dr. Markus Langer ist Mitglied des saarländischen Thinktanks Algoright, der sich der Frage verschrieben hat, wie man Digitalisierung multiperspektivisch gut und richtig gestaltet.



25.6.2019 –  Ethikbeirat HR-Tech veröffentlicht Richtlinien für den Einsatz von KI in der Personalarbeit

Der Ethikbeirat HR-Tech hat heute Richtlinien für den verantwortungsvollen Einsatz von Künstlicher Intelligenz im HR-Management vorgelegt. Gleichzeitig wurde mit der Veröffentlichung eine umfassende Konsultationsphase gestartet, die alle Interessierten dazu einlädt, die Richtlinien zu kommentieren und durch fundierte Anregungen weiter zu entwickeln.
» Zur Pressemitteilung
» Zur Publikation der Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit.



30.4.2019 –  Unsere Umfrage zeigt: Personaler machen sich zum Einsatz von KI schlau

Aktuell steht der Einsatz von Künstlicher Intelligenz in Personalprozessen noch am Anfang. Zwar beschäftigen sich insgesamt 74 Prozent der Personalverantwortlichen in Deutschland intensiv mit dem Thema, oft fehlen ihnen allerdings  noch  die  konkreten Anwendungsbeispiele sowie entsprechende Trainings, um die Technologie selbst einzusetzen . Das ist  das zentrale Ergebnis einer Umfrage, die der Ethikbeirat HR-Tech in Zusammenarbeit mit dem Bundesverband der Personalmanager 1.032 Personalmanager*innen aus unterschiedlichen Branchen durchgeführt hat.
» Zur Auswertung



12.4.2019 –  Drittes Workshop-Treffen

Am 9. April fanden sich die Mitglieder des Ethikbeirat HR-Tech zu ihrem dritten Workshop-Treffen zusammen. Im Zentrum des Workshops stand die Weiterentwicklung von Richtlinien für einen wertschaffenden und zugleich verantwortungsvollen Technologieeinsatz in der Personalarbeit. Die Richtlinien werden in Form eines Arbeitspapiers von dem Personalmanagementkongress 2019 veröffentlicht. Die Veröffentlichung des Arbeitspapiers stellt zugleich den Startschuss einer mehrmonatigen öffentlichen Konsultationsphase dar, in der die Richtlinien unter Einbezug verschiedener Interessengruppen weiter konsolidiert werden sollen.



1.4.2019 – Der Ethikbeirat HR-Tech hat zwei neue Mitglieder

Wir freuen uns Prof. Dr. Katharina Simbeck und Brigitte Zypries als neue Mitglieder des Ethikbeirat HR-Tech begrüßen zu dürfen. Beide stellen sowohl fachlich als auch persönlich eine hochkarätige Verstärkung des Ethikbeirats dar, um Menschen im Umgang mit HR-Tech zu unterstützen und dabei der zugrundeliegenden Komplexität der Thematik gerecht zu werden.
» Die Mitglieder



12.2.2019 – Presseinformation: Ethikbeirat HR Tech gegründet

Auf Initiative des Bundesverbands der Personalmanager (BPM) und der hkp///group entwickeln VertreterInnen aus Wissenschaft, Start-ups und etablierten Unternehmen praxisorientierte Spielregeln für HR-Tech-Lösungen.
Zur Pressemitteilung



10.1.2019 – Impressionen vom Gründungstreffen

Am 13.12.2018 trafen sich die Gründungsmitglieder des Ethikbeirats HR-Tech in den Räumen von tandemploy in Berlin. In einer offenen und konstruktiven Diskussion wurden Fragen wie das Selbstverständnis, Aufgaben sowie die nächsten Meilensteine für die Arbeit des Gremiums diskutiert.

Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit

Im Ethikbeirat HR-Tech haben wir uns mit der Frage befasst, welche Einsatzgebiete für KI-Lösungen sich im Umfeld des HR-Management abzeichnen und welche Rahmenbedingungen für die Entwicklung dieser KI-Lösungen, deren Einsatz und deren Nutzung in Organisationen gegeben sein sollen. Es ist wichtig voranzuschreiten, neue Lösungen auszuprobieren, zu evaluieren und die Personalarbeit damit besser zu machen. Dies hat in einer verantwortungsvollen Art und Weise zu geschehen. Im folgenden Dokument finden sie die finalen Richtlinien, die in einem öffentlich-konsultativen, kollaborativen Prozess und unter Einbezug der Fachkompetenz und Erfahrung der Beiratsmitglieder entstanden.

Die Richtlinien sind kein abgeschlossenes Projekt, im Gegenteil: mit dem stetigen Wandel digitaler Technologien werden sich auch neue Handlungsfelder und Herausforderungen ergeben. Deshalb werden die Richtlinien auch zukünftig in Zusammenarbeit mit der interessierten (Fach-) Öffentlichkeit geprüft und ggf. aktualisiert.

Die Richtlinien

Vor der Einführung einer KI-Lösung* muss die Zielsetzung für die Nutzung definiert werden.
In diesem Prozess sollen alle relevanten Interessensgruppen identifiziert und eingebunden werden.

Die Nutzung von KI-Anwendungen in Organisationen erfordert einen strategischen Planungsprozess. Ihr Zweck und Nutzen sowie mögliche Zielkonflikte sollen geklärt werden. Dass auch die betrieblichen Interessenvertreter*innen vor Einführung zum „Ob“, dem Ziel der Nutzung und der Durchführung einer KI-Lösung beteiligt werden – oder wo das nicht möglich ist, auch direkt die Beschäftigten – ist eine Selbstverständlichkeit. Transparente Beteiligungs- und Mitbestimmungsprozesse sind für die Nutzung wichtig und stellen eine breite Akzeptanz sicher. Mit diesem Vorgehen soll bei der Einführung einer KI-Lösung auf partizipative Art und Weise auch eine Folgenabschätzung vorgenommen und die Erklärbarkeit und Nachvollziehbarkeit der verwendeten Technologie, ihres Einsatzes und der Ergebnisse sichergestellt werden.

* Im Folgenden wird KI als Oberbegriff für moderne Technologien verwendet.

Wer KI-Lösungen anbietet oder nutzt, muss darauf achten, dass diese empirisch evaluiert sind und über eine theoretische Grundlage verfügen.

Anbieter von KI-Lösungen zielen darauf ab, mit ihren Lösungen die bestehende HR-Praxis zu verbessern. Organisationen, die vorhaben, eine KI-Lösung zu nutzen, sollen daher den Anbieter auffordern, darzulegen, wie die Angemessenheit und Güte der KI-Lösung empirisch evaluiert wurde und auf welchen theoretischen Grundlagen diese basiert. Als Referenz für die Praxis, welche Informationen in welchen Umfang zu einer KI-Lösung vorliegen sollen, um ihre Güte beurteilen zu können, wird auf die Anforderungen an Verfahrenshinweise für messtheoretisch fundierte Fragebögen und Tests (DIN 33430, 2016, Anhänge A und B)* verwiesen. Dazu gehören neben Anforderungen an die empirische Evaluation auch Anforderungen an die Handhabung, Zuverlässigkeit und Gültigkeit des Verfahrens.
Formen von KI, die auf einer explorativen, nichtzielgerichteten Datenanalyse basieren – beispielsweise unsupervised learning – können für HR-Anwendungen nicht eingesetzt werden, da ihre Vorgehensweise und ihre Ergebnisse nicht nachvollziehbar sind. Zu Forschungszwecken können solche Ansätze verfolgt werden.

Kostenfreier Download unter: https://www.researchgate.net

Wer KI-Lösungen einsetzt, muss sicherstellen, dass bei wichtigen Personalentscheidungen die Letztentscheidungsbefugnis einer natürlichen Person obliegt.

Eine KI-Lösung kann als Arbeitsassistenz – zum Beispiel zur Informationsbeschaffung, -strukturierung und Entscheidungsvorbereitung – eingesetzt werden. Auch eine Automatisierung von Entscheidungen ist grundsätzlich möglich und in der Arbeitswelt nichts Ungewöhnliches. Es muss jedoch sichergestellt werden, dass KI-Lösungen in Gesamtlösungen eingebunden sind, die letztverantwortlich von Menschen gesteuert werden. Das ungeprüfte Übernehmen von systemisch erstellten Entscheidungsvorschlägen stellt keine eigene menschliche Entscheidung dar.
Bei wichtigen Personalentscheidungen, die eine Verarbeitung besonderer personenbezogener Daten (Art. 9, 10 und 22 DSGVO, vgl. auch Erwägungsgrund 71) erfordern oder Lebenswege von Menschen wesentlich beeinflussen (zum Beispiel Einstellungen, Beförderungen, Beendigungen von Beschäftigungsverhältnissen), muss die letzte Entscheidungsbefugnis bei einer natürlichen Person liegen. Es ist für jede KI-Lösung zu definieren, wie eine tatsächliche Entscheidung durch Menschen sichergestellt, genug geeignete, qualifizierte Ressourcen dafür vorgehalten und die Entscheidungen überprüft werden können.

Ein erfolgreicher Einsatz von KI-Lösungen durch HR benötigt die Kombination
technologischer, analytischer und personalwirtschaftlicher Kompetenzen.

KI-Lösungen bieten für Organisationen und HR enorme Chancen. Diese Chancen erwachsen für HR-Fragestellungen aus der Kombination technologischer, analytischer und personalwirtschaftlicher Kompetenzen. Wer im Privaten Technologien einsetzt, muss diese nicht unbedingt selbst verstehen. Auch in Organisationen wird künftig nicht Jede/r selbst programmieren – auch nicht in HR.
HR muss aber die erforderlichen Kompetenzen entwickeln und aufbauen, um die einer KI-Lösung zugrundeliegende Technologie, das Prozessmodell sowie die zur Anwendung kommende Entscheidungslogik und die Auswirkungen auf die Arbeitsprozesse verstehen und erklären zu können. Für den Einsatz von KI-Lösungen im sensiblen Personalbereich sind teils andere und/oder ergänzende Prüf- und Entscheidungskriterien heranzuziehen – nicht zuletzt zur Beantwortung ethischer Fragestellungen.
Darüber hinaus müssen Organisationen auch sicherstellen, dass Anwender*innen von KI-Lösungen in ihren Organisationen hinreichend qualifiziert sind, um eine zweckmäßige Nutzung sicherzustellen.

Organisationen, die KI-Lösungen nutzen, sind für die Ergebnisse ihrer Nutzung verantwortlich.

Arbeitgeber tragen gegenüber ihren Mitarbeiter*innen eine besondere Fürsorgepflicht und stehen auch Bewerber*innen gegenüber in der Verantwortung. Die Verantwortung für den diskriminierungsfreien und die Persönlichkeit respektierenden Einsatz von KI kann deshalb nicht auf die Anbieter von KI-Lösungen übertragen werden. Organisationen, die KI-Lösungen in der Personalarbeit nutzen, müssen sich im Klaren darüber sein, wer für die jeweiligen Prozesse und Entscheidungen die Verantwortung und Haftung übernimmt. Vor der Nutzung einer KI-Lösung soll geklärt werden, inwieweit der Prozess rechtlich zulässig ist und/oder ob der Einsatz der KI-Lösung mit Schranken belegt werden muss.

Wer personenbezogene Daten für KI-Lösungen nutzt, muss im Vorfeld definieren, für welche Zwecke diese verwendet werden und sicherstellen, dass diese Daten nur zweckdienlich erhoben, gespeichert und genutzt werden.

Organisationen haben eine besondere Verantwortung im Umgang mit personenbezogenen Daten, die in digitalisierten Organisationsprozessen in wachsendem Umfang entstehen. Diese Daten dürfen nicht für personenbezogene Auswertungen zweckentfremdet werden. Den rechtlichen Rahmen dafür bildet die DSGVO. Sie fordert sowohl das Prinzip der Zweckbindung als auch der Datenminimierung. Personenbezogene Daten, die für einen vorab definierten Zweck erhoben wurden, dürfen grundsätzlich nicht ohne erneute Einwilligung zu ihrer Nutzung für andere Zwecke verwendet werden. Ferner sollen nicht mehr Daten erhoben werden, als für den jeweiligen Zweck erforderlich.
Organisationen können mit einer Pseudonymisierung und/oder Anonymisierung der Daten arbeiten, um Daten unter Wahrung des Datenschutzes verwenden zu können. Eine explorative Datenanalyse ist für Forschungszwecke, das heißt unter Ausschluss einer unmittelbaren Verwendung der Ergebnisse für Personalentscheidungen jeglicher Art, möglich.

Vor bzw. beim Einsatz einer KI-Lösung müssen die davon betroffenen Menschen über ihren Einsatz, ihren Zweck, ihre Logik und die erhobenen und verwendeten Datenarten informiert werden.

Mitarbeiter*innen in Organisationen und Bewerber*innen müssen darüber informiert werden, dass sie mit einer KI-Lösung interagieren („Hallo, ich bin ein Chatbot“). Mitarbeiter*innen in Organisationen und Bewerber*innen müssen eine Möglichkeit haben, eine*n menschliche*n Ansprechpartner*in zu erreichen. Sie sind darüber zu informieren, dass ihre personenbezogenen Daten verarbeitet werden. Die Information muss den Zweck und eine Auflistung der verwendeten Datenarten beinhalten.

Für die Nutzung in KI-Lösungen dürfen ohne rechtzeitige Beteiligung und individuelle Einwilligung
der Betroffenen keine Daten erhoben werden, die deren willentlicher Steuerung entzogen sind.

Subjektqualität ist ein Pfeiler der Menschenwürde und Selbstbestimmung. Für den Anwendungsbereich HR sind diesbezüglich unter anderem Verfahren relevant, bei denen Daten erhoben werden, die Menschen willentlich weder zur Verfügung stellen noch beeinflussen können. Dies können zum Beispiel Stimm- oder Videoanalysen sein oder Verfahren, bei denen Messwerte zur Hauttemperatur genutzt werden. Menschen sind bei Nutzung solcher Verfahren ausschließlich analysiertes Objekt und kein sich selbst wahrnehmendes und handelndes Subjekt.

Die Anwendung solcher Verfahren ist ethisch heikel. Sie verlangen eine transparente, rechtzeitige und verbindliche Beteiligungsvereinbarung als Grundlage zur freiwilligen Einwilligung der Betroffenen. Dies gilt auch für externe Bewerber*innen. Es muss geprüft werden, ob alternative geeignete Verfahren angewendet werden können, die weniger intensiv in die Persönlichkeit eingreifen oder eine höheren Steuerungsintensität durch die Betroffenen gewährleisten. Wegen der Sensibilität der höchstpersönlichen Daten gilt dies selbst dann, wenn der Arbeitgeber beabsichtigt, die Daten im Anschluss an ihre Erhebung nur anonymisiert zu benutzen. Weitergehende Zustimmungserfordernisse der Mitbestimmung sind davon unbenommen.

Vor einer freiwilligen Einwilligung muss eine Aufklärung über zumindest die Art der erhobenen Daten und die Logik ihrer Verarbeitung erfolgen. Das setzt voraus, dass für die entsprechenden KI-Lösungen bereits zuvor transparente Regeln über die Datenerhebung und -nutzung, die Analyse- und Auswertungsmöglichkeiten sowie deren Einsichtsoptionen als auch eine Folgenabschätzung bestimmt werden. Die Betroffenen können ihre Zustimmung erteilen, müssen aber vorher wissen, zu welchem Zweck sie in die Durchführung solcher Analyseverfahren einwilligen und welche Personen Zugang zu ihren Daten erhalten. Dazu werden partizipative Verfahren empfohlen, um den Grundsatz der informierten Einwilligung durch Beteiligung umzusetzen. Ohne informierte Einwilligung in die Verwendung dieser Daten zu den zuvor bestimmten Zwecken darf keine Verarbeitung der Ergebnisse erfolgen.

Wer KI-Lösungen entwickelt oder nutzt, muss sicherstellen, dass die zugrundeliegenden Daten
über eine hohe Qualität verfügen und systembedingte Diskriminierungen ausgeschlossen werden.

Personalverantwortliche handeln im Bewusstsein, dass datenbasierte und/oder automatisierte Entscheidungsprozesse nicht automatisch objektiv und fair sind. Historische Daten, die genutzt werden, um KI-Lösungen zu entwickeln und zu trainieren, sind von normativen Vorgaben zu unterscheiden. Bei personalpolitischen Entscheidungen spielen normative Vorgaben (z.B. Quoten) eine wichtige Rolle. Die Auswertung, wer es in der Vergangenheit in eine Führungsposition geschafft hat, ist nicht die Antwort darauf, wer es in Zukunft schaffen sollte. Deshalb müssen Anbieter und Nutzer von KI-Lösungen dafür Sorge tragen, dass systembedingte Diskriminierungen vermieden werden. Je nach Anwendungszweck sind dafür eine Information über Trainingsdaten und Entscheidungskriterien sowie die proaktive Prüfung von Daten und Systemen auf Diskriminierung notwendig.

Wer KI-Lösungen nach den vorliegenden Richtlinien einführt, soll transparent sicherstellen, dass die Richtlinien auch bei der betrieblichen Umsetzung und der Weiterentwicklung beachtet werden.

Die Nutzung einer KI-Lösung erfordert stetige Kontrolle. Nutzer*innen sind daher in der Pflicht, regelmäßig zu überprüfen, ob die Anwendung in Einklang mit den Richtlinien erfolgt und den festgelegten Zielsetzungen entspricht. Bei Abweichungen sind Anpassungen vorzunehmen. Wichtige Aspekte sind beispielsweise die Beurteilung der zweckmäßigen Nutzung einer KI-Lösung und die Auswirkungen auf die Arbeitsorganisation. Dies erfordert die Einrichtung geeigneter organisationsinterner Prozesse und Institutionen, wie zum Beispiel eine*n Digital-Verantwortliche*n, einen interdisziplinären KI-Beirat oder Digitalrat, sowie die Gewährleistung der Möglichkeit zur Kontaktaufnahme und Interventionsmöglichkeit mit geeigneten Ansprechpartner*innen in allen Fällen, in denen KI-Lösungen genutzt werden.

Über den Ethikbeirat HR Tech

Der Ethikbeirat HR-Tech besteht aus namhaften Wissenschaftler*innen und Expert*innen aus den Bereichen Verhaltensökonomie, Personalmanagement, Psychologie, Wirtschaftsethik und Recht. Unter ihnen sind unter anderem HR-Executives etablierter Unternehmen, erfahrene HR Praktiker*innen, Gründer*innen, CEOs, Interessenvertreter*innen erfolgreicher HR-Startups und Vertreter*innen der Zivilgesellschaft.

Ziel des Ethikbeirat HR-Tech ist es, allen Menschen und insbesondere Personalmanager*innen, die Berührungspunkte mit digitalen Innovationen in der Personalarbeit haben, Orientierung für einen verantwortungsvollen Einsatz eben solcher zu geben.

Um dieses Ziel zu erreichen, hat der Ethikbeirat HR-Tech in einem breiten iterativen Diskurs zehn Richtlinien für den verantwortungsvollen Einsatz von Künstlicher Intelligenz und weiteren digitalen Technologien in der Personalarbeit entwickelt.

MHK_portrait

Michael H. Kramarsch

Managing Partner hkp///group

Unternehmen setzen verstärkt auf Künstliche Intelligenz und andere Zukunftstechnologien – auch im HR-Management. Doch einen Algorithmus beispielsweise für die Personalauswahl zu nutzen, erfordert andere ethische Fragestellungen als die Wegstreckenoptimierung im Navigationssystem. Die Richtlinien des Ethikbeirat HR-Tech geben hierfür Orientierung.

EE_portrait

Dr. Elke Eller

Entrepreneurin, Beraterin, Coach

Neue Technologien bieten immenses Potenzial für das HR-Management. Um sie zielführend in den Dienst der Menschen in Unternehmen zu stellen, braucht es Leitplanken. Der Ethikbeirat HR-Tech hat dafür einen handlungsleitenden Wertekompass erarbeitet, der nicht nur für Personaler relevant ist.

Arbeitsweise des Ethikbeirat HR-Tech

Vier Phasen kennzeichnen die Arbeit des Ethikbeirat HR-Tech: Den Anfang bildete die Lernphase, in der Wissen über die Chancen und Risiken gegenwärtiger und zukünftiger HR-Tech Use Cases zusammengetragen wurde. Darauf folgte die normative Meinungsbildung, während der die Entwicklung der Richtlinien für einen verantwortungsvollen Einsatz von HR-Tech im Fokus stand. Daran schloss sich eine Phase intensiver Öffentlichkeitsarbeit an, in deren Mittelpunkt das Einholen von Feedback zum erarbeiteten Richtlinienentwurf stand. Die während der öffentlichen Konsultation eingegangenen Stellungnahmen flossen in die nun vorliegende, finale Fassung der Richtlinien ein. Damit befindet sich der Ethikbeirat HR-Tech nun in der Befähigungsphase.

Ziel der Befähigungsphase ist es, Personalverantwortlichen und Organisationen bei der Implementierung und Anwendung neuer HR-Tech Lösungen konkrete Herausforderungen und Lösungsansätze aufzuzeigen – und damit zu einer ethisch verantwortungsvollen und gleichzeitig besseren Personalarbeit beizutragen.

Die Richtlinien des Ethikbeirats sind dabei nicht als vollendet zu verstehen. Sie sollen in den nächsten Jahren fortlaufend evaluiert und angepasst werden. Feedback und Hinweise sind deshalb immer willkommen.

Technologiefelder

Die durch den Ethikbeirat HR-Tech im öffentlichen Diskurs erarbeiteten Richtlinien sind nicht nur für den Umgang mit der Zukunftstechnologie Künstliche Intelligenz relevant. Im Folgenden eine Übersicht über weitere, für HR relevante Technologiefelder.

Big Data

Analytics

Künstliche Intelligenz

Blockchain

Sharing Economy

Digitale Präsenz

Mitglieder des Ethikbeirat HR Tech

Thomas Belker

DEUTSCHEFACHPFLEGE

Andreas Dittes

Dittes Ventures

Dr. Elke Eller

Entrepreneurin, Beraterin, Coach

Yasmin Fahimi

Yasmin Fahimi

Deutscher Gewerkschaftsbund – bis 11/23

Prof. Dr. Björn Gaul

CMS Hasche Sigle

Prof. Dr. Christine Harbring

RWTH Aachen

Reiner Hoffmann

Rat für Nachhaltige Entwicklung – bis 10/22

Prof. Dr. Bernd Irlenbusch

Universität zu Köln

Anna Kaiser

Phenom/Tandemploy

Prof. Dr. Martin Kersting

Universität Gießen

Frank Kohl-Boas

Zeit-Verlagsgruppe

Michael H. Kramarsch

hkp///group

Torsten Schneider

Luther Rechtsanwaltsgesellschaft

Prof. Dr. Katharina Simbeck

HTW Berlin – bis 2/23

Reiner Straub

Personalmagazin

Oliver Suchy

Deutscher Gewerkschaftsbund – bis 11/23

Brigitte Zypries

Bundesministerin für Wirtschaft und Energie a.D., Business Angel – bis 3/23

Videos

Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

Impressionen vom Gründungstreffen
Am 13.12.2018 trafen sich die Gründungsmitglieder in Berlin
 
Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

Dr. Elke Eller
TUI AG
Mehr Zeit für
menschliche Interaktion
 
Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

Prof. Dr. Bernd Irlenbusch
Universität zu Köln
Die Zielfunktion zählt
 
Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

Prof. Dr. Martin Kersting
Universität Gießen
Das Gute mitnehmen
und das Schlechte vermeiden
 
Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

Frank Kohl-Boas
Zeit-Verlagsgruppe
Nicht überall, wo KI
drauf steht ist KI drin
Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

Oliver Suchy
DGB
Die Folgenabschätzung
immer wieder überprüfen
Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

Brigitte Zypries
Bundesministerin a.D.
Am Ende entscheidet
der Mensch
Der Ethikbeirat HR-Tech in der Presse

Im Folgenden werden Beiträge gelistet, die konkreten Bezug zum Ethikbeirat HR-Tech haben:

Yasmin Fahimi neues Mitglied im Ethikbeirat HR-Tech Seite 1 – 21.12.2022 (wallstreet-online.de)
» Zum Artikel

Interview: „KI kann Personalteams darin unterstützen, das Potenzial von Menschen zu entdecken“ (Arbeitswelt Portal)
» Zum Artikel

KI in der Personalarbeit: Erst Kulturwandel, dann Regulierung! (Digitale Welt)
» Zum Artikel

Wenn der Algorithmus den Bewerber auswählt – Betriebsräte fordern Regeln für Künstliche Intelligenz (Handelsblatt)
» Zum Artikel

Arbeitnehmervertreter sehen neue Technologien im HR-Bereich oft kritisch (Haufe)
» Zum Artikel

HR-Verantwortliche wünschen sich beim Einsatz von KI ethische Leitplanken (Haufe)
» Zum Artikel

Wenn Computer Bewerber auswählen (FAZ)
» Zum Artikel

KI-Richtlinien für HR: Ethikbeirat stellt finale Fassung vor (Haufe)
» Zum Artikel

Alles zum Ethikbeirat HR Tech (Saatkorn)
» Zum Artikel

Standards im Umgang mit künstlicher Intelligenz (Haufe Online)
» Zum Artikel

Das wird die Personaler 2019 beschäftigen – Dr. Elke Eller im Interview (Haufe Online)
» Zum Interview

Moderne Zeiten in Personalmanagement und Recruiting (Cloud Computing Insider)
» Zum Artikel

Künstliche Intelligenz im Personalwesen (Haufe Online)
» Zum Artikel

Bibliothek
Im Folgenden werden ausgewählte Beiträge aus Online- und Printmedien zum Thema der Nutzung neuer Technologien im Personalmanagement-Kontext angeführt:
 

» Künstliche Intelligenz und Arbeitsrecht (Hugo Sinzheimer Institut für Arbeits- und Sozialrecht)

» Employee experience – the missing link for engaging employees: Insights from an MNE’s AI-based HR ecosystem (Wiley)

» An artificial intelligence algorithmic approach to ethical decision-making in human resource management processes (HRM Review)

» Künstliche Intelligenz in HR: Mensch vor Maschine (HR Manager)

» Personalabteilung: Was ein Kulturwandel im HR-Bereich bewirken kann (Medium: Digital Business Cloud)

» Geplapper ohne richtigen Inhalt (Haufe)

» Künstliche Intelligenz auf dem Vormarsch (Haufe)

» Digital Futures of Work

» Künstliche Intelligenz – der große Zapfenstreich für Führungskräfte? (people&work)

» KI-Monitor 2022 – Status quo der Künstlichen Intelligenz in Deutschland (Herausgeber: Bundesverband Digitale Wirtschaft)

» „AI“ Leadership in the Age of Technologically Assisted Decision-Making (Herausgeber: Kienbaum, ada)

» Die Kraft von Weltmodellen, der AI Act und die Notwendigkeit von KI-Compliance (Tagespiegel Background)

» KI im Recruiting – Emotionen, Ansichten, Erwartungen (Herausgeber: IU Internationale Hochschule)

» Use of Digital Technologies for HR Management in Germany: Survey Evidence (SSRN)

» „Status quo vadis”: Smarte Automatisierung in Human Resources (Börsen-Zeitung)

» Noch lässt sich der Einsatz von KI in HR ethisch gestalten (Human Resources Manager)

» HR tech Number of the Day: AI education (Human Resource Executive)

» Globale Ethik-Studie zur Lösung des Trolley-Problems (MIT Technology Review)

» Künstliche Intelligenz – Wettlauf ohne Ethik (Blätter für deutsche und internationale Politik)

» TechAtWork-Studie (PwC)

» Ist Österreichs AMS-Algorithmus diskriminierend? (Futurezone)

» Wie man Algorithmen durch Daten weniger diskriminierend machen kann (Tech Xplore)

» KI denkt unternehmerisch – und das ist beunruhigend (The Economist)

» Warum Technologie Tyrannei begünstigt (The Atlantic)

» Auch Algorithmen brauchen Manager (Harvard Business Review)

» Leitfaden für eine KI-Ethik (MIT Sloan Management Review)

» Zehn Kardinalfehler in der Personaldiagnostik (HR Performance)

» Philosophische Nachhilfe für Nerds (FAZ)

» Es gibt kein Big Data in HR (Harvard Business Review)

» Künstliche Intelligenz, Kunst und eine Urheberrechtsproblematik (SZ)

» Der Unterschied zwischen Machine Learning, Data Science, KI, Deep Learning und Statistik (Data Science Central)

Kontakt

Ihre Ansprechpartner für alle Fragen rund um den Ethikbeirat HR-Tech

 

Bundesverband der Personalmanager e.V.
Oberwallstraße 24
10117 Berlin

Tel +49 30 84 85 93 00

info@bpm.de
www.bpm.de

BPM

Thomas Müller
Partner, Head of Marketing & Communication

hkp Deutschland GmbH
Friedrich-Ebert-Anlage 35-37
60327 Frankfurt am Main

Tel +49 69 175 363 323
Fax +49 69 175 363 399
Mobile +49 176 100 88 237

thomas.mueller@hkp.com
www.hkp.com

Twitter-Wall