13. Februar 2024 – Zum Download verfügbar: Ethik Check KI
Der Ethikbeirat HR-Tech veröffentlicht den Ethik Check KI, das bislang einzige, frei zugängliche und kostenlose Tool, mit dem HR-Praktiker selbständig die von ihnen verwendeten Technologien auf Vereinbarkeit mit ethischen Grundsätzen überprüfen können. Das Tool stützt sich auf die vom Ethikbeirat HR-Tech erarbeiteten ethischen Richtlinien für den verantwortungsvollen Einsatz von KI und modernen Technologien in der Arbeitswelt.
» Jetzt downloaden
» Zur Presseinformation
Juli 2023 – Einladung: Technik trifft Ethik: KI zwischen Wunsch und Wirklichkeit, 20.11.2023, Stuttgart
Gemeinsam mit Steinbeis Akademie und hkp///group lädt der Ethikbeirat HR-Tech zu einer außergewöhnlichen Veranstaltung in den Höchstleistungsrechner der Universität Stuttgart ein. Die Veranstaltung richtet sich an Entscheidungsträgerinnen und -träger sowie KI-Expertinnen und -Experten aus dem technischen wie aus dem Personalbereich in Unternehmen mit Interesse an einem Blick über den Tellerrand
» Details & Anmeldung
21.12.2022 – Yasmin Fahimi neues Mitglied im Ethikbeirat HR-Tech
Die DGB-Vorsitzende Yasmin Fahimi ist neues Mitglied im Ethikbeirat HR-Tech. Sie löst Reiner Hoffmann ab, der während seiner Amtszeit als DGB-Vorsitzender die Interessen der Arbeitnehmerseite im Expertengremium vertreten hatte.
» Zur Presseinformation
02.02.2022 – ArbeitnehmervertreterInnen blicken mit Skepsis auf den Einsatz von KI in der Personalarbeit
Mitbestimmungsseite und HR befürworten gleichermaßen klare ethische Rahmenbedingungen in der Nutzung von KI und modernen Technologien. Ein Handelsblatt-Bericht sowie die Presseinformation zum Update der Umfrage des Bundesverbands für Personalmanager BPM & Ethikbeirat HR-Tech.
» Zum Handelsblatt-Bericht
» Zur Presseinformation
08.09.2021 – Aktuelle Umfrage des Bundesverbands für Personalmanager BPM & Ethikbeirat HR-Tech
HR Management: Digitalisierung schreitet voran – ethische Leitplanken gewünscht. Moderne Technologien und Künstliche Intelligenz (KI) werden stärker denn je im HR-Management diskutiert und finden hier zunehmend Verbreitung.
» Zur Presseinformation
03.04.2020 – KI in der Arbeitswelt: Diskriminierung verhindern, Professionalisierung fördern
Nach intensiver öffentlicher Konsultation veröffentlicht der Ethikbeirat HR-Tech jetzt zehn Richtlinien für den innovativen und verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) und modernen Technologien in der Arbeitswelt.
» Zur Presseinformation
02.04.2020 – DGB: Klare Regeln für Künstliche Intelligenz
Wenn Beschäftigte und KI in Betrieben eingesetzt werden, braucht es klare Regeln – und zwar bevor die Systeme eingeführt werden. Der DGB hat dazu zentrale Leitfragen für den betrieblichen Einsatz und einen 10 Punkte-Plan für die Politik veröffentlicht.
» Zum Konzeptpapier
» alle News
21.11.2019 – Menschenwürdiges Arbeiten mit KI
In vielen Anwendungen steckt KI. Oft versteckt – aus wirtschaftlichem Interesse oder weil wir hinsichtlich der Auswirkungen noch nicht genug sensibilisiert sind. Es braucht einen transparenten Dialog zum Umgang mit KI und daraus entwickelt einen Wegweiser für menschenwürdiges Arbeiten. Hierzu trägt der Ethikbeirat HR-Tech bei. Transformationsberater Pascal Morgan mit einigen Ergänzungen zu seinen Richtlinien.
» Zum Artikel auf Future of HR
28.10.2019 – Zwischen Euphorie und Skepsis: KI in der Personalarbeit
Ein Statusbericht der Fachgruppe Strategisches Personalmanagement des Bundesverbandes der Personalmanager e. V. zum aktuellen Einsatz künstlicher Intelligenz (KI) in der Personalarbeit
» Zum Bericht
18.10.2019 – Corporate Digital Responsibility muss mehr als geltendes Recht abbilden
Die Richtlinien des Ethikbeirats HR-Tech sind aus ethischer und unternehmerischer Perspektive zu begrüßen – als Selbstverpflichtung müssen sie jedoch über geltendes Recht hinaus reichen. Eine Stellungnahme von Prof. Dr. Alexander Filipovic (Stiftungsprofessur für Medienethik an der Hochschule für Philosophie München) & Christopher Koska (freiberuflicher IT Project Manager und Digital Architect) bei future-of-hr.com
» Zum Artikel
8.10.2019 – Chancen von KI stärker herausstellen!
Personalabteilungen können vom KI-Einsatz stark profitieren. In seinen Richtlinien scheint der Ethikbeirat HR-Tech bei der positiven Bewertung konkreter Anwendungsszenarien jedoch vorsichtig, so Dr. Simone Burel, Geschäftsführerin der Linguistischen Unternehmensberatung (LUB GmbH) in ihrer Stellungnahme auf www.future-of-hr.com
» Zum Artikel
26.9.2019 – „Eine KI kann diskriminierend sein“
Im Personalmagazin Plus über HR-Software spricht Ethikbeirat-Mitglied Prof. Dr. Katharina Simbeck, Leiterin des Fachbereichs Information, Kommunikation und Wirtschaft an der HTW Berlin, über die technischen und ethischen Herausforderungen datengetriebenen HR-Managements.
» Zum Artikel
4.9.2019 – Stellungnahme des Wirtschaftsethikers Ulf D. Posé!
„Macht korrumpiert. Dies zu verhindern ist auch eine Aufgabe der Ethik. Universelle Ethik will weltweit Lebensmehrung für alle Menschen. Und das so vielfältig wie möglich. Der Ethikbeirat HR Tech hat sich genau dem verpflichtet. Freiheit steht am Anfang. Das Freisein von inneren und äußeren Zwängen ist Ziel des Ethikbeirats HR Tech. Auch und vor allem im Umgang mit KI.
Die Forderungen des Ethikbeirats HR Tech sind eindeutig und konkret. Die Alternative des Ethikbeirats HR Tech zur Gesinnungsethik ist Handlungsethik. Gesinnungsethiker haben immer die besten Absichten, jedoch fehlt die notwendige Kompetenz. Der Ethikbeirat HR Tech fordert sachliche, soziale, ethische Kompetenz, die sich im Handeln zeigt. Damit will der Ethikbeirat das Handeln verantwortet sehen und nicht nur Absichten.
Sinnvoll und hilfreich erscheint mir die Offenheit, mit der der Ethikbeirat HR Tech die ethisch relevanten Themen adressiert und völlig undogmatisch im Diskurs mit Personalverantwortlichen so klären möchte, dass konkrete Handlungsweisen bestimmt werden können. Und dies in einer formalen, nicht materialen Ethik. Materiale Ethik kennt nur konkrete Situationen für die konkrete Handlungsanweisungen vorgesehen sind. Damit wird die Einhaltung einer Regel an die Regel delegiert. Formale Ethiken empfehlen generelle Imperative, die vom Handelnden in konkrete Handlungen übersetzt werden. Damit bleibt die Verantwortung immer beim Handelnden. Der Ethikbeirat hat sich in seinen Statements für eine formale Ethik entscheiden.
Die Angebote, die der Ethikbeirat HR Tech den Personalverantwortlichen unterbreitet, sind umfassend, dialogorientiert, maßnahmenunterlegt, und damit ein kontinuierlicher Prozess, der das soziale Miteinander hin zu mehr Freiheit, Verantwortungsbereitschaft und einer Vertrauenskultur innerhalb und außerhalb von Unternehmen führen kann. Dazu wird es notwendig sein, KI als Unterstützung zu verstehen und nutzen.“
20.8.2019 – „Wir brauchen nicht nur Analytics OF the People, sondern vor allem Analytics FOR the People!“
Bei LinkedIn erklärt Tandemploy-CEO Anna Kaiser, warum sie sich im Ethikbeirat HR-Tech engagiert und warum es wichtig ist, sich vor dem Einsatz von KI und Big Data Gedanken über das Warum zu machen. „Das Ziel: Besseres Arbeiten für alle durch bessere Kommunikation, starke Verbindungen und die Möglichkeit, sich persönlich und fachlich weiterzuentwickeln.“
16.8.2019 – Ethikbeirat HR-Tech im politischen Diskurs“
Eine Anfrage der Bundestagsfraktion Die Linke an die Bundesregierung beschäftigt sich mit dem „Einsatz von automatisierten Entscheidungssystemen und Künstlicher Intelligenz in der Personalauswahl, Personalverwaltung und -entwicklung“. Sie beinhaltet viele interessante Quellen zum Thema und weist auch auf die Arbeit des Ethikbeirat HR-Tech hin.
15.8.2019 – „Die Prinzipien und Darstellungen der normativen Richtlinien für KI in HR des Ethikbeirat HR-Tech erscheinen mir angemessen und vernünftig“
„Die Prinzipien und Darstellungen der normativen Richtlinien für KI in HR des Ethikbeirat HR-Tech erscheinen mir angemessen und vernünftig. Sie haben einen realistischen Blick auf Softwaresysteme und verfallen nicht einer Überinterpretation heutiger KI-Systeme als tatsächlich intelligente Wesen. Einsatzfelder der neuen Technologie werden realistisch gesehen, ständige kritische Feedback-Prozesse sind vorgesehen. Ich wünsche den Initiatoren und Akteuren viel Erfolg bei der vorgesehenen Fortschreibung dieser Arbeit!“
Prof. Dr. Dr. Dr. h.c. Franz Josef Radermacher, Leiter des Forschungsinstituts für anwendungsorientierte Wissensverarbeitung (FAW) in Ulm, Professor für Datenbanken und Künstliche Intelligenz an der Universität Ulm sowie Präsident des Senat der Wirtschaft.
5.8.2019 – „Künstliche Intelligenz in HR: Ohne Transparenz geht es nicht“
Dr. Markus Karbaum plädiert bei Future-of-HR.com dafür, dass der Ethikbeirat HR-Tech in seinen Richtlinien Ergänzungen im Themenbereich Transparenz vornimmt. Ziel müsse sein, die Akzeptanz von Kandidaten und Mitarbeitenden gegenüber digitalen Technologien zu erhöhen, Vertrauen zu schaffen sowie Feedback zuzulassen.
11. 7. 2019 – „Die 10 Gebote für den Einsatz von KI in der Personalarbeit?“ – Dr. Markus Langer mit einer kritischen Stellungnahme zu den vom Ethikbeirat veröffentlichten Richtlinien
Dr. Markus Langer setzt sich in diesem Blogartikel kritisch mit den kürzlich vom Ethikbeirat HR-Tech veröffentlichten Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit auseinander. Darin wird beleuchtet, was die Richtlinien des Ethikbeirats aussagen, wie sie mit den EU-Leitlinien für vertrauenswürdige KI zusammenhängen, wie weitreichend sie sind und welche Herausforderungen sie in ihrer praktischen Umsetzung nach sich ziehen könnten. Dr. Markus Langer ist Mitglied des saarländischen Thinktanks Algoright, der sich der Frage verschrieben hat, wie man Digitalisierung multiperspektivisch gut und richtig gestaltet.
25.6.2019 – Ethikbeirat HR-Tech veröffentlicht Richtlinien für den Einsatz von KI in der Personalarbeit
Der Ethikbeirat HR-Tech hat heute Richtlinien für den verantwortungsvollen Einsatz von Künstlicher Intelligenz im HR-Management vorgelegt. Gleichzeitig wurde mit der Veröffentlichung eine umfassende Konsultationsphase gestartet, die alle Interessierten dazu einlädt, die Richtlinien zu kommentieren und durch fundierte Anregungen weiter zu entwickeln.
» Zur Pressemitteilung
» Zur Publikation der Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit.
30.4.2019 – Unsere Umfrage zeigt: Personaler machen sich zum Einsatz von KI schlau
Aktuell steht der Einsatz von Künstlicher Intelligenz in Personalprozessen noch am Anfang. Zwar beschäftigen sich insgesamt 74 Prozent der Personalverantwortlichen in Deutschland intensiv mit dem Thema, oft fehlen ihnen allerdings noch die konkreten Anwendungsbeispiele sowie entsprechende Trainings, um die Technologie selbst einzusetzen . Das ist das zentrale Ergebnis einer Umfrage, die der Ethikbeirat HR-Tech in Zusammenarbeit mit dem Bundesverband der Personalmanager 1.032 Personalmanager*innen aus unterschiedlichen Branchen durchgeführt hat.
» Zur Auswertung
12.4.2019 – Drittes Workshop-Treffen
Am 9. April fanden sich die Mitglieder des Ethikbeirat HR-Tech zu ihrem dritten Workshop-Treffen zusammen. Im Zentrum des Workshops stand die Weiterentwicklung von Richtlinien für einen wertschaffenden und zugleich verantwortungsvollen Technologieeinsatz in der Personalarbeit. Die Richtlinien werden in Form eines Arbeitspapiers von dem Personalmanagementkongress 2019 veröffentlicht. Die Veröffentlichung des Arbeitspapiers stellt zugleich den Startschuss einer mehrmonatigen öffentlichen Konsultationsphase dar, in der die Richtlinien unter Einbezug verschiedener Interessengruppen weiter konsolidiert werden sollen.
1.4.2019 – Der Ethikbeirat HR-Tech hat zwei neue Mitglieder
Wir freuen uns Prof. Dr. Katharina Simbeck und Brigitte Zypries als neue Mitglieder des Ethikbeirat HR-Tech begrüßen zu dürfen. Beide stellen sowohl fachlich als auch persönlich eine hochkarätige Verstärkung des Ethikbeirats dar, um Menschen im Umgang mit HR-Tech zu unterstützen und dabei der zugrundeliegenden Komplexität der Thematik gerecht zu werden.
» Die Mitglieder
12.2.2019 – Presseinformation: Ethikbeirat HR Tech gegründet
Auf Initiative des Bundesverbands der Personalmanager (BPM) und der hkp///group entwickeln VertreterInnen aus Wissenschaft, Start-ups und etablierten Unternehmen praxisorientierte Spielregeln für HR-Tech-Lösungen.
Zur Pressemitteilung
10.1.2019 – Impressionen vom Gründungstreffen
Am 13.12.2018 trafen sich die Gründungsmitglieder des Ethikbeirats HR-Tech in den Räumen von tandemploy in Berlin. In einer offenen und konstruktiven Diskussion wurden Fragen wie das Selbstverständnis, Aufgaben sowie die nächsten Meilensteine für die Arbeit des Gremiums diskutiert.
Richtlinien für den verantwortungsvollen Einsatz von KI in der Personalarbeit
Im Ethikbeirat HR-Tech haben wir uns mit der Frage befasst, welche Einsatzgebiete für KI-Lösungen sich im Umfeld des HR-Management abzeichnen und welche Rahmenbedingungen für die Entwicklung dieser KI-Lösungen, deren Einsatz und deren Nutzung in Organisationen gegeben sein sollen. Es ist wichtig voranzuschreiten, neue Lösungen auszuprobieren, zu evaluieren und die Personalarbeit damit besser zu machen. Dies hat in einer verantwortungsvollen Art und Weise zu geschehen. Im folgenden Dokument finden sie die finalen Richtlinien, die in einem öffentlich-konsultativen, kollaborativen Prozess und unter Einbezug der Fachkompetenz und Erfahrung der Beiratsmitglieder entstanden.
Die Richtlinien sind kein abgeschlossenes Projekt, im Gegenteil: mit dem stetigen Wandel digitaler Technologien werden sich auch neue Handlungsfelder und Herausforderungen ergeben. Deshalb werden die Richtlinien auch zukünftig in Zusammenarbeit mit der interessierten (Fach-) Öffentlichkeit geprüft und ggf. aktualisiert.
Die Richtlinien
Vor der Einführung einer KI-Lösung* muss die Zielsetzung für die Nutzung definiert werden.
In diesem Prozess sollen alle relevanten Interessensgruppen identifiziert und eingebunden werden.
Die Nutzung von KI-Anwendungen in Organisationen erfordert einen strategischen Planungsprozess. Ihr Zweck und Nutzen sowie mögliche Zielkonflikte sollen geklärt werden. Dass auch die betrieblichen Interessenvertreter*innen vor Einführung zum „Ob“, dem Ziel der Nutzung und der Durchführung einer KI-Lösung beteiligt werden – oder wo das nicht möglich ist, auch direkt die Beschäftigten – ist eine Selbstverständlichkeit. Transparente Beteiligungs- und Mitbestimmungsprozesse sind für die Nutzung wichtig und stellen eine breite Akzeptanz sicher. Mit diesem Vorgehen soll bei der Einführung einer KI-Lösung auf partizipative Art und Weise auch eine Folgenabschätzung vorgenommen und die Erklärbarkeit und Nachvollziehbarkeit der verwendeten Technologie, ihres Einsatzes und der Ergebnisse sichergestellt werden.
* Im Folgenden wird KI als Oberbegriff für moderne Technologien verwendet.Wer KI-Lösungen anbietet oder nutzt, muss darauf achten, dass diese empirisch evaluiert sind und über eine theoretische Grundlage verfügen.
Anbieter von KI-Lösungen zielen darauf ab, mit ihren Lösungen die bestehende HR-Praxis zu verbessern. Organisationen, die vorhaben, eine KI-Lösung zu nutzen, sollen daher den Anbieter auffordern, darzulegen, wie die Angemessenheit und Güte der KI-Lösung empirisch evaluiert wurde und auf welchen theoretischen Grundlagen diese basiert. Als Referenz für die Praxis, welche Informationen in welchen Umfang zu einer KI-Lösung vorliegen sollen, um ihre Güte beurteilen zu können, wird auf die Anforderungen an Verfahrenshinweise für messtheoretisch fundierte Fragebögen und Tests (DIN 33430, 2016, Anhänge A und B)* verwiesen. Dazu gehören neben Anforderungen an die empirische Evaluation auch Anforderungen an die Handhabung, Zuverlässigkeit und Gültigkeit des Verfahrens.
Formen von KI, die auf einer explorativen, nichtzielgerichteten Datenanalyse basieren – beispielsweise unsupervised learning – können für HR-Anwendungen nicht eingesetzt werden, da ihre Vorgehensweise und ihre Ergebnisse nicht nachvollziehbar sind. Zu Forschungszwecken können solche Ansätze verfolgt werden.
Wer KI-Lösungen einsetzt, muss sicherstellen, dass bei wichtigen Personalentscheidungen die Letztentscheidungsbefugnis einer natürlichen Person obliegt.
Eine KI-Lösung kann als Arbeitsassistenz – zum Beispiel zur Informationsbeschaffung, -strukturierung und Entscheidungsvorbereitung – eingesetzt werden. Auch eine Automatisierung von Entscheidungen ist grundsätzlich möglich und in der Arbeitswelt nichts Ungewöhnliches. Es muss jedoch sichergestellt werden, dass KI-Lösungen in Gesamtlösungen eingebunden sind, die letztverantwortlich von Menschen gesteuert werden. Das ungeprüfte Übernehmen von systemisch erstellten Entscheidungsvorschlägen stellt keine eigene menschliche Entscheidung dar.
Bei wichtigen Personalentscheidungen, die eine Verarbeitung besonderer personenbezogener Daten (Art. 9, 10 und 22 DSGVO, vgl. auch Erwägungsgrund 71) erfordern oder Lebenswege von Menschen wesentlich beeinflussen (zum Beispiel Einstellungen, Beförderungen, Beendigungen von Beschäftigungsverhältnissen), muss die letzte Entscheidungsbefugnis bei einer natürlichen Person liegen. Es ist für jede KI-Lösung zu definieren, wie eine tatsächliche Entscheidung durch Menschen sichergestellt, genug geeignete, qualifizierte Ressourcen dafür vorgehalten und die Entscheidungen überprüft werden können.
Ein erfolgreicher Einsatz von KI-Lösungen durch HR benötigt die Kombination
technologischer, analytischer und personalwirtschaftlicher Kompetenzen.
KI-Lösungen bieten für Organisationen und HR enorme Chancen. Diese Chancen erwachsen für HR-Fragestellungen aus der Kombination technologischer, analytischer und personalwirtschaftlicher Kompetenzen. Wer im Privaten Technologien einsetzt, muss diese nicht unbedingt selbst verstehen. Auch in Organisationen wird künftig nicht Jede/r selbst programmieren – auch nicht in HR.
HR muss aber die erforderlichen Kompetenzen entwickeln und aufbauen, um die einer KI-Lösung zugrundeliegende Technologie, das Prozessmodell sowie die zur Anwendung kommende Entscheidungslogik und die Auswirkungen auf die Arbeitsprozesse verstehen und erklären zu können. Für den Einsatz von KI-Lösungen im sensiblen Personalbereich sind teils andere und/oder ergänzende Prüf- und Entscheidungskriterien heranzuziehen – nicht zuletzt zur Beantwortung ethischer Fragestellungen.
Darüber hinaus müssen Organisationen auch sicherstellen, dass Anwender*innen von KI-Lösungen in ihren Organisationen hinreichend qualifiziert sind, um eine zweckmäßige Nutzung sicherzustellen.
Organisationen, die KI-Lösungen nutzen, sind für die Ergebnisse ihrer Nutzung verantwortlich.
Arbeitgeber tragen gegenüber ihren Mitarbeiter*innen eine besondere Fürsorgepflicht und stehen auch Bewerber*innen gegenüber in der Verantwortung. Die Verantwortung für den diskriminierungsfreien und die Persönlichkeit respektierenden Einsatz von KI kann deshalb nicht auf die Anbieter von KI-Lösungen übertragen werden. Organisationen, die KI-Lösungen in der Personalarbeit nutzen, müssen sich im Klaren darüber sein, wer für die jeweiligen Prozesse und Entscheidungen die Verantwortung und Haftung übernimmt. Vor der Nutzung einer KI-Lösung soll geklärt werden, inwieweit der Prozess rechtlich zulässig ist und/oder ob der Einsatz der KI-Lösung mit Schranken belegt werden muss.
Wer personenbezogene Daten für KI-Lösungen nutzt, muss im Vorfeld definieren, für welche Zwecke diese verwendet werden und sicherstellen, dass diese Daten nur zweckdienlich erhoben, gespeichert und genutzt werden.
Organisationen haben eine besondere Verantwortung im Umgang mit personenbezogenen Daten, die in digitalisierten Organisationsprozessen in wachsendem Umfang entstehen. Diese Daten dürfen nicht für personenbezogene Auswertungen zweckentfremdet werden. Den rechtlichen Rahmen dafür bildet die DSGVO. Sie fordert sowohl das Prinzip der Zweckbindung als auch der Datenminimierung. Personenbezogene Daten, die für einen vorab definierten Zweck erhoben wurden, dürfen grundsätzlich nicht ohne erneute Einwilligung zu ihrer Nutzung für andere Zwecke verwendet werden. Ferner sollen nicht mehr Daten erhoben werden, als für den jeweiligen Zweck erforderlich.
Organisationen können mit einer Pseudonymisierung und/oder Anonymisierung der Daten arbeiten, um Daten unter Wahrung des Datenschutzes verwenden zu können. Eine explorative Datenanalyse ist für Forschungszwecke, das heißt unter Ausschluss einer unmittelbaren Verwendung der Ergebnisse für Personalentscheidungen jeglicher Art, möglich.
Vor bzw. beim Einsatz einer KI-Lösung müssen die davon betroffenen Menschen über ihren Einsatz, ihren Zweck, ihre Logik und die erhobenen und verwendeten Datenarten informiert werden.
Mitarbeiter*innen in Organisationen und Bewerber*innen müssen darüber informiert werden, dass sie mit einer KI-Lösung interagieren („Hallo, ich bin ein Chatbot“). Mitarbeiter*innen in Organisationen und Bewerber*innen müssen eine Möglichkeit haben, eine*n menschliche*n Ansprechpartner*in zu erreichen. Sie sind darüber zu informieren, dass ihre personenbezogenen Daten verarbeitet werden. Die Information muss den Zweck und eine Auflistung der verwendeten Datenarten beinhalten.
Für die Nutzung in KI-Lösungen dürfen ohne rechtzeitige Beteiligung und individuelle Einwilligung
der Betroffenen keine Daten erhoben werden, die deren willentlicher Steuerung entzogen sind.
Subjektqualität ist ein Pfeiler der Menschenwürde und Selbstbestimmung. Für den Anwendungsbereich HR sind diesbezüglich unter anderem Verfahren relevant, bei denen Daten erhoben werden, die Menschen willentlich weder zur Verfügung stellen noch beeinflussen können. Dies können zum Beispiel Stimm- oder Videoanalysen sein oder Verfahren, bei denen Messwerte zur Hauttemperatur genutzt werden. Menschen sind bei Nutzung solcher Verfahren ausschließlich analysiertes Objekt und kein sich selbst wahrnehmendes und handelndes Subjekt.
Die Anwendung solcher Verfahren ist ethisch heikel. Sie verlangen eine transparente, rechtzeitige und verbindliche Beteiligungsvereinbarung als Grundlage zur freiwilligen Einwilligung der Betroffenen. Dies gilt auch für externe Bewerber*innen. Es muss geprüft werden, ob alternative geeignete Verfahren angewendet werden können, die weniger intensiv in die Persönlichkeit eingreifen oder eine höheren Steuerungsintensität durch die Betroffenen gewährleisten. Wegen der Sensibilität der höchstpersönlichen Daten gilt dies selbst dann, wenn der Arbeitgeber beabsichtigt, die Daten im Anschluss an ihre Erhebung nur anonymisiert zu benutzen. Weitergehende Zustimmungserfordernisse der Mitbestimmung sind davon unbenommen.
Vor einer freiwilligen Einwilligung muss eine Aufklärung über zumindest die Art der erhobenen Daten und die Logik ihrer Verarbeitung erfolgen. Das setzt voraus, dass für die entsprechenden KI-Lösungen bereits zuvor transparente Regeln über die Datenerhebung und -nutzung, die Analyse- und Auswertungsmöglichkeiten sowie deren Einsichtsoptionen als auch eine Folgenabschätzung bestimmt werden. Die Betroffenen können ihre Zustimmung erteilen, müssen aber vorher wissen, zu welchem Zweck sie in die Durchführung solcher Analyseverfahren einwilligen und welche Personen Zugang zu ihren Daten erhalten. Dazu werden partizipative Verfahren empfohlen, um den Grundsatz der informierten Einwilligung durch Beteiligung umzusetzen. Ohne informierte Einwilligung in die Verwendung dieser Daten zu den zuvor bestimmten Zwecken darf keine Verarbeitung der Ergebnisse erfolgen.
Wer KI-Lösungen entwickelt oder nutzt, muss sicherstellen, dass die zugrundeliegenden Daten
über eine hohe Qualität verfügen und systembedingte Diskriminierungen ausgeschlossen werden.
Personalverantwortliche handeln im Bewusstsein, dass datenbasierte und/oder automatisierte Entscheidungsprozesse nicht automatisch objektiv und fair sind. Historische Daten, die genutzt werden, um KI-Lösungen zu entwickeln und zu trainieren, sind von normativen Vorgaben zu unterscheiden. Bei personalpolitischen Entscheidungen spielen normative Vorgaben (z.B. Quoten) eine wichtige Rolle. Die Auswertung, wer es in der Vergangenheit in eine Führungsposition geschafft hat, ist nicht die Antwort darauf, wer es in Zukunft schaffen sollte. Deshalb müssen Anbieter und Nutzer von KI-Lösungen dafür Sorge tragen, dass systembedingte Diskriminierungen vermieden werden. Je nach Anwendungszweck sind dafür eine Information über Trainingsdaten und Entscheidungskriterien sowie die proaktive Prüfung von Daten und Systemen auf Diskriminierung notwendig.
Wer KI-Lösungen nach den vorliegenden Richtlinien einführt, soll transparent sicherstellen, dass die Richtlinien auch bei der betrieblichen Umsetzung und der Weiterentwicklung beachtet werden.
Die Nutzung einer KI-Lösung erfordert stetige Kontrolle. Nutzer*innen sind daher in der Pflicht, regelmäßig zu überprüfen, ob die Anwendung in Einklang mit den Richtlinien erfolgt und den festgelegten Zielsetzungen entspricht. Bei Abweichungen sind Anpassungen vorzunehmen. Wichtige Aspekte sind beispielsweise die Beurteilung der zweckmäßigen Nutzung einer KI-Lösung und die Auswirkungen auf die Arbeitsorganisation. Dies erfordert die Einrichtung geeigneter organisationsinterner Prozesse und Institutionen, wie zum Beispiel eine*n Digital-Verantwortliche*n, einen interdisziplinären KI-Beirat oder Digitalrat, sowie die Gewährleistung der Möglichkeit zur Kontaktaufnahme und Interventionsmöglichkeit mit geeigneten Ansprechpartner*innen in allen Fällen, in denen KI-Lösungen genutzt werden.
Über den Ethikbeirat HR Tech
Der Ethikbeirat HR-Tech besteht aus namhaften Wissenschaftler*innen und Expert*innen aus den Bereichen Verhaltensökonomie, Personalmanagement, Psychologie, Wirtschaftsethik und Recht. Unter ihnen sind unter anderem HR-Executives etablierter Unternehmen, erfahrene HR Praktiker*innen, Gründer*innen, CEOs, Interessenvertreter*innen erfolgreicher HR-Startups und Vertreter*innen der Zivilgesellschaft.
Ziel des Ethikbeirat HR-Tech ist es, allen Menschen und insbesondere Personalmanager*innen, die Berührungspunkte mit digitalen Innovationen in der Personalarbeit haben, Orientierung für einen verantwortungsvollen Einsatz eben solcher zu geben.
Um dieses Ziel zu erreichen, hat der Ethikbeirat HR-Tech in einem breiten iterativen Diskurs zehn Richtlinien für den verantwortungsvollen Einsatz von Künstlicher Intelligenz und weiteren digitalen Technologien in der Personalarbeit entwickelt.
Michael H. Kramarsch
Managing Partner hkp///group
Unternehmen setzen verstärkt auf Künstliche Intelligenz und andere Zukunftstechnologien – auch im HR-Management. Doch einen Algorithmus beispielsweise für die Personalauswahl zu nutzen, erfordert andere ethische Fragestellungen als die Wegstreckenoptimierung im Navigationssystem. Die Richtlinien des Ethikbeirat HR-Tech geben hierfür Orientierung.
Dr. Elke Eller
Entrepreneurin, Beraterin, Coach
Neue Technologien bieten immenses Potenzial für das HR-Management. Um sie zielführend in den Dienst der Menschen in Unternehmen zu stellen, braucht es Leitplanken. Der Ethikbeirat HR-Tech hat dafür einen handlungsleitenden Wertekompass erarbeitet, der nicht nur für Personaler relevant ist.
Arbeitsweise des Ethikbeirat HR-Tech
Vier Phasen kennzeichnen die Arbeit des Ethikbeirat HR-Tech: Den Anfang bildete die Lernphase, in der Wissen über die Chancen und Risiken gegenwärtiger und zukünftiger HR-Tech Use Cases zusammengetragen wurde. Darauf folgte die normative Meinungsbildung, während der die Entwicklung der Richtlinien für einen verantwortungsvollen Einsatz von HR-Tech im Fokus stand. Daran schloss sich eine Phase intensiver Öffentlichkeitsarbeit an, in deren Mittelpunkt das Einholen von Feedback zum erarbeiteten Richtlinienentwurf stand. Die während der öffentlichen Konsultation eingegangenen Stellungnahmen flossen in die nun vorliegende, finale Fassung der Richtlinien ein. Damit befindet sich der Ethikbeirat HR-Tech nun in der Befähigungsphase.
Ziel der Befähigungsphase ist es, Personalverantwortlichen und Organisationen bei der Implementierung und Anwendung neuer HR-Tech Lösungen konkrete Herausforderungen und Lösungsansätze aufzuzeigen – und damit zu einer ethisch verantwortungsvollen und gleichzeitig besseren Personalarbeit beizutragen.
Die Richtlinien des Ethikbeirats sind dabei nicht als vollendet zu verstehen. Sie sollen in den nächsten Jahren fortlaufend evaluiert und angepasst werden. Feedback und Hinweise sind deshalb immer willkommen.
Worum ging es?
Zusammentragen und Systematisieren von Wissen über gegenwärtige und zukünftige HR-Tech Use Cases und die damit verbundenen Chancen und Risiken.
Wie sind wir vorgegangen?
- Strukturierung der Anwendungsbereiche von HR-Tech
- Befragung „KI in der Personalarbeit“
- Workshops mit Technologie-Expert*innen
Zeitraum:
Januar 2019 bis Mai 2019
Worum ging es?
Entwicklung von Richtlinien für einen verantwortungsvollen Einsatz von HR-Tech mit Fokus auf KI-Lösungen.
Wie sind wir vorgegangen?
- Entwicklung der Richtlinien für HR-Tech in mehreren Workshops
- Weiterentwicklung der Richtlinien auf Basis des öffentlichen Diskurses
Zeitraum:
Februar 2019 bis Dezember 2019
Worum ging es?
Transparente Kommunikation der Arbeit des Ethikbeirat HR-Tech an die Öffentlichkeit und Dialog mit allen interessierten Interessensgruppen.
Wie sind wir vorgegangen?
- Publikationen auf der Beiratswebsite
- Öffentliche Konsultationsphase für den Entwurf der Richtlinien
- Vorstellung auf relevanten Veranstaltungen
- Informationen und Aufrufe zur Beteiligung in den sozialen Netzwerken
Zeitraum:
- Seit Juni 2019
- Öffentliche Konsultationsphase: Juli 2019 bis September 2019
Worum geht es?
Befähigung von Menschen und Organisationen in der Anwendung der Richtlinien in der Entwicklung und der Nutzung von HR-Tech Lösungen.
Wie gehen wir vor?
- Erarbeitung von Befähigungsmaßnahmen mit Anbietern und Nutzern
- Angebot und Durchführung von Befähigungsmaßnahmen
Zeitraum:
Seit Juli 2019
Technologiefelder
Die durch den Ethikbeirat HR-Tech im öffentlichen Diskurs erarbeiteten Richtlinien sind nicht nur für den Umgang mit der Zukunftstechnologie Künstliche Intelligenz relevant. Im Folgenden eine Übersicht über weitere, für HR relevante Technologiefelder.
Big Data
Analytics
Künstliche Intelligenz
Blockchain
Sharing Economy
Digitale Präsenz
Mitglieder des Ethikbeirat HR Tech
Thomas Belker
DEUTSCHEFACHPFLEGE
Andreas Dittes
Dittes Ventures
Dr. Elke Eller
Entrepreneurin, Beraterin, Coach
Yasmin Fahimi
Deutscher Gewerkschaftsbund – bis 11/23
Prof. Dr. Björn Gaul
CMS Hasche Sigle
Prof. Dr. Christine Harbring
RWTH Aachen
Reiner Hoffmann
Rat für Nachhaltige Entwicklung – bis 10/22
Prof. Dr. Bernd Irlenbusch
Universität zu Köln
Anna Kaiser
Phenom/Tandemploy
Prof. Dr. Martin Kersting
Universität Gießen
Frank Kohl-Boas
Zeit-Verlagsgruppe
Michael H. Kramarsch
hkp///group
Torsten Schneider
Luther Rechtsanwaltsgesellschaft
Prof. Dr. Katharina Simbeck
HTW Berlin – bis 2/23
Reiner Straub
Personalmagazin
Oliver Suchy
Deutscher Gewerkschaftsbund – bis 11/23
Brigitte Zypries
Bundesministerin für Wirtschaft und Energie a.D., Business Angel – bis 3/23
Videos
TUI AG
menschliche Interaktion
Universität zu Köln
Universität Gießen
und das Schlechte vermeiden
Zeit-Verlagsgruppe
drauf steht ist KI drin
DGB
immer wieder überprüfen
Bundesministerin a.D.
der Mensch
Der Ethikbeirat HR-Tech in der Presse
Im Folgenden werden Beiträge gelistet, die konkreten Bezug zum Ethikbeirat HR-Tech haben:
Yasmin Fahimi neues Mitglied im Ethikbeirat HR-Tech Seite 1 – 21.12.2022 (wallstreet-online.de)
» Zum Artikel
Interview: „KI kann Personalteams darin unterstützen, das Potenzial von Menschen zu entdecken“ (Arbeitswelt Portal)
» Zum Artikel
KI in der Personalarbeit: Erst Kulturwandel, dann Regulierung! (Digitale Welt)
» Zum Artikel
Wenn der Algorithmus den Bewerber auswählt – Betriebsräte fordern Regeln für Künstliche Intelligenz (Handelsblatt)
» Zum Artikel
Arbeitnehmervertreter sehen neue Technologien im HR-Bereich oft kritisch (Haufe)
» Zum Artikel
HR-Verantwortliche wünschen sich beim Einsatz von KI ethische Leitplanken (Haufe)
» Zum Artikel
Wenn Computer Bewerber auswählen (FAZ)
» Zum Artikel
KI-Richtlinien für HR: Ethikbeirat stellt finale Fassung vor (Haufe)
» Zum Artikel
Alles zum Ethikbeirat HR Tech (Saatkorn)
» Zum Artikel
Standards im Umgang mit künstlicher Intelligenz (Haufe Online)
» Zum Artikel
Das wird die Personaler 2019 beschäftigen – Dr. Elke Eller im Interview (Haufe Online)
» Zum Interview
Moderne Zeiten in Personalmanagement und Recruiting (Cloud Computing Insider)
» Zum Artikel
Künstliche Intelligenz im Personalwesen (Haufe Online)
» Zum Artikel
Bibliothek
» Künstliche Intelligenz und Arbeitsrecht (Hugo Sinzheimer Institut für Arbeits- und Sozialrecht)
» Künstliche Intelligenz in HR: Mensch vor Maschine (HR Manager)
» Geplapper ohne richtigen Inhalt (Haufe)
» Künstliche Intelligenz auf dem Vormarsch (Haufe)
» Künstliche Intelligenz – der große Zapfenstreich für Führungskräfte? (people&work)
» KI im Recruiting – Emotionen, Ansichten, Erwartungen (Herausgeber: IU Internationale Hochschule)
» Use of Digital Technologies for HR Management in Germany: Survey Evidence (SSRN)
» „Status quo vadis”: Smarte Automatisierung in Human Resources (Börsen-Zeitung)
» Noch lässt sich der Einsatz von KI in HR ethisch gestalten (Human Resources Manager)
» HR tech Number of the Day: AI education (Human Resource Executive)
» Globale Ethik-Studie zur Lösung des Trolley-Problems (MIT Technology Review)
» Künstliche Intelligenz – Wettlauf ohne Ethik (Blätter für deutsche und internationale Politik)
» Ist Österreichs AMS-Algorithmus diskriminierend? (Futurezone)
» Wie man Algorithmen durch Daten weniger diskriminierend machen kann (Tech Xplore)
» KI denkt unternehmerisch – und das ist beunruhigend (The Economist)
» Warum Technologie Tyrannei begünstigt (The Atlantic)
» Auch Algorithmen brauchen Manager (Harvard Business Review)
» Leitfaden für eine KI-Ethik (MIT Sloan Management Review)
» Zehn Kardinalfehler in der Personaldiagnostik (HR Performance)
» Philosophische Nachhilfe für Nerds (FAZ)
» Es gibt kein Big Data in HR (Harvard Business Review)
» Künstliche Intelligenz, Kunst und eine Urheberrechtsproblematik (SZ)
Kontakt
Ihre Ansprechpartner für alle Fragen rund um den Ethikbeirat HR-Tech
Bundesverband der Personalmanager e.V.
Oberwallstraße 24
10117 Berlin
Tel +49 30 84 85 93 00
Thomas Müller
Partner, Head of Marketing & Communication
hkp Deutschland GmbH
Friedrich-Ebert-Anlage 35-37
60327 Frankfurt am Main
Tel +49 69 175 363 323
Fax +49 69 175 363 399
Mobile +49 176 100 88 237