Einsatz von automatisierten Entscheidungssystemen und Künstlicher Intelligenz in der Personalauswahl, Personalverwaltung und Personalentwicklung

[Deutscher Bundestag Drucksache 19/12439 19. Wahlperiode 16.08.2019 Kleine Anfrage der Abgeordneten Jessica Tatti, Susanne Ferschl, Doris Achelwilm, Simone Barrientos, Matthias W. Birkwald, Dr. Birke Bull-Bischoff, Anke Domscheit-Berg, Klaus Ernst, Sylvia Gabelmann, Dr. Achim Kessler, Katja Kipping, Jutta Krellmann, Pascal Meiser, Cornelia Möhring, Dr. Petra Sitte, Harald Weinberg, Katrin Werner, Pia Zimmermann, Sabine Zimmermann (Zwickau) und der Fraktion DIE LINKE. Einsatz von automatisierten Entscheidungssystemen und Künstlicher Intelligenz in der Personalauswahl, Personalverwaltung und Personalentwicklung In Personalauswahlprozessen wird vermehrt Software eingesetzt, die voll- oder teilautomatisiert helfen soll, die „richtigen“ Bewerberinnen und Bewerber zu identifizieren (siehe z. B. Petry, Thorsten (2019): Robot Recruiting: Roboter sucht Kollegen, in: Personalmagazin, Nr. 2/2019, S. 26-29). Die Anwendungsgebiete reichen dabei von Programmen, die Lebensläufe und Zeugnisse auswerten, über Algorithmen, die automatisiert soziale Netzwerke auf passende Kandidatinnen und Kandidaten durchsuchen, bis hin zu Programmen mit Künstlicher Intelligenz, die auf Basis von Video- oder Telefoninterviews automatisiert psychologische Profile der Bewerberinnen und Bewerber erstellen sollen (für Deutschland z. B. Leister, Annika: Vorstand von Computers Gnaden, Frankfurter Rundschau vom 26. Mai 2018). Auch bei Auswahlverfahren von Auszubildenden werden Algorithmen zur Hilfe genommen. So entscheidet in einem Pilotprojekt bei Deloitte ein Algorithmus, wer einen Ausbildungsplatz bekommt (vgl. www.zdf.de/ dokumentation/unheimliche-macht---wie-algorithmen-unser-leben-bestimmen- 102.html, ab Minute 12:27). Einen hohen Bekanntheitsgrad hat beispielsweise in den USA das KI-Programm „HireVue“ (www.hirevue.com/), in Deutschland das KI-basierte „PRECIRE“ (http://precire.com). Das letztgenannte Programm erstellt aufgrund eines rund fünfzehnminütigen automatisierten Telefoninterviews eine Persönlichkeitsanalyse mit einem Ranking zur Passung des Bewerbers (siehe Lorenz, Pia: Sprachanalyse erkennt Persönlichkeit: Precire weiß, was Du letzten Sommer getan hast, Legal Tribune Online vom 27. November 2015). Teil der Interviews seien auch Fragen privater Art und zum Freizeitverhalten, wie z. B. nach dem perfekten Sonntag oder nach den Sorgen der letzten Wochen (z. B. Hummel, Katrin; Deine Sprache verrät dich, Frankfurter Allgemeine Sonntagszeitung vom 20. Mai 2015). Als Grund für den Einsatz der Programme werden unter anderem Kostenersparnisse sowie eine erhoffte Steigerung von Objektivität und Zuverlässigkeit (Müller 2019) genannt. Andere weisen eher auf problematische Folgen hin und kritisieren den Einsatz dieser Programme, so z. B. aus datenschutzrechtlicher sowie methodischer Sicht (für viele: Lischka/Klingel 2017, S. 23; Grimm, Detlef; Göbel, Malte (2018): Das Arbeitnehmerdatenschutzrecht in der DSGVO und dem BDSG neuer Fassung, in: jM 2018, S. 278-285). Zuletzt hat der neu gegründete „Ethikbeirat HR-Tech“ dem Einsatz von KI widersprochen, sofern Daten verwendet werden, die der willentlichen Steuerung der Betroffenen entzogen sind, etwa Sprach-, Stimm- und Mimikanalysen (Bös, Nadine: Wenn Computer Bewerber auswählen, Frankfurter Allgemeine vom 2. Juli 2019, www.faz.net/aktuell/beruf-chance/beruf/neuer-ethikbeirat-wenn- computer-bewerber-auswaehlen-16257834.html?printPagedArticle=true#void). Umfragen zeigen zudem, dass potentielle Bewerberinnen und Bewerber dem Thema sehr kritisch gegenüberstehen: Lediglich 2 Prozent der befragten Personen gab an, dass sie den Einsatz Künstlicher Intelligenz zur Persönlichkeitsanalyse akzeptabel fänden (Petry 2019). Neben dem Einsatz in Personalauswahlverfahren werden teil- oder vollautomatisierte Entscheidungsprogramme sowie Big-Data-Analysen auch in der Personalverwaltung und -entwicklung in Unternehmen eingesetzt. Diese werden oft unter dem Begriff „Personal Analytics“ bzw. „People Analytics“ zusammengefasst (vgl. Kornwachs, Klaus (2018): Arbeit 4.0 – People Analytics – Führungsinformationssysteme. Soziologische, psychologische, wissenschaftsphilosophischethische Überlegungen zum Einsatz von Big Data in Personalmanagement und Personalführung. Münster: ABIDA). Personal Analytics wertet Leistungsverläufe aus, soll Leistungsabfälle und individuelle Potentiale der Mitarbeiterinnen und Mitarbeiter aufzeigen. Gemein ist allen Programmen, dass sie die gesamten Historien der Beschäftigten lückenlos dokumentieren und verfügbar machen (ebd.). Die personenbezogenen Daten werden mit anderen Daten verschiedenster Herkunft verknüpft, die die Mitarbeiterinnen bzw. Mitarbeiter und Maschinen während der Arbeit erzeugen. Diese Daten können zur Überwachung, zur Kontrolle, aber auch zur Beeinflussung des Verhaltens und zur Personalbewertung eingesetzt werden. Längerfristig soll People Analytics Prognosen zur Mitarbeiterzufriedenheit und -gewinnung ermöglichen und der Entwicklung von Führungsstrategien dienen. Personalkapazitäten sollen noch flexibler und effizienter planbar werden (Predictive und Prescriptive Analytics, a. a. O.: 100-143). Aus den USA sind Fälle von Unternehmen bekannt geworden, die diese Art von Software nutzen, um mittels laufender Überwachung der Arbeitsleistung „ineffiziente“ Mitarbeiterinnen und Mitarbeiter zu identifizieren und zu entlassen (so z. B. Lecher, Colin (2019): How Amazon automatically tracks and fires warehouse workers for ‚productivity‘. Documents show how the company tracks and terminates workers, in: The Verge, April 25, 2019). Wir fragen die Bundesregierung: 1. Plant die Bundesregierung, die automatisierte Erstellung von Persönlichkeitsprofilen, wie dies z. B. durch „Precire“ erfolgt, als Profiling im Sinne des Artikel 4 Nummer 4 der Datenschutz-Grundverordnung (DSGVO) detaillierter zu regeln? Wenn ja, wie? 2. Hält die Bundesregierung die Erstellung von Persönlichkeitsprofilen zum Zweck der Bewerberauswahl durch voll- bzw. teilautomatisierte Programme wie z. B. „Precire“ für zulässig und von den datenschutzrechtlichen Vorschriften her legal? Falls ja, welche Rechtsgrundlage enthält die Zulässigkeit zur Erstellung von Persönlichkeitsprofilen, welche Einschränkungen und Schranken sieht die Bundesregierung, und plant die Bundesregierung hierzu eine Änderung der gesetzlichen Grundlagen, zum Beispiel im Rahmen eines speziellen Beschäftigtendatenschutzgesetzes? Falls nein, plant die Bundesregierung hierzu eine Änderung der gesetzlichen Grundlagen, zum Beispiel im Rahmen eines speziellen Beschäftigtendatenschutzgesetzes? 3. Entsprechen nach Ansicht der Bundesregierung die Personalauswahlverfahren, die auf Erkenntnisse von KI-Programmen und Big-Data-Analysen zurückgreifen, wie z. B. „Precire“, den grundlegenden Standards der Eignungsdiagnostik (vgl. etwa die Kritik von Kanning, Uwe (2018): Fachbuch im Fokus: Stulle, Klaus P. (Hrsg.): Psychische Diagnostik durch Sprachanalyse. Verfügbar über www.wirtschaftspsychologie-aktuell.de/fachbuch/ 20180425-klaus-stulle-psychologische-diagnostik-durch-sprachanalyse.html, Zugriff am 18. April 2019)? 4. Kann eine Einwilligung einer Bewerberin bzw. eines Bewerbers nach Ansicht der Bundesregierung „freiwillig“ im Sinne des § 26 Absatz 2 Satz 2 des Bundesdatenschutzgesetzes (BDSG) sein, falls das eingesetzte Programm zum Persönlichkeitsprofiling nicht den eignungsdiagnostischen Verfahrensstandards entspricht? Kann eine Einwilligung einer Bewerberin bzw. eines Bewerbers nach Ansicht der Bundesregierung vor dem Hintergrund des „Kopplungsverbots“ (vgl. § 26 BDSG Rn. 30) „freiwillig“ im Sinne des § 26 Absatz 2 Satz 2 BDSG sein? 5. Stimmt die Bundesregierung der Einschätzung von Grimme/Göbel (2018: 282) zu, dass der Einsatz von Software wie Precire bereits dann unzulässig ist, wenn Eigenschaften wie depressives Verhalten mitanalysiert werden, da dies eine Diskriminierung wegen einer Behinderung darstelle (Verbot nach §§ 1, 7 des Allgemeinen Gleichbehandlungsgesetzes – AGG –, vgl. EuGH, Urt. v. 11.04.2014 – C-335/11)? Falls nein, warum hält die Bundesregierung die Argumentation nicht für richtig? 6. Hält die Bundesregierung die Mitbestimmungsrechte von Betriebsräten bei der Einführung bzw. Durchführung von Bewerberauswahlprozessen, die sich voll oder teilweise auf a) KI-Systeme bzw. b) Big-Data-Analysen stützen, für ausreichend, oder plant sie weitere Regelungen? 7. Hat die Bundesregierung Studien in Auftrag gegeben oder sind der Bundesregierung durchgeführte Studien bekannt, die sich mit den möglichen gesundheitlichen und sozialen Folgen für die Belegschaft durch den Einsatz von KI-unterstützten Softwares in der Personalverwaltung („Personal Analytics“ und/oder „People Analytics“, vgl. Kornwachs 2018) auseinandersetzen? Falls ja, welche Studien sind der Bundesregierung bekannt, und zu welchen wesentlichen Erkenntnissen sind diese gekommen? Falls nein, plant die Bundesregierung solche Studien in Auftrag zu geben, und mit welchen wesentlichen Forschungsfragen? 8. Hat nach Kenntnis der Bundesregierung der Betriebsrat ein generelles Initiativ- und Mitbestimmungsrecht bei der Nutzung personenbezogener Daten im betrieblichen Kontext, z. B. wenn das Unternehmen eine KI-unterstützte oder Big-Data-getriebene Software in der Personalverwaltung („Personal Analytics“ und/oder „People Analytics“, vgl. Kornwachs 2018) einführt oder einsetzt? Falls ja, nach welcher gesetzlichen Grundlage? Falls nein, sieht die Bundesregierung diesbezüglich einen politischen und gesetzgeberischen Handlungsbedarf (Stichworte: „Gute Arbeit by design“, Beschäftigtendatenschutzgesetz)? 9. Wo sieht die Bundesregierung „rote Linien“, die ein Unternehmen bezüglich der Überwachung ihrer Belegschaft sowie der Aufzeichnung und Generierung personenbezogener Persönlichkeitsdaten nicht überschreiten darf, beispielsweise bezüglich der Erstellung von Persönlichkeitsprofilen oder der Messung, Speicherung und Verarbeitung von Daten zu den Emotionen der Beschäftigten? Welche konkreten Handlungen plant die Bundesregierung, um die Überschreitung dieser „roten Linien“ für die Zukunft verhindern zu können? 10. Hat die Bundesregierung Kenntnis, welche Unternehmen teil- oder vollautomatisierte Programme zur Rekrutierung von Auszubildenden („Personal Analytics“ und/oder „People Analytics“, vgl. Kornwachs 2018) einsetzen oder erproben, und falls ja, a) welchen Umfang bzw. welche Funktionalität hatte bzw. hat die eingesetzte Software, b) wo wird bzw. wurde die Software eingesetzt, c) von wem stammt bzw. stammte diese Software (Hersteller), d) wurde der Einsatz zuvor durch eine Datenschutzstelle bewertet, und zu welchem Ergebnis kam diese Stelle, e) wurde dem Einsatz zuvor durch den Personal- bzw. Betriebsrat zugestimmt, sowie f) wurde die Einführung intern oder extern evaluiert, und zu welchem Ergebnis bzw. zu welchen Folgerungen kam die Evaluation (bitte für jedes Programm bzw. für jede Funktionalität getrennt darstellen)? 11. Setzt die Bundesregierung oder eine ihrer nachgelagerten Bundesbehörden in Bewerberauswahlprozessen teil- oder vollautomatisierte Vorauswahlverfahren (z. B. automatisierte Auswertung von Lebensläufen) und/oder Text- und Sprachanalysesoftware (wie z. B. „Precire“ oder Ähnliche) ein oder erprobt den Einsatz oder hat den Einsatz erprobt, und falls ja, a) welchen Umfang bzw. welche Funktionalität hatte bzw. hat die eingesetzte Software, b) in welcher bzw. welchen Behörden oder Bundesministerien wird bzw. wurde die Software eingesetzt, c) von wem stammt bzw. stammte diese Software (Hersteller), d) wurde der Einsatz zuvor durch eine Datenschutzstelle bewertet, und zu welchem Ergebnis kam diese Stelle, e) wurde dem Einsatz zuvor durch den Personal- bzw. Betriebsrat zugestimmt, sowie f) wurde die Einführung intern oder extern evaluiert, und zu welchem Ergebnis bzw. zu welchen Folgerungen kam die Evaluation (bitte für jedes Programm bzw. für jede Funktionalität getrennt darstellen)? Falls nein, warum hat sich die Bundesregierung bzw. warum haben sich nach Kenntnis der Bundesregierung die nachgelagerten Bundesbehörden gegen eine Erprobung bzw. einen Einsatz derartiger Programme entschieden? 12. Setzt die Bundesregierung oder eine ihrer nachgelagerten Bundesbehörden in teil- oder vollautomatisierte Programme in der Personalverwaltung und Personalentwicklung („Personal Analytics“ und/oder „People Analytics“, vgl. Kornwachs 2018) ein oder erprobt den Einsatz oder hat den Einsatz erprobt, und falls ja, a) welchen Umfang bzw. welche Funktionalität hatte bzw. hat die eingesetzte Software, b) in welcher bzw. welchen Behörden oder Bundesministerien wird bzw. wurde die Software eingesetzt, c) von wem stammt bzw. stammte diese Software (Hersteller), d) wurde der Einsatz zuvor durch eine Datenschutzstelle bewertet, und zu welchem Ergebnis kam diese Stelle, e) wurde dem Einsatz zuvor durch den Personal- bzw. Betriebsrat zugestimmt, sowie f) wurde die Einführung intern oder extern evaluiert, und zu welchem Ergebnis bzw. zu welchen Folgerungen kam die Evaluation (bitte für jedes Programm bzw. für jede Funktionalität getrennt darstellen)? Falls nein, warum hat sich die Bundesregierung bzw. warum haben sich nach Kenntnis der Bundesregierung die nachgelagerten Bundesbehörden gegen eine Erprobung bzw. einen Einsatz derartiger Programme entschieden? 13. Setzt nach Kenntnis der Bundesregierung die Bundesagentur für Arbeit bzw. setzen die Jobcenter (gemeinsame Einrichtungen) für die eigenen Personalauswahlprozesse teil- oder vollautomatisierte Vorauswahlverfahren (z. B. automatisierte Auswertung von Lebensläufen) und/oder Text- und Sprachanalysesoftware (wie z. B. „Precire“ oder ähnliche) ein, oder wird oder wurde der Einsatz erprobt, und falls ja, a) welchen Umfang bzw. welche Funktionalität hatte bzw. hat die eingesetzte Software, b) wo wird bzw. wurde die Software eingesetzt, c) von wem stammt bzw. stammte diese Software (Hersteller), d) wurde der Einsatz zuvor durch eine Datenschutzstelle bewertet, und zu welchem Ergebnis kam diese Stelle, e) wurde dem Einsatz zuvor durch den Personal- bzw. Betriebsrat zugestimmt, sowie f) wurde die Einführung intern oder extern evaluiert, und zu welchem Ergebnis bzw. zu welchen Folgerungen kam die Evaluation (bitte für jedes Programm bzw. für jede Funktionalität getrennt darstellen)? Falls nein, warum hat sich nach Kenntnis der Bundesregierung die Bundesagentur für Arbeit gegen eine Erprobung bzw. einen Einsatz derartiger Programme entschieden? 14. Setzt nach Kenntnis der Bundesregierung die Bundesagentur für Arbeit bzw. setzen die Jobcenter (gemeinsame Einrichtungen) teil- oder vollautomatisierte Programme in der Personalverwaltung und Personalentwicklung („Personal Analytics“ und/oder „People Analytics“, vgl. Kornwachs 2018) ein, oder wird oder wurde der Einsatz erprobt, und falls ja, a) welchen Umfang bzw. welche Funktionalität hatte bzw. hat die eingesetzte Software, b) wo wird bzw. wurde die Software eingesetzt, c) von wem stammt bzw. stammte diese Software (Hersteller), d) wurde der Einsatz zuvor durch eine Datenschutzstelle bewertet, und zu welchem Ergebnis kam diese Stelle, e) wurde dem Einsatz zuvor durch den Personal- bzw. Betriebsrat zugestimmt, sowie f) wurde die Einführung intern oder extern evaluiert, und zu welchem Ergebnis bzw. zu welchen Folgerungen kam die Evaluation (bitte für jedes Programm bzw. für jede Funktionalität getrennt darstellen)? Falls nein, warum hat sich nach Kenntnis der Bundesregierung die Bundesagentur für Arbeit gegen eine Erprobung bzw. einen Einsatz derartiger Programme entschieden? 15. Setzt nach Kenntnis der Bundesregierung die Bundesagentur für Arbeit teiloder vollautomatisierte Programme, z. B. zur automatisierten Auswertung von Lebensläufen, und/oder Text- und Sprachanalysesoftware, wie z. B. „Precire“ oder ähnliche, gegenüber ihren Kundinnen und Kunden nach dem Dritten Buch Sozialgesetzbuch (SGB III) ein, oder wird oder wurde der Einsatz erprobt, und falls ja, a) welchen Umfang bzw. welche Funktionalität hatte bzw. hat die eingesetzte Software, b) wo wird bzw. wurde die Software eingesetzt, c) von wem stammt bzw. stammte diese Software (Hersteller), d) wurde der Einsatz zuvor durch eine Datenschutzstelle bewertet, und zu welchem Ergebnis kam diese Stelle, e) ist der Einsatz den davon betroffenen Kundinnen und Kunden vorab bekannt, f) ist der Einsatz für die davon betroffenen Kundinnen und Kunden freiwillig, g) welchen Zweck verfolgt der Einsatz jeweils, sowie h) wurde die Einführung intern oder extern evaluiert, und zu welchem Ergebnis bzw. zu welchen Folgerungen kam die Evaluation (bitte für jedes Programm bzw. für jede Funktionalität getrennt darstellen)? Falls nein, warum hat sich nach Kenntnis der Bundesregierung die Bundesagentur für Arbeit gegen eine Erprobung bzw. einen Einsatz derartiger Programme entschieden? Sind Erprobungen in der Zukunft geplant oder werden diese erwogen? 16. Setzen nach Kenntnis der Bundesregierung die Jobcenter teil- oder vollautomatisierte Programme, z. B. zur automatisierten Auswertung von Lebensläufen, und/oder Text- und Sprachanalysesoftware, wie z. B. „Precire“ oder ähnliche, gegenüber ihren Kundinnen und Kunden nach dem Zweiten Buch Sozialgesetzbuch (SGB II) ein, oder wird oder wurde der Einsatz erprobt (bitte für Jobcenter – gemeinsame Einrichtungen – und Jobcentern in kommunaler Trägerschaft getrennt darstellen)? Falls ja, a) welchen Umfang bzw. welche Funktionalität hatte bzw. hat die eingesetzte Software, b) wo wird bzw. wurde die Software eingesetzt, c) von wem stammt bzw. stammte diese Software (Hersteller), d) wurde der Einsatz zuvor durch eine Datenschutzstelle bewertet, und zu welchem Ergebnis kam diese Stelle, e) ist der Einsatz den davon betroffenen Kundinnen und Kunden vorab bekannt, f) ist der Einsatz für die davon betroffenen Kundinnen und Kunden freiwillig, g) welchen Zweck verfolgt der Einsatz jeweils, sowie h) wurde die Einführung intern oder extern evaluiert, und zu welchem Ergebnis bzw. zu welchen Folgerungen kam die Evaluation (bitte für jedes Programm bzw. für jede Funktionalität getrennt darstellen)? Falls nein, warum haben sich nach Kenntnis der Bundesregierung die Jobcenter gegen eine Erprobung bzw. einen Einsatz derartiger Programme entschieden? Sind Erprobungen in der Zukunft geplant oder werden diese erwogen? Berlin, den 29. Juli 2019 Dr. Sahra Wagenknecht, Dr. Dietmar Bartsch und Fraktion Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333]