Künstliche Intelligenz im Geschäftsbereich der Bundesregierung
der Abgeordneten Anke Domscheit-Berg, Dr. Petra Sitte, Nicole Gohlke, Gökay Akbulut, Ina Latendorf, Dr. Gesine Lötzsch, Pascal Meiser, Żaklin Nastić, Sören Pellmann, Victor Perli und der Fraktion DIE LINKE.
Vorbemerkung
Methoden der Künstlichen Intelligenz (im Folgenden: KI) finden seit Jahren stetig mehr Einzug in Bereiche, die das alltägliche Leben beeinflussen und werden auch zukünftig eine entscheidende Rolle in der Gesellschaft, der öffentlichen Verwaltung sowie der Wirtschaft einnehmen.
Beim Einsatz von KI wird jedoch häufig fälschlicherweise davon ausgegangen, dass technische Lösungen neutral sind und weniger fehleranfällig als menschliche Entscheidungsprozesse. Doch KI-Lösungen werden weder frei von partikularen Interessen entwickelt und eingesetzt noch sind die genutzten Daten, mit denen KI-Systeme vorweg bzw. fortlaufend trainiert werden, neutralen Ursprungs. Die Daten sind häufig geprägt von gesellschaftlichen Vorurteilen (sog. bias). Außerdem sind zentrale Fragen nach gesellschaftlichen, rechtlichen sowie politischen Ordnungsrahmen weiterhin ungeklärt. Hier sollte auch die Zivilgesellschaft verstärkt frühzeitig, noch breiter und intensiver einbezogen werden.
Im November 2018 beschloss die damalige Bundesregierung zwar ihre Strategie Künstliche Intelligenz (s. Bundestagsdrucksache 19/5880) und stellte zunächst 3 Mrd. Euro (bis 2025) bereit. Doch selbst die im Dezember 2020 aktualisierte Strategie beinhaltete nicht die zahlreichen Handlungsempfehlungen für den öffentlichen Sektor des Abschlussberichts (s. Bundestagsdrucksache 19/23700) der Enquete-Kommission KI sowie der Datenethikkommission.
Zuletzt legte die Europäische Kommission im April 2021 einen Entwurf zu Regulierung von KI vor (COM/2021/206 final), um sicherzustellen, „dass die Europäerinnen und Europäer dem vertrauen können, was die KI zu bieten hat. Verhältnismäßige und flexible Vorschriften werden den spezifischen Risiken gerecht, die von KI-Systemen ausgehen, und werden die weltweit höchsten Standards setzen“ (s. https://ec.europa.eu/commission/presscorner/detail/de/ip_21_1682, letzter Zugriff: 17. November2021).
Doch noch bevor die KI-Strategie, der Abschlussbericht der Enquete-Kommission oder der neue Ordnungsrahmen der Europäischen Kommission beschlossen wurden, hat die Bundesregierung bereits damit begonnen, KI-Projekte im öffentlichen Sektor zu pilotieren oder zu realisieren. Dies geht bereits aus der Antwort der Bundesregierung auf die Schriftlichen Fragen 7 bis 10 der Abgeordneten Saskia Esken auf Bundestagsdrucksache 19/605 hervor).
Offen ist jedoch, inwieweit seitdem die Empfehlungen der Enquete-Kommission, Datenethikkommission und der EU in der weiteren Umsetzung von KI-Projekten berücksichtigt wurden.
Wir fragen die Bundesregierung:
Fragen11
Welche Bundesministerien (inklusive Bundeskanzleramt sowie nachgeordnete Behörden) setzen aktuell auf automatisierte Entscheidungsprozesse und Mustererkennungen, Künstliche Intelligenz (KI), und in welchen dortigen Abteilungen kommen diese konkret und wofür zur Anwendung (bitte die Antworten auf alle Fragen zum besseren Verständnis jeweils für jedes Bundesministerium inklusive Bundeskanzleramt sowie nachgeordnete Behörden separat nach Geschäftsbereich aufführen)?
In welchen Bundesministerien (inklusive Bundeskanzleramt sowie jeweils nachgeordnete Behörden) und wofür findet der Einsatz besagter Anwendungen statt, und wo sowie wofür ist der Einsatz zukünftig geplant?
Welche technischen Verfahren (insbesondere unterschieden zwischen automatisierten Verfahren und Anwendungen des Maschinenlernens) kommen dabei jeweils zum Einsatz?
Welche Art von Ergebnissen wird von den o. g. Systemen bzw. Anwendungen produziert (breit interpretiert, aber z. B. Entscheidung, Entscheidungsvorschlag bzw. Empfehlung, Bewertung z. B. von Risiken, Mustererkennung etc.), und werden die Entscheidungen schlussendlich vollautomatisiert oder durch einen Menschen getroffen (bitte nach Anwendung bzw. System in den jeweiligen Abteilungen in den Bundesministerien, inklusive Bundeskanzleramt sowie nachgeordnete Behörden auflisten)?
Auf welcher Datenbasis werden dabei jeweils welche Ergebnisse produziert, und soweit es sich um Anwendungen des Maschinenlernens handelt, auf Grundlage welcher Daten werden besagte Anwendungen trainiert?
Werden oder wurden Risikoklassenmodelle angewendet, um Entscheidungen für oder gegen den Einsatz eines selbstlernenden Systems zu treffen?
Wenn ja, welches Risikoklassenmodell wurde bzw. welche Risikoklassenmodelle wurden angewendet, und in jeweils welchen Fällen?
In welchen dieser Fälle kam es nach Bewertung mittels Risikoklassenmodell zu einer Entscheidung gegen den Einsatz eines selbstlernenden Systems, und warum?
Sind die o. g. Systeme bzw. Anwendungen intern oder extern entwickelt und trainiert worden (bitte nach System bzw. Anwendung, Auftraggeber, Auftragnehmer, Jahr sowie Kosten und Umfang der Leistung aufschlüsseln)?
Falls extern, wurden die Systeme bzw. Anwendungen ausgeschrieben, und wenn nein, bitte die Begründung beifügen?
An welchen weiteren Forschungsvorhaben, Pilotprojekten und Reallaboren zur Thematik automatisierter Entscheidungsprozesse sowie automatisierter Mustererkennungen und Künstlicher Intelligenz beteiligten sich die Bundesministerien (inklusive Bundeskanzleramt und nachgeordnete Behörden) bzw. initiierten oder unterstützten sie diese in der vergangenen 19. Wahlperiode (bitte tabellarisch für jedes Bundesministerium, inklusive Bundeskanzleramt sowie nachgeordnete Behörden, nach Forschungsvorhaben, Pilotprojekt und/oder Reallabor, Kosten sowie Jahr bitte nach Beginn und Ende – aufschlüsseln)?