Einsatz Künstlicher Intelligenz im Geschäftsbereich der Bundesregierung
der Abgeordneten Anke Domscheit-Berg, Dr. Petra Sitte, Nicole Gohlke, Gökay Akbulut, Clara Bünger, Dr. André Hahn, Susanne Hennig-Wellsow, Ina Latendorf, Cornelia Möhring, Petra Pau, Sören Pellmann, Heidi Reichinnek, Kathrin Vogler und der Fraktion DIE LINKE.
Vorbemerkung
Methoden der Künstlichen Intelligenz (im Folgenden: KI) finden seit Jahren als Querschnittsthema stetig mehr Einzug in Bereiche, die das alltägliche Leben beeinflussen und werden auch zukünftig eine entscheidende Rolle in der Gesellschaft, der öffentlichen Verwaltung sowie der Wirtschaft einnehmen.
Besondere Aufmerksamkeit erhalten zurzeit generative KI-Anwendungen wie Dall-E, Stable Diffusion oder das Sprachmodell ChatGPT von Open AI, welche in kürzester Zeit millionenfache Zugriffe weltweit verzeichnen. Es ist davon auszugehen, dass auch diese KI-Systeme in der Verwaltung eine größere Rolle spielen werden.
Beim Einsatz von KI wird jedoch häufig fälschlicherweise davon ausgegangen, dass technische Lösungen neutral sind und weniger fehleranfällig als menschliche Entscheidungsprozesse. Doch KI-Lösungen werden weder frei von partikularen Interessen entwickelt und eingesetzt, noch sind die genutzten Daten, mit denen KI-Systeme vorweg bzw. fortlaufend trainiert werden, neutralen Ursprungs. Die Daten sind häufig geprägt von gesellschaftlichen Vorurteilen (sogenanntes bias). Außerdem sind zentrale Fragen nach gesellschaftlichen, rechtlichen sowie politischen Ordnungsrahmen weiterhin ungeklärt. Zwar wird mit der europäischen KI-Verordnung aktuell die dringend nötige Rechtsgrundlage für den Einsatz von KI geschaffen, doch dauern die Verhandlungen zwischen EU-Rat und EU-Parlament noch an und es ist ungewiss, wann die Verordnung in Kraft tritt. Und auch dann werden nach jetzigem Verhandlungsstand KI-Einsätze unreguliert bleiben, die bei Inkrafttreten der Verordnung bereits begonnen haben. Es ist daher insbesondere im Bereich der Hochrisiko-Anwendungen und der Anwendungen, die durch den Staat eingesetzt werden, wichtig, die Nutzung und ihre Folgen zu beobachten, sowie, falls erforderlich, Konsequenzen daraus zu ziehen.
Hierbei und auch bei der weiteren Verhandlung zur KI-Verordnung sollten auch die Wissenschaft sowie die Zivilgesellschaft breiter und intensiver einbezogen werden, denn es braucht mehr öffentliche Debatte und breitere Aufklärung zu den Möglichkeiten, allerdings auch zu den Risiken der KI-Technologie.
Die letzte Kleine Anfrage der Fraktion DIE LINKE. im Deutschen Bundestag im Januar 2022 ergab, dass sich bereits über 80 KI-Anwendungen im Geschäftsbereich der Bundesregierung im Einsatz befinden (s. Antworten der Bundesregierung auf die Kleinen Anfragen der Fraktion DIE LINKE. auf Bundestagsdrucksachen 20/430 sowie 20/3020), ohne dass die zahlreichen Handlungsempfehlungen für den öffentlichen Sektor des Abschlussberichts der Enquete-Kommission KI (s. Bundestagsdrucksache 19/23700), der Datenethik-Kommission sowie der Plattform Lernende Systeme hinsichtlich der Entwicklung und Anwendung eines Risikoklassenmodells sowie weiterer Kritikalitätsbewertungen Anwendung fanden.
Nach Auffassung der Fragestellenden verfestigt sich so der Gesamteindruck, dass der Einsatz Künstlicher Intelligenz im Geschäftsbereich der Bundesregierung ohne systematische Risikoabwägungen, Schutz vor Diskriminierung und ohne Evaluation in Bezug auf Effizienz, Grundrechteschutz und etwaige „Nebenwirkungen“ erfolgt. Diese Entwicklung ist besonders beim Einsatz solcher Systeme besorgniserregend, die vom EU-Rat als Hochrisiko-Anwendungen klassifiziert werden (data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/de/pdf, S. 198–201, Anhang III Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 3).
Deutlich weniger Beachtung findet insgesamt in der KI-Debatte jedoch der hohe Energieverbrauch für das Training sowie den Betrieb der KI-Modelle, was jedoch insbesondere dann unerlässlich ist, wenn, wie zu erwarten, KI-Anwendungen einen breiteren Einzug in weitere Lebensbereiche erhalten.
Der schnell wachsende Trend zu immer komplexeren Maschine-Learning-Modellen und der zunehmende Bedarf an Rechenleistungen für das Training moderner KI-Systeme muss daher begleitet werden von belastbaren Daten, um ihren Energieverbrauch zu veranschaulichen und in Kosten-Nutzen-Erwägungen sowie Berechnungen von Klimawirkungen einzubeziehen. Bei Nutzung eigener KI-Systeme bzw. KI-Anwendungen sollte die Bundesregierung ein positives Beispiel sein, um mehr Transparenz sowie mehr Bewusstsein für ein nachhaltiges maschinelles Lernen zu schaffen, z. B. indem verpflichtende Herstellerangaben zu Energieverbrauch und Treibhausgasemissionen in der KI-Modellentwicklung sowie KI-Anwendung erhoben werden und diese als Kriterium bei der Beschaffung verpflichtend berücksichtigt werden.
Wir fragen die Bundesregierung:
Fragen14
Welche Bundesministerien (inklusive Bundeskanzleramt sowie nachgeordnete Behörden) setzen aktuell auf (teil-)automatisierten Entscheidungsprozesse und Mustererkennungen, Künstliche Intelligenz (KI) und in welchen dortigen Abteilungen kommen diese konkret und wofür zur Anwendung (bitte die Antworten auf alle Fragen zum besseren Verständnis jeweils für jedes Bundesministerium inklusive Bundeskanzleramt sowie nachgeordneten Behörden separat nach Geschäftsbereich aufführen, wie in der Antwort auf Bundestagsdrucksache 20/430)?
a) In welchen Bundesministerien (inklusive Bundeskanzleramt sowie jeweils nachgeordneten Behörden) und wofür findet der Einsatz mit einem oder mehreren der besagten Verfahren statt, und wo sowie wofür ist der Einsatz zukünftig geplant?
b) Welche Verfahren kommen dabei jeweils zum Einsatz, und welches Problem soll das jeweilige Verfahren lösen?
c) Welche Art von Ergebnissen wird von o. g. Systemen bzw. Anwendungen produziert (breit interpretiert, aber z. B. Entscheidung, Entscheidungsvorschlag bzw. Empfehlung, Bewertung z. B. von Risiken, Mustererkennung etc.), und werden etwaige Entscheidungen vollautomatisiert oder durch einen Menschen getroffen (bitte nach Anwendung bzw. System in jeweiligen Abteilungen in Bundesministerien, inklusive Bundeskanzleramt sowie nachgeordneten Behörden auflisten)?
d) Auf welcher Datenbasis werden dabei jeweils welche Ergebnisse produziert, bzw. auf Grundlage welcher Daten werden besagte Anwendungen trainiert?
e) Wurden die Daten für die im Einsatz befindlichen automatisierten Entscheidungsprozesse, Mustererkennungen und/oder Künstliche Intelligenz unter Berücksichtigung der gesetzlichen Zweckbindung erhoben, sofern eine rechtliche Zweckbindung erforderlich ist, und falls nein, aus welcher oder welchen anderen Quellen stammen die Daten?
f) Wie wurden die Entscheiderinnen und Entscheider der o. g. Systeme bzw. Anwendungen geschult, um das System auswählen, bewerten und anwenden zu können? Welche Kompetenzen plant die Bundesregierung hier jeweils aufzubauen?
g) Wie wurden die Nutzerinnen und Nutzer der o. g. Systeme bzw. Anwendungen geschult, um das System auswählen, bewerten und anwenden zu können? Welche Kompetenzen plant die Bundesregierung hier jeweils aufzubauen?
h) Inwiefern wird der Energieverbrauch und/oder werden andere Nachhaltigkeitskriterien bei der Auswahl der o. g. Systeme bzw. Anwendungen erfasst, und in welchen Fällen werden derartige Kriterien verpflichtend berücksichtigt (bitte für jedes o. g. System bzw. jede Anwendung die einzelnen Nachhaltigkeitskriterien nennen und jeweils explizit angeben, wenn keine derartigen Kriterien erfasst bzw. berücksichtigt wurden)?
Erwägt die Bundesregierung den Einsatz von generativen KI-Anwendungen (z. B. ChatGPT oder ähnliche Programme), entwickelt und/oder testet sie diese bereits, und falls ja, wofür?
Wie oft hat die Bundesregierung die zuständigen parlamentarischen Gremien über KI-Anwendungen der Sicherheitsbehörden bereits unterrichtet (bitte nach kontaktierten Gremien und Häufigkeit in der 20. Wahlperiode des Deutschen Bundestages aufschlüsseln)?
Für welche der Anwendungen wurde welches Risikoklassenmodell angewendet, welche Klassifizierung wurde für das System vorgenommen oder welche andere Art der Technikfolgenabschätzung wurde mit welchem Ergebnis vorgenommen?
Sind die o. g. Systeme bzw. Anwendungen intern oder extern entwickelt und trainiert worden (bitte nach System bzw. Anwendung, Auftraggeber, Auftragnehmer, Jahr sowie Kosten und Umfang der Leistung aufschlüsseln)?
a) Falls extern, wurden die Systeme bzw. Anwendungen ausgeschrieben (wenn nein, bitte begründen)?
Wie und in welchen Anwendungen finden Evaluierungen der Algorithmen-basierten Entscheidungen, automatisierten Mustererkennungen und Künstlichen Intelligenz statt (bitte nach Bundesministerien und nachgelagerten Behörden, Angabe zur Evaluierung bzw. Evaluationsergebnis in wesentlichen Punkten sowie Angabe zur Veröffentlichung tabellarisch aufschlüsseln, s. Bundestagsdrucksache 20/2693)?
a) Wer hat die Evaluierung durchgeführt (falls keine Evaluation durchgeführt wurde bzw. geplant ist, bitte begründen)?
b) Wurde bzw. wird das vollständige Ergebnis der Evaluierung veröffentlicht (falls nein, bitte begründen), und wenn ja, wo ist es zu finden?
An welchen weiteren Forschungsvorhaben, Pilotprojekten und Reallaboren zur Thematik (teil)automatisierte Entscheidungsprozesse sowie automatisierte Mustererkennungen und Künstliche Intelligenz beteiligen sich die Bundesministerien (inklusive Bundeskanzleramt und nachgeordnete Behörden) bzw. initiieren oder unterstützen diese seit Beginn der 20. Wahlperiode (bitte tabellarisch für jedes Bundesministerium, inklusive Bundeskanzleramt sowie nachgeordneten Behörden, nach Forschungsvorhaben, Pilotprojekt und/oder Reallabor, Kosten und Gesamtkosten sowie Jahr [Beginn und Ende] wie in der Antwort der Bundesregierung auf Bundestagsdrucksache 20/430 aufschlüsseln), und inwiefern ist eine Abschätzung des Treibhausgaseffekts und möglicher Rebound-Effekte durch den Einsatz der KI eine Förderbedingung?
Auf welche Förderprogramme und Haushaltstitel verteilen sich die im Rahmen der Strategie Künstliche Intelligenz bisher bewilligten und gebundenen Mittel (bitte nach zuständigem Ressort und Haushaltsjahr, nach Programmlaufzeit und Budget aufschlüsseln), und wie viele dieser Mittel sind zum Zeitpunkt der Kleinen Anfrage bereits abgeflossen?
Wie lautet der aktuelle Stand der Prüfung der Bundesregierung zum Aufbau eines Beratungs- und Evaluierungszentrums für Künstliche Intelligenz (Arbeitstitel „BEKI“), der Algorithmenbewertungsstelle für Behörden und Organisationen mit Sicherheitsaufgaben (Projekt „ABOS“; für beide s. Antwort der Bundesregierung auf die Schriftliche Frage 83 der Abgeordneten Anke Domscheit-Berg auf Bundestagsdrucksache 20/1355 bzw. Antwort der Bundesregierung auf Bundestagsdrucksache 20/3020) sowie des in der Datenstrategie angekündigten Aufbaus eines KI-Kompetenzzentrums für die öffentliche Verwaltung?
Wie lautet der aktuelle Stand der Test- bzw. Untersuchungsphase, in der KI-Potenziale im Bereich der obersten Bundesbehörden geprüft werden sollen und deren Bestandteil auch explizit die Entwicklung passender Risikoklassenmodelle ist (s. Antwort der Bundesregierung zu Frage 9 auf Bundestagsdrucksache 20/3020)?
Welche Bund-Länder-Gremien gibt es, in denen sich Bund und Länder über die Planung, den Einsatz, die Evaluierung und mögliche Risiken, Fehler oder Optimierungsbedarfe beim Einsatz von KI-Anwendungen abstimmen?
Welche Kenntnisse haben das Bundesministerium für Gesundheit (BMG) sowie das Bundesministerium für Bildung und Forschung (BMBF) von KI-Projekten, KI-Pilotprojekten, KI-Einsätzen oder KI-Einsatzplanungen in Schulen und Hochschulen in den Wahlperioden 19 und 20 (bitte nach Maßnahme und Wahlperiode und Anwendungsbereich Schule oder Hochschule auflisten)?
Welche Forschungsaktivitäten zum Einsatz von KI in Schulen und Hochschulen fördert das BMBF oder hat das BMBF in den Wahlperioden 19 und 20 gefördert (bitte nach Maßnahme und Wahlperiode und Anwendungsbereich Schule oder Hochschule auflisten)?
Welche Schlussfolgerungen (breit interpretiert) zieht die Bundesregierung aus der Machbarkeitsstudie des KI Bundesverband e. V. „Große KI-Modelle für Deutschland“ (siehe leam.ai/wp-content/uploads/2023/01/LEAM-MBS_KIBV_webversion_mitAnhang_V2_2023.pdf), die durch das Bundesministerium für Wirtschaft und Klimaschutz (BMWK) gefördert wurde, und welche Maßnahmen beabsichtigt sie konkret, um die in der Studie angesprochenen Handlungsfelder Fachkräfte, Recheninfrastruktur und Daten zu adressieren, und bis wann sollen ggf. geplante Maßnahmen umgesetzt werden (bitte Maßnahmen einzeln aufführen)?