Umsetzung der Handlungsempfehlungen aus der ersten Halbzeit der Enquete-Kommission Künstliche Intelligenz
der Abgeordneten Dr. Anna Christmann, Kai Gehring, Margit Stumpp, Beate Walter Rosenheimer, Katja Dörner, Erhard Grundl, Dr. Kirsten Kappert-Gonther, Maria Klein-Schmeink, Ulle Schauws, Charlotte Schneidewind-Hartnagel, Kordula Schulz-Asche, Dr. Danyal Bayaz, Anja Hajduk, Dieter Janecek, Sven-Christian Kindler, Tabea Rößner, Stefan Schmidt und der Fraktion BÜNDNIS 90/ DIE GRÜNEN
Vorbemerkung
Eine Enquete-Kommission des Deutschen Bundestages kann nach Ansicht der Fragesteller nur dann Wirkung entfalten, wenn ihre Empfehlungen auch von der Bundesregierung aufgenommen, sorgfältig geprüft und wo möglich zeitnah umgesetzt werden. Eine Technologie wie die Künstliche Intelligenz (KI) entwickelt sich in einem hohen Tempo und verlangt dadurch auch nach besonders dynamischem Regierungshandeln.
Die Handlungsempfehlungen der Enquete-Kommission „Internet und digitale Gesellschaft“ wurden nach Wissensstand der Fragestellenden von der Bundesregierung nie aufgegriffen, wodurch sich nach Ansicht der Fragesteller ein Stück weit der jahrelange Stillstand auf zentralen digitalpolitischen Handlungsfeldern (https://www.handelsblatt.com/politik/deutschland/digitalwirtschaft-zum-koalitionsvertrag-groko-droht-digitalen-stillstand-um-vier-jahre-zu-verlaengern/20942546.html) erklären lässt. Dies darf sich im Bereich KI nicht wiederholen.
Die zügig voranschreitenden Entwicklungen im Bereich Künstliche Intelligenz, ihr tiefgreifender Einfluss auf viele Gesellschafts- und Wirtschaftsbereiche sowie der internationale Wettbewerb erfordern ein schnelles Handeln seitens der Bundesregierung, um KI zum Wohle von Mensch und Umwelt zu gestalten, handlungsfähig zu bleiben und den wirtschaftlichen Anschluss nicht zu verpassen. Es muss nach Ansicht der Fragesteller verhindert werden, dass zwischenzeitlich Fakten geschaffen werden, die möglicherweise dem Gemeinwohl entgegenstehen.
Aus Sicht der Fragesteller ist es daher von besonderer Bedeutung, dass die Empfehlungen der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ (nachfolgend Enquete-Kommission genannt), die derzeit das Thema im Parlament umfassend bearbeitet und unter Einbeziehung externen Sachverstands Handlungsempfehlungen für den Gesetzgeber formuliert, umgehend auch Eingang in konkretes Regierungshandeln finden. Die Fragesteller halten es explizit für notwendig, dass dies bereits vor Vorliegen des Abschlussberichts der Kommission laufend geschieht.
Der Einsetzungsbeschluss legt fest, dass die Enquete-Kommission unter anderem die Aufgabe hat, „konkrete Vorschläge für die politischen Entscheidungsträgerinnen und -träger“ zu erarbeiten und „auf Basis ihrer Untersuchungsergebnisse den staatlichen Handlungsbedarf national, auf europäischer Ebene und international [zu] benennen“ (vgl. Bundestagsdrucksache 19/2978).
Diesem Auftrag ist die Enquete-Kommission mit den am 18. Dezember 2019 veröffentlichten Zusammenfassungen der vorläufigen Ergebnisse aus der Arbeit der Projektgruppen „KI und Staat“, „KI und Wirtschaft“ sowie „KI und Gesundheit“ nachgekommen. Mit den vorgelegten Zwischenberichten der drei Projektgruppen liegen erste Handlungsempfehlungen vor. Die darin formulierten konkreten Handlungsempfehlungen sollten nach Ansicht der Fragestellenden schnellstmöglich für die Strategie Künstliche Intelligenz der Bundesregierung berücksichtigt und umgehend umgesetzt werden. Es wäre fatal, wenn das Thema erst in der kommenden Legislaturperiode oder gar nicht angegangen würde.
Nur durch eine zügige Umsetzung kann Deutschland aus Sicht der Fragesteller national zum Beispiel durch die Schaffung der notwendigen digitalen Infrastruktur und international an den notwendigen Voraussetzungen und Regulierungen mitwirken. Bei zahlreichen Themen muss Regulierung auch in enger europäischer Abstimmung erfolgen.
Auch aus Sicht der Industrie und der Wirtschaft ist es von höchster Priorität, dass sich Unternehmen mit ihren digitalen Produkten und Dienstleistungen nicht in jedem Mitgliedstaat anderen, teils stark variierenden Regulierungsmodellen gegenüber sehen (https://www.welt.de/wirtschaft/article205187867/Kuenstliche-Intelligenz-EU-Kommission-will-rechtlichen-Rahmen-schaffen.html). Ein verbindlicher, auch europäischer Rechtsrahmen muss daher zügig erarbeitet werden; ein solcher Rechtsrahmen muss zwingend auch die hierzu bereits von der EU-Ebene erarbeiteten Vorschläge beachten, beispielsweise das von der EU-Kommission vorgelegte Weißbuch zu KI.
Wir fragen die Bundesregierung:
Fragen30
Hat die Bundesregierung die Handlungsempfehlungen der ersten drei Arbeitsgruppen der Enquete-Kommission zur Kenntnis genommen, diese inhaltlich bewertet und deren Umsetzung geprüft?
Falls nein, warum bislang nicht, und ist dies noch (ggf. wann) geplant?
a) Falls ja, mit welchem Ergebnis hat sich die Bundesregierung mit den Handlungsempfehlungen auseinandergesetzt, und wie konkret sollen diese umgesetzt werden?
b) Wer innerhalb der Bundesregierung hat sich mit den Handlungsempfehlungen auseinandergesetzt?
Wer innerhalb der Bundesregierung stellt sicher, dass die Handlungsempfehlungen der Enquete-Kommission Eingang in konkretes Regierungshandeln finden?
c) Hat sich das „Digitalkabinett“ bereits mit den oben genannten Handlungsempfehlungen auseinandergesetzt, was war das Ergebnis, oder wann ist dies ggf. in der Zukunft geplant?
Welche Handlungsempfehlungen der ersten drei Arbeitsgruppen der Enquete-Kommission Künstliche Intelligenz hat die Bundesregierung als besonders dringend identifiziert, und bei welchen Handlungsempfehlungen hat sie bereits konkrete Umsetzungsschritte in die Wege geleitet (bitte nach einzelnen Projektgruppenempfehlungen aufschlüsseln)?
Welche Projekte der Bundesregierung sind ggf. schon vor der Veröffentlichung der Zwischenergebnisse angelaufen, die die Handlungsempfehlungen bereits umsetzen?
Welche Handlungsempfehlungen der Enquete-Kommission, teilt die Bundesregierung nicht, erachtet sie als nicht umsetzbar und wird sie daher nicht verfolgen?
Plant die Bundesregierung, wie von der Projektgruppe „KI und Wirtschaft“ vorgeschlagen, aufgrund einer validen und differenzierenden Datenbasis eine fundierte Stärken-Schwächen-Analyse von KI in Bezug auf technische und wirtschaftliche Aspekte für Deutschland und Europa vorzunehmen (https://www.bundestag.de/resource/blob/672894/e82fdd5cb437de0aaf0da3d7033f84a3/PG-1-Projektgruppenbericht-data.pdf)?
Wer sind für geplante Handlungen die entsprechenden Akteure innerhalb der Bundesregierung, und Finanzmittel in welcher Höhe sind für welchen Zeitraum veranschlagt?
Wenn nein, warum nicht?
Plant die Bundesregierung, wie von der Projektgruppe „KI und Wirtschaft“ empfohlen, einen eigenständigen europäischen Weg in der Datenökonomie zu verfolgen und geht sie als Voraussetzung hierfür die von der Projektgruppe identifizierten bestehenden Schlüsselprobleme für die Durchsetzungsfähigkeit der deutschen wie europäischen Ansätze im KI-Bereich an, wie die ausbleibende schnelle Skalierung von Ideen und Piloten zu wirkungsvollen Großprojekten und Akteuren, der verzögerte digitale Infrastrukturausbau in der Fläche und die fehlende technologische Souveränität etwa mit Blick auf die Entwicklung von Rechenleistungen, Cloud-Strukturen oder Daten-Pooling?
Wer sind für geplante Handlungen die entsprechenden Akteure innerhalb der Bundesregierung, und Finanzmittel in welcher Höhe sind für welchen Zeitraum veranschlagt?
Wenn nein, warum nicht?
Plant die Bundesregierung, die von der Projektgruppe „KI und Wirtschaft“ formulierte Handlungsempfehlung „Vertrauen durch eine vertrauenswürdige KI erreichen“ aufzugreifen und, um bestehende Bedenken in Teilen der Bevölkerung zu berücksichtigen, eine Aufklärungskampagne zu KI zu starten, die Kenntnisse vermitteln, Best-Practices aufzeigen und Sorgen-Nehmen adressieren soll?
Wenn ja, bis wann, durch welche Akteure innerhalb der Bundesregierung und durch Finanzmittel in welcher Höhe?
Wenn nein, warum nicht?
Welche Bedeutung misst die Bundesregierung im Zusammengang mit Frage 7 dem 2019 vom KI-Verband entwickelten „KI-Gütesiegel“ bei, mit dem das Ziel verfolgt wird, Transparenz und Vertrauen auf dem deutschen KI-Markt zu schaffen?
Plant die Bundesregierung, wie von der Projektgruppe „KI und Wirtschaft“ vorgeschlagen, eine Marke „Sustainable AI“ zu etablieren, um das politisch-strategische Handeln im Bereich KI an den Prinzipien einer nachhaltigen Entwicklung auszurichten?
Welche Konsequenzen zieht die Bundesregierung aus der Einschätzung der Enquete-Kommission, dass einer Marke „Sustainable AI“ großes Potenzial zugemessen werden kann?
Wer sind für geplante Handlungen die entsprechenden Akteure innerhalb der Bundesregierung, und Finanzmittel in welcher Höhe sind für welchen Zeitraum veranschlagt?
Wenn nein, warum nicht?
Plant die Bundesregierung, wie von der Projektgruppe „KI und Wirtschaft“ vorgeschlagen, den Transfer wissenschaftlicher Erkenntnisse in die Praxis voranzutreiben bzw. stärker zu unterstützen, die Rahmenbedingungen für Start-ups und kleine und mittlere Unternehmen (KMU) weiter zu verbessern und dazu den Aufbau eines Start-up-Ökosystems durch regionale und thematische Cluster, innovationsfördernde Vergabe und Bürokratieabbau oder Wagniskapitalförderung durch Dachfonds zu fördern?
Wer sind für geplante Handlungen die entsprechenden Akteure innerhalb der Bundesregierung, und Finanzmittel in welcher Höhe sind für welchen Zeitraum veranschlagt?
Wenn nein, warum nicht?
Plant die Bundesregierung, wie von der Projektgruppe „KI und Wirtschaft“ vorgeschlagen, Datenmanagement und Vernetzung von Daten für die Entfaltung von KI-Anwendungen in Deutschland und Europa zu optimieren, hierzu für Unternehmen den Zugang zu nicht auf Personen beziehbare Daten zu verbessern, Leitinitiativen zur Datenvernetzung wie die International Data Spaces oder die Nationale Forschungsdateninfrastruktur weiter zu fördern und neue sektorspezifische sowie partizipatorische Datenplattformen aufzubauen?
Welche Konsequenzen zieht die Bundesregierung in diesem Zusammenhang aus der Einschätzung der Enquete-Kommission, dass im Wettbewerbs- bzw. Kartellrecht Anpassungen vorzunehmen sind, um insbesondere die praktische und tatsächliche Verfügungsgewalt über eigene Daten zu verbessern, klare Verhaltensregeln für marktbeherrschende Plattformen einzuführen und die Rechtssicherheit für Kooperationen in der Digitalökonomie zu erhöhen?
Wie beurteilt die Bundesregierung die Möglichkeit, Datentreuhänder einzurichten sowie Unternehmen bei der öffentlichen Auftragsvergabe zur Bereitstellung und Weitergabe von nicht auf Personen beziehbare Daten zu verpflichten, sofern diese mit Aufgaben der Daseinsvorsorge betraut werden?
Wer sind für geplante Handlungen die entsprechenden Akteure innerhalb der Bundesregierung, und Finanzmittel in welcher Höhe sind für welchen Zeitraum veranschlagt?
Wenn nein, warum nicht?
Welche Gespräche oder Aktivitäten hat die Bundesregierung bereits aufgenommen oder plant sie aufzunehmen, damit staatliche eingesetzte KI in Bezug auf ihre Risikoklasse geprüft wird und der Klassifizierung entsprechende Transparenzanforderungen erfüllt werden können, wie in den Handlungsempfehlungen der Projektgruppe „KI und Staat“ gefordert https://www.bundestag.de/resource/blob/672932/8dafccf73bce9d9560223d1683d82cb9/PG-2-Projektgruppenbericht-data.pdf?
Welche sind die entsprechenden Akteure innerhalb der Bundesregierung, was ist der Zeithorizont, und welche Finanzmittel sind geplant?
Falls keine Handlungen geplant sind, warum nicht?
Plant die Bundesregierung sicherzustellen, dass staatlich entwickelte und genutzte KI-Systeme in ihrer Nutzung (unter Umständen also in Zusammenwirkung mit menschlichen Entscheiderinnen und Entscheidern) nicht diskriminieren, wie von der Projektgruppe „KI und Staat“ empfohlen?
Wenn ja, welche Schritte sind zur Umsetzung bereits erfolgt oder geplant?
Wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Welche Gespräche oder Aktivitäten hat die Bundesregierung bereits aufgenommen oder plant sie aufzunehmen, damit Behörden beim Einsatz von KI-Systemen einen partizipativen, bürgernahen Ansatz verfolgen, wie von der Projektgruppe „KI und Staat empfohlen“?
Welche sind die entsprechenden Akteure innerhalb der Bundesregierung, was ist der Zeithorizont, und welche Finanzmittel sind geplant?
Falls keine Handlungen geplant sind, warum nicht?
Welche Gespräche oder Aktivitäten hat die Bundesregierung bereits aufgenommen oder plant sie aufzunehmen, damit anonymisierte Daten rechtmäßig bereitgestellt werden können, die (lizenzfrei) in einem maschinenlesbaren Format (hohe Datenqualität) zur Verfügung gestellt werden, wie von der Projektgruppe „KI und Staat“ empfohlen?
Bis wann wird die Bundesregierung, dem Koalitionsvertrag zwischen CDU, CSU und SPD folgend, das Open-Data-Gesetz entsprechend überarbeiten und auch geeignete Auswertungsinstrumente auf Open-Source-Basis bereitstellen?
Welche konkreten Schritte sind zur Umsetzung bereits erfolgt oder derzeit geplant?
Wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Plant die Bundesregierung, die Handlungsempfehlung Nummer 1 der Projektgruppe „KI und Gesundheit“ (https://www.bundestag.de/resource/blob/672950/fed938366dcf1b3f79c2ff177e0f86f5/PG-3-Projektgruppenbericht-data.pdf) umzusetzen und gemeinsam mit allen relevanten Akteuren eine Strategie zum Einsatz von KI im Gesundheitsbereich zu erarbeiten und deren Finanzierung für die nächsten fünf Jahre festzulegen?
Wenn ja, wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind geplant?
Wenn nein, warum nicht?
Teilt die Bundesregierung die Einschätzung, dass eine gemeinsame Anstrengung von Bund und Ländern zur Finanzierung der digitalen Infrastruktur im Gesundheitsbereich notwendig ist, wie in der Handlungsempfehlung Nummer 2 der Projektgruppe „KI und Gesundheit“ empfohlen, und hat die Bundesregierung bereits Gespräche oder Aktivitäten dazu aufgenommen, und sind Schritte zur Umsetzung geplant?
Wenn nein, warum nicht?
Plant die Bundesregierung, die Handlungsempfehlung Nummer 3 der Projektgruppe „KI und Gesundheit“ umzusetzen und die Verfügbarkeit von Daten für die Forschung zu verbessern und hierfür eine abgestufte, freiwillige und widerrufbare Datenfreigabe in enger Abstimmung mit den zuständigen Datenschutzaufsichtsbehörden zu ermöglichen?
Welche Konsequenzen zieht die Bundesregierung aus der Einschätzung der Enquete-Kommission, dass Vertrauensstellen zur Verwaltung der entsprechenden Gesundheitsregister notwendig sind?
Wenn ja, welche Schritte auf dem Weg dorthin sind bereits erfolgt oder geplant?
Wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Plant die Bundesregierung eine umfassende Strategie zur Aus- und Weiterbildung, damit KI-Expertise in allen Gesundheitsbereichen verankert wird, wie in Handlungsempfehlung Nummer 4 der Projektgruppe „KI und Gesundheit“ empfohlen?
Wenn ja, welche Schritte auf dem Weg dorthin sind bereits erfolgt oder geplant?
Wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Plant die Bundesregierung, die Handlungsempfehlung Nummer 5 der Projektgruppe „KI und Gesundheit“ umzusetzen und interdisziplinäre Ökosysteme in der digitalen Gesundheitsforschung aufzubauen und Leuchtturmprojekte von der Grundlagenforschung bis zur klinischen Translation gezielt zu fördern und dabei insbesondere eine längere Förderperiode anzustreben?
Wenn ja, welche Schritte sind dafür bereits auf den Weg gebracht worden oder geplant?
Wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Welche Förderinstrumente plant die Bundesregierung oder setzt sie bereits ein, um die Start-up-Entwicklung im Gesundheitsbereich zu unterstützen, wie in der Handlungsempfehlung Nummer 6 der Projektgruppe „KI und Gesundheit“ empfohlen?
Wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Teilt die Bundesregierung die Position der Handlungsempfehlung Nummer 7 der Projektgruppe „KI und Gesundheit“, in der gefordert wird, die Zulassungsverfahren auf neue Technologien anzupassen und deren befristete Kostenerstattung in der Testphase zu prüfen?
Welche konkreten Anpassungen sind aus Sicht der Bundesregierung notwendig?
Wenn nein, warum nicht?
Wie plant die Bundesregierung, mögliche Lücken und Unsicherheiten bezüglich der Haftung von KI in Gesundheitsanwendungen zu identifizieren?
Gibt es diesbezüglich Pläne, bestehende Lücken durch Normierungs- und Standardisierungsverfahren zu beseitigen, wie in der Handlungsempfehlung Numer 8 der Projektgruppe „KI und Gesundheit“ empfohlen?
Wer sind die zuständigen Akteure innerhalb der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Plant die Bundesregierung, die Handlungsempfehlung Nummer 9 der Projektgruppe „KI und Gesundheit“ umzusetzen und KI-Anwendungen in der Gesundheit und Pflege auf die Bedürfnisse der zu Pflegenden sowie der Pflegekräfte auszurichten?
Teilt die Bundesregierung insbesondere das Ziel, co-kreative Prozesse in der Entwicklung aufzusetzen und nicht nur das technisch Mögliche oder das Effizienteste, sondern den Nutzen auch im gesamtgesellschaftlichen Zusammenhang in den Vordergrund zu stellen?
Wenn ja, welche Schritte sind zur Umsetzung bereits erfolgt oder geplant?
Wer sind die zuständigen Akteure der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Wie plant die Bundesregierung, die Handlungsempfehlung Nummer 10 der Projektgruppe „KI und Gesundheit“ umzusetzen und es für Patientinnen und Patienten zu ermöglichen, sich auch gegen die Nutzung von KI entscheiden zu können?
Welche Schritte sind zur Umsetzung bereits erfolgt oder geplant?
Wer sind die zuständigen Akteure der Bundesregierung, und welche Finanzmittel sind für welchen Zeitraum geplant?
Wenn nein, warum nicht?
Wie werden die vielen parallelen Handlungsempfehlungen zur Gestaltung der KI zusammengeführt, also beispielsweise die Handlungsempfehlungen der europäischen High-Level-Group, das am 19. Februar 2020 veröffentlichte Weißbuch „Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ der EU-Kommission, die Strategie Künstliche Intelligenz der Bundesregierung und die Handlungsempfehlungen der ersten drei Arbeitsgruppen der Enquete-Kommission?
Steht die Bundesregierung im Austausch mit der Europäischen Kommission zu den in den Handlungsempfehlungen der Enquete-Kommission aufgezeigten Themen, um ein kohärentes Vorgehen auf nationaler und europäischer Ebene zu garantieren?
Wenn ja, zu welchen der Themen findet ein Austausch statt, welche Programme werden zu diesen bereits umgesetzt oder befinden sich in Planung?
Gibt es bereits einen detaillierten Zeitplan für die Überarbeitung der KI- Strategie der Bundesregierung, die für 2020 vorgesehen ist?
Falls ja, wie sieht dieser konkret aus?
Welche Akteure außerhalb der Bundesregierung werden in diesen Prozess eingebunden?
Um welches Programm für die Förderung von weiblichen KI-Nachwuchswissenschaftlerinnen handelt es sich, welches in der Antwort der Bundesregierung zu Frage 23 der Kleinen Anfrage „Künstliche Intelligenz – Stand der Umsetzung der Vorschläge der High-Level Expert Group in Deutschland“ auf Bundestagsdrucksache 19/15911 genannt wurde?
Wie viele Nachwuchswissenschaftlerinnen werden darin bereits oder in Zukunft gefördert, was ist die Laufzeit des Programms, und in welcher Höhe sind dafür Finanzmittel geplant?
Welche Nachwuchsprogramme zur Förderung von Forschenden im Bereich Künstliche Intelligenz sind über Frage 29 hinaus bereits auf den Weg gebracht worden oder werden in diesem Jahr anlaufen (bitte konkrete Nennung der Programme und der Finanzvolumen)?