Geplante EU-Verordnung zur Festlegung harmonisierter Vorschriften für die Anwendung Künstlicher Intelligenz
der Abgeordneten Joana Cotar, Barbara Lenk, Eugen Schmidt, Beatrix von Storch und der Fraktion der AfD
Vorbemerkung
Die EU-Kommission hat am 21. April 2021 den Vorschlag einer Verordnung „Zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz“ (COM(2021) 206 final; zitiert als „Verordnung“) vorgelegt. Dieser projektierte Rechtsrahmen soll aus Sicht der EU-Kommission Vertrauen in die Anwendung Künstlicher Intelligenz (KI) sowie einen funktionierenden Binnenmarkt schaffen (ebd., S. 20). Kern der Verordnung ist die Einstufung unterschiedlicher KI-Lösungen entlang ihres Schädigungspotenzials beziehungsweise des Risikos, das mit ihrer Anwendung einhergeht.
Der Verordnungsvorschlag möchte dazu eine einheitliche KI-Definition etablieren, die sich an den Werten der Demokratie, der Rechtssicherheit, der Nichtdiskriminierung, des fairen Wettbewerbs und des Datenschutzes orientiert und in der Summe dem Menschen in seiner Würde dient. Der Vorschlag soll eine Methodologie begründen, die es erlaubt, sogenannte Hochrisiko-KI-Lösungen zu identifizieren (ebd., S. 30–33), die ein besonderes Verfahren durchlaufen müssen, um in Anwendung gebracht werden zu können. Verboten werden sollen KI-Lösungen, die Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person einsetzen oder die die Schwäche und oder Schutzbedürftigkeit einer Gruppe von Personen aufgrund des Alters oder einer Behinderung ausnutzen (ebd., S. 15, 50).
Nach Ansicht der Fragesteller findet derzeit ein erheblicher Anteil an KI-Innovationen außerhalb Europas statt. Deutschland droht, in dieser Hinsicht von Konkurrenten anderer Weltregionen abgehängt zu werden. Die Fragesteller sind der Ansicht, dass die vorliegende Verordnung den Fokus zu stark auf mögliche Risiken und weniger auf mögliche Chancen legt und zudem keine Regelungen zum Zugang und zum Austausch von Daten, ohne die in der KI nichts geht, vorsieht.
Die Bundesregierung ist über den Europäischen Rat in die Verhandlungen der vorgeschlagenen Verordnung eingebunden. Im Koalitionsvertrag (https://www.bundesregierung.de/resource/blob/974430/1990812/04221173eef9a6720059cc353d759a2b/2021-12-10-koav2021-data.pdf?download=1, S. 18) ist die Rede davon, verstärkt in KI zu investieren; bei den KI-Lösungen soll ein mehrstufiger risikobasierter Ansatz zur Anwendung kommen. Europarechtlich auszuschließen seien biometrische Gesichtserkennung im öffentlichen Raum sowie ein automatisiertes staatliches Sozialkreditsystem auf KI-Basis (ebd.).
Wir fragen die Bundesregierung:
Fragen26
Kann die Bundesregierung angeben, wie viele der aktuell eingesetzten KI-Lösungen im EU-Raum als hoch riskant einzustufen wären und wie viele als minimal riskant (wenn ja, bitte in absoluten wie relativen Zahlen angeben)?
Wenn ja, kann die Bundesregierung konkrete Anwendungsbeispiele für hoch riskante wie auch minimal riskante KI-Lösungen im Sinne der Verordnung angeben (bitte ausführen)?
Unterstützt die Bundesregierung die von der Verordnung vorgeschlagenen Einstufungen von KI-Lösungen und wie begründet sie ihre Einschätzung?
Wo liegen nach Auffassung der Bundesregierung die Hauptstreitpunkte zur vorliegenden Verordnung zwischen den Mitgliedstaaten der EU? Gab oder gibt es nach Kenntnis der Bundesregierung Versuche der Einflussnahme auf die Ausgestaltung der Verordnung durch Staaten außerhalb der EU, und falls ja, durch welche, und mit welchen Ergebnissen?
Welchen Widerhall findet nach Kenntnis der Bundesregierung diese Verordnung in der Industrie, die die diskutierten KI-Lösungen entwickelt, produziert, notifiziert und in Verkehr bringt? Gab oder gibt es nach Kenntnis der Bundesregierung Versuche der Einflussnahme auf die Ausgestaltung der Verordnung durch Digitalunternehmen, und falls ja, durch welche, und mit welchen Ergebnissen?
Teilt die Bundesregierung die vorgeschlagene Einstufung biometrischer Fernidentifizierungssysteme als hoch riskant, da sie aufgrund technischer Ungenauigkeiten Ergebnisse verzerren und eine diskriminierende Wirkung haben könnten (Verordnung, S. 30)?
Kann die Bundesregierung in einer solch kategorischen Einstufung eine Hemmung des Innovationsgeistes von Handelsunternehmen erkennen, die mittels einer Fernidentifizierung ihrer Kunden neue kontaktlose Bezahlsysteme erproben?
Was spricht aus der Sicht der Bundesregierung gegen eine biometrische Fernidentifizierung beim Grenzübertritt oder zum Scannen von Datenbanken zu Personen, die einer Straftat verdächtigt werden?
Teilt die Bundesregierung die vorgeschlagene Einstufung von KI-Systemen, die im Personalmanagement, insbesondere bei der Auswahl und der Einstellung von Personen, zum Einsatz kommen, als hoch riskant, da sie die Karriereaussichten und Lebensgrundlagen dieser Personen spürbar beeinflussen (Verordnung, S. 31)? Wäre ein Algorithmus nicht die unparteiischere, fairere Variante, also weniger risikobelastet als ein Human Resources Manager, vorausgesetzt, die KI-Lösung wäre mit einem ausgewogenen Datensatz ohne implizite Verzerrung trainiert?
Kann die Bundesregierung angeben, mit welchen Befugnissen und Kompetenzen das geplante Risikomanagementsystem zur Prüfung und Dokumentation von Hochrisiko-KI-Lösungen ausgestattet sein wird (Verordnung, S. 54 f.)?
Handelt es sich dabei um einen hybriden Kontrollprozess, der die technische und die menschliche Perspektive vereint?
Sind für seine Einrichtung und Durchführung allein die produzierenden Unternehmen verantwortlich?
Welche Instanz bürgt für die Verlässlichkeit und Unabhängigkeit der Prüfergebnisse?
Wie beurteilt die Bundesregierung die geplante Kennzeichnungspflicht für KI-Systeme, die für die Interaktion mit natürlichen Personen bestimmt sind (Verordnung, S. 78)? Kann die Bundesregierung diese Kennzeichnungspflicht differenziert für folgende Sachverhalte beurteilen
journalistische Texte wie Börsennachrichten oder Wetterberichte, die algorithmisch generiert werden,
per KI kreierte Video- oder Audiosequenzen in Filmen,
die standardisierte Kommunikation via Chatbot im Servicebereich,
automatisch erzeugte Vorschläge und Beiträge auf persönlichen Social-Media-Profilen,
Ergebnislisten einer Recherche per Suchmaschine?
Wie beurteilt die Bundesregierung den Bericht des Sonderausschusses, nach dem China im Rahmen des Projektes „Neue Seidenstraße“ mit 52 Staaten Kooperations- und Normenabkommen unterzeichnet hat (Bericht, S. 15)?
Stellt nach Auffassung der Bundesregierung diese chinesische „Normungsoffensive“ (ebd.) eine geopolitische Herausforderung für die EU dar, da chinesische Vorstellungen auch zur KI-Normung nicht zwangsläufig mit europäischen Vorstellungen konform gehen?
Wird die Bundesregierung in den Verhandlungen zur Verordnung auch die Frage der Normung von KI-Lösungen aufwerfen?
Ist die Bundesregierung der Ansicht, mit der vorliegenden Verordnung zur Regulierung von KI werde ein wichtiger Schritt getan zur Stärkung und Wettbewerbsfähigkeit der europäischen bzw. deutschen Industrie, soweit sie in Digitalisierung und KI engagiert ist, gegenüber Anbietern aus den USA, China, Israel und Südkorea? Wie beurteilt die Bundesregierung den vom Sonderausschuss monierten Umstand, nach dem es in der EU kein einheitliches Ökosystem gebe, das sich mit Clustern wie dem Silicon Valley, Boston, Toronto, Tel Aviv oder Seoul messen könne (vgl. Bericht, S. 17)?
Wie steht die Bundesregierung zu einer vom Sonderausschuss angeregten Differenzierung des Risikoansatzes der vorliegenden Verordnung um einen Anwendungsansatz, nach dem nicht bestimmte KI-Lösungen an sich riskant sind, sondern ihre konkrete Anwendung (vgl. Bericht, S. 23)?
Wie steht die Bundesregierung zur Anregung des Sonderausschusses zu einer tragfähigen EU-KI-Strategie, nach der die Anstrengungen der Union in Forschung, Innovation, Infrastruktur und Investitionen zu vervierfachen seien, um den Boden gegenüber den USA und China wettzumachen (vgl. Bericht, S. 27 f.)?
Wie schätzt die Bundesregierung die Möglichkeit beziehungsweise die Gefahr ein, dass global agierende Digitalkonzerne wie z. B. Google, Amazon oder Alibaba auch im Bereich KI zu sogenannten Gatekeepern werden, die den Marktzutritt kleinerer Wettbewerber verhindern können, weil sie die immensen Datenschätze kontrollieren, die für das Design, das Training und die Anwendung von KI-Lösungen unverzichtbar sind? Ist der risikobasierte Ansatz der vorliegenden Verordnung nach Auffassung der Bundesregierung geeignet, faire, sichere und bestreitbare Märkte für KI zu generieren, solange sich am bestehenden Daten-Oligopol nichts ändert?