Regulierung von Autonomen Waffensystemen
der Abgeordneten Katja Keul, Agnieszka Brugger, Dr. Tobias Lindner, Claudia Roth (Augsburg), Dr. Konstantin von Notz, Dr. Anna Christmann, Kai Gehring, Dieter Janecek, Tabea Rößner, Margarete Bause, Dr. Franziska Brantner, Kai Gehring, Uwe Kekeritz, Omid Nouripour, Cem Özdemir, Manuel Sarrazin, Dr. Frithjof Schmidt, Jürgen Trittin, Ottmar von Holtz, Katja Dörner, Erhard Grundl, Irene Mihalic, Dr. Manuela Rottmann, Margit Stumpp und der Fraktion BÜNDNIS 90/DIE GRÜNEN
Vorbemerkung
Seit 2013 befasst sich die CCW (VN-Konvention über bestimmte konventionelle Waffen) mit den Entwicklungen im Bereich sogenannter Letaler Autonomer Waffensysteme (LAWS). Nach anfänglich informellen Gesprächsformaten hat sich die CCW darauf verständigt, eine Gruppe offizieller Expertinnen und Experten einzurichten (Group of Governmental Experts – GGE). Diese existiert seit 2017 und traf sich letztmalig im April 2018. Die Debatten seit 2013 drehen sich um die Frage des Grades der Autonomie von Waffensystemen, aber auch dem Einfluss des Menschen über diese Systeme. Letzteres spielt umso mehr eine Rolle, je weiter die Entwicklung im Bereich Künstliche Intelligenz voranschreitet. Es stellt sich die Frage, wie eine sinnvolle Einhegung der technologischen Entwicklung im Bereich autonom agierender Waffensysteme noch stattfinden kann. Von vielen staatlichen und nichtstaatlichen Akteuren wird das Ziel formuliert, dass es keine Waffensysteme geben dürfe, die eigenständig die Entscheidung über Leben und Tod treffen.
Die Internationale Kampagne „Stop Killer Robots“, ein Zusammenschluss namhafter Nichtregierungsorganisationen mehrerer Länder, angeführt von Human Rights Watch (in Deutschland koordiniert von Facing Finance), ist in dieser Hinsicht sehr klar und setzt sich für ein vollständiges Verbot Letaler Autonomer Waffensysteme ein. Gleiches gilt für das Internationale Komitee vom Roten Kreuz und 3000 Forscherinnen und Forschern sowie 116 Gründerinnen und Gründern bedeutender Firmen im Bereich Künstliche Intelligenz und Robotik, die 2015 bzw. 2017 Regierungen aufforderten, unverzüglich eine Ächtung solcher Systeme anzustreben (vgl.: ICRC, u. a.: www.icrc.org/en/publication/4283-autonomousweapons-systems#, offene Briefe: https://futureoflife.org/open-letter-autonomous-weapons/ ; https://futureoflife.org/autonomous-weapons-open-letter-2017/). Vorbild ist das präventive Verbot von Blendlaserwaffen in einem Zusatzprotokoll zur CCW im Jahre 1996.
Die Koalition aus CDU, CSU und SPD bekennt sich sowohl im Koalitionsvertrag von 2013 als auch 2018 zu einer weltweiten Ächtung Autonomer Waffensysteme. Zum Treffen der GGE im November 2017 reichte Deutschland zusammen mit Frankreich ein Konzeptpapier ein, in dem die beiden Länder unter anderem für mehr Transparenz und einen Verhaltenskodex werben.
Gleichzeitig sind im Koalitionsvertrag von 2018 verschiedene Aktivitäten im Bereich „Künstliche Intelligenz“ angekündigt, ohne dass auf die gleichzeitig stattfindenden Bemühungen zur Einhegung im Bereich der Sicherheitspolitik explizit eingegangen wird.
In der Kleinen Anfrage der Fraktion BÜNDNIS 90/DIE GRÜNEN auf Bundestagsdrucksache 19/1525 wurde erfragt, welche Ziele und Vorhaben die Bundesregierung im Bereich Künstlicher Intelligenz erreichen möchte. In der Antwort der Bundesregierung auf Bundestagsdrucksache 19/1982 ist der gesamte Bereich der Sicherheitspolitik ausgenommen. Ausgerechnet hier plant aber Frankreich, das ein enger Partner der Bundesregierung in diesen Fragen ist, nach Medienangaben ein großes Investitionsvorhaben im Bereich der Rüstungsforschung (www.defensenews.com/intel-geoint/2018/03/16/france-to-increase-investment-in-aifor-future-weapon-systems/). Und die Trilog-Verhandlungen auf europäischer Ebene haben die Finanzierung von Autonomen Waffensystemen durch den Europäischen Verteidigungsfonds Ende Mai 2018 für grundsätzlich möglich erklärt (https://euobserver.com/science/141885). Bei diesen Ankündigungen ist es fraglich, ob die Gespräche zur Regulierung von Autonomie in Waffensystemen und ihrem Einsatz in eben diesen Schritt halten können mit der Geschwindigkeit, mit der deren Weiterentwicklung finanziell und politisch vorangetrieben wird.
Wir fragen die Bundesregierung:
Fragen33
Inwieweit folgt die Bundesregierung der Bewertung des Internationalen Roten Kreuzes, dass es nach internationalem humanitären Völkerrecht rechtliche Begrenzungen für Autonome Waffensysteme geben muss und Waffen ohne menschliche Kontrolle grundsätzlich rechtswidrig sind?
Unterstützt die Bundesregierung die in einer Resolution des Europäischen Parlaments (P7_TA(2014)0172) formulierten Ziele, die Entwicklung, Produktion und Verwendung von vollkommen autonom funktionierenden Waffen, mit denen Militärangriffe ohne Mitwirkung des Menschen möglich sind, zu verbieten?
Falls ja, was unternimmt die Bundesregierung, um die in der Resolution 2014 und der seitdem jährlich (sowie aktuell: A8-2018-0037 Artikel 6a (legislativ), 2017/2122(INI) Paragraph 43, 2016/2219(INI) Paragraphen 177 und 178, 2016/2020(INI) Paragraphen J und X, 2015/3035(RSP) Paragraph 54, 2015/229(INI) Paragraph 74 und 2015/2572(RSP) Paragraph 52) wieder formulierte Zielsetzung auf nationaler, europäischer wie internationaler Ebene konkret umzusetzen?
Falls nein, warum nicht?
Welche Maßnahmen wurden und werden von der vorherigen und jetzigen, aus den gleichen Koalitionspartnern bestehenden Bundesregierung unternommen, um dem seit 2013 formulierten Ziel der jeweiligen Koalitionsverträge zwischen CDU, CSU und SPD vollautonome Waffensysteme ächten zu wollen, konkret unternommen (bitte nach konkreten Maßnahmen auf nationaler, europäischer wie internationaler Ebene auflisten)?
Wie bewertet die Bundesregierung die Entwicklungen bei der CCW seit 2013 bezüglich des erreichten Diskussionsstandes der teilnehmenden Mitgliedstaaten mit Blick auf eine Regulierung autonomer Waffensysteme?
Welchen Stellenwert hat das von Deutschland zusammen mit Frankreich im November 2017 eingereichte Arbeitspapier (CCW/GGE.1/2017/WP.4)?
Wie war die Reaktion der anderen teilnehmenden Staaten auf die dort von Frankreich und Deutschland gemachten Vorschläge?
Mit welchen Ländern außer Frankreich stimmt sich die Bundesregierung bezüglich der Positionierung zum Thema LAWS in der CCW ab?
Hält die Bundesregierung die Ankündigung Frankreichs, jährlich 100 Mio. Euro in die Entwicklung Künstlicher Intelligenz für Waffensysteme zu investieren, für konform mit dem gemeinsam eingereichten Papier bei der CCW im November 2017?
Teilt die Bundesregierung die Position des Europäischen Parlaments, wie im Legislativbericht A8-0037/2018 (vgl.: www.europarl.europa.eu/sides/getDoc.do?type=REPORT&reference=A8-2018-0037&language=DE) über den Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Einrichtung eines Europäischen Programms zur industriellen Entwicklung im Verteidigungsbereich zwecks Förderung der Wettbewerbsfähigkeit und der Innovation in der Verteidigungsindustrie der EU der Berichterstatterin Françoise Grossetête unter Artikel 6 (4a) formuliert, dass autonome Waffensysteme nicht unter der neuen Verordnung förderungswürdig sind?
Wird die Bundesregierung eigene Forschungsprojekte zu Autonomen Waffensystemen verfolgen, die aus dem Europäischen Verteidigungsfonds gefördert werden sollen?
Falls ja, welche Vorhaben gibt es konkret?
Falls nein, laufen bereits andere Forschungsprojekte oder sind derzeit in Planung?
Wie bewertet die Bundesregierung die Gefahr eines Wettrüstens im Bereich Autonomer Waffensysteme im Allgemeinen und im Besonderen, wenn hierfür Fördergelder bereitgestellt werden?
Trifft es tatsächlich zu, dass wie in Antwort zu Frage 14 der Kleinen Anfrage auf Bundestagsdrucksache 19/1982 von der Bundesregierung ausgeführt, dass das Bundesministerium der Verteidigung sich in keiner Weise mit Fragen der Künstlichen Intelligenz befasst?
Falls nein, warum nicht?
Falls ja, mit welchen Fragen der Künstlichen Intelligenz befasst sich das Bundesministerium der Verteidigung im Konkreten?
Inwieweit befassen sich die von der Bundesregierung ins Leben gerufenen oder derzeit in Planung befindlichen Diskussionsformate und Kommissionen zum Thema Künstliche Intelligenz (vgl. Bundestagsdrucksache 19/1982) auch mit Fragen der Sicherheitspolitik, oder ist dieser Themenbereich nach heutigem Stand explizit als Beratungsgegenstand ausgenommen?
Inwieweit sind Fragen der Sicherheitspolitik im Allgemeinen und Fragen zu Autonomen Waffensystemen im Besonderen Gegenstand des im Koalitionsvertrag zwischen CDU, CSU und SPD in Aussicht gestellten „Masterplan Künstliche Intelligenz“, und wann wird dieser vorgelegt?
Welche Gefahren sieht die Bundesregierung bei einer weiteren Abgabe von Entscheidungsfindung an maschinelle Systeme für die Wahrscheinlichkeit eines Atomkrieges, wie es etwa die Interparlamentarische Union (IPU) im Jahr 2015 in ihrer Resolution „Cyber Warfare: a serious threat to peace and global security“ anmahnt?
Wie bewertet die Bundesregierung die Risiken durch Fehlprogrammierung, Hacking, Systemstörungen und Defekte beim Einsatz von Autonomen Waffensystemen?
Wie bewertet die Bundesregierung das Risiko einer unkontrollierten Verbreitung von Autonomen Waffensystemen, bzw. ihrer Vorgängertechnologien, an nichtstaatliche Akteure vor dem Hintergrund des Schutzes eigener Soldatinnen und Soldaten sowie der öffentlichen Sicherheit, und welche Schritte unternimmt sie hier?
Welche im Bestand der Bundeswehr befindlichen Waffensysteme lassen sich nach Meinung der Bundesregierung als autonom oder teilautonom agierend bezeichnen (bitte genaue Auflistung der Waffensysteme vornehmen)?
Hat die Bundesregierung eigene, für sich geltende „Leitlinien“, bis zu welchem Grad von Autonomie sie eigene Waffensysteme anschaffen möchte, oder orientiert man sich an Leitlinien anderer?
Falls ja, welche bzw. an welchen?
Falls nein, sind diese in Planung, gegebenenfalls auch mit Partnern?
Plant die Bundesregierung unabhängig vom Vorgang auf internationaler Ebene nationale gesetzliche Schritte, Autonome Waffensysteme zu ächten, um dem Ziel des Koalitionsvertrags zwischen CDU, CSU und SPD zu entsprechen?
Was hält die Bundesregierung von dem Vorschlag, den Grad der menschlichen Einflussnahme über Waffensysteme zu definieren, anstatt wie bisher eine Definition über den Grad von Autonomie herbeizuführen, wie es beispielsweise in der Studie „Autonomy in Weapon Systems“ angeregt wird (s. www.boell.de/de/2018/05/23/autonomy-weapon-systems)?
Führten nach Kenntnis der Bundesregierung in der Vergangenheit bei der Überprüfung neuer Waffensysteme (im Rahmen des Artikels 36 des Zusatzprotokolls zu den Genfer Abkommen vom 12. August 1949 über den Schutz der Opfer internationaler bewaffneter Konflikte – Protokoll II) Verpflichtungen Deutschlands autonome Fähigkeiten bei als kritisch beschriebenen Funktionen (Ziererkennung, Zielerfassung, Zielbewertung und Zielbekämpfung) zur Einstellung von Waffenprogrammen?
Mit welchen Positionen wird die Bundesregierung, eventuell im Verbund mit Frankreich, zum nächsten Treffen der Group of Governmental Experts im August 2018 nach Genf fahren?
Wird die Bundesregierung sich aktiv dafür einsetzen, dass im Rahmen der Europäischen Union sich die 28 Mitgliedstaaten, mithilfe der Hohen Repräsentantin und ihres Auswärtigen Dienstes, auf eine gemeinsame Position vor der nächsten Verhandlungsrunde der Group of Governmental Experts einigen?
Wird sich die Bundesregierung dafür einsetzen, dass die VN-Waffenkonvention (CCW) ab 2019 ein offizielles Verhandlungsmandat über eine Verbotskonvention für Autonome Waffensysteme beschließt?