Christchurch-Aufruf zur schnellen und automatisierten Entfernung von Internetinhalten
der Abgeordneten Andrej Hunko, Niema Movassat, Dr. Alexander S. Neu, Tobias Pflüger, Eva-Maria Schreiber, Alexander Ulrich und der Fraktion DIE LINKE.
Vorbemerkung
Auf Initiative der neuseeländischen Premierministerin Jacinda Ardern und des französischen Präsidenten Emmanuel Macron haben 16 Internetkonzerne und 17 Regierungen, darunter auch die Bundesregierung, in Paris den „Christchurch-Aufruf“ verabschiedet (www.christchurchcall.com/call.html). Hintergrund ist das Massaker in der gleichnamigen Stadt in Neuseeland, bei dem der australische Rechtsextremist B. T. in zwei Moscheen 51 Menschen ermordet und seine Taten im Internet gestreamt hat. T., der Kontakte zu den „Identitären“ in Österreich pflegte, steht jetzt als Terrorist vor Gericht („Christchurch-Attentäter wegen Terrorismus angeklagt“, www.spiegel.de vom 15. Mai 2019).
Mit dem „Christchurch-Aufruf“ soll die Verbreitung von extremistischem oder terroristischem Material im Internet erschwert werden. Die Unterzeichner bekräftigen den Willen zu „transparenten und zielgerichteten Maßnahmen“, um „terroristische und gewalttätige extremistische Inhalte“ mit automatisierten Verfahren zu erkennen und das erneute Hochladen zu verhindern (http://gleft.de/2Vp).
Es ist aber unklar, wie sich der gemeinsame Appell von bereits existierenden Initiativen unterscheidet („Counterterrorism experts on why we must engage with online extremists“, www.noted.co.nz vom 22. Mai 2019). Google, Facebook und Twitter haben zur Entfernung von Internetinhalten im Jahr 2017 ein „Global Internet Forum to Counter Terrorism“ (GIFCT) gegründet (https://www.gifct.org). Dabei geht es nicht um Maßnahmen nach einem richterlichen Beschluss, sondern um die Einhaltung der Gemeinschaftsstandards der Unternehmen.
Das GIFCT trat erstmals auf dem Treffen der G7-Innenminister in Erscheinung (http://gleft.de/2Vl). In ihrer Abschlusserklärung hatten die Minister mit dem GIFCT eine gemeinsame Erklärung verabschiedet, die als erste Forderung Uploadfilter nennt. Für die Erkennung zu löschender Inhalte sollen die Firmen ihre 2016 gestartete Datenbank mit Hashwerten inkriminierter Dateien ausbauen. Außerdem sollen sie ihre Erkenntnisse und Technologien mit kleineren Firmen teilen sowie in Forschungen zu neuen Lösungen investieren. Bei der Polizeiorganisation Interpol soll die Einrichtung einer „Meldestelle für Internetinhalte“ geprüft werden, „um terroristische Inhalte zu sammeln und zu verwerten, die von der Wirtschaft und nationalen Behörden gemeldet wurden“ (Bundestagsdrucksache 19/159, Antwort zu Frage 14). Schließlich soll die „Zivilgesellschaft“ in der Entwicklung von „Gegenerzählungen“ gestärkt werden.
Seit 2015 organisierte die Europäische Kommission das „EU-Internetforum“, in dem sich Regierungen, die Polizeiagentur Europol und zahlreichen Internetfirmen zur „Bekämpfung von Anstiftung zu Terrorismus und Hassreden in Online-Medien“ organisieren (Pressemitteilung der EU-Kommission vom 3. Dezember 2015). Europol betreibt bereits eine „Meldestelle für Internetinhalte“ mit nationalen Abteilungen in jedem EU-Mitgliedstaat, die ohne richterlichen Beschluss Internetfirmen bitten, bestimmte Dateien zu löschen (Bundestagsdrucksache 19/9623). Derzeit können die Internetfirmen noch frei entscheiden, wie sie den Meldungen nachkommen.
Im Herbst legte die EU-Kommission ihren Vorschlag für eine Verordnung zur „Verhinderung der Verbreitung terroristischer Online-Inhalte“ vor. Damit würden Dienstleister im Internet nach Willen von EU-Kommission und Rat gezwungen, „terroristische“ Dateien schnellstmöglich zu entfernen. Hierzu sollen die Strafverfolgungsbehörden Anordnungen erlassen, denen innerhalb einer Stunde entsprochen werden muss. Bei diesen „automatisierten Werkzeugen“ handelt es sich um Uploadfilter.
Nachdem die EU-Staaten Anfang Dezember 2018 ihre Verhandlungsposition zu der geplanten Verordnung festgelegt haben (http://gleft.de/2Vn), einigte sich das EU-Parlament Mitte April 2019 auf seinen Standpunkt (http://gleft.de/2Vo). Die Abgeordneten sprachen sich zwar für kurze Löschfristen aus, allerdings sollten die Firmen nicht zur Installation von Uploadfiltern gezwungen werden. Die Entfernungsanordnungen dürften laut dem EU-Parlament auch nicht grenzüberschreitend ausgesprochen werden. Nach der EU-Wahl soll die Verordnung unter der ab Juli 2019 amtierenden finnischen EU-Ratspräsidentschaft möglichst rasch endgültig verabschiedet werden. Vermutlich im Herbst werden die Trilog-Verhandlungen zur Diskussion der Standpunkte von Rat und Parlament beginnen.
Wir fragen die Bundesregierung:
Fragen18
Aus welchen Erwägungen hat die Bundesregierung den „Christchurch-Aufruf“, in dem die schnellere Erkennung „terroristischer und gewalttätiger extremistischer Inhalte“ und die Verhinderung eines erneuten Hochladens mit automatisierten Verfahren unterstützt werden soll, unterzeichnet?
Welche bereits existierenden globalen oder europäischen Initiativen von Firmen, Regierungen oder Instituten gegen die Verbreitung von extremistischem oder terroristischem Material im Internet sind der Bundesregierung bekannt, und an welchen dieser Initiativen beteiligt sie sich?
An welchen dieser Initiativen beteiligt sich nach Kenntnis der Bundesregierung die Europäische Union stellvertretend für ihre Mitgliedstaaten?
Welche Anstrengungen unternehmen nach Kenntnis der Bundesregierung die G20-Regierungen gegen die Verbreitung von extremistischem oder terroristischem Material im Internet (vgl. www.christchurchcall.com/call.html), welche Maßnahmen wurden dazu beschlossen, und wer setzt diese um?
a) Was ist der Bundesregierung über entsprechende Arbeitsgruppen oder Maßnahmen des Global Counterterrorism Forum (GCTF) bekannt?
b) Was ist der Bundesregierung über Beteiligte und Maßnahmen der im „Christchurch-Aufruf“ erwähnten Initiativen „Tech gegen Terrorismus“ und den „Aqaba-Prozess“ Jordaniens bekannt?
Wie unterscheiden sich die bereits existierenden Initiativen aus Sicht der Bundesregierung hinsichtlich der dort beschriebenen Maßnahmen vom „Christchurch-Aufruf“ (etwa durch die Entwicklung von „Gegenerzählungen“ im Internet), bzw. welchen Mehrwert soll dieser erzielen?
Ist das „Global Internet Forum to Counter Terrorism“ (GIFCT) nach Kenntnis der Bundesregierung noch existent, und an welchen Vorhaben oder Maßnahmen arbeitet dieses derzeit?
a) Auf welche Weise arbeitet die Bundesregierung bzw. die G7 nach Kenntnis der Bundesregierung derzeit mit dem GIFCT zusammen?
b) Wie wurde das Vorhaben, für die Erkennung zu löschender Inhalte die von Internetunternehmen im Jahr 2016 gestartete Datenbank mit Hashwerten auszubauen, umgesetzt (http://gleft.de/2Vl)?
c) Wie viele Unternehmen nehmen an der Datenbank teil?
Welche weiteren, von Internetunternehmen geführten Datenbanken mit Hashwerten für die Erkennung zu löschender Inhalte bzw. zur Verhinderung ihres erneuten Hochladens sind der Bundesregierung bekannt?
Was ergab nach Kenntnis der Bundesregierung die Prüfung, bei der Polizeiorganisation Interpol eine „Meldestelle für Internetinhalte“ einzurichten, „um terroristische Inhalte zu sammeln und zu verwerten, die von der Wirtschaft und nationalen Behörden gemeldet wurden“ (Bundestagsdrucksache 19/159, Frage 14)? Sofern eine solche Meldestelle bei Interpol nicht eingerichtet werden soll, welche Gründe sind der Bundesregierung hierzu bekannt?
Mit welchen Maßnahmen will es die Bundesregierung wie im „Christchurch-Aufruf“ versprochen umsetzen, Terrorismus und gewalttätigem Extremismus Einhalt zu gebieten?
a) Wie will die Bundesregierung die „Stärkung der Widerstandsfähigkeit und Inklusivität unserer Gesellschaften“ umsetzen?
b) Welche „Industriestandards“ zur medialen Berichterstattung über Terroranschläge hält die Bundesregierung für geeignet, und wie beteiligt sie sich an deren Entwicklung?
c) Welche „Kapazitätsaufbaumaßnahmen“ sollten auch kleinere Onlinediensteanbieter durchführen müssen, und inwiefern sollten diese freiwillig bleiben?
d) Welche Verfahren sind geeignet, Internetnutzer „von terroristischen und gewalttätigen extremistischen Inhalten umzuleiten“ („redirect users from terrorist and violent extremist content“)?
e) Mit welchen Verfahren könnten Regierungen und Internetanbieter auf die Verbreitung von terroristischen oder gewalttätigen extremistischen Inhalten weltweit reagieren, und was ist mit der „Entwicklung eines gemeinsamen Krisenprotokolls“ („shared crisis protocol and informationsharing processes“) gemeint?
f) Wie und von wem wird sichergestellt, dass sich die zahlreichen, im „Christchurch-Aufruf“ versprochenen Initiativen nicht duplizieren?
Auf welche Weise und in welchem Rahmen steht die Verhinderung der Verbreitung von terroristischen oder gewalttätigen extremistischen Inhalten nach Kenntnis der Bundesregierung auch auf der Agenda des G7-Gipfels in Biarritz/Frankreich?
Welche Treffen des „EU-Internetforum“ haben nach Kenntnis der Bundesregierung (auch mit Drittstaaten und Unternehmen aus den USA) im Jahr 2019 stattgefunden, und welche weiteren sind geplant?
a) Welche wesentlichen Ergebnisse dieser Treffen sind der Bundesregierung in den zuständigen EU-Ratsarbeitsgruppen bekannt geworden?
b) Aus welchen Gründen hat sich die US-Regierung nach Kenntnis der Bundesregierung dem „Christchurch-Aufruf“ nicht angeschlossen?
Welche Haltung vertrat die Bundesregierung in den Diskussionen um die Verordnung zur „Verhinderung der Verbreitung terroristischer Online-Inhalte“ hinsichtlich der Frage, ob Internetunternehmen zur Installation von Uploadfiltern gezwungen werden sollen, wie es das EU-Parlament in seinem am 17. April 2019 angenommen Standpunkt ablehnt?
a) Welche „automatisierten Werkzeuge“ bzw. Verfahren sind der Bundesregierung zur Erkennung des Hochladens von bereits entfernten Dateien bekannt, und welche dieser Maßnahmen hält sie im Rahmen der Verordnung zur „Verhinderung der Verbreitung terroristischer Online-Inhalte“ für geeignet?
b) Aus welchen Erwägungen sollten Entfernungsanordnungen aus Sicht der Bundesregierung im Rahmen der Verordnung grenzüberschreitend ausgesprochen werden dürfen?
Unter welchen Umständen befürwortet es die Bundesregierung, wenn die US-Regierung im Rahmen eines von der EU-Kommission verhandelten Durchführungsabkommens auf Basis des „CLOUD Act“ auch Echtzeitüberwachungsmaßnahmen in der Europäischen Union durchführen dürfte (Ratsdokument 6569/19), und wie hat sie sich im Rahmen der Diskussionen um das Verhandlungsmandat der EU-Kommission dazu positioniert, ob diese Möglichkeit zur Echtzeitüberwachung in dem Entwurf genannt werden sollte oder nicht?
Welcher externe Dienstleister ist für die Datenerhebung im Rahmen der Lagebilderstellung des Bundesnachrichtendienstes bzw. des Bundeskanzleramts zuständig, bei der „sicherheitsrelevante Ereignisse“ analysiert werden sollen (Bundestagsdrucksache 19/10391, Antwort zu Frage 3), und welche Details kann die Bundesregierung zur Funktionsweise des Systems mitteilen?
Welche technischen Details kann die Bundesregierung zur Erweiterung des Abgleichsystems beim BKA mitteilen, das für das PNR-System für 2,3 Mio. Euro erweitert wurde (Bundestagsdrucksache 19/10431, Antwort zu Frage 17a), und wer führte bzw. führt diese Erweiterung (auch als Unterauftragnehmer) durch?
Inwiefern war auch das Bundeskriminalamt (BKA) nach dem Christchurch-Massaker in die Erkennung und Meldung von rechtsradikalen Internetvideos involviert, welche Zahlen kann die Bundesregierung hierzu mitteilen, und an welche Provider ergingen entsprechende Hinweise zur Entfernung?
In wie vielen Fällen wurde den von der „nationalen Meldestelle für Internetinhalte“ des BKA seit Oktober 2018 über den Europol-Kanal verschickten 6 000 Meldungen zur Entfernung von Internetinhalten nachgekommen (Bundestagsdrucksache 19/9623)?
a) Inwiefern überwacht das BKA mithilfe der bei Europol angesiedelten „Internet Referral Management Application“ (IRMa), ob die Inhalte tatsächlich entfernt wurden?
b) Wie viele der Meldungen wurden dementsprechend umgesetzt?
Ist die Europol-Plattform „Internet Referral Management Application“ (IRMa) aus Sicht der Bundesregierung und nach den Erfahrungen der Teilnahme des BKA geeignet, auch Herausgabeanordnungen zu verwalten, womit die Europol-Investitionen in das Projekt „PERCl“ womöglich überflüssig wären?
a) Ist die Antwort des Bundesministeriums des Innern, für Bau und Heimat auf die Schriftliche Frage 28 des Abgeordneten Andrej Hunko auf Bundestagsdrucksache 19/10535 so zu verstehen, dass Europol erst mit dem Aufbau von „PERCI“ beginnt, nachdem die EU-Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte endgültig beschlossen ist?
b) Was ist der Bundesregierung aus ihrer Teilnahme am Projekt „IRMa“ darüber bekannt, für welche technischen Maßnahmen die Polizeiagentur Europol 6 Mio. Euro veranschlagt, um im Projekt „PERCI“ die technische Infrastruktur für grenzüberschreitende Entfernungsanordnungen zu errichten (http://gleft.de/2Vr)?