Deepfakes, digitale Persönlichkeitsrechtsverletzungen und Wirksamkeit bestehender rechtlicher Instrumente
der Abgeordneten Tobias Matthias Peterka, Thomas Fetsch, Ulrich von Zons, Dr. Christoph Birghan, Rainer Galla, Knuth Meyer-Soltau, Gereon Bollmann, Lukas Rehm, Tobias Teich, Sebastian Maack, Bernd Schattner, Tobias Ebenberger, Angela Rudzka, Otto Strauß, Claudia Weiß, Alexis L. Giersch, Dr. Maximilian Krah, Boris Gamanov, Udo Theodor Hemmelgarn, Adam Balten, Thomas Ladzinski, Kurt Kleinschmidt, Edgar Naujok, Dr. Malte Kaufmann, Kay-Uwe Ziegler, Thomas Dietz, Martina Uhr, Dr. Daniel Zerbin, Stefan Keuter, Alexander Arpaschi und der Fraktion der AfD
Vorbemerkung
Täuschend echte, aber künstlich erzeugte Videos, Bilder oder Tonaufnahmen (sog. Deepfakes) eröffnen neue Möglichkeiten digitaler Manipulation. Sie können gezielt zur Rufschädigung, Täuschung und Demütigung von Personen eingesetzt werden, insbesondere im Zusammenhang mit Identitätsmissbrauch oder sexualisierten Darstellungen.
Einzelne öffentlich bekannt gewordene Fälle digitaler Identifikationsmanipulation zeigen, dass entsprechende Handlungen über längere Zeiträume erfolgen können, ohne dass Betroffene wirksamen Schutz erfahren oder eine effektive Strafverfolgung stattfindet (www.welt.de/politik/deutschland/article69c9f1bbb33459bf52773dcf/digitale-gewalt-bundesjustizministerin-hubig-kuendigt-neue-gesetze-an-deepfakes-sollen-strafbar-werden.html). Gleichzeitig ist unklar, in welchem Umfang entsprechende Fälle tatsächlich auftreten und inwieweit diese durch staatliche Stellen systematisch erfasst werden.
Vor diesem Hintergrund ist bekannt geworden, dass die Bundesministerin für Justiz und Verbraucherschutz, Stefanie Hubig, einen Referentenentwurf zur besseren Bekämpfung digitaler Persönlichkeitsrechtsverletzungen vorgelegt hat (www.welt.de/politik/deutschland/article69c9f1bbb33459bf52773dcf/digitale-gewalt-bundesjustizministerin-hubig-kuendigt-neue-gesetze-an-deepfakes-sollen-strafbar-werden.html). Dieser Referentenentwurf ist Gegenstand öffentlicher Berichterstattung und fachlicher Stellungnahmen, lag jedoch zunächst dem Deutschen Bundestag nicht vor und war nach Kenntnis der Fragesteller zuerst auch nicht offiziell veröffentlicht worden.
In der rechtswissenschaftlichen und anwaltlichen Praxis wird dieser Vorstoß teilweise kritisch bewertet, insbesondere mit Blick auf die Frage, ob ein hinreichender empirischer Regelungsbedarf besteht oder ob bestehende straf- und zivilrechtliche Vorschriften bereits ausreichend sind, deren Anwendung und Durchsetzung jedoch Defizite aufweisen (www.lto.de/recht/hintergruende/h/gesetz-digitale-gewalt-hubig-gesetz-deepfakes-kritik-dav).
Vorabfassung - wird durch die lektorierte Version ersetzt.
Zugleich bestehen auf europäischer Ebene umfangreiche Regulierungen für digitale Plattformen sowie für den Einsatz Künstlicher Intelligenz, insbesondere durch den Digital Service Act sowie die geplanten Regelungen zur Künstlichen Intelligenz (KI). Dennoch kommt es weiterhin zu entsprechenden Vorfällen. Dies wirft auf Seiten der Fragesteller die Frage auf, ob bestehende Regelungen in der Praxis greifen oder ob zusätzliche gesetzgeberische Maßnahmen tatsächlich geeignet sind, die Probleme wirksam zu adressieren.
Vor diesem Hintergrund besteht bei den Fragestellern Aufklärungsbedarf hinsichtlich der tatsächlichen Verbreitung entsprechender Fälle, der Erfassbarkeit durch staatliche Stellen, der Wirksamkeit bestehender Regelungen sowie möglicher rechtlicher und tatsächlicher Vollzugsdefizite – auch im internationalen Kontext.
Wir fragen die Bundesregierung:
Fragen41
Welche konkreten Erkenntnisse liegen der Bundesregierung über die Anzahl von Fällen digitaler Persönlichkeitsrechtsverletzungen durch manipulierte oder künstlich erzeugte Inhalte seit 2020 vor (bitte nach Jahren und, soweit möglich, Deliktsgruppen aufschlüsseln)?
Wenn der Bundesregierung hierzu keine belastbaren Zahlen vorliegen (vgl. Vorfrage), aus welchen Gründen werden entsprechende Fälle bislang nicht gesondert statistisch erfasst?
Welche bestehenden amtlichen Statistiken enthalten nach Kenntnis der Bundesregierung zumindest mittelbar Informationen zu entsprechenden Sachverhalten, und warum hält die Bundesregierung diese für ausreichend bzw. nicht ausreichend?
Welche Maßnahmen hat die Bundesregierung bislang ggf. ergriffen oder plant sie zu ergreifen, um eine belastbare Datengrundlage zu schaffen?
Inwieweit liegen der Bundesregierung ggf. Erkenntnisse über ein mögliches Dunkelfeld bei entsprechenden Delikten vor und auf welche konkreten Quellen stützen sich diese Erkenntnisse?
Welche Straftatbestände werden nach Kenntnis der Bundesregierung derzeit typischerweise auf Fälle digitaler Identitätsmanipulation angewendet?
Wie viele Ermittlungsverfahren wurden nach Kenntnis der Bundesregierung seit 2020 im Zusammenhang mit digitaler Identitätsmanipulation, der Verwendung manipulierten oder künstlich erzeugten Bild-, Ton- oder Videomaterials oder vergleichbaren Formen digitaler Persönlichkeitsrechtsverletzungen geführt (bitte nach Jahren und, soweit möglich, zugrunde liegenden Straftatbeständen aufschlüsseln)?
In wie vielen dieser Verfahren (Frage 7) konnten nach Kenntnis der Bundesregierung Tatverdächtige identifiziert werden?
Wenn hierzu (vgl. Vorfragen) keine gesonderten Daten vorliegen, aus welchen Gründen erfolgt keine entsprechende Erfassung und welche Schlussfolgerungen zieht die Bundesregierung aus dem Fehlen entsprechender Daten im Hinblick auf die Wirksamkeit der Strafverfolgung?
Wenn eine entsprechende differenzierte Erfassung von Ermittlungsverfahren im Sinne von Frage 7 nicht erfolgt, welche fachlichen oder praktischen Gründe sprechen nach Auffassung der Bundesregierung dagegen, entsprechende Verfahren gesondert auszuwerten?
Welche konkreten praktischen Schwierigkeiten bestehen nach Kenntnis der Bundesregierung bei der Strafverfolgung in diesem Zusammenhang (insbesondere Beweisführung, Täteridentifikation, internationale Zuständigkeit)?
Vorabfassung - wird durch die lektorierte Version ersetzt.
Inwieweit hat die Bundesregierung ggf. geprüft, ob bestehende strafrechtliche Vorschriften in der Praxis konsequent angewendet werden und falls eine solche Prüfung erfolgt ist, zu welchem Ergebnis ist diese Prüfung gelangt?
Hält die Bundesregierung die bestehenden strafrechtlichen Vorschriften für ausreichend, um Persönlichkeitsrechtsverletzungen durch Deepfakes effektiv zu erfassen, und wenn ja, warum?
Wenn die Bundesregierung dies verneint (vgl. Vorfrage), welche konkreten Fallkonstellationen werden nach ihrer Auffassung derzeit nicht vom geltenden Recht erfasst?
Inwieweit betreffen etwaige Regelungslücken insbesondere Fälle vollständig künstlich erzeugter Inhalte ohne reale Vorlage?
Welche zivilrechtlichen Ansprüche stehen Betroffenen derzeit zur Verfügung, und welche Erkenntnisse liegen der Bundesregierung zu deren praktischer Durchsetzbarkeit vor (vgl. Vorfragen)?
Welche konkreten Verpflichtungen ergeben sich für Plattformbetreiber aus dem Digital Services Act im Umgang mit Deepfake-Inhalten?
Welche Erkenntnisse liegen der Bundesregierung ggf. zur praktischen Wirksamkeit dieser Regelungen vor, insbesondere hinsichtlich der Geschwindigkeit und Vollständigkeit von Löschungen, und auf welche konkreten Quellen oder eigenen Erhebungen stützt sie diese Erkenntnisse ggf.?
Wenn der Bundesregierung hierzu keine eigenen Erkenntnisse vorliegen (vgl. Vorfrage), auf welche Daten oder Studien stützt sie ihre Bewertung der Wirksamkeit des Digital Services Act?
Welche konkreten Grenzen bestehen bei der Anwendung dieser Regelungen (vgl. Vorfragen), insbesondere bei Anbietern außerhalb der Europäischen Union oder bei nicht-öffentlichen Kommunikationskanälen?
Welche konkreten Anforderungen bestehen auf europäischer Ebene für Anbieter generativer KI im Hinblick auf Transparenz und Kennzeichnung von Inhalten?
Welche Behörden sind in Deutschland für die Durchsetzung dieser Anforderungen (vgl. Vorfrage) zuständig und wie erfolgt die praktische Kontrolle und Durchsetzung dieser Anforderungen?
Welche Erkenntnisse liegen der Bundesregierung zur Einhaltung dieser Anforderungen vor (vgl. Vorfrage)?
Wenn hierzu (vgl. Vorfrage) keine Erkenntnisse vorliegen, wie begründet die Bundesregierung die Annahme, dass bestehende Regelungen ausreichend sind?
Welche Schnittstellenprobleme bestehen nach Auffassung der Bundesregierung zwischen KI-Regulierung und geltendem Straf- und Zivilrecht ggf.?
Welche konkreten Schwierigkeiten bestehen bei der Strafverfolgung nach Auffassung der Bundesregierung ggf., wenn Täter oder technische Infrastruktur im Ausland angesiedelt sind?
Welche rechtlichen und tatsächlichen Möglichkeiten bestehen, rechtsverletzende Inhalte aus Drittstaaten entfernen zu lassen (vgl. Vorfrage)?
Vorabfassung - wird durch die lektorierte Version ersetzt.
Welche internationalen Kooperationsmechanismen werden in diesem Zusammenhang genutzt (vgl. Vorfrage) und wie bewertet die Bundesregierung deren Effektivität?
Welche Erkenntnisse liegen der Bundesregierung ggf. zur internationalen Verbreitung entsprechender Delikte (vgl. Vorfrage) vor und auf welche konkreten Quellen stützen sich diese Erkenntnisse?
Wenn keine belastbaren Vergleichsdaten vorliegen (vgl. Vorfrage), welche Gründe sieht die Bundesregierung hierfür?
Auf welche konkreten empirischen Erkenntnisse stützt die Bundesregierung den von der Bundesjustizministerin vorgelegten Referentenentwurf, insbesondere im Hinblick auf Häufigkeit und Entwicklung entsprechender Fälle?
Welche konkreten Fallkonstellationen sollen durch den Referentenentwurf (vgl. Vorfrage) künftig strafbar sein, die nach geltendem Recht nicht erfasst sind?
Inwieweit wurde vor Erstellung des Referentenentwurfs (vgl. Vorfrage) geprüft, ob bestehende strafrechtliche Vorschriften konsequent angewendet werden?
Hat sich die Bundesregierung eine Auffassung erarbeitet zu der in der rechtswissenschaftlichen und anwaltlichen Praxis geäußerten Kritik, wonach der Referentenentwurf zu einer erheblichen Ausweitung strafrechtlicher Tatbestände führen könnte und wenn ja, wie lautet diese?
Wie stellt die Bundesregierung sicher, dass die geplanten Regelungen (Referentenentwurf) den Anforderungen des Bestimmtheitsgebots gerecht werden?
Welche Abgrenzungskriterien sieht die Bundesregierung zwischen strafbarer digitaler Manipulation und zulässiger Nutzung digitaler Bild- oder Videobearbeitung?
Welche besonderen Gründe sieht die Bundesregierung für eine gesonderte strafrechtliche Behandlung pornografischer Deepfake-Inhalte?
Inwieweit wurde ggf. geprüft, ob bestehende Vorschriften zum Schutz vor Persönlichkeitsrechtsverletzungen durch Bild- oder Videoinhalte bereits ausreichend sind?
Inwieweit sieht die Bundesregierung vor dem Hintergrund der bestehenden Erkenntnislage ggf. die Notwendigkeit, die tatsächliche Anwendung und Durchsetzung des geltenden Rechts systematisch zu evaluieren?
Wenn eine solche Evaluation (vgl. Vorfrage) nicht vorgesehen ist, aus welchen Gründen hält die Bundesregierung dies für entbehrlich?
Welche konkreten Maßnahmen plant die Bundesregierung ggf., um bestehende Vollzugsdefizite zu identifizieren und zu beheben?