Gefahr von durch Künstliche Intelligenz hergestelltem kinderpornografischen Material im Internet
der Fraktion der CDU/CSU
Vorbemerkung
Künstliche Intelligenz (KI) wird leider zunehmend missbraucht, um kinder- und jugendpornografisches Foto- und Filmmaterial zu erstellen, wie eine aktuelle Recherche des SWR-Investigativformats „Vollbild“ zeigt (www.tagesschau.de/investigativ/report-mainz/internet-ki-pornografie-kinder-100.html).
Manche Darstellungen sind künstlich generiert, andere basieren auf echten Kinderbildern oder gar echtem Kindesmissbrauch. Laut den Recherchen basieren diese künstlichen kinder- und jugendpornografischen Abbildungen vor allem auf Versionen des KI-Programms Stable Diffusion, eine Open Source Software, die über keine Sicherheitsmechanismen verfügt, um die Erstellung von Nacktbildern zu verhindern. Über solche Sicherheitsmechanismen verfügen hingegen andere KI-Programme wie DALL-E oder Midjourney.
Diese Entwicklungen sind verstörend und die Bekämpfung muss noch mehr in den Fokus rücken.
Wir fragen die Bundesregierung:
Fragen20
Welche Informationen bezüglich der Höhe des aktuellen Aufkommens von durch Künstliche Intelligenz erstelltem kinderpornografischen Material sind der Bundesregierung bekannt?
Erwartet die Bundesregierung in den kommenden Jahren ein erhöhtes Aufkommen von durch Künstliche Intelligenz erstelltem kinderpornografischen Material, und wenn ja, auf welchen Plattformen, z. B. im Darknet, frei zugänglichen Internet und auf Social-Media-Plattformen?
Von welchen Meldestellen erhält die Bundesregierung hierzu (regelmäßig) Informationen, und seit wann?
Ist der Bundesregierung bekannt, ob und in welcher Art Hersteller und Anbieter der KI-Programme zur Erstellung von Bild- und Videomaterial Schutzmaßnahmen treffen, um die Herstellung von kinderpornografischem Material zu verhindern oder zu erschweren?
Welche rechtlichen Grundlagen sind der Bundesregierung bekannt, um Hersteller und Anbieter von KI-Programmen zur Erstellung von Bild- und Videomaterial zu zwingen, die Herstellung von kinderpornografischem Material zu verhindern, und welche rechtlichen Maßnahmen erwägt die Bundesregierung?
Liegen der Bundesregierung Studien oder andere Informationen darüber vor, welchen Einfluss KI-generiertes kinderpornografisches Material auf Menschen mit pädophiler Störung und andere Nutzer haben kann und welche Folgen sich aus der Nutzung bilden?
Welche Maßnahmen sind der Bundesregierung bekannt, die von den betroffenen Plattformen wie Instagram bislang angewendet werden, um dieser Problematik entgegenzuwirken?
Welche Maßnahmen verfolgt die Bundesregierung gegenüber Websites, die, laut Recherchen der Redaktion „Vollbild“, nur unzureichend der Entfernung von rechtswidrigen Inhalten nachkommen (www.tagesschau.de/investigativ/report-mainz/internet-ki-pornografie-kinder-100.html)?
Welche Unterschiede und rechtlichen Folgen ergeben sich laut Bundesregierung aus der Tatsache, dass ein Teil der Nutzer die rechtswidrigen Inhalte nicht nur verbreiten, sondern diese als echte Kinder- und Jugendpornografie aktiv verkaufen?
Steht die Bundesregierung mit Plattformbetreibern zur Problematik der KI-generierten Kinder- und Jugendpornografie in Kontakt, und wenn ja, zu welchen (bitte erläutern)?
Wie bewertet die Bundesregierung die Arbeit der Plattformbetreiber, entsprechendes Bildmaterial zu erkennen?
Liegt ein Schwerpunkt der Verbreitung von KI-generierten Abbildungen von Kindesmissbrauch in Deutschland oder in anderen EU-Mitgliedstaaten (bitte erläutern)?
Welche Strafbarkeitslücken bestehen aus Sicht der Bundesregierung im Bereich der Kinderpornografie und des KI-generierten Materials?
Welche Strafbarkeitslücken sieht die Bundesregierung im Zusammenhang mit der Herstellung und Bereitstellung von Software für die Herstellung von kinderpornografischem Material?
Welche Strafbarkeitslücken sieht die Bundesregierung im Zusammenhang mit der unzureichenden Absicherung von öffentlich verfügbaren KI-Modellen gegen die Erstellung von kinderpornografischem Material?
Welche Strafbarkeitslücken sieht die Bundesregierung im Zusammenhang mit der Bereitstellung von Anleitungen zur Erstellung oder Umgehung von Schutzvorkehrungen bei der Erstellung von kinderpornografischem Material mit öffentlich zugänglichen KI-Modellen, und wenn nein, nach welchen Normen ist aus Sicht der Bundesregierung bereits eine Strafbarkeit gegeben?
Wurde die von der Justizministerkonferenz erbetene Expertenkommission (www.tagesschau.de/investigativ/report-mainz/internet-ki-pornografie-kinder-100.html) bereits durch den Bundesminister der Justiz Dr. Marco Buschmann eingesetzt, und wenn ja, wann, wenn nein, warum noch nicht (bitte erläutern)?
Welche Ziele verfolgt die Expertenkommission, und bis wann soll sie Ergebnisse vorgelegt haben?
Inwiefern bezieht die Bundesregierung die Tatsache in ihre Überlegungen ein, dass insbesondere auch deutsche Nutzer japanische Plattformen und Online-Marktplätze aufsuchen, weil dort die Verbreitung von künstlich hergestelltem kinder- und jugendpornografischen Material nicht verboten ist (www.faz.net/aktuell/gesellschaft/kriminalitaet/japan-wenn-die-ki-legal-kinderpornographie-generiert-19321046.html)?
Steht die Bundesregierung zu dieser Problematik im Austausch mit der japanischen Regierung (bitte erläutern)?