Ergebnisse des Pilotprojekts zur biometrischen Gesichtserkennung am Bahnhof Berlin Südkreuz
der Abgeordneten Ulla Jelpke, Dr. André Hahn, Gökay Akbulut, Amira Mohamed Ali, Niema Movassat, Petra Pau, Martina Renner, Kersten Steinke, Friedrich Straetmanns, Dr. Kirsten Tackmann und der Fraktion DIE LINKE.
Vorbemerkung
Von August 2017 bis Juli 2018 hat die Bundespolizei am Berliner Bahnhof Südkreuz ein Pilotprojekt zur biometrischen Gesichtserkennung durchgeführt. Am Abschlussbericht, der im Oktober 2018 veröffentlicht wurde (www.bundespolizei.de/Web/DE/04Aktuelles/01Meldungen/2018/10/181011_abschlussbericht_ gesichtserkennung_down.pdf?__blob=publicationFile&v=1), haben Computer- und Datenschutzexperten zum Teil massive Kritik geäußert. So kommentierte der Chaos Computer Club (CCC), die Ergebnisse seien „nicht überzeugend und absichtlich geschönt worden“, die Ergebnisse seien „manipuliert worden, um sie nicht ganz so desaströs aussehen zu lassen“ (www.ccc.de/en/updates/2018/ debakel-am-suedkreuz).
Auch nach Ansicht der Fragestellerinnen und Fragesteller gibt der Abschlussbericht in vielfacher Hinsicht Anlass zur kritischen Nachfrage, sowohl hinsichtlich der Versuchsanordnung, der Ergebnisstatistiken und nicht zuletzt der grundsätzlichen politischen Fragestellungen, die mit dem Einsatz einer sogenannten intelligenten Videotechnik verbunden sind.
In der ersten Testphase wurden Fotos von 312 Testpersonen in eine Datenbank eingespeist, um die Fähigkeit der Systeme zu erproben, diese Personen zu detektieren.
Im Abschlussbericht heißt es, dass zwei der von drei Herstellern getesteten Systeme jetzt „für den praktischen polizeilichen Einsatz geeignet seien“. Dabei wird positiv auf die Trefferrate (76,7 Prozent) bzw. Falschtrefferrate (FAR; 0,67 Prozent) des sogenannten Gesamtsystems Bezug genommen. Das Gesamtsystem besteht aus einer Kombination der Ergebnisse aller drei Systeme. Betrachtet man nur die Einzelsysteme, liegt die durchschnittliche Trefferrate bei lediglich 68,5 Prozent (bezogen auf die erste Testphase). Die Bundespolizei lässt im Abschlussbericht eine Tendenz zur Nutzung des Gesamtsystems erkennen: „Die zu erwartende höhere Trefferrate könnte – unter Inkaufnahme einer anzunehmenden höheren Falschakzeptranzrate – die Wahrscheinlichkeit eines Fahndungstreffers signifikant erhöhen.“
Eine bewusst in Kauf genommene Zunahme „falscher Treffer“ bei polizeilichen Maßnahmen halten die Fragestellerinnen und Fragesteller allerdings für den Ausdruck eines problematischen Grundrechtsverständnisses. Bei einer angenommenen Nutzerzahl des Bahnhofs Südkreuz von 90 000 Personen pro Tag würden, bei einer FAR von 0,67 Prozent, rund 600 Personen täglich zu Unrecht als „Gesuchte“ identifiziert. Die Bundespolizei selbst führt (hinsichtlich der zweiten Testphase) aus, dass im Realbetrieb eines im „ODER“-Modus interkonnektierenden Systems beim Einsatz von 15 Kameras und angenommenen 15 000 Personen pro Tag täglich 1 020 Falschtreffer erfolgen würden. Die FAR würde steigen, wenn die Zahl der gespeicherten Fotos stiege (im Abschlussbericht wird als Beispiel auf 600 auf freiem Fuß befindliche „Gefährder“ Bezug genommen).
Der Bericht hebt zwar hervor, dass in Testphase 2 eine höhere Trefferrate erreicht wurde, jedoch erscheint den Fragestellerinnen und Fragestellern die dabei erzielte Fehlerrate von 0,34 Prozent (im ODER-Modus des Gesamtsystems; bei über 80 Prozent Trefferrate) immer noch bedenklich hoch. Lediglich im UND-Modus wurde eine niedrige Fehlerrate erzielt (0,00018 Prozent), wobei sich allerdings die Trefferrate wiederum auf rund zwei Drittel absenkte.
Allerdings gibt es an der Verlässlichkeit der zweiten Testphase Zweifel: Denn dabei ging es ausschließlich um die Detektionsfähigkeit solcher Bilder, die von den Kameras im Bahnhof Südkreuz angefertigt worden waren, und die sie anschließend auch selbst wieder erkennen sollten. Aussagekräftiger wäre nach Einschätzung der Fragestellerinnen und Fragesteller die Frage gewesen, ob die getesteten Systeme auch in der Läge wären, Personen anhand solcher Bilder zu identifizieren, die von anderen Videokameras (nicht vom Bahnhof Südkreuz) stammen.
Unabhängig von Fragen der Technik, der Versuchsanordnung und der Statistik sind die Fragestellerinnen und Fragesteller allerdings darüber besorgt, dass die Auswirkung der biometrischen Gesichtserkennung auf die Grundrechte bzw. deren mögliche Einschränkung im Abschlussbericht kaum thematisiert wird. Denn der Bericht streift die Frage, was mit irrtümlich identifizierten Personen im Wirkbetrieb passieren würde, nur kurz: „Im günstigsten Fall“ führe ein visueller Abgleich durch einen Polizisten dazu, dass keine weiteren polizeilichen Maßnahmen ergriffen würden. Weniger günstige Fälle werden hingegen nicht thematisiert. Die Fragestellerinnen und Fragesteller sehen das Risiko, dass im Wirkmodus eines solchen Systems täglich Hunderte von Personen – an nur einem Bahnhof – fälschlich erkannt würden und der Großteil von ihnen sehr wohl zumindest mit einer Identitätsfeststellung durch die Polizei rechnen müsste. Bei flächendeckendem Einsatz an allen Bahnhöfen bundesweit dürfte diese Zahl an die Zehntausende reichen. Das bedeutet erhebliche Grundrechtseingriffe für Passanten und erheblichen Mehraufwand auf Seiten der Polizei. Dies muss berücksichtigt werden, wenn es um die Frage geht, ob ein solcher flächendeckender Biometrie-Einsatz zu mehr Sicherheit führen kann.
Wir fragen die Bundesregierung:
Fragen26
Macht sich die Bundesregierung die wesentlichen Schlussfolgerungen aus dem Abschlussbericht der Bundespolizei zu eigen, und inwiefern bestehen aus ihrer Sicht noch Vorbehalte oder Prüfbedarf (bitte begründen)?
Inwiefern teilt die Bundesregierung die Auffassung des Chefs der Bundespolizei, Dr. Dieter Romann, der anführte, die Technik erleichtere es, „Straftäter ohne zusätzliche Polizeikontrollen zu erkennen und festzunehmen“ (Pressemitteilung des Bundesministeriums des Innern, für Bau und Heimat – BMI – vom 11. Oktober 2018)? Inwiefern hält sie es für grundrechtskonform, eine Person festzunehmen nur weil sie von einem automatisierten System identifiziert wurde, ohne wenigstens noch zuvor eine Identitätsfeststellung („Polizeikontrolle“) vorzunehmen?
Wie müsste sich die Polizei nach Einschätzung der Bundesregierung verhalten, wenn eine zur Fahndung ausgeschriebene Person von einem Gesichtserkennungssystem „erkannt“ wird?
a) Inwiefern darf diese Person ohne weitere Identifizierungskontrolle in Gewahrsam genommen werden?
b) Inwiefern wäre es legitim, sie zum Zweck der Identitätsfeststellung in Gewahrsam zu nehmen?
Teilt die Bundesregierung die Einschätzung im Abschlussbericht, Falschtreffer könnten „im Rahmen der unmittelbaren Validierung“ mittels visuellem Abgleich durch Angehörige der Bundespolizei „unverzüglich als solche erkannt werden“, und wenn ja, auf welcher Grundlage bzw. welchen Erfahrungswerten?
a) Inwiefern war die Validierung von Falschtreffern auf den Monitoren durch Bundespolizistinnen und Bundespolizisten Gegenstand des Projektes, welche Vorgaben waren den im Rahmen des Projektes eingesetzten Beamten gemacht worden, und welche Ergebnisse kann die Bundesregierung hierzu mitteilen?
b) Teilt die Bundesregierung die Annahme der Fragestellerinnen und Fragesteller, dass die Fähigkeit bzw. schiere Möglichkeit zur unmittelbaren Validierung durch visuellen Abgleich in dem Maße abnimmt, in dem die Gesamtzahl gespeicherter (und abzugleichender) Bilder zunimmt, und dadurch entsprechend auch das Risiko steigt, dass Personen, bei denen das System einen Falschtreffer auslöst, einer polizeilichen Maßnahme unterzogen werden (falls nicht, bitte begründen)?
Inwiefern ist die Bundesregierung der Ansicht, eine ODER-Verknüpfung von Gesichtserkennungssystemen unter Inkaufnahme einer erhöhten Falschtrefferrate und der dadurch bedingten irrtümlichen Identifizierung von mehreren Hundert Personen an einem Bahnhof pro Tag sei geeignet, in besonderen polizeilichen Lagen die Sicherheit zu erhöhen? Wie ist nach ihrer Einschätzung hierbei der polizeiliche Mehraufwand zu beziffern und zu berücksichtigen, der durch die Falschtreffer entsteht?
Welche konkreten gemessenen Auswirkungen auf die Trefferrate bzw. Falschtrefferrate hatte die witterungsbedingt verwendete Kleidung der Testpersonen (insbesondere Schals, Mützen usw.)? Inwiefern wurde in Testphase 1 erfasst, wie viele Testpersonen an wie vielen Tagen Schals, Mützen oder andere Verdeckungen trugen und inwiefern dadurch eine biometrische Gesichtserkennung erschwert bzw. unmöglich war, und inwiefern flossen diese Werte in die Ergebnisbewertung ein?
Welche konkreten gemessenen Auswirkungen auf die Trefferrate bzw. Falschtrefferrate hatte es, wenn Personen, insbesondere bei Erfassung der Kamera an der Rolltreppe des Bahnhofs, nach unten bzw. zur Seite sahen, statt frontal geradeaus?
Inwiefern wurde während des Versuchs bzw. seiner Auswertung die Möglichkeit berücksichtigt, bzw. inwiefern geht die Bundesregierung davon aus, dass das Wissen der Testpersonen um den Test Auswirkungen auf ihr Verhalten und damit das Testergebnis hatte?
a) Inwiefern wurde während des Projektes erfasst oder zumindest auf einer theoretischen Ebene berücksichtigt, dass die Testpersonen über eine überdurchschnittlich hohe Motivation verfügen könnten, ihre Identifikation zu ermöglichen, und deswegen möglicherweise häufiger als andere Reisende direkt in Kameras zu sehen, bzw. weniger häufig beispielsweise auf ihre Smartphones (nach unten) oder zur Seite, was ihre Identifikation erschwert hätte?
b) Wurden die Testpersonen vor Versuchsbeginn oder danach zu ihrer Motivation und ihrem diesbezüglichen Verhalten befragt (bitte ggf. Ergebnisse angeben)?
c) Inwiefern geht die Bundesregierung davon aus, dass ein Wirkbetrieb (ohne zuvor ausgewählte und über den Versuch informierte Probanden) zu gleichen Ergebnissen hinsichtlich Treffer- und Falschtrefferrate führen würde (bitte begründen)?
Warum wurde die im Abschlussbericht getroffene Feststellung, dass sich besondere Ansprüche an Gesichtsdetektoren ergeben durch Alter, Hautfarbe und Geschlecht, unterschiedliche Emotionen bzw. Gesichtsausdrücke, das mögliche Vorhandensein von Verdeckungen z. B. durch Brillen und Bärte, sowie eine Vielzahl kosmetischer Aspekte wie beispielsweise Frisuren, bei der Auswahl der Testpersonen nicht berücksichtigt, sondern nur darauf abgestellt, mindestens 84 Personen (als Minimum für eine repräsentative Auswahl) zu gewinnen bzw. letztlich sämtliche Bewerberinnen und Bewerber zu akzeptieren?
a) Wie gliedern sich die Testpersonen in Hinsicht auf Alter, Hautfarbe, Geschlecht, Brillen- und Bartträger auf, und inwiefern ist eine Repräsentativität hinsichtlich der Gesamtbevölkerung bzw. der durchschnittlichen Nutzerinnen und Nutzer des Bahnhofs Südkreuz gegeben (bitte entsprechendes Bestimmungsverfahren erläutern)?
b) Inwiefern wurde auf mögliche diskriminierende Algorithmen bzw. Wirkungen einer biometrischen Gesichtserkennung geachtet, insbesondere hinsichtlich der Treffer- bzw. Falschtreffermeldungen bei Menschen mit dunklerer Hautfarbe? Falls solche Aspekte nicht berücksichtigt wurden, warum nicht, und welche Auswirkungen hatte dies nach Auffassung der Bundesregierung auf die Aussagekraft der Testergebnisse?
Wie viele Falschpositivtreffer hat es insgesamt während des Versuchs gegeben und wie viele Falschnegativtreffer (für Testphase 1 bitte zusätzlich jeweils pro Woche aufgliedern)?
Nach welchen Kriterien wurden von den 41 000 vorliegenden Datensätzen der Transponderlogdateien in Testphase 1 lediglich 6 000 mit einem Treffer sowie 4 500 mit einem Falschtreffer überprüft (5.1.1. im Abschlussbericht), und wie viele Logdateien der Testphase 2 fielen an, und wie viele davon wurden überprüft (bitte auch hier Kriterien angeben)?
Welche Ergebnisse erbrachten die Einzelprüfungen solcher vom System gemeldeten Treffer, die ohne Anwesenheit eines Transponderträgers gemeldet wurden, und inwiefern flossen diese Prüfungen in die im Abschlussbericht genannte Falschtrefferrate ein (falls sie nicht einflossen, bitte nachholen und den Wert angeben)? Bei wie vielen richtig positiven Treffern hatten die identifizierten Personen einen Transponder dabei, und bei wie vielen nicht?
Wie viele Personen passieren nach Kenntnis der Bundesregierung durchschnittlich pro Tag den Bahnhof Südkreuz (ohne durchreisende Personen), und wie viele Personen wurden während des Versuchszeitraums durchschnittlich pro Tag von den installierten Kameras erfasst?
Warum enthält die Auswertung der Trefferrate (bezogen auf das „Gesamtsystem“) für die Testphase 1 neun Datenpunkte für den November 2017, die Auswertung der Falschtrefferrate aber lediglich einen Datenpunkt für den gleichen Monat? Welche Werte für Trefferrate und Falschtrefferrate wurden insgesamt erreicht (bitte pro Testwoche, wie in den Diagrammen im Anhang 3 des Abschlussberichts, darstellen)?
Welche Auswirkungen auf die Übertragbarkeit der Testergebnisse auf andere Jahreszeiten hat nach Einschätzung der Bundesregierung die zeitliche Eingrenzung der Auswertung in Testphase 1 auf die Monate Oktober bis Januar (Fußnote 22 auf S. 31 des Abschlussberichtes) vor dem Hintergrund der Aussage im Abschlussbericht, dass sich der Effekt negativer Auswirkungen auf die Bildqualität durch Gegenlicht „insbesondere in den Sommermonaten bemerkbar“ mache?
Für wie realistisch hält die Bundesregierung die Ausgangslage in Testphase 1 (Vorliegen qualitativ hochwertiger Gesichtsbilder) in Hinsicht auf einen Wirkbetrieb?
a) Von wie vielen als Gefährder eingestuften Personen liegen den Sicherheitsbehörden nach Kenntnis der Bundesregierung qualitativ hochwertige Gesichtsbilder vor?
b) Von wie vielen Personen, die derzeit wegen schwerer Gewalttaten zur Fahndung ausgeschrieben sind, liegen den Sicherheitsbehörden nach Kenntnis der Bundesregierung qualitativ hochwertige Gesichtsbilder vor?
Warum wurde in Testphase 2 darauf verzichtet, in die Referenzbilddateien solche Bilder der Testpersonen einzupflegen, die aus anderen, nicht im Bahnhof Südkreuz eingesetzten, Videokameras aufgenommen wurden? Welche Auswirkung hatte nach Einschätzung der Bundesregierung die Einschränkung der Versuchsanordnung auf die Identifikation der „eigenen“ Bilder auf das Testergebnis?
Gibt es in der Bundesregierung tatsächlich Überlegungen, sämtliche auf freiem Fuß befindlichen islamistischen „Gefährder“ in einer Bilddatenbank zu speichern, um sie im möglichen künftigen Wirkbetrieb biometrischer Gesichtserkennung auf Bahnhöfen identifizieren zu können, und wenn ja, auf welcher Rechtsgrundlage, warum, und warum werden im Abschlussbericht nur islamistische „Gefährder“ genannt und keine Neonazis?
Hat es im Vorfeld des Versuches Kostenschätzungen gegeben bzgl. der Entwicklung einer eigenen Software (durch Sicherheitsbehörden des Bundes; bitte ggf. angeben)?
Liegen der Bundesregierung bereits Kostenprognosen hinsichtlich einer Nutzung der biometrischen Gesichtserkennung im Wirkbetrieb vor (bitte erläutern, welche Anbieter und wie die Prognose zusammengesetzt ist), und welche Auswirkungen auf die Kosten hätte ein kombinierter Einsatz dreier verschiedener Systeme (als „Gesamtsystem“) gegenüber dem Einsatz nur eines Systems?
Hatte die Bundespolizei (oder andere Behörden des Bundes) die Möglichkeit, die für die Systeme der verschiedenen Anbieter verwendeten Algorithmen einzusehen? Über welche Fähigkeiten verfügt die Bundespolizei (oder hilfsweise hinzugezogene andere Bundesbehörden), mögliche Manipulationen der Systeme durch die Anbieter oder durch (auch unbefugte) Dritte zu erkennen, insbesondere solche, die es ermöglichen, bestimmte Personen(typen) mit höherer oder geringerer Wahrscheinlichkeit richtig positiv zu erkennen als andere?
Wie und auf welcher Rechtsgrundlage wurden Daten (Fotos) jener Personen gespeichert und bearbeitet, bei denen das System einen Falschtreffer ausgelöst hatte? Wer hatte für welche Zeiträume Zugriff auf diese Daten? Sind alle diese Daten mittlerweile gelöscht?
Welche Daten (incl. Logdateien und transponderbezogene Daten) aus dem Versuch sind derzeit noch nach Kenntnis der Bundesregierung gespeichert, wo sind sie gespeichert, wer hat Zugriff auf diese Daten, und inwiefern erlauben diese Daten eine Zuordnung zu konkreten Personen? Haben die Anbieter aller drei Systeme (Auftragnehmer) mittlerweile sämtliche in ihren Besitz gelangte Unterlagen, Verarbeitungs- und Nutzungsergebnisse sowie Datenbestände (sowie hiervon gefertigte Kopien oder Reproduktionen) zurückgegeben bzw. vernichtet, und liegt hinsichtlich der Vernichtung ein Löschungsprotokoll vor?
Inwiefern will die Bundesregierung der Handlungsempfehlung der Bundespolizei folgen, an weiteren Bahnhöfen eine biometrische Gesichtserkennung einzuführen und hierzu entweder neue technische Anlagen einzurichten oder vorhandene nachzurüsten?
Ist die Bundesregierung der Ansicht, dass auf den Einsatz biometrischer Gesichtserkennungssysteme auch im Wirkbetrieb explizit hinzuweisen wäre, oder ist sie der Ansicht, es genüge ein allgemeiner Hinweis auf Videoüberwachung (bitte begründen)?
Wer soll in die vom BMI angekündigten Gespräche über Bedingungen und Umfang eines Wirkbetriebs biometrischer Gesichtserkennung (Presseerklärung des BMI vom 11. Oktober 2018) eingebunden werden, und inwiefern gibt es hierfür bereits einen Zeitplan?