Könnte zum Vorbild für viele andere Behörden werden

San Francisco verbietet Gesichtserkennung – Ergebnisse nicht zuverlässig

Display eines Anbieters auf dem Europäischen Polizeikongress 2017 in Berlin
(C) CIVES Redaktionsbüro GmbH
Der Stadtrat in San Francisco verbietet den Behörden der Stadt, auch der Polizei, den Einsatz von Gesichtserkennungsverfahren. Unter anderem, weil sie unzuverlässige Ergebnisse liefert. „Wir sind für gute Polizeiarbeit“, sagt ein federführender Stadtrat, „möchten aber nicht in einem Polizeistaat leben.“ Die Regierung in Deutschland ist noch nicht so weit. Obwohl der Einsatz nach derzeitiger Rechtslage rechtswidrig ist, wird Phase 2 des Tests am Bahnhof Südkreuz vorbereitet: Diesmal an „liegenden Personen“.
Mein Vorschlag für den Arbeitstitel in modernem Regierungsdeutsch:
Das Hingefallenen-Identifizierungsprojekt.

Stadtrat von San Francisco verbietet Gesichtserkennung

Der Stadtrat von San Francisco hat mit 8:1-Stimmen Beschlüsse gefasst, die bahnbrechende Wirkung in Amerika haben könnten: Der Erlass

  • verbietet den 53 Behörden der Stadt den Einsatz von Gesichtserkennungs­technologie,
  • verlangt, dass sie ihr schon vorhandenes Inventar an Überwachungstechnologie öffentlich machen und
  • dass der Beschaffungsprozess für Überwachungstechnologie zukünftig durch einen öffentlichen, transparenten Aufsichtsprozess begleitet wird.

Er betrifft auch das San Francisco Police Department (SFPD), nicht jedoch die Bundespolizei, die am internationalen Flughafen und am Hafen der Stadt tätig ist und beschränkt auch nicht private Geschäftsleute oder Anwohner beim Einsatz von Videoüberwachung. „Wir sind alle für gute Polizeiarbeit“, sagte Stadtrat Aaron Peskin, der die Beschlussvorlage eingebracht hatte, „aber keiner von uns möchte in einem Polizeistaat leben“. Dazu gehört, dass wir durch Offenheit und Transparenz Vertrauen in der Gesellschaft aufbauen und nicht durch Big Brother Technologie. [1, 2].

Kritik an der heute verfügbaren Gesichtserkennungssoftware

Ganz abgesehen von grundsätzlichen rechtlichen Bedenken über diese Umfassende Überwachung von potentiell jedermann gilt die heute verfügbare Gesichtserkennungstechnologie als viel zu unzuverlässig. Amazon zum Beispiel hat eine Software namens ‚Rekognition‘ entwickelt und vertreibt die recht massiv bei amerikanischen Polizeibehörden auf lokaler, Landes- und Bundesebene. Forscher des MIT Media Labs haben bei Tests dieser Software herausgefunden [3], dass das Geschlecht von hellhäutigen Männern zuverlässig erkannt wird, während drei von zehn dunkelhäutigen Frauen nicht als Frauen erkannt wurden. In einem ähnlichen Test [4], ebenfalls mit der Amazon-Software, durch die amerikanische Bürgerrechtsbewegung ACLU, wurden 28 Mitglieder des US-Kongress fälschlich als aktenkundige Kriminelle identifiziert. Die Fehler wurden umso häufiger bei Bildern von Kongressmitgliedern nicht-weißer Hautfarbe.

Kritik des Bundesdatenschutzbeauftragten am Gesichtserkennungsprojekt am Bahnhof Südkreuz

Auch im jüngsten Tätigkeitsbericht des Bundesdatenschutzbeauftragten (BfDI) gibt es deutliche Feststellungen zurm Einsatz

Der Einsatz ist nach derzeitiger Rechtslage rechtswidrig

Nach Auffassung des BfDI ist

„der Einsatz dieser neuen, über die herkömmliche Videoüberwachung hinausgehenden Technik im polizeilichen Alltag nach derzeitiger Rechtslage … rechtswidrig.“ Denn …“ Gesichtserkennung stellt eine eingriffsintensive Maßnahme dar, die eine Vielzahl von Menschen betrifft. Dieser Eingriff bedarf einer hinreichend bestimmten Rechtsgrundlage, die es derzeit nicht gibt. Ob die hohen verfassungsrechtlichen Anforderungen an entsprechend tiefgehende Grundrechtseingriffe überhaupt erfüllt werden können, ist zweifelhaft.“

Die Bundespolizei und das federführende Bundesinnenministerium sind von solchen Bedenken allerdings unbeeindruckt. Dort wird aktuell die Phase 2 des Tests der Gesichtserkennungssoftware am Bahnhof Südkreuz in Berlin vorbereitet. Dabei soll der Test u.a. ausgeweitet werden auf liegende Personen.

Da fragt sich der gesunde Menschenverstandh:
Wenn die Leute ohnehin schon liegen: Ist Identifizierung dann wirklich die wichtigste Aufgabe?
Und: Müsste nicht vor einem flächendeckenden Einsatz für die geeignete Ausleuchtung der zu überwachenden Bahnhöfe gesorgt werden?! [siehe A] Und, wenn ja, wer zahlt dafür? Die Deutsche Bahn AG doch sicher nicht …

Quellen

[1]   San Francisco is first US city to ban police use of facial recognition tech, 15.05.2019, Guardian
https://www.theguardian.com/us-news/2019/may/14/san-francisco-facial-recognition-police-ban

[2]   SF moves toward banning facial recognition software, 14.05.2019, San Jose Mercury / CNN
https://www.mercurynews.com/2019/05/14/sf-moves-toward-banning-facial-recognition-software/

[3]   Amazon facial-identification software used by police falls short on tests for accuracy and bias, new research finds, 25.01.2019, The Washington Post
https://www.washingtonpost.com/technology/2019/01/25/amazon-facial-identification-software-used-by-police-falls-short-tests-accuracy-bias-new-research-finds/

[4]   Amazon’s Face Recognition Falsely Matched 28 Members of Congress with Mugshots, 26.07.2018, ACLU
https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28

[5]   27. Tätigkeitsbericht (2017-2018) des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit
https://www.bfdi.bund.de/SharedDocs/Publikationen/Taetigkeitsberichte/TB_BfDI/27TB_17_18.pdf

Mehr zum Thema „Gesichtserkennung“ auf POLICE-IT

[A]   Was Sie schon immer über Gesichtserkennung wissen wollten …, 24.08.2017, POLICE-IT
– Voraussetzungen | Funktionsweise | Einschränkungen –
https://police-it.net/was-sie-schon-immer-ueber-gesichtserkennung-wissen-wollten

[B]   “… und Zitronenfalter falten Zitronen …“, 24.08.2017, POLICE-IT
– Bundesinnenminister De Maizière erklärt uns die Gesichtserkennung –
https://police-it.net/und-zitronenfalter-falten-zitronen

[C]   Was sind „analoge Befugnisse der Polizei“?!, 13.06.2017, POLICE-IT
– Der Bundesinnenminister hat Visionen und auch seine Pressestelle kann nicht zeitnah erklären, was er meint … –
https://police-it.net/was-sind-analoge-befugnisse-der-polizei

Copyright und Nutzungsrechte

(C) 2019 CIVES Redaktionsbüro GmbH
Sämtliche Urheber- und Nutzungsrechte an diesem Artikel liegen bei der CIVES Redaktionsbüro GmbH bzw. bei dem bzw. den namentlich benannten Autor(en). Links von anderen Seiten auf diesen Artikel, sowie die Übernahme des Titels und eines kurzen Textanreißers auf andere Seiten sind zulässig, unter der Voraussetzung der korrekten Angabe der Quelle und des/der Namen des bzw. der Autoren. Eine vollständige Übernahme dieses Artikels auf andere Seiten bzw. in andere Publikationen, sowie jegliche Bearbeitung und Veröffentlichung des so bearbeiteten Textes ohne unsere vorherige schriftliche Zustimmung ist dagegen ausdrücklich untersagt.