Amnesty: New Yorker Polizei überwacht Minderheiten mit Gesichtserkennung
In Stadtbezirken von New York City mit einer nicht-weißen Bevölkerungsmehrheit gibt es mehr Überwachungskameras als in anderen Stadtvierteln. Das zeigt eine neue Untersuchung der Menschenrechtsorganisation Amnesty International. Die Organisation kritisiert, der Einsatz von Gesichtserkennungstechnologie trage zu einer Zunahme von diskriminierender Polizeiarbeit bei. Sie fordert daher ein Verbot.
Für die Untersuchung haben Tausende Freiwillige die Standorte von über 25.500 staatlichen und privaten Überwachungskameras in New York City erfasst. Gemeinsam mit Datenanalysten hat Amnesty International diese Daten ausgewertet und mit Statistiken zu Polizeikontrollen sowie demographischen Daten abgeglichen. Die New Yorker Polizei (NYPD) verwende ein System, das den Beamten Zugriff auf etwa 20.000 staatliche und private Kameras gebe. In Kombination mit Gesichtserkennungssoftware ließen sich Personen in der Stadt identifizieren.
Amnesty International kritisiert, dass die Überwachungsmaßnahmen des NYPD insbesondere diejenigen treffen, die ohnehin häufig von der Polizei kontrolliert werden. Die Organisation verweist auf eine Statistik zu den umstrittenen Polizeikontrollen, die als “Stop and Frisk” (etwa Stoppen und Filzen) bezeichnet werden. Demnach wurden zwischen 2002 und 2019 hauptsächlich Angehörige schwarzer und lateinamerikanischer Minderheiten von der Polizei angehalten, befragt und durchsucht – auch wenn kein Tatverdacht bestand. In den Bezirken Bronx, Brooklyn und Queens seien besonders viele mit Gesichtserkennung kompatible Kameras installiert: Je höher dort der Anteil nicht-weißer Bewohnerinnen und Bewohner sei, desto mehr Überwachungskameras gebe es.
Gesichtserkennung bedroht Grundrechte
Matt Mahmoudi, Experte für künstliche Intelligenz und Menschenrechte bei Amnesty International, kritisierte: “Unsere Untersuchung zeigt, dass der Einsatz von Gesichtserkennungstechnologie durch das NYPD zu einer Zunahme von diskriminierender Polizeiarbeit gegen Minderheiten in New York beiträgt.” Und weiter: “Wir wissen schon lange, dass das als ‘Stop and Frisk’ bekannte Vorgehen der New Yorker Polizei rassistisch ist. Jetzt wissen wir außerdem, dass diejenigen, die bei diesen Kontrollen ohnehin schon ins Visier genommen werden, auch einem größeren Risiko einer diskriminierenden Polizeiarbeit durch invasive Überwachung ausgesetzt sind.”
Gesichtserkennungssysteme gelten als unzuverlässig, weil sie beispielsweise Personen mit dunkler Hautfarbe häufiger falsch erkennen. Eine Studie der US-Standardisierungsbehörde National Institute of Standards and Technology hatte Ende 2019 festgestellt, dass die Fehlerquote bei Menschen mit dunkler Hautfarbe 10- bis 100-mal höher liegt als bei weißen Menschen. Bei Frauen mit dunkler Hautfarbe kommt es zu den meisten Fehlerkennungen. In den USA sind mehrere Fälle bekannt, in denen schwarze Personen verhaftet wurden, weil die Technologie sie fälschlicherweise identifiziert hatte.
Laut dem Nachrichtensender ABC News nutzt das NYPD bereits seit 2011 Gesichtserkennung. Im Zeitraum zwischen 2016 und 2019 hat die Behörde die umstrittene Technik in mindestens 22.000 Fällen eingesetzt.
Amnesty International kritisiert Gesichtserkennungssysteme als Werkzeuge der Massenüberwachung. Sie bedrohten die Rechte auf Privatsphäre, Gleichberechtigung, Nichtdiskriminierung und Versammlungsfreiheit. Menschen könnten durch das Gefühl überwacht zu werden ihr Verhalten im Alltag ändern – und beispielsweise nicht an Demonstrationen teilnehmen oder frei ihre Meinung äußern. Solche Verhaltensanpassungen werden als “Chilling-Effekte” bezeichnet.
Demonstrierende waren Gesichtserkennung ausgesetzt
Laut Amnesty International sollen in New York City auch Teilnehmer der Black-Lives-Matter-Demonstrationen im Jahr 2020 verstärkt durch Gesichtserkennung überwacht worden sein. Die Organisation hat Routen von U-Bahnstationen zu den Kundgebungen untersucht und festgestellt, dass Teilnehmerinnen und Teilnehmer nahezu lückenlos im Blickfeld von Polizeikameras waren.
Mahmoudi kritisierte: “Massenüberwachungstechnologien werden an Orten wiederholter Proteste zur Identifizierung, Verfolgung und Schikane von Menschen verwendet, die einfach nur ihre Menschenrechte ausüben. Das ist eine vorsätzliche Abschreckungstaktik des NYPD und gehört nicht in eine freie Gesellschaft. Daher muss sie sofort gestoppt werden.”
Dieser Darstellung widersprach der stellvertretende New Yorker Polizeipräsident John Miller gegenüber ABC News: Er erklärte, die Kameras auf den Routen von den U-Bahnstationen seien nicht mit Gesichtserkennungssoftware verbunden. Gleichzeitig räumte Miller jedoch ein, dass die umstrittene Technik bei den Protesten zum Einsatz kam. Dies sei im Zusammenhang mit Angriffen auf Polizeibeamte oder schwerer Sachbeschädigung geschehen.
Amnesty International hatte bereits im vergangenen Jahr dokumentiert, wie die Polizei versucht hatte, einen Teilnehmer der Proteste in seiner Wohnung festzunehmen, nachdem er mittels Gesichtserkennung identifiziert worden war. Der Betroffene soll einen Polizisten durch ein Megafon angeschrien haben – aber keine körperliche Gewalt angewendet haben.
Inmitten der Proteste hatten Tech-Konzerne wie IBM und Microsoft erklärt, Behörden künftig nicht mehr mit ihrer Gesichtserkennungssoftware zu versorgen. IBM hatte dazu damals mitgeteilt, das Unternehmen wolle nicht zulassen, dass Technologie für Massenüberwachung, rassistische Diskriminierung und die Verletzung grundsätzlicher Menschenrechte und Freiheiten verwendet wird.
Amnesty fordert Verbot
Amnesty International fordert den Stadtrat von New York nun auf, Gesichtserkennung zu verbieten. Mahmoudi kommentierte: “Das Verbot von Gesichtserkennung zum Zweck der Massenüberwachung ist ein dringend notwendiger erster Schritt, um rassistische Polizeiarbeit zu unterbinden.”
Ein breites Bündnis von Menschen- und Bürgerrechtsorganisationen – darunter auch Amnesty International – hatte erst im vergangenen Jahr ein weltweites Verbot gefordert.
Doch die Stadt New York plant aktuell, den Einsatz von Gesichtserkennung auszuweiten. Ende Januar hatte Bürgermeister Eric Adams gesagt: “Wir werden auch die neuesten Technologien einsetzen, um Probleme zu erkennen, Hinweisen nachzugehen und Beweise zu sammeln – von Gesichtserkennungstechnologie bis hin zu neuen Werkzeugen, die Waffenträger erkennen können, werden wir jede verfügbare Methode nutzen, um die Sicherheit unserer Bürger zu gewährleisten.”
Amnesty International kritisiert, es gebe keine Beweise, dass Kriminalität durch den Einsatz von Gesichtserkennung verringert werden kann. Die schädlichen Auswirkungen der Technik seien hingegen hinreichend dokumentiert.
Im vergangenen Jahr hatte sich die Polizei in New York geweigert, Unterlagen über den Erwerb von Gesichtserkennungstechnologien und anderen Überwachungswerkzeugen offenzulegen. Amnesty International hatte die Behörde daraufhin verklagt – eine Entscheidung in dem Fall steht noch aus. (js)