Detroit: Polizei erlässt nach unrechtmäßigen Verhaftungen neue Richtlinien für Gesichtserkennung
Die Stadt Detroit hat dem Detroit Police Department (DPD) strengere Regeln für den Umgang mit automatischer Gesichtserkennung auferlegt. Die Richtlinien wurden im Rahmen einer gerichtlichen Einigung überarbeitet, bei der ein Mann vor dem Bezirksgericht Michigan infolge fehlerhafter automatischer Gesichtserkennung im Jahr 2020 zu Unrecht wegen Diebstahls verhaftet und 30 Stunden lang inhaftiert worden war, teilten die Behörden am Freitag mit. Die Bürgerrechtsorganisation American Civil Liberties Union (ACLU) hatte daraufhin im Jahr 2021 im Namen des Opfers das Detroit Police Department verklagt.
Stephen Lamoreaux, Leiter der Verbrechensaufklärung in Detroit, sagte, die Stadt habe “nun die strengsten Richtlinien im Land”. Die Polizei teilte am Freitag mit, dass sie mit den Änderungen zufrieden und davon überzeugt ist, dass diese landesweit als Beispiel für den besten Umgang mit Gesichtserkennung dienen werden. Man wolle – ebenso wie die klagende ACLU – sicherstellen, dass die Polizeiarbeit fair, gerecht und verfassungskonform durchgeführt wird. Künftig soll die automatische Gesichtserkennung nur noch bei schweren Straftaten wie Körperverletzung, Mord und Einbrüchen zum Einsatz kommen.
Zu den neuen Vorgaben im Umgang mit automatischer Gesichtserkennung zählt etwa, dass ein Ermittler die Zustimmung von mindestens zwei weiteren Personen vor dem Einsatz der Technik benötigt und Festnahmen allein auf Grundlage der Ergebnisse der Gesichtserkennungssoftware oder anhand von Fotos nicht mehr zulässig sind. Es muss mindestens einen weiteren “physischen Beweis” geben, wie beispielsweise DNA-Spuren am Tatort oder ein eingebuchtes Mobilfunktelefon des Beschuldigten in einer Funkzelle am Tatort. Eine Gegenüberstellung – auch in Form von gezeigten Fotos – ist allein mit Beweisen anhand der automatischen Gesichtserkennung ebenfalls nicht mehr zulässig und bedarf weiterer Beweise. Sind diese vorhanden, darf der Beamte, der dem möglichen Zeugen die Fotos zeigt, den Verdächtigen selbst nicht kennen.
Neue Richtlinien und Dokumentationspflicht
Transparenz soll dadurch gefördert werden, dass die Polizei nun über Schwachstellen der Gesichtserkennungstechnologie informieren muss und darüber, wann sie bei einer Verhaftung eingesetzt wird. Zusätzlich müssen die Beamten offenlegen, wenn die Gesichtserkennung keinen Verdächtigen festgestellt hat oder die Ergebnisse auf andere Verdächtige hinweisen. In einer Prüfung sollen alle Fälle seit dem Jahr 2017 untersucht und der Staatsanwaltschaft vorgelegt werden, in denen ein Haftbefehl auf Basis automatischer Gesichtserkennung erteilt worden war.
Die Polizeibehörde muss zudem Schulungen veranstalten, die über die Risiken und Gefahren der Technologie und die hohe Rate von Falschidentifizierungen bei sogenannten Person of Color aufklären.
Die Richtlinie tritt laut New York Times (NYT) diesen Monat in Kraft – ein Bundesgericht soll sie vier Jahre lang durchsetzen. Phil Mayor, Anwalt der ACLU of Michigan, erklärte gegenüber der NYT, dass die gerichtliche Einigung das DPD zu einem landesweiten Vorreiter zur Einhaltung strenger Regeln mache – nachdem er zuvor vom “am besten dokumentierten Missbrauch der Gesichtserkennungstechnologie” sprach.
Ebenfalls Teil des nun geschlossenen Vergleichs ist die Zahlung von 300.000 US-Dollar Schadensgeld an das Opfer. Der Stadtrat von Detroit hatte den Ausgleich bereits im Mai genehmigt.
Der Fall
Der Kläger war aufgrund der falschen Identifikation vor den Augen seiner Familie verhaftet und 30 Stunden lang festgehalten worden. Eine Gesichtserkennungssoftware hatte den Schwarzen Robert Williams 2018 als möglichen Täter bei einem Diebstahl in einem Juweliergeschäft identifiziert. Das System hatte dafür Führerscheinfotos und Fahndungsfotos mit unscharfen Aufnahmen des Täters aus einer privaten Sicherheitskamera abgeglichen.
Das Programm glich das Gesicht des Verdächtigen aus der Sicherheitskameraaufnahme mit den vorhandenen Daten ab und fand 243 angebliche Treffer, die Ähnlichkeiten mit der gesuchten Person aufwiesen. Die mutmaßlich übereinstimmenden Fotos sortierte die Software nach Wahrscheinlichkeit, um den Kreis der Verdächtigen zu minimieren. Den Polizeidokumenten zufolge, die Williams im Rahmen der Klage offengelegt wurden, stand ein Foto aus einem abgelaufenen Führerschein des Klägers an neunter Stelle der Rangliste. Der Ermittler, der den Abgleich betreute, hielt Williams für die passendste Übereinstimmung und schickte einen Bericht an die Detroiter Polizei.
Williams Foto wurde anschließend in eine Auswahl von sechs unterschiedlichen Personenbildern aufgenommen, die der Betreiberin der Sicherheitskamera vorgelegt wurden. Sie bestätigte, dass Williams dem Täter am ähnlichsten sah. Daraufhin wurde Haftbefehl erlassen.
Weiteres Opfer klagte ebenfalls
Bislang sind drei Fälle von Verhaftungen aufgrund fehlerhafter automatischer Gesichtserkennung in Detroit bekannt geworden.
In einem Fall wurde einer Schwarzen vorgeworfen, sich im Februar 2023 an einem Raubüberfall beteiligt und einen Mann ausgeraubt zu haben. Eine automatische Gesichtserkennungssoftware der Polizei hatte sie als mögliche Täterin identifiziert. Nachdem auch ein Zeuge angab, sie auf einem Foto erkannt zu haben, wurde die im achten Monat schwangere Porcha Woodruff vor den Augen ihrer Kinder festgenommen.
Elf Stunden lang hielt sie die Polizei fest und verhörte sie. Auch wurde Woodruff vor Gericht wegen Raubes und Diebstahls angeklagt. Erst nach Zahlung einer Kaution von 100.000 US-Dollar kam die mehrfache Mutter frei. Einen Monat später wies der zuständige Staatsanwalt das Verfahren gegen sie ab, und stellte es ein.
Im Anschluss hatte Woodruff die Stadt Detroit und einen Polizeibeamten verklagt. Sie warf den Behörden eine ungerechtfertigte Inhaftierung und die Verletzung ihre Grundrechte sowie Diskriminierung gegenüber Schwarzen vor – weil sie “Gesichtserkennungstechnologien einsetze, die nachweislich schwarze Bürger häufiger falsch identifizierten als andere”.
Diskriminierende Technologie
Bürgerrechtler kritisieren seit langem automatische Gesichtserkennung bei Strafverfolgungsbehörden für ihre inhärenten Mängel und Unzuverlässigkeit – insbesondere bei dem Versuch, schwarze Personen zu identifizieren. Die Wahrscheinlichkeit, dass Unschuldige in Verdacht geraten, gilt als hoch.
Mindestens sieben Personen wurden in den USA zu Unrecht verhaftet, weil sich die Polizei auf falsche Gesichtserkennungsergebnisse verlassen hat, hatte die American Civil Liberties Union (ACLU) im April erklärt. In fast allen Fällen seien die Opfer Schwarze gewesen.
Unter anderem hatte eine von der US-Regierung in Auftrag gegebene Studie der US-Standardisierungsbehörde National Institute of Standards and Technology Ende 2019 festgestellt, dass die Fehlerquote bei Menschen mit dunkler Hautfarbe 10- bis 100-mal höher liegt als bei Menschen mit heller Haut. Bei Frauen mit dunkler Hautfarbe kam es zu den meisten Fehlerkennungen. Häufig betroffen waren auch Indigene und Menschen asiatischer Abstammung.
Frühere Untersuchungen hatten ähnliches ergeben. In Folge dessen hatten US-Städte wie San Francisco und Somerville den Einsatz der Gesichtserkennung durch Beamte verboten.
“Ein Alarmsignal, um damit aufzuhören”
Dennoch ist das DPD von der Zweckmäßigkeit automatischer Gesichtserkennung überzeugt. Im vergangenen Jahr erklärte James White, der Polizeichef von Detroit, dass die Technologie dabei geholfen habe “16 Mörder von der Straße zu holen”, berichtet die NYT. Einzelheiten und weitere Informationen zu den Fällen lieferten die Beamten der Polizeibehörde auf Nachfrage allerdings nicht. White macht demzufolge “menschliches Versagen” als Ursache für die unrechtmäßigen Verhaftungen aus – seine Beamten hätten sich zu sehr auf die Hinweise der Gesichtserkennungssoftware und zu wenig auf ihr eigenes Urteilsvermögen verlassen.
Für Molly Kleinman, die Leiterin eines Technologieforschungszentrums an der University of Michigan, klingen die neuen Schutzmaßnahmen zunächst vielversprechend, so die NYT weiter, sie bleibe jedoch skeptisch. Überall in Detroit seien Überwachungskameras angebracht und wenn all die Technologie wirklich das halten würde, was sie verspreche, “wäre Detroit einer der sichersten Städte des Landes”.
Willie Burton, Police Commissioner und Mitglied der Aufsichtsbehörde, die die neuen Richtlinien genehmigt hat, bezeichnet die neuen Vorgaben ebenfalls als einen Schritt in die richtige Richtung – lehnt den Einsatz automatischer Gesichtserkennungstechnologien wie schon in der Vergangenheit jedoch ab. “Die Technologie ist einfach noch nicht so weit”, erklärt Burton. “Eine falsche Festnahme ist eine zu viel und drei davon in Detroit sollten ein Alarmsignal sein, damit aufzuhören.” (hcz)