Détroit : suite à des arrestations illégales, la police publie de nouvelles directives pour la reconnaissance faciale
La ville de Détroit a imposé des règles plus strictes au Detroit Police Department (DPD) pour l’utilisation de la reconnaissance faciale automatique. Les autorités ont déclaré vendredi que les directives ont été révisées dans le cadre d’un règlement judiciaire. En 2020, un homme avait été arrêté et présenté à tort devant le tribunal de district du Michigan pour vol, puis détenu pendant 30 heures à la suite d’une reconnaissance faciale automatique incorrecte. L’American Civil Liberties Union (ACLU) a ensuite poursuivi en 2021 le département de police de Détroit au nom de la victime.
Stephen Lamoreaux, directeur des enquêtes criminelles à Détroit, a déclaré que la ville a « maintenant les directives les plus strictes du pays ». La police a déclaré vendredi qu’elle était satisfaite des changements effectués, et qu’elle était convaincue que ceux-ci serviraient d’exemple dans tout le pays, quant à la meilleure façon d’utiliser la reconnaissance faciale. Comme le visaient l’ACLU et sa plainte, il s’agit de s’assurer que le travail de la police est effectué de manière juste, équitable et conforme à la constitution. À l’avenir, la reconnaissance faciale automatique ne sera utilisée que pour les crimes graves, tels que les blessures corporelles, les meurtres et les cambriolages.
Les nouvelles exigences en matière de reconnaissance faciale automatique prévoient, par exemple, qu’un enquêteur doit obtenir le consentement d’au moins deux autres personnes avant d’utiliser cette technologie et que des arrestations sur la seule base des résultats du logiciel de reconnaissance faciale ou de photographies ne sont plus licites. Il doit y avoir au moins une « preuve physique » supplémentaire, comme des traces d’ADN sur les lieux du crime ou un téléphone mobile de l’accusé connecté à une antenne relais sur les lieux du crime. Une confrontation – également sous la forme de photos montrées – avec des preuves basées sur la reconnaissance faciale automatique n’est plus autorisée non plus. Des preuves supplémentaires sont nécessaires. S’il en existe, le fonctionnaire qui montre les photos au témoin ne doit pas connaître lui-même le suspect.
Nouvelles directives et obligation de documentation
La transparence doit être encouragée en exigeant de la police qu’elle fournisse des informations sur les faiblesses de la technologie de reconnaissance faciale et le moment où celle-ci est utilisée lors d’une arrestation. En outre, les fonctionnaires doivent signaler si la reconnaissance faciale n’a détecté aucun suspect ou si les résultats indiquent d’autres suspects. Un examen va vérifier tous les cas survenus depuis 2017 et présenter au ministère public ceux dans lesquels un mandat d’arrêt a été délivré sur la base de la reconnaissance faciale automatique.
Le département de police doit également fournir des formations pour éduquer sur les risques et les dangers de la technologie et le taux élevé de fausse identification de personnes de couleur.
Selon le New York Times (NYT), la directive entrera en vigueur ce mois-ci – un tribunal fédéral l’appliquera pendant quatre ans. Après avoir parlé de « l’abus le mieux documenté de la technologie de reconnaissance faciale », Phil Mayor, avocat à l’ACLU du Michigan, a déclaré au NYT que le règlement judiciaire a fait du DPD un pionnier national dans le respect de règles strictes.
Une autre partie de la transaction qui a maintenant été conclue est le paiement de 300 000 dollars en dommages et intérêts à la victime. Le conseil municipal de Détroit a approuvé l’accord en mai.
L’affaire
Suite à une fausse identification, le plaignant avait été arrêté devant sa famille et maintenu en détention pendant 30 heures. Un logiciel de reconnaissance faciale avait identifié la personne de couleur Robert Williams comme auteur possible d’un vol dans une bijouterie en 2018. Le système avait comparé des photos de permis de conduire et d’avis de recherche avec des images floues du coupable, provenant d’une caméra de sécurité privée.
Le programme avait comparé le visage filmé par la caméra de sécurité avec les données existantes et avait trouvé 243 résultats présentant des similitudes avec la personne recherchée. Afin de minimiser le nombre de suspects possibles, le logiciel avait ensuite trié les photos ressemblant au coupable en fonction de leur probabilité. Selon les documents de police présentés à R. Williams dans le cadre de la poursuite se trouvait en neuvième position une photo de son permis de conduire expiré. L’enquêteur supervisant le tri des photos avait considéré que R. Williams était le résultat le plus vraisemblable et avait envoyé un rapport à la police de Détroit.
La photo de R. Williams avait ensuite été mêlée à une sélection de six images de personnes différentes qui avaient été présentées à l’opératrice de la caméra de sécurité. Elle avait confirmé que R. Williams ressemblait le plus au voleur. Un mandat d’arrêt avait alors été émis.
Une autre victime a également porté plainte
Jusqu’à présent, trois cas d’arrestations dues à une reconnaissance faciale automatique incorrecte ont été signalés à Détroit.
Dans un des cas, une personne noire a été accusée d’avoir participé à une attaque à main armée en février 2023 et d’avoir dévalisé un homme. Un logiciel de reconnaissance faciale automatique de la police l’avait identifiée comme une agresseuse potentielle. Après qu’un témoin ait également déclaré l’avoir reconnue sur une photo, Porcha Woodruff, enceinte de huit mois, a été arrêtée devant ses enfants.
La police l’a interrogée et maintenue en détention pendant onze heures. P Woodruff a également été poursuivie en justice pour attaque à main armée et vol. Ce n’est qu’après avoir payé une caution de 100 000 dollars que la mère de plusieurs enfants a été libérée. Un mois plus tard, le procureur en charge a rejeté les accusations et classé l’affaire.
P. Woodruff a par la suite poursuivi la ville de Détroit et un policier. Elle a accusé les autorités d’avoir procédé à un emprisonnement injustifié, d’avoir violé ses droits fondamentaux et de faire preuve de discrimination à l’égard de la communauté noire – étant donné que les autorités « utilisent des technologies de reconnaissance faciale qui, preuves à l’appui, ont tendance plus souvent à identifier à tort des citoyens noirs que d’autres personnes ».
Technologie discriminatoire
Les militantes et militants des droits civiques critiquent depuis longtemps l’utilisation de la reconnaissance faciale automatique par les forces de l’ordre, soulignant ses défauts inhérents et son manque de fiabilité – en particulier dans la tentative d’identifier des personnes noires. La probabilité que des innocents soient soupçonnés est élevée.
Au moins sept personnes ont été arrêtées à tort aux États-Unis parce que la police s’est appuyée sur de faux résultats de reconnaissance faciale, a déclaré l’American Civil Liberties Union (ACLU) en avril. Dans presque tous les cas, les victimes étaient noires.
Entre autres, une étude menée par le National Institute of Standards and Technology à la demande du gouvernement américain à la fin de 2019 a révélé que le taux d’erreur pour les personnes de peau foncée est 10 à 100 fois plus élevé que pour les personnes à la peau claire. Et la majorité des erreurs sont survenues pour des femmes de peau foncée. Les personnes autochtones et celles d’origine asiatique ont fait également fréquemment l’objet d’erreurs.
Les études précédentes avaient donné des résultats similaires. En conséquence, des villes américaines, telles que San Francisco et Somerville, ont interdit l’utilisation de la reconnaissance faciale par les fonctionnaires.
« Un signal flagrant que cela doit cesser »
Néanmoins, le DPD est convaincu de l’utilité de la reconnaissance faciale automatique. L’année dernière, James White, chef de la police de Détroit, a déclaré que la technologie avait aidé à « débarrasser les rues de 16 meurtriers », a rapporté le NYT. Interrogées, les autorités de police n’ont fourni ni détails ni informations complémentaires sur ces affaires. J. White pointe « l’erreur humaine » comme cause des arrestations illégales – ses fonctionnaires se seraient trop fiés aux preuves fournies par le logiciel de reconnaissance faciale et trop peu à leur propre jugement.
Pour Molly Kleinman, responsable d’un centre de recherche technologique à l’Université du Michigan, les nouvelles mesures préventives semblent prometteuses au premier abord, mentionne le NYT, mais elle se dit toutefois sceptique. Des caméras de surveillance ont été installées partout à Détroit, et si toute cette technologie tenait vraiment ses promesses, « Détroit serait l’une des villes les plus sûres du pays ».
Willie Burton, commissaire de police et membre de l’autorité de surveillance qui a approuvé les nouvelles lignes directrices, décrit également celle-ci comme une avancée dans la bonne direction – il continue néanmoins, comme par le passé, à rejeter l’utilisation des technologies de reconnaissance faciale automatique. « La technologie n’est tout simplement pas encore opérationnelle », explique W. Burton. « Chaque mauvaise arrestation est une arrestation de trop, et le fait que trois d’entre elles ont eu lieu à Détroit est un signal flagrant que cela doit cesser. » (hcz)