La police de Los Angeles a testé la surveillance des réseaux sociaux
La police de Los Angeles (LAPD) a testé en 2019 un logiciel de surveillance des personnes sur les réseaux sociaux, qui serait également capable de prédire les délits et de détecter les convictions extrémistes. C’est ce qu’attestent des documents internes de l’administration, dont l’organisation à but non lucratif Brennan Center for Justice a eu connaissance. Le programme de la société Voyager Labs utilise entre autres des comptes fictifs de réseaux sociaux pour examiner les activités en ligne des personnes et reproduire leurs réseaux de contacts. Il enregistre en outre les activités des comptes d’utilisateurs amis, même si leurs propriétaires ne font pas l’objet d’une enquête.
Le logiciel ne doit pas seulement aider à élucider des crimes déjà commis. La société de développement affirme également que le logiciel peut identifier les personnes susceptibles de commettre des crimes à l’avenir ; il est censé pouvoir également reconnaître les convictions politiques, religieuses et extrémistes.
Le Brennan Center for Justice doute de la fiabilité du programme et met en garde contre la discrimination des musulmans et d’autres groupes marginalisés. Les documents n’indiquaient pas exactement quels éléments du logiciel la LAPD avait finalement utilisées. Mais la police aurait examiné plus de 500 comptes d’utilisateurs et des milliers de messages pendant la phase de test.
Les musulmans et les groupes marginaux discriminés
Le Brennan Center for Justice a accédé aux documents (en anglais) de la police via une demande officielle d’accès à des dossiers. « Les enregistrements […] offrent un aperçu plus large de l’industrie habituellement secrète de la surveillance des réseaux sociaux », écrit l’organisation. L’utilisation de ce genre de procédés par la police soulève de « sérieuses inquiétudes » quant à une éventuelle violation du Premier amendement, c’est-à-dire la garantie de la liberté de parole, d’opinion et de la presse.
Un exemple de cas dans le dossier montre que l’analyse se concentre entre autres « fortement » sur des thèmes religieux ou musulmans. Le Brennan Center a qualifié les contenus de cet exemple d’« ordinaires » et n’y a vu aucune indication d’une disposition particulière à la violence. L’algorithme avait néanmoins marqué les posts en langue arabe de signes d’avertissement.
L’organisation met en doute l’affirmation du fabricant selon laquelle le logiciel pourrait traduire l’arabe « instantanément et complètement » dans 100 autres langues. « Les outils de traitement du langage naturel présentent des taux de précision très différents d’une langue à l’autre, et l’arabe s’est avéré être un défi particulier pour les outils automatisés. Et même la traduction littérale du contenu des réseaux sociaux passe souvent à côté du contexte culturel qui s’avère cependant important », écrivait l’organisation.
Néanmoins, le programme établit une évaluation des risques des utilisateurs analysés sur la base de ces informations, sous la forme d’un code couleur. Celui-ci est censé signaler le « lien ou l’affinité avec le fondamentalisme ou l’extrémisme islamique ». Il n’y a pas de contrôle humain de l’évaluation automatique.
Voyager Labs assimile en principe des convictions légales à la planification d’actes violents. « Même une catégorisation précise des personnes ayant des “liens” avec des idéologies “extrêmes”, qu’elles soient étayées par des convictions islamiques ou autres, ne fournirait pas d’informations exploitables aux autorités de poursuite pénale », juge l’organisation. Voyager ne fournit pas la preuve que le système peut effectivement analyser de manière fiable l’idéologie d’une personne.
Fonctionnement
Selon le Guardian britannique, Voyager Labs n’est qu’une des « dizaines » d’entreprises américaines qui proposent une recherche sur les réseaux sociaux pour élucider ou prédire des délits. L’entreprise elle-même considère ses produits comme des « moteurs de recherche et d’analyse ».
Il ressort des documents que le logiciel aspire toutes les informations accessibles publiquement concernant une personne ou un thème, par exemple ses posts et ses connexions. Les contenus publiés par ses contacts seraient également enregistrés, y compris les statuts, les images et les géomarques. Les données seraient analysées et indexées. Les sources non publiques seraient également prises en compte.
Le logiciel crée une image globale de la présence d’une personne sur les réseaux sociaux. Il visualise les liens avec d’autres personnes et les évalue. Les clients peuvent également visualiser des liens indirects ciblés via des contacts intermédiaires entre deux personnes.
Collecte de données sur les réseaux sociaux
Le projet pilote avec Voyager a certes pris fin en novembre 2019. Toutefois, la LAPD a continué à utiliser en partie cette technique. En 2021, de nouvelles négociations contractuelles ont été menées en vue d’une collaboration ; l’issue est inconnue. Un porte-parole de la police a indiqué au Guardian que Voyager n’était pas utilisé actuellement. Dans des déclarations antérieures, la police avait pourtant indiqué que les réseaux sociaux jouaient un rôle crucial dans les enquêtes, la sécurité publique et la surveillance des grands événements.
C’est ce que prouvent également des documents (en anglais) que le Brennan Center for Justice avait publiés en septembre. Il en ressort que les agents de la LAPD doivent également demander aux civils interrogés, par exemple aux témoins, des informations sur leurs réseaux sociaux et adresses électroniques. Peu importe que les personnes soient accusées d’un délit ou non. On trouve également dans ces documents les cartes d’enquête que les agents du LAPD devraient utiliser pour la collecte de données. Cette pratique, toujours en vigueur aujourd’hui, a été introduite dès 2015 sous l’ancien chef de la police de Los Angeles, Charlie Beck. Mais jusqu’à la publication des documents, cette pratique n’était pas connue du public.
Selon le Brennan Center, les dossiers actuellement publiés indiquent que la LAPD a acheté ou envisagé d’acheter des logiciels de surveillance des réseaux sociaux à au moins dix entreprises au cours des dix dernières années. L’agence est considérée comme pionnière dans l’introduction de nouvelles technologies au sein de la police américaine, écrit The Guardian. La LAPD serait dotée d’un budget important et testerait des programmes qui seraient ensuite adoptés par d’autres agences.
Voyager « pas impliqué », Facebook en colère
Voyager lui-même se dégage de toute responsabilité. « Il s’agit de la responsabilité et des décisions de nos clients, dans lesquelles Voyager n’est pas du tout impliqué », a déclaré la porte-parole de l’entreprise Lital Carter Rosenne au Guardian. Les lois des pays dans lesquels Voyager opère seraient respectées. Aucune précision n’a été donnée sur le fait que des contrôles soient effectués sur la manière dont le logiciel est utilisé. Madame Rosenne a déclaré : « Nous avons également confiance dans le fait que ceux avec qui nous faisons des affaires sont des organisations publiques et privées respectueuses de la loi ».
En réaction à ces révélations, Meta, la maison mère de Facebook, a demandé à la LAPD de cesser d’utiliser des comptes « factices » et de ne plus collecter de données sur les utilisateurs. Jeudi dernier, l’entreprise a rédigé une lettre ouverte (en anglais) au chef de la LAPD Michel Moore, dans laquelle il expliquait : « Notre politique interdit aux développeurs d’utiliser les données obtenues sur nos plateformes à des fins de surveillance, y compris le traitement des données de la plateforme concernant des personnes, des groupes ou des événements à des fins d’application de la loi ou de sécurité nationale ». Elle a demandé à la police de mettre fin à toutes ses activités sur Facebook, y compris l’utilisation de faux comptes, l’imitation de personnes et la collecte de données à des fins de surveillance. (hcz)