LAPD testete Social-Media-Überwachung
Die Polizei von Los Angeles (LAPD) hat im Jahr 2019 eine Software zur Überwachung von Menschen in sozialen Medien getestet, die angeblich auch Straftaten voraussagen und extremistische Überzeugungen erkennen kann. Das belegen interne Dokumente der Behörde, die der gemeinnützigen Organisation Brennan Center for Justice vorliegen. Das Programm der Firma Voyager Labs nutzt unter anderem fingierte Social-Media-Konten, um die Online-Aktivitäten von Personen zu untersuchen und ihre Kontaktnetze abzubilden. Es erfasst zudem die Aktivitäten befreundeter Nutzerkonten – auch wenn gegen deren Besitzer nicht ermittelt wird.
Die Software soll nicht nur dabei helfen, bereits verübte Straftaten aufzuklären. Die Entwicklerfirma behauptet auch, die Software könne Personen identifizieren, die potenziell zukünftig Verbrechen begehen – außerdem könne sie politische, religiöse und extremistische Überzeugungen erkennen.
Das Brennan Center for Justice zweifelt an der Zuverlässigkeit des Programms und warnt vor einer Diskriminierung von Muslimen und anderer marginalisierter Gruppen. Aus den Dokumenten sei nicht genau hervorgegangen, welche Teile der Software das LAPD letztendlich im Einsatz hatte. Doch die Polizei habe in der Testphase über 500 Nutzerkonten und Tausende Mitteilungen untersucht.
Muslime und Randgruppen diskriminiert
Das Brennan Center for Justice war mithilfe einer öffentliche Aktenanfrage an die Dokumente der Polizeibehörde gelangt. “Die Aufzeichnungen […] bieten einen breiteren Einblick in die normalerweise geheime Branche der Überwachung sozialer Medien”, schreibt die Organisation. Die Verwendung solcher Produkte durch die Polizei werfe “ernsthafte Bedenken” darüber auf, dass der Erste Verfassungszusatz verletzt werden könnte – also die Sicherstellung von Rede-, Meinungs- und Pressefreiheit.
Ein Fallbeispiel in den Akten zeige, dass sich die Analyse unter anderem “stark” auf religiöse beziehungsweise muslimische Themen fokussiere. Die Inhalte in dem Beispiel bewertete das Brennan Center als “gewöhnlich” und sah keinen Hinweis auf besondere Gewaltbereitschaft. Der Algorithmus hatte die Posts in arabischer Sprache dennoch mit Warnzeichen versehen.
Die Organisation zweifelt an der Aussage des Herstellers, die Software könne Arabisch “sofort und vollständig” in 100 andere Sprachen übersetzen. “Tools zur Verarbeitung natürlicher Sprache weisen stark unterschiedliche Genauigkeitsraten zwischen den Sprachen auf, und Arabisch habe sich als besondere Herausforderung für automatisierte Tools erwiesen. Und selbst die wörtliche Übersetzung von Social-Media-Inhalten verfehlt oft den wichtigen kulturellen Kontext”, schrieb die Organisation.
Dennoch erstelle das Programm anhand dieser Informationen eine Risikobewertung der analysierten Nutzer – in Form eines Farbcodes. Dieser soll die “Verbindung oder Affinität zu islamischem Fundamentalismus oder Extremismus” signalisieren. Eine menschliche Überprüfung der maschinellen Bewertung finde nicht statt.
Voyager Labs setze grundsätzlich legale Überzeugungen mit der Planung von Gewalttaten gleich. “Selbst eine genaue Kategorisierung von Personen mit ‘Verbindungen’ zu ‘extremen’ Ideologien, unabhängig davon, ob sie durch islamische oder andere Überzeugungen untermauert werden, würde den Strafverfolgungsbehörden keine verwertbaren Informationen liefern”, urteilt die Organisation. Einen Beweis dafür, dass das System die Ideologie eines Menschen tatsächlich zuverlässig analysieren kann, liefere Voyager nicht.
Funktionsweise
Laut dem britischen Guardian ist Voyager Labs nur eine von “Dutzenden” US-Firmen, die das Durchsuchen sozialer Netzwerke zur Aufklärung oder dem Vorhersagen von Straftaten anbieten. Das Unternehmen selbst sieht seine Produkte als “Such- und Analysemaschinen”.
Aus den Dokumenten geht hervor, dass die Software alle öffentlich zugänglichen Informationen zu einer Person oder einem Thema aufsaugt, also beispielsweise Posts und Verbindungen. Auch die von Kontakten veröffentlichten Inhalte würden erfasst, inklusive Statusmeldungen, Bildern und Geotags. Die Daten würden analysiert und indiziert. Auch nicht öffentliche Quellen werden herangezogen.
Die Software erstellt ein Gesamtbild der Social-Media-Präsenz einer Person. Sie visualisiert Verbindungen zu anderen und bewertet diese. Kunden können sich auch gezielt indirekte Verbindungen über Zwischenkontakte zweier Personen zeigen lassen.
Sammlung von Social-Media-Daten
Das Pilotprojekt mit Voyager lief zwar im November 2019 aus. Einen Teil der Technik habe das LAPD aber weiterhin genutzt. 2021 seien weitere Vertragsverhandlungen über eine Zusammenarbeit geführt worden – Ausgang unbekannt. Ein Polizeisprecher gab gegenüber dem Guardian an, dass Voyager aktuell nicht eingesetzt werde. In früheren Stellungnahmen hatte die Polizei aber angegeben, dass soziale Medien bei Ermittlungen, der öffentlichen Sicherheit und der Überwachung von Großereignissen eine entscheidende Bedeutung hätten.
Dies belegen auch Dokumente, die das Brennan Center for Justice im September veröffentlicht hatte. Aus ihnen geht hervor, dass Beamte des LAPD von befragten Zivilisten, beispielsweise Zeugen, auch Social-Media-Informationen und E-Mail-Adressen erfragen sollen. Dabei ist es egal, ob die Personen einer Straftat beschuldigt werden oder nicht. In den Unterlagen fanden sich auch die Befragungskarten, die LAPD-Beamte für die Datenerfassung nutzen sollten. Eingeführt wurde die bis heute laufende Praxis bereits 2015 unter dem früheren LAPD-Chef Charlie Beck. Bis zur Veröffentlichung der Dokumente war dies aber nicht öffentlich bekannt.
In den aktuell veröffentlichten Aufzeichnungen gibt es laut Brennan Center Hinweise darauf, dass das LAPD Software zur Überwachung der sozialen Netzwerke in den vergangenen zehn Jahren von mindestens zehn Firmen gekauft oder einen Kauf in Erwägung gezogen hat. Die Behörde gilt als Vorreiter bei der Einführung neuer Technologien bei der US-Polizei, schreibt The Guardian. Die LAPD sei mit einem großem Budget ausgestattet und teste Programme, die später von anderen Behörden übernommen werden.
Voyager “unbeteiligt”, Facebook sauer
Voyager selbst spricht sich von jeglicher Verantwortung frei. “Dies sind die Verantwortlichkeiten und Entscheidungen unserer Kunden, an denen Voyager überhaupt nicht beteiligt ist”, sagte die Unternehmenssprecherin Lital Carter Rosenne dem Guardian. Man halte sich an die Gesetze der Länder, in denen Voyager tätig ist. Ob Überprüfungen stattfinden, wie die Software eingesetzt wird, blieb unklar. Rosenne erklärte: “Wir vertrauen auch darauf, dass diejenigen, mit denen wir Geschäfte machen, gesetzestreue öffentliche und private Organisationen sind.”
In Reaktion auf die Enthüllungen forderte Facebook-Mutterkonzern Meta das LAPD auf, die Nutzung von “Dummy”-Konten einzustellen und keine Nutzerdaten mehr zu sammeln. Das Unternehmen richtete vergangenen Donnerstag einen offenen Brief an LAPD-Chef Michel Moore, in dem es erklärte: “Nach unseren Richtlinien ist es Entwicklern untersagt, auf unseren Plattformen erhaltene Daten zur Überwachung zu verwenden, einschließlich der Verarbeitung von Plattformdaten über Personen, Gruppen oder Ereignisse für Zwecke der Strafverfolgung oder der nationalen Sicherheit.” Die Polizeibehörde solle alle Aktivitäten auf Facebook einstellen, die die Verwendung von gefälschten Konten, das Nachahmen von Personen und das Sammeln von Daten für Überwachungszwecke einschließen. (hcz)