Kriminelle Gruppen kapern Social-Media-Accounts
Das Meldesystem von Facebook und Instagram soll eigentlich dazu dienen, illegale und gefährliche Inhalte von den Plattformen fernzuhalten, Spam zu vermeiden und falsche Identitäten aufzuspüren. Doch kleinkriminelle Gruppen nutzen das System auch für ihre Zwecke: Sie kapern Konten anderer Nutzer, um diese samt der Follower zu verkaufen – oder lassen Accounts sperren, um politische und religiöse Gegner zum Schweigen zu bringen.
Die Organisation AlgoritmWatch berichtet in einer aktuellen Recherche unter anderem von Teenagern, die sich regelmäßig darum bemühen müssen, die Kontrolle über ihre Social-Media-Accounts wiederzuerlangen, weil andere Nutzer sie unrechtmäßig übernommen hatten oder sperren ließen. Die Täter sitzen meist außerhalb Europas; sie wollen die Accounts verkaufen oder einfach nur bestimmte Meinungen im Netz unterdrücken. Für die Opfer ist es schwierig bis unmöglich ihre Konten wieder zu entsperren oder die Kontrolle darüber zurück zu erlangen.
Kleinkriminelle Scriptkiddies
Wie AlgorithmWatch berichtet, haben sich verschiedene Internet-Communities gebildet, die sich intensiv mit der Kaperung oder unrechtmäßigen Sperrung von Social-Media-Accounts befassen. Eine dieser Gruppen besteht hauptsächlich aus männlichen Jugendlichen, deren Ziel es ist, die fremden Accounts zu verkaufen. Sie stimmen sich in Telegram-Gruppen ab und prahlen auf ihren eigenen Instagram-Kanälen mit erfolgreich übernommenen oder gesperrten Accounts. Die Täter stammten hauptsächlich aus dem Irak und Saudi-Arabien oder leben dort – AlgorithmWatch schließt dies aus dem von ihnen verwendeten Arabisch.
Für ihre Vorgehensweise braucht man nicht viel Vorwissen. Sie nutzen das Beschwerdesystem der Plattformen: Über sie kann jeder Nutzer andere Nutzer melden, wenn diese beispielsweise Gewalt verherrlichen, religiösen Extremismus propagieren oder sich mit Selbstmord befassen.
Die Täter erzeugen eine Flut an Beschwerden, bis der anvisierte Account vom Plattformbetreiber gesperrt wird. Dazu erstellen sie hunderte eigene Konten, die augenscheinlich verschiedenen Nutzern gehören. Mithilfe dieser beschweren sie sich immer wieder über Inhalte des Zielkontos. Um diesen Vorgang zu automatisieren, nutzen die Kriminellen kostenlose Skripte, die über die Entwickler-Plattform Github verfügbar sind und Tutorial-Videos auf YouTube. Die Skripte sind so einfach zu bedienen, dass selbst Laien sie ohne Probleme nutzen können.
Konnten sie erfolgreich eine Sperrung erreichen, kontaktieren die Täter die Betreiber der Netzwerke und geben sich als rechtmäßige Besitzer des gesperrten Accounts aus. Um das Konto zu entsperren und zu übernehmen, müssen sie sich authentifizieren. Gegenüber AlgorithmWatch erläuterte ein 16-Jähriger mit dem Benutzernamen “Zen” sein Vorgehen bei Facebook: Er schreibe die Social-Media-Plattform per E-Mail an und fordere die Freigabe “seines” gesperrten Accounts. Das soziale Netzwerk fordere ihn dann dazu auf, ein Foto von sich und einem handgeschriebenen Zahlen-Code zu schicken – der Code soll beweisen, dass es sich um ein aktuelles Foto handelt, das nicht irgendwo kopiert wurde. Facebook übertrage dann die Nutzungsrechte auf ihn und aktiviert das Konto wieder.
Eigentlich soll dieser Vorgang Betrug verhindern, indem das verschickte Foto mit Bildern des tatsächlichen Account-Besitzers aus dem Konto verglichen wird. Ob die vorgesehene Prüfung aber tatsächlich stattfindet, ist laut AlgorithmWatch fraglich: Denn “Zen” und andere männliche Jugendliche würden massenhaft Nutzerkonten von Frauen und Mädchen übernehmen. Weitere Nachfragen oder Hürden seitens der Social-Media-Betreiber folgen laut AlgorithmWatch nicht.
Am Ende des Vorgangs haben die Täter den vollen – und vor allem: alleinigen – Zugriff auf die Konten. Den ehemaligen Besitzern bleibt nur die Möglichkeit, sich an die Betreiber zu wenden. Was mit den “gestohlenen” Accounts passiert ist nicht ganz eindeutig. Der von AlgorithmWatch kontaktierte “Zen” verkauft seine Beute für 20 bis 50 US-Dollar pro Konto in speziellen Internetforen. Die Käufer wollen sich seinen Angaben nach mehr Follower beschaffen. Ein Account mit mehreren Tausend Followern brächte rund 200 US-Dollar. AlgorithmWatch vermutet, dass die Konten anschließend weiterverkauft werden.
Gegen Feministinnen, Atheisten und Journalisten
Einer weiteren von AlgorithmWatch aufgespürten Gruppe scheint es hingegen nicht um finanzielle Bereicherung zu gehen. Für sie spielen vielmehr politische Ziele eine Rolle. So stieß die Organisation unter anderem auf eine pakistanische Gruppe, die es auf Accounts von LGBTQ-Unterstützern, Atheisten, Journalisten und Feministinnen hauptsächlich in Pakistan abgesehen hat. Ihr Ziel ist es, die Konten genannter Nutzer dauerhaft sperren zu lassen und damit die freie Meinungsäußerung oder die Pressefreiheit zu unterdrücken.
Auch sie nutzen die Taktik, so viele Beschwerden über bestimmte Inhalte abzugeben, dass die Accounts der Opfer von den Netzwerken gesperrt werden. Zu diesem Zweck stellt die Gruppe sogar eine eigene Erweiterung für den Google-Browser Chrome zur Verfügung. Sie ermöglicht es, eine große Anzahl Facebook-Accounts automatisiert zu melden.
Das funktioniert folgendermaßen: Die kostenlose Version des Programms enthält laut AlgorithmWatch eine Liste mit Zielpersonen und ihren Accounts, die mehrmals pro Monat aktualisiert wird. In der Liste finden sich Aktivisten aus den genannten Gruppen. Auch Anhängerinnen und Anhänger der religiösen Bewegung des Ahmadiyya-Islam sowie balochische und paschtunische Separatistinnen und Separatisten stehen auf der Liste. Wer die Erweiterung installiert, nimmt mit den eigenen Social-Media-Accounts daran teil, die Zielkonten in der Liste bei den Plattformbetreibern zu melden. So entstehen organisierte Angriffe, bei denen die Opfer wegen angeblich gefälschter Konten oder “religiösem Hass” gemeldet werden.
Ein weiteres Problem sind die sogenannten Shadow-Bans. Laut AlgorithmWatch fallen häufig gemeldete Social-Media-Accounts des Öfteren dieser Maßnahme zum Opfer. Dabei bleiben die beanstandeten Konten bestehen und weiterhin zugänglich. Doch stuft sie das soziale Netzwerk in ihrer Priorität massiv herunter. Inhalte werden dann nicht mehr anderen Nutzern empfohlen – und tauchen seltener in Newsfeeds und Suchergebnissen auf. Die Kontonutzer bekommen oftmals nichts von der subtilen Maßnahme mit und können die Auswirkungen nur an schwindenden Besucherzahlen festmachen. In den meisten Fällen wird ein Shadow-Ban für maximal zwei Wochen verhängt, wenn keine weiteren Beschwerden folgen. Da der Betroffene im Fall des Shadow-Bans keine Informationen vom Betreiber erhält, kann nicht genau gesagt werden, wie lange die Einschränkung aufrecht erhalten wird.
Kommunikative Einbahnstraße
Den eigentlichen Besitzern der Accounts steht ein mühseliger Weg bevor, wenn ihr Account gesperrt oder übernommen wurde. Eine niederländische Jugendliche mit über 20.000 Followern auf Instagram berichtete AlgorithmWatch, dass sie ihren Account erst auf “geschäftlich” umstellen musste, bis sie überhaupt eine Mitarbeiterin oder einen Mitarbeiter des Betreibers Facebook kontaktieren konnte – und dann hatte die Kontaktperson ihren Sitz in Frankreich, obwohl die Nutzerin in den Niederlanden beheimatet ist.
Die norwegische Herausgeberin feministischer Literatur Trista Hendren kritisierte gegenüber AlgorithmWatch, dass der offizielle Beschwerdeweg bei Facebook nie zu einer Lösung führe bei unberechtigten Sperrungen. Die einzige Möglichkeit wieder Kontrolle über Beiträge und Konten zu erlangen, sei der persönliche Kontakt zu einem Mitarbeiter – was den wenigsten Nutzern möglich ist.
Auch AlgorithmWatch hatte Probleme, Kontakt mit Facebook aufzunehmen. Die Organisation schickte Facebook Fragen mit Bezug auf die Recherchen. Zurück kam aber nur eine generische Antwort: “Wir lassen nicht zu, dass Menschen unsere Meldesysteme missbrauchen, um andere zu belästigen, und haben erheblich in Technologie investiert, um Konten zu erkennen, die koordinierte oder automatisierte Meldungen vornehmen. Es wird immer Leute geben, die versuchen, unsere Systeme zu missbrauchen. Wir konzentrieren uns darauf, immer einen Schritt voraus zu sein und diese Aktivitäten so gut wie möglich zu unterbinden.” (hcz)