Meldungen

„Aktuelle Meldungen rund um Posteo: Neuigkeiten, Entwicklungen, Hintergrundinfos, Medienbeiträge über Posteo - das ganze Spektrum.“

Meldungen

Niederländische Behördensoftware verstößt gegen Grundrechte

Erstellt am 07.Februar 2020, 16:00 Uhr | Kategorie: News

Das niederländische Programm gegen Steuer- und Sozialbetrug “SyRI” verstößt gegen die Menschenrechte. Der Software-Algorithmus verknüpfte verschiedene Daten für eine automatische Risikoanalyse und missachtete die Privatssphäre der Bürger.

Gericht in Den Haag
Das Bezirksgericht in Den Haag hat den Einsatz einer Software gegen Sozialbetrug gestoppt. Quelle: Rechtbank Den Haag

Die Niederlande hatten jahrelang eine Software im Einsatz, die automatisch potenzielle Steuer- und Sozialbetrüger herausfiltern sollte. Dafür hatte sie verschiedenste Daten von Bürgern miteinander verknüpft, analysiert und eine Risikobewertung vorgenommen. Das Bezirksgericht Den Haag hat nun entschieden, dass der Einsatz von SyRI (Systeem Risico Indicatie, dt. Risiko-Indikationssystem) gegen Artikel 8 Absatz 2 der Europäischen Menschenrechtskonvention verstößt.

In dem Artikel ist festgelegt, dass der Staat nur unter bestimmten Umständen in das “Recht auf Achtung des Privat- und Familienlebens” eingreifen darf. Dazu zählt zwar auch ein gesetzlich vorgesehener und notwendiger Eingriff für “das wirtschaftliche Wohl des Landes”. Doch das Gericht konnte kein Gleichgewicht zwischen den Vorteilen durch den Einsatz der Technik und dem Recht auf das Privatleben erkennen.

Zwar müsse Sozialbetrug bekämpft werden, aber SyRI schütze die Privatsphäre nicht ausreichend. Beim Einsatz neuer Techniken trage der Staat jedoch eine besondere Verantwortung. Das zugrundeliegende Gesetz verstößt nach Ansicht des Gerichts gegen höheres Recht und ist damit rechtswidrig. Der Einsatz von SyRI wurde daher sofort gestoppt.

Automatische Risikoanalyse

Das niederländische Ministerium für Soziales und Beschäftigung (Inspectie SZW) wollte mit Hilfe des Programms Steuer- und Sozialbetrug, aber auch Verstöße gegen Arbeitsgesetze feststellen. Dafür griff SyRI auf verschiedene staatliche Datenbanken zu. Das zugrundeliegende Gesetz hatte die Regierung im Jahr 2014 verabschiedet. Eine intensive Diskussion habe es damals nicht gegeben, das Gesetz habe das Parlament nahezu unbemerkt passiert, hatte der UN-Sonderberichterstatter zu extremer Armut und Menschenrechte, Philip Alston, konstatiert.

Wie die Software in der Praxis arbeitet, hatte die Initiative Algorithm Watch 2018 ausführlich dokumentiert: So konnten beispielsweise Steuerdaten mit Angaben über staatliche Unterstützung abgeglichen werden. Erkannte die Software ein “erhöhtes Risiko auf Unregelmäßigkeiten”, meldete sie dies dem Ministerium. Dort untersuchten dann Mitarbeiter den Fall und leiteten gegebenenfalls weitere Schritte ein. Wer in dieser Risikodatenbank landete, erfuhr nichts davon. So waren Personen zwar persönlich von den Entscheidungen der Software betroffen, welche Auswirkungen das für sie hatte, aber unklar. Rechtlich konnte demnach auch nicht gegen einen Eintrag in der Datenbank vorgegangen werden. Laut Gesetz konnten die Daten für bis zu zwei Jahre gespeichert werden.

SyRI
Die Grafik zeigt, wie SyRI in Haarlem eingesetzt wurde. Quelle: Algorithm Watch (CC-BY 4.0)

Verknüpfung vielfältiger Daten

SyRI nutzte unter anderem Daten vom Finanzamt, der Einwanderungsbehörde, aber auch Angaben zu Ausbildung, Schulden, Krankenversicherungsstatus und Sozialleistungen. Das Gesetz listet insgesamt 17 Datentypen auf, derer sich das System bedienen konnte. Bürgerrechtsorganisationen hatten kritisiert, dass damit die Zweckbindung der Daten aufgelöst würde. Das Zusammenführen verschiedener Daten erlaube es, Profile zu bilden. Diese Daten könnten unter Umständen auch von anderen Behörden eingesehen werden. Sie seien zwar pseudonymisiert worden. Das bedeute aber nur, dass der Name ersetzt werde. Bei Bedarf ließe sich etwa eine Identifikationsnummer zurückübersetzen. Wie der Algorithmus aus den Daten ein Risikopotenzial errechnet hat, wurde durch die Regierung nie offengelegt.

Laut Algorithm Watch hatte die niederländische Kampagne “Bij voorbaat verdacht” erfolglos versucht, per Informationsfreiheitsanfrage zu klären, wie genau das Programm Punkte für die einzelnen Bürger errechnet. Das Ministerium verweigerte die Details im März 2017 und argumentierte: “Würde man offenlegen, nach welchen Daten und Zusammenhängen die Inspectie SZW sucht, so wüssten (potentielle) Gesetzesbrecher genau, auf welche gespeicherten Angaben sie sich konzentrieren müssten.” Auch während der Verhandlung machte die Regierung keine weiteren Angaben dazu, wie SyRI das Risikopotenzial kalkuliert, so Human Rights Watch. Die mangelnde Transparenz hat das Gericht ebenfalls kritisiert.

Gegenüber Algorithm Watch hatte ein Ministeriumssprecher außerdem erklärt, dass die Software sogenannte “falsch positive Ergebnisse” produziert. Das heißt, dass Personen fälschlicherweise ein Risiko zugeschrieben wurde.

Klage wegen Verstoßes gegen die Privatsphäre

Gegen den Einsatz von SyRI hatten 2018 mehrere niederländische Bürgerrechtsorganisationen und Aktivisten unter der Leitung des Niederländischen Rechtsausschusses für Menschenrechte geklagt. Auch sie hatten sich in ihrer Klage auf Artikel 8 der Europäischen Menschenrechtskonvention bezogen.

SyRI wurde vom niederländischen Ministerium für Soziales und Beschäftigung in ausgewählten Kommunen eingesetzt. Dazu zählte Rotterdam: Laut dem Niederländischen Institut für Sozialforschung die Stadt mit der höchsten Armutsrate des Landes. Das Ministerium hatte im Prozess erklärt, sich auf Orte mit vielen Sozialhilfeempfängern konzentriert zu haben, wie Human Rights Watch von einer Verhandlung berichtete. Das Gericht sah eine Gefahr der Stigmatisierung und Diskriminierung durch den Einsatz in sozial schwächeren Gegenden.

UN-Sonderberichterstatter hatte SyRI untersucht

Der UN-Sonderberichterstatter Philip Alston hatte SyRI für den Prozess analysiert. Die Transformation von Staaten in “digitale Sozialstaaten” stelle eine bedeutende Bedrohung für die Menschenrechte dar, insbesondere für die Ärmsten der Gesellschaft, schreibt Alston.

Aus dem Ministerium für Soziales und Beschäftigung hieß es, man werde das Urteil im Detail prüfen. Eine Revision ist möglich.

UN-Sonderberichterstatter Alston begrüßte das Urteil: Es sei eines der ersten Male, dass ein Gericht den Einsatz von Software und digitalen Informationen durch Sozialbehörden aufgrund der Menschenrechte gestoppt habe. Dabei ist SyRI laut Alston Teil eines globalen Trends, entsprechende Techniken in Sozialstaaten einzusetzen.

Mit dem Bezug des Urteils auf die Europäische Menschenrechtskonvention habe das Gericht einen Standard zur Orientierung für andere Gerichte geschaffen. Das Urteil sei ein “Weckruf für Politiker und andere, die zuvor geschlafen haben”. (js)