Österreich: Arbeitsamt-Algorithmus vorerst gestoppt
Die österreichische Datenschutzbehörde hat die Einführung eines Algorithmus zur Kategorisierung von Arbeitslosen vorerst gestoppt. Nach Ansicht der Datenschützer verstößt der Algorithmus gleich in mehreren Punkten gegen die Datenschutzgrundverordnung (DSGVO). Das österreichische Arbeitsamt “Arbeitsmarktservice (AMS)” testet den Algorithmus bereits seit 2018. Eigentlich sollte er Mitte 2020 flächendeckend eingeführt werden. Wegen der Corona-Pandemie wurde der Start jedoch auf den 1. Januar 2021 verschoben.
Dazu kann es nun nur noch kommen, wenn bis dahin eine rechtliche Grundlage geschaffen wird, berichtet die Zeitung Der Standard. Der Algorithmus berechnet, wie hoch die Chancen einer Person sind, auf den Arbeitsmarkt zurückzukehren. Zu den dafür verwendeten Kriterien zählen Alter, Geschlecht, Staatsbürgerschaft oder der höchste Schulabschluss. Dieses Vorgehen wertet die Datenschutzbehörde als “Profiling” – und dafür brauche es eine explizite gesetzliche Grundlage.
Die Bewertung durch den Algorithmus soll nicht verbindlich sein, sondern nur als Empfehlung für die AMS-Berater dienen. Doch Betroffene könnten sich “nicht rechtswirksam auf diesen Umstand berufen”, zitiert die Zeitung aus dem Bescheid der Behörde. Eine Kontrolle der Entscheidung könne ebenfalls nicht verlangt werden. Auch ließe sich nicht verhindern, dass die Beraterinnen und Berater die Kategorisierung “routinemäßig” übernehmen.
Gute, mittlere und schlechte Chancen
Der Algorithmus teilt Arbeitssuchende in drei Kategorien ein: Menschen mit guten, mittleren und schlechten Jobchancen. Diejenigen, die mit 66-prozentiger Wahrscheinlichkeit innerhalb von sieben Monaten Beschäftigung für mindestens drei Monate finden, fallen in die erste Kategorie. Bei Menschen mit schlechten Chancen, liegt die Wahrscheinlichkeit, binnen 24 Monaten sechs Monate lang Arbeit zu finden, bei unter 25 Prozent. Alle anderen fallen in die mittlere Kategorie. Diese Kategorien sollen Grundlage für die Bewilligung von Förderangeboten sein. So erhalten Personen in der mittleren Kategorie Weiterbildungen, Personen in der schlechten Kategorie aber nur kostenpflichtige Förderangebote. Während des Testbetriebs bekommen AMS-Berater diese Kategorisierung bereits angezeigt.
Während der Testphase hatte es immer wieder Kritik an dem Algorithmus gegeben: Wissenschaftlerinnen und Wissenschaftler der TU Wien, der WU Wien und der Universität Wien hatten etwa fehlende Transparenz bemängelt. So seien von 96 zur Berechnung eingesetzten Modellvarianten nur zwei veröffentlicht worden. Daher seien die Fehlerquoten des Algorithmus unbekannt.
Weniger Punkte für Frauen
Für Kritik hatte außerdem gesorgt, dass der Algorithmus Frauen weniger Punkte gibt als Männern. Noch weniger Punkte erhalten Frauen, die Kinder betreuen oder Menschen aus Nicht-EU-Ländern. Das sei ein “Paradebeispiel für Diskriminierung”, sagte Florian Cech von der TU Wien dem Online-Magazin Futurezone.
AWS-Vorstand Johannes Kopf (ÖVP) hatte hingegen immer wieder behauptet, Frauen würden durch den Algorithmus nicht diskriminiert: “Frauen profitieren von der Einführung des AMS-Algorithmus”, hatte er im September 2019 in einem offenen Brief geschrieben. In einem anderen Beitrag hatte Kopf geschrieben, dass der Algorithmus nur die Realität abbilde: “Wir wissen, dass der Arbeitsmarkt nicht diskriminierungsfrei ist, aber es hätte keinen Sinn hier weltfremde Bilder ‘vorzugaukeln’.”
Die österreichischen Grünen begrüßten die Entscheidung der Datenschutzbehörde. “Wir verwehren uns nicht grundsätzlich gegen den unterstützenden Einsatz von Algorithmen. Klar ist aber, dass dabei die Menschenwürde gewahrt sein muss, Prozesse transparent verlaufen müssen und bestehende Diskriminierungen nicht auch noch verfestigt werden dürfen”, sagte Markus Koza, Sozialsprecher der Grünen. Die von der Datenschutzbehörde verordnete Pause verschaffe Zeit, die zum Nachdenken genutzt werden müsse. “Für den AMS-Algorithmus bedeutet das, dass wir jedenfalls jetzt keinen schnellen Gesetzesbeschluss im Parlament herbeiführen werden”, so Koza.
AMS hält an Algorithmus fest
Der Testbetrieb des Systems läuft indes bis zum Jahresende weiter, schreibt die Wiener Zeitung. Der Arbeitsmarktservice will an dem Algorithmus festhalten und wartet auf eine Gesetzesänderung. Zudem will der AMS den Bescheid prüfen und gegebenenfalls eine Beschwerde beim Bundesverwaltungsgericht einlegen. Das Arbeitsministerium will die Prüfung durch den AMS abwarten.
Im Jahr 2014 hatte die polnische Regierung einen ähnlichen Algorithmus eingeführt. Auch dieses System hatte Arbeitssuchende aufgrund von Kriterien wie Alter, Geschlecht oder Behinderung in drei Gruppen eingeteilt. Das polnische Verfassungsgericht hatte Ende 2018 entschieden, dass der Umfang der genutzten Daten im Gesetz hätte festgelegt sein müssen. Das als Grundlage dienende Gesetz war daher verfassungswidrig. Die polnische Regierung hat den Einsatz des Algorithmus Ende 2019 gestoppt. (js)