New York will Job-Bewerber vor Algorithmen schützen
Der Stadtrat von New York City hat ein Gesetz verabschiedet, das den Einsatz von künstlicher Intelligenz bei der Bewerberauswahl regulieren soll. Es schreibt unter anderem regelmäßige Untersuchungen vor, ob die eingesetzten Programme Menschen diskriminieren. Bürgerrechtsorganisationen kritisieren das Gesetz als nicht weitreichend genug – und fordern den Bürgermeister auf, es nicht zu unterschreiben.
Wie Associated Press berichtet, wurde das neue Gesetz bereits Anfang November beschlossen. Es soll Bewerberinnen und Bewerber schützen, wenn beispielsweise deren Bewerbungsschreiben von automatisierten Werkzeugen analysiert werden. Manche Unternehmen lassen auch die Sprache in Vorstellungsgespräche per Videokonferenz von künstlicher Intelligenz auswerten. Nach Angaben der Bürgerrechtsorganisation Center for Democracy & Technology setzen Arbeitgeber in den USA zunehmend solche Werkzeuge im Bewerbungsprozess ein.
Nach dem Gesetz müssen Algorithmen künftig einmal pro Jahr von einer unabhängigen Stelle untersucht werden. Diskriminieren sie Bewerberinnen oder Bewerber aufgrund von Ethnie oder Geschlecht, dürfen Unternehmen in New York City sie nicht einsetzen. Die Arbeitgeber müssen zusätzlich eine Zusammenfassung der Untersuchungsergebnisse auf ihren Internetseiten veröffentlichen. Außerdem müssen sie die Kandidatinnen und Kandidaten für eine Stelle über den Einsatz solcher Programme informieren. Die Bewerber sollen dann die Möglichkeit haben, ihre Unterlagen alternativ durch Menschen überprüfen zu lassen.
Arbeitgeber müssen auch Auskunft darüber geben, welche Daten sie für die automatisierte Prüfung von Bewerberinnen und Bewerbern sammeln und wie lange sie diese speichern. Bei Verstößen gegen das Gesetz sind Strafen von bis 1500 US-Dollar pro Vergehen vorgesehen.
Dass solche Programme bestimmte Gruppen diskriminieren können, hat sich in der Vergangenheit beispielsweise bei Amazon gezeigt: Der Konzern hatte 2018 ein Programm zur Analyse von Lebensläufen wieder abgeschafft, weil dieses Frauen bei Bewerbungen auf technische Stellen schlechter bewertet hatte als Männer.
Kritik an abgeschwächtem Gesetz
Julia Stoyanovich, Professorin an der New York University, begrüßte, dass Bewerberinnen und Bewerber künftig erfahren, wenn sie von einem Algorithmus bewertet werden. Allerdings müssten die Anbieter solcher Programme nur nachweisen, dass sie “einige rudimentäre Anforderungen” erfüllen – was sehr einfach sei.
Kritik kommt auch vom Center for Democracy & Technology: Der Gesetzentwurf sei einst vielversprechend gewesen – und das New Yorker Gesetz hätte ein Vorbild für die weitere Gesetzgebung im Land sein können. Das Ergebnis weise aber viele Mängel auf und biete nur unzureichenden Schutz vor automatisierten Entscheidungen. Der Stadtrat habe es in einem Schnellverfahren verabschiedet, ohne Arbeitnehmer, Bürgerrechtler oder andere Interessengruppen einzubeziehen.
Die Organisation kritisiert, dass nur geprüft werden müsse, ob die eingesetzten Algorithmen Bewerber aufgrund von Ethnie oder Geschlecht diskriminieren. Andere Faktoren wie Behinderungen oder Alter blieben hingegen außen vor. Arbeitgeber müssten zwar eine Zusammenfassung der Untersuchungsergebnisse veröffentlichen – es sei aber nicht definiert, was diese enthalten müssen. Unternehmen könnten daher womöglich Informationen zurückhalten.
Zudem müssten ausschließlich Bewohnerinnen und Bewohner von New York City über den Einsatz von Algorithmen informiert werden. In Anbetracht “der schieren Menge” von Arbeitnehmern, die für Unternehmen in der Stadt arbeiten, ohne dort zu wohnen, schränke dies den Anwendungsbereich des Gesetzes erheblich ein.
Die Organisation bemängelt auch, dass ursprünglich für die Kommission für Menschenrechte der Stadt New York vorgesehene Rechte aus dem Gesetz gestrichen wurden.
Bürgermeister soll Veto einlegen
Albert Fox Cahn, Geschäftsführer der New Yorker Bürgerrechtsorganisation Surveillance Technology Oversight Project mahnte: “New York sollte voreingenommene Technologien verbieten und nicht unterstützen.” Die Organisation bemängelt, die neue Regelung sei so schwach, dass sie den Einsatz diskriminierender Software weiterhin ermögliche. Bereits im vergangenen Jahr habe man gemeinsam mit weiteren Organisationen Kritik an dem Gesetz geübt – die endgültige Fassung sei jedoch weit hinter den Forderungen zurückgeblieben.
Das Surveillance Technology Oversight Project fordert daher Bürgermeister Bill De Blasio auf, sein Veto gegen das Gesetz einzulegen. Bevor es in Kraft treten kann, muss De Blasio das Gesetz noch unterschreiben – er hat dafür einen Monat Zeit. Ein Sprecher sagte gegenüber Associated Press, der Bürgermeister unterstütze das Gesetz, ließ aber offen, ob er es unterschreiben oder blockieren werde. Sollte De Blasio zustimmen, würde es am 1. Januar 2023 in Kraft treten. (js)