Großbritannien: Lieferfahrer erhält Entschädigung wegen fehlerhafter Gesichtserkennung
Die Gesichtserkennungsfunktion in der Fahrer-App von Uber Eats in Großbritannien hat einen schwarzen Mitarbeiter wiederholt nicht erkannt, sodass ihm sein Konto gesperrt wurde. Nun erhält er eine finanzielle Entschädigung.
Der betroffene Fahrer, Pa Edrissa Manjang, hatte Uber Eats im Jahr 2021 verklagt – und dem Unternehmen rassistische Diskriminierung durch die von der App verwendete Gesichtserkennung vorgeworfen. Der Rechtsstreit wurde nun außergerichtlich beigelegt, wie die britische “Equality and Human Rights Commission” (EHRC) am Dienstag mitteilte. Die unabhängige staatliche Einrichtung hatte den Kläger gemeinsam mit der Gewerkschaft “App Drivers & Couriers Union” unterstützt.
Die Höhe der Entschädigung wurde nicht veröffentlicht.
Identitätsbestätigung in der App
Pa Edrissa Manjang hatte im November 2019 angefangen, im britischen Oxfordshire für den Essenslieferdienst Uber Eats als Fahrer zu arbeiten. Medienberichten zufolge hatte er anfangs keine Probleme mit der App, über die Fahrer ihre Aufträge erhalten. Mit der Zeit habe diese ihn jedoch vermehrt aufgefordert, seine Identität zu bestätigen, wenn er eine Schicht antreten wollte – und sich zu diesem Zweck zu fotografieren. Teils habe er sogar mehrmals am Tag Fotos von sich machen müssen.
Wiederholt habe die Gesichtserkennungsfunktion der App ihn dabei nicht erkannt. Im Jahr 2021 sei er schließlich nach einer fehlgeschlagenen Überprüfung automatisiert als Fahrer gesperrt worden. Uber Eats hatte ihm anschließend mitgeteilt, dass die von ihm eingereichten Fotos “nicht übereinstimmen”, berichtet die EHRC.
Die Kommission kritisierte den Einsatz von sogenannter künstlicher Intelligenz (KI) und automatisierten Prozessen in dem Fall. Dieser sei besonders problematisch, weil damit der Zugang eines Fahrers zur App dauerhaft gesperrt und er damit seines Einkommens “beraubt” werden könne. Uber Eats habe den Betroffenen weder informiert, wie genau es zu der Suspendierung seines Kontos gekommen sei, noch ihm einen wirksamen Weg angeboten, diese Entscheidung anzufechten.
Pa Edrissa Manjang sagte: “Mein Fall wirft ein Schlaglicht auf potenzielle Probleme von KI, insbesondere für Niedriglohnbeschäftigte in der ‘Gig-Economy’, die verstehen wollen, wie Entscheidungen getroffen werden, die ihren Lebensunterhalt betreffen.”
Seine Anwältin Hannah Wright kommentierte: “Dies war ein sehr wichtiger Fall. Es ist einer der ersten, der sich mit KI und automatisierter Entscheidungsfindung im Zusammenhang mit Arbeit und dem Potenzial für Ungerechtigkeit und Diskriminierung befasst.” Sie kritisierte, der Einsatz von KI am Arbeitsplatz berge “erhebliche Risiken” – und bisher seien Betroffene nicht ausreichend geschützt.
Angaben der EHRC zufolge arbeitet Pa Edrissa Manjang weiterhin für Uber Eats. Sein Zugang sei nach der anfänglichen Suspendierung wiederhergestellt worden – welche Gründe dazu geführt haben, sei ihm ebenfalls nie vollständig erklärt worden.
Medienberichten zufolge hatte Uber Eats zunächst versucht, die Klage aufgrund mangelnder Erfolgsaussichten abweisen zu lassen. Dieser Antrag wurde vom zuständigen Arbeitsgericht jedoch abgelehnt. Im November 2024 hätte es zur Verhandlung kommen sollen – durch die außergerichtliche Einigung wurde der Prozess nun jedoch abgewendet.
Kishwer Falkner, Vorsitzende der “Equality and Human Rights Commission”, erklärte: “Es ist wichtig zu verstehen, dass der zunehmende Einsatz von KI auch zu Diskriminierung und Menschenrechtsverletzungen führen kann.”
Probleme mit Gesichtserkennung
Gesichtserkennung gilt bislang als fehleranfällig und unzuverlässig. Studien haben in der Vergangenheit bereits belegt, dass die Technik Menschen mit dunkler Hautfarbe schlechter erkennt. Aus den USA sind sogar Fälle bekannt, in denen unschuldige Schwarze verhaftet wurden, nachdem Gesichtserkennungssoftware sie fälschlicherweise für Täter hielt.
Die Gewerkschaft “App Drivers & Couriers Union” hatte bereits im Jahr 2021 die Nutzung der Technik durch den Taxi-Dienst Uber kritisiert. Hintergrund waren damals Fälle aus London, in denen Fahrer nach einer Fehlerkennung entlassen und ihnen die Taxi-Zulassung durch die Behörde “Transport for London” entzogen worden war. Uber hatte damals erklärt, bei Problemen würde die Überprüfung manuell von Menschen durchgeführt.
Ähnliche Berichte gibt es beispielsweise auch aus Indien. Auch dort wurde Fahrern ihr Konto gesperrt, nachdem die Software sie nicht erkannt hatte. (js)