Facebook muss diskriminierendes Anzeigensystem ändern
Der Facebook-Konzern Meta wird sein System zur Personalisierung von Immobilienanzeigen ändern. Das Unternehmen hat einen Vergleich mit dem US-Justizministerium geschlossen, um eine Diskriminierungsklage beizulegen. Hintergrund sind Vorwürfe, wonach das bisherige Anzeigensystem Personengruppen diskriminiert, indem Inserate Menschen mit bestimmter Hautfarbe oder Herkunft nicht angezeigt werden.
Das US-Justizministerium teilte am Dienstag mit, Meta müsse eine Strafe in Höhe von umgerechnet etwa 109.000 Euro bezahlen – den gesetzlichen Höchstbetrag. Im Rahmen des Vergleichs hat der Konzern allerdings kein Fehlverhalten eingestanden. Ein Gericht muss den Vergleich noch bestätigen.
Der Kern von Facebooks Geschäftsmodell ist, dass Werbekunden mit ihren Anzeigen bestimmte Nutzergruppen gezielt ansprechen können. Den Vorwürfen des Ministeriums zufolge hat der Konzern es Werbetreibenden in den USA ermöglicht, basierend auf Merkmalen wie Hautfarbe, Geschlecht, Religion, Familienstand oder Behinderung zu entscheiden, wer ihre Anzeigen zu sehen bekommt und wer nicht. Der “Fair Housing Act” verbietet in den USA allerdings, Menschen aufgrund solcher Merkmale beim Zugang zum Wohnungsmarkt zu diskriminieren.
Außerdem konnten Werbekunden ein spezielles Werkzeug (“Special Ad Audience”) nutzen, um Anzeigen an Nutzer richten zu können, die von ihnen ausgesuchten Referenzgruppen ähneln. Der Algorithmus, der hierfür Nutzer auswählt, berücksichtigt dabei ebenfalls Merkmale wie Hautfarbe oder nationale Herkunft, wie das Justizministerium betonte.
Voreingenommener Algorithmus
In der Klage des Justizministeriums heißt es, selbst wenn die Werbetreibenden keine diskriminierenden Optionen nutzen, lenke der Algorithmus Immobilienanzeigen “unverhältnismäßig stark auf weiße Nutzer und weg von schwarzen Nutzern und umgekehrt”. Tests hätten beispielsweise gezeigt, dass Anzeigen für Wohnungen in Vierteln mit einer überwiegend weißen Bevölkerung auch hauptsächlich dieser Nutzergruppe angezeigt wurden. Der Algorithmus verstärke damit “segregierte Wohnverhältnisse”.
“Angesichts der rasanten technologischen Entwicklung sind Unternehmen wie Meta dafür verantwortlich, dass ihre algorithmischen Werkzeuge nicht in diskriminierender Weise eingesetzt werden”, sagte die stellvertretende Generalstaatsanwältin Kristen Clarke von der Abteilung für Bürgerrechte des Justizministeriums. “Dieser Vergleich ist von historischer Bedeutung, denn es ist das erste Mal, dass Meta als Reaktion auf eine Bürgerrechtsklage zugestimmt hat, eines seiner Werkzeuge abzuschalten und seine Algorithmen für Wohnungsanzeigen zu ändern.”
Neues System soll unabhängig geprüft werden
Der Vergleich sieht nun vor, dass Meta bis Ende des Jahres die Verwendung des Werkzeugs “Special Ad Audience” einstellt. Außerdem hat der Konzern bis Dezember Zeit, um ein neues System für Immobilienanzeigen zu entwickeln, das die bestehenden Ungleichheiten beseitigt. Meta darf künftig auch keine Optionen mehr anbieten, um Nutzer gezielt auf Basis von Merkmalen anzusprechen, die nach dem “Fair Housing Act” verboten sind.
Der Facebook-Konzern kündigte an, dies auch für Stellenanzeigen und Werbung für Kredite umsetzen zu wollen. “Diskriminierung bei der Wohnungs-, Arbeits- und Kreditvergabe ist ein tief verwurzeltes Problem mit einer langen Geschichte in den USA, und wir setzen uns dafür ein, die Chancen für marginalisierte Gruppen in diesen und anderen Bereichen zu verbessern”, hieß es von Seiten des Konzerns.
Sollte das Justizministerium der Ansicht sein, dass Meta die Probleme nicht angemessen beseitigt, wird der Vergleich ausgesetzt – und der Fall vor einem Bundesgericht verhandelt. Als Teil des Vergleichs sollen die Änderungen bei den Wohnungsanzeigen zudem “fortlaufend” unabhängig begutachtet werden.
Wohnungsbauministerium hatte 2019 geklagt
Kritik an den diskriminierenden Wohnungsanzeigen bei Facebook gibt es seit Jahren: Das Investigativ-Magazin ProRepublica hatte bereits im Jahr 2016 gezeigt, wie sich auf Facebook bestimmte ethnische Gruppen von Anzeigen ausschließen lassen. Schon damals hatte Facebook angekündigt, diskriminierende Werbeoptionen für bestimmte Bereiche wie Wohnungsanzeigen zu entfernen.
Doch Journalistinnen und Journalisten sowie Forschende haben wiederholt nachgewiesen, dass die Plattform weiterhin diskriminierende Anzeigen ermöglicht.
Das US-Ministerium für Wohnungsbau und Stadtentwicklung hatte wegen der diskriminierenden Immobilienanzeigen im Jahr 2019 gegen Facebook geklagt. Der damalige Minister für Wohnungsbau, Ben Carson, hatte kritisiert: “Facebook diskriminiert Menschen aufgrund ihrer Herkunft und ihres Wohnortes. Einen Computer zu benutzen, um die Wahlmöglichkeiten einer Person bei der Wohnungssuche einzuschränken, kann genauso diskriminierend sein, wie jemandem die Tür vor der Nase zuzuschlagen.”
Auf diese Klage stütze sich zum Teil auch die Klage des Justizministeriums, das den Fall vom Wohnungsbauministerium übernommen hatte. (dpa / js)