EU-Datenschützer fordern Verbot von öffentlicher Gesichtserkennung

Datenschützer warnen vor dem “Ende der Anonymität” durch künstliche Intelligenz zur automatisierten Erkennung von Menschen. Gesichtserkennung und andere biometrische Techniken sollten in der Öffentlichkeit verboten werden.

Überwachungskamera
Bisher will die EU-Kommission den Einsatz von Gesichtserkennungssystemen für bestimmte Zwecke erlauben. (Quelle: Pixabay)

Der Europäische Datenschutzbeauftragte und der Europäische Datenschutzausschuss (EDSA) fordern ein europaweites Verbot von künstlicher Intelligenz (KI) zur automatisierten Identifizierung von Menschen im öffentlichen Raum. In einer am Montag veröffentlichten gemeinsamen Stellungnahme warnen sie vor einem Eingriff in die Grundrechte der Menschen.

Hintergrund ist eine geplante EU-Verordnung zum Einsatz von künstlicher Intelligenz, den die EU-Kommission im April vorgestellt hatte. Der Entwurf sieht zwar ein Verbot von biometrischen Erkennungsverfahren im öffentlichen Raum vor – aber ebenso weit greifende Ausnahmen, beispielsweise bei der Suche nach Opfern einer Straftat oder terroristischen Bedrohungen.

In ihrer Stellungnahme begrüßen die Datenschützer generell das Ziel, den Einsatz von KI-Systemen innerhalb der EU zu regeln. Biometrische Fernidentifizierung berge allerdings “extrem hohe Risiken”. Daher sollten Systeme zur automatisierten Erkennung menschlicher Merkmale im öffentlich zugänglichen Raum generell verboten werden. Dazu zählen beispielsweise Gesichtserkennung, aber auch Systeme, die Menschen anhand ihres Ganges, ihrer Fingerabdrücke, der Stimme, DNA oder des Tastenanschlags erkennen.

Kein Social Scoring

Ebenfalls verboten werden sollten KI-Systeme, die biometrische Daten nutzen, um Menschen aufgrund ihrer Ethnie, ihres Geschlechts oder ihrer politischen oder sexuellen Orientierung in Gruppen einzuteilen. Auch jede Art von sogenanntem Social Scoring, also der Gesamtbewertung des Verhaltens einzelner Personen, sollte unzulässig sein. Die geplante EU-Verordnung sieht nur ein Verbot von staatlichem Social Scoring vor.

Die Datenschützer fordern ferner ein Verbot von künstlicher Intelligenz, um Emotionen von Personen zu erkennen. Bei dieser Technik könne es allerdings Ausnahmen für bestimmte Bereiche geben, beispielsweise zu medizinische Zwecken.

Eingriff in die Grundrechte

Die EDSA-Vorsitzende Andrea Jelinek und der Europäische Datenschutzbeauftragte Wojciech Wiewiórowski mahnen, der Einsatz biometrischer Fernerkennung im öffentlichen Raum bedeute “das Ende der Anonymität”. Und weiter: “Anwendungen wie die Live-Gesichtserkennung greifen in die Grundrechte und -freiheiten in einem solchen Ausmaß ein, dass sie das Wesen dieser Rechte und Freiheiten in Frage stellen können.” Um die Freiheiten zu bewahren, sei ein generelles Verbot der notwendige Ansatz.

Der Bundesdatenschutzbeauftragte Ulrich Kelber erklärte: “Wir wollen keine KI im grundrechtlichen Graubereich. Ich setze mich für ein Verbot von KI ein, die einem freiheitlich-demokratischen Grundverständnis zuwider läuft.”

Besorgt zeigen sich die Datenschützer auch darüber, dass die geplante KI-Verordnung keine Anwendung bei der internationalen Zusammenarbeit von Strafverfolgungsbehörden finden soll. Die Verordnung sieht außerdem einen neuen “Europäischen Ausschuss für Künstliche Intelligenz” vor, der nationale Stellen bei rechtlichen Fragen unterstützen soll. Die Datenschützer kritisieren, dass die EU-Kommission darin eine “vorherrschende Rolle” einnehmen soll. Der Ausschuss müsse unabhängig von jeglichem politischen Einfluss sein.

Organisationen fordern Verbot biometrischer Überwachung

Erst Anfang Juni hatten 175 namhafte Organisationen ein internationales Verbot von biometrischer Überwachung in der Öffentlichkeit gefordert. Sie warnen, die Technik untergrabe Menschenrechte und bürgerliche Freiheiten – “einschließlich des Rechts auf Privatsphäre und Datenschutz, des Rechts auf freie Meinungsäußerung, des Rechts auf Versammlungs- und Vereinigungsfreiheit […] und des Rechts auf Gleichheit und Nicht-Diskriminierung”.

Politikerinnen und Politiker sowie Gesetzgeber sollten biometrische Überwachung grundsätzlich verbieten. Auch Strafverfolgungsbehörden, Grenzschutz und Nachrichtendienste sollten biometrische Überwachung nicht mehr einsetzen dürfen. Außerdem fordern die Organisationen, keine öffentlichen Gelder mehr für solche Technologien auszugeben.

Auch die Europäische Bürgerinitiative “Reclaim Your Face” will ein europaweites Verbot von biometrischer Überwachung erreichen. Ihr Ziel ist es, innerhalb eines Jahres insgesamt eine Million Unterschriften in mindestens sieben EU-Ländern zu sammeln. Dann muss sich die EU-Kommission mit der Forderung des Bündnisses auseinandersetzen. (js)