EU-Parlament stimmt für KI-Gesetz
Das weltweit erste Gesetz zu Regulierung sogenannter Künstlicher Intelligenz (KI) hat in der EU eine weitere Hürde genommen. Das Europaparlament legte am Mittwoch in Straßburg seine Position für die Verhandlungen mit den EU-Ländern über die endgültige Form des “Gesetzes über künstliche Intelligenz” (AI Act) fest. Demnach sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je mehr Gefahr von der jeweiligen Anwendung ausgeht, desto strengere Regeln sollen künftig gelten.
Auch komplette Verbote soll es geben, etwa von Gesichtserkennung in Echtzeit im öffentlichen Raum. Besonders um diesen Punkt wurde unter den Abgeordneten gerungen.
Letztendlich stimmten 499 Abgeordnete für den Entwurf, 28 dagegen und 93 enthielten sich, teilte das Parlament am Mittwoch mit.
Axel Voss von der CDU nannte das Verbot “bedauerlich” und eine “verpasste Chance”. FDP-Digitalpolitikerin Svenja Hahn sagte dagegen: “Gesichtserkennung zur Überwachung kennen wir aus China, diese Anwendung von Technologie hat in einer liberalen Demokratie nichts zu suchen.”
Die Bürgerrechtsorganisation Algorithm Watch begrüßte das Vorhaben am Donnerstag grundsätzlich. “Das Ergebnis dieser Abstimmung ist ein großer Erfolg und ein wichtiger Schritt, um demokratisch zu kontrollieren, wie KI in unserer Gesellschaft eingesetzt wird”, sagte Angela Müller, Leiterin des Rechts-Teams bei AlgorithmWatch.
Der Parlamentsabgeordnete Patrick Breyer (Piratenpartei) nannte die Abstimmung einen “historischen Erfolg für die Bürgerrechtsbewegung und ein klares Zeichen gegen eine dystopische Zukunft der biometrischen Massenüberwachung nach chinesischem Vorbild in Europa”. Er wies am Mittwoch auf die hohe Fehlerquote von biometrischen KI-Systemen hin und zweifelte deren Zuverlässigkeit an. “Diese Technologien diskriminieren systematisch unterrepräsentierte Gruppen und haben eine abschreckende Wirkung auf eine freie und vielfältige Gesellschaft”, fügte Breyer hinzu.
Gefahr der Diskriminierung
Nicht nur die Gesichtserkennung, auch andere KI-Anwendungen sollen nach Ansicht der Abgeordneten verboten werden: Zum Beispiel die sogenannte vorausschauende Polizeiarbeit, die mit Profilerstellung und Standortermittlung arbeitet. Auf Basis von Statistiken und Daten vergangener Ereignisse sollen solche Programme abschätzen, ob eine Person eine Straftat begehen könnte oder in welchen Gegenden künftig vermehrt Straftaten stattfinden.
Solche Systeme sind hochumstritten. Kritiker warnen vor Diskriminierung und Vorverurteilung bestimmter Bevölkerungsgruppen beziehungsweise von Einwohnern bestimmter Stadt- und Landesteile. Sie weisen darauf hin, dass die Programme, je nachdem mit welchen Daten sie ursprünglich angelernt wurden und wie sie von ihren Entwicklern konfiguriert werden, diskriminierende Vorurteile, etwa Rassismus, in ihre Bewertungen übernehmen.
KI-Systeme, die Menschen nach ihrem sozialen Verhalten (beispielsweise “Social Scoring”) oder ethnischen Merkmalen klassifizieren, sollen ebenfalls nicht zulässig sein. Auch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen zum Erstellen von Datenbanken zur Gesichtserkennung verstößt nach Ansicht des EU-Parlaments gegen die Menschenrechte und soll nicht erlaubt sein, ebenso wenig wie Systeme zur Emotionserkennung – etwa am Arbeitsplatz.
Folgenabschätzungen und Transparenz
Das Parlament möchte, dass KI-Systeme mit hohem Risiko in einer EU-weiten Datenbank registriert werden müssen, wenn Behörden sie einsetzen. Informationen über den Kontext des Einsatzes – das eingesetzte System, Ort sowie Zweck des Einsatzes – sollen öffentlich zugänglich sein.
Betreiber risikoreicher Programme sollen zudem eine Folgenabschätzung abgeben müssen, bevor sie ein System in Betrieb nehmen. So soll festgestellt werden, ob Grundrechte von dem Einsatz beeinträchtigt werden oder Risiken für Gesundheit, Sicherheit oder Demokratie und Rechtsstaatlichkeit bestehen.
Sogenannte generative KI-Systeme, wie das Sprachmodell ChatGPT sowie Bildgeneratoren wie DALL-E oder Midjourney, sollen Transparenzanforderungen erfüllen müssen und offenlegen, dass die Inhalte KI-generiert sind. Dadurch sollen beispielsweise leichter sogenannte Deepfake-Bilder identifiziert werden können. Die Betreiber müssten dafür sorgen, dass die Programme keine rechtswidrigen Inhalte erstellen und Protokoll darüber führen, welche urheberrechtlich geschützten Daten für das Training der KI genutzt wurden.
Algorithm Watch kritisierte trotz grundsätzlicher Zustimmung zum Entwurf, dass keine Verbote in den Bereichen Migration, Asyl und Grenzkontrolle vorgesehen sind. Es müsse verhindert werden, dass personenbezogene Profile erstellt werden, um vorauszusagen, ob Menschen angeblich eine Bedrohung darstellen. “Außerdem verwehrt es [das Gesetz] Menschen das Recht, durch eine öffentliche Interessenvertretung eine Beschwerde einzureichen, wenn sich der Einsatz eines KI-Systems negativ auf ihr Leben auswirkt”, kritisierte die Organisation. Man hoffe darauf, dass diese “Unzulänglichkeiten” in den anstehenden Trilogverhandlungen korrigiert werden.
“Gegenpol zu USA und China”
Der Wirtschaftsverband “KI Bundesverband” warnte vor Kosten und Verwaltungsaufwand für europäische KI-Unternehmen. Auch Haftungsrisiken würden die Firmen belasten.
Die SPD begrüßte dagegen den Entschluss: “Durch die Dynamik um ChatGPT und Co sind die Potenziale und Risiken dieser Anwendungen in der Breite der Gesellschaft spürbar geworden. Dadurch wurde noch klarer, dass wir eine wertebasierte und vertrauenswürdige Regulierung von KI benötigen – auch als Gegenpol zu den USA und China”, sagte Armand Zorn (SPD).
Der Begriff Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden bereits in vielen Bereichen – mehr oder minder erfolgreich – eingesetzt.
Die Verhandlungen mit den EU-Staaten sollten nach Angaben des EU-Parlaments bereits am Mittwochabend beginnen. Mit seiner Einigung positioniert sich das Parlament deutlich restriktiver als zuvor Kommission und Rat. Es wird erwartet, dass das neue Gesetz nicht vor 2026 in Kraft tritt. (dpa / hcz)