EU-Parlament stimmt für abgeschwächtes KI-Gesetz
Das EU-Parlament hat sich am Mittwoch auf schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union geeinigt. 523 der Parlamentarier stimmten am Mittwoch in Straßburg für das Gesetz, 46 dagegen.
Nach Angaben des Parlaments handelt es sich um das weltweit erste KI-Gesetz. Es zielt darauf ab, “Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen”, verkündete das Parlament am Mittwoch. Demnach sollen KI-Systeme künftig in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein.
Für KI-Systeme, die als besonders risikoreich gelten und “eine erhebliche Gefahr für Gesundheit, Sicherheit, Grundrechte, die Umwelt, Demokratie und den Rechtsstaat darstellen” sieht das Gesetz strengere Anforderungen vor. Als Beispiele nennt das Parlament Systeme, die in den Bereichen kritische Infrastruktur, Beschäftigung oder Bildungs-, Bank- und Gesundheitswesen eingesetzt werden.
Auch bestimmte Bereiche der Strafverfolgung sowie KI im Zusammenhang mit Migration, Grenzmanagement, Justiz und demokratischen Prozessen sollen besonders kontrolliert werden. Hier sollen laut Mitteilung Risikobewertungen, Nutzungsprotokolle, Transparenz und menschliche Aufsicht Pflicht werden.
Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen und Bürgerrechte bedrohen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten, sogenanntes Social Scoring – wie es in China zum Einsatz kommt. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Das massenhafte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken wird ebenfalls verboten. Nicht erlaubt ist künftig auch der Einsatz von künstlicher Intelligenz, “um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen”, heißt es in der Mitteilung des Parlaments. Per KI erzeugte oder bearbeitete Bilder sowie Audio- und Videoinhalte (sogenannte Deepfakes) müssen zudem künftig eindeutig als solche gekennzeichnet werden.
Kritik an dem Gesetzestext erfolgte von zahlreichen Menschen- und Bürgerrechtsorganisationen. Sie sehen die Wirksamkeit der Regelungen durch zahlreiche Ausnahmen massiv abgeschwächt und befürchten mehr automatisierte Überwachung in Europa und die Marginalisierung von Gruppen wie Asylsuchenden und Migranten.
Verbot mit Ausnahmen
Für Strafverfolgungsbehörden sieht das Gesetz spezielle Regeln und Ausnahmen vor. Zwar verbietet es Arten von sogenannter vorausschauender Polizeiarbeit ("Predictive Policing"), “die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht”. Die EU befürchtet ansonsten, das Grundprinzip der Unschuldsvermutung könnte verletzt werden.
Und biometrische Überwachung im öffentlichen Raum soll grundsätzlich nicht erlaubt sein. Es sind jedoch zahlreiche Ausnahmen vorgesehen: Fernidentifizierung in Echtzeit kann erlaubt sein, wenn sie zeitlich und räumlich beschränkt wird und vorab eine spezielle behördliche oder gerichtliche Genehmigung eingeholt wurde. Beispielsweise, um gezielt nach einer vermissten Person zu suchen oder einen Terroranschlag zu verhindern. Der Einsatz von KI-Systemen zur nachträglichen Fernidentifizierung wird als hochriskant eingestuft. Hierfür ist künftig eine gerichtliche Genehmigung nötig, die mit einer Straftat in Verbindung stehen muss.
Freiheit in Gefahr
Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) begrüßte das KI-Gesetz als Ergänzung zur Datenschutz-Grundverordnung (DSGVO). “Dadurch wird der Schutz der Grundrechte, insbesondere der Datenschutz, gestärkt”, teilte er in einer Stellungnahme am Mittwoch mit.
In einem offenen Brief an den Deutschen Bundestag hatten am Mittwoch mehrere Bürgerrechtsorganisationen auf die Vielzahl von Schlupflöchern in dem Gesetzestext aufmerksam gemacht. Zu den Unterzeichnern gehören unter anderem der Chaos Computer Club, Wikimedia und Amnesty International. “Diese weitreichenden Ausnahmen für Strafverfolgung und Sicherheitsbehörden laden europaweit zum Ausbau öffentlicher Überwachung ein”, warnten die Organisationen.
Sie fordern die Bundestagsabgeordneten auf, das KI-Gesetz in der nationalen Umsetzung zu verschärfen und biometrische Fernidentifizierung in Deutschland zu verbieten. “Insbesondere im aktuellen politischen Klima müssen die demokratischen Kräfte gemeinsam die Möglichkeit des institutionellen Machtmissbrauchs minimieren”, so die Unterzeichner.
Die NGO European Digital Rights (EDRi) bezeichnete das Gesetz als “schwach” in Hinblick auf die Regeln zur Migration. Hochgefährliche KI-Systeme, die für andere Zwecke verboten werden, dürften im Zusammenhang mit Migration eingesetzt werden. “Das KI-Gesetz wird dazu führen, dass digitale Technologien auf neue und schädliche Weise eingesetzt werden, um die ‘Festung Europa’ zu stärken und die Ankunft gefährdeter Menschen auf der Suche nach Sicherheit zu begrenzen”, so die Organisation. Für den Einsatz von KI durch Strafverfolgungs-, Migrations- und Sicherheitsbehörden werde ein eigener Rechtsrahmen geschaffen; die neuen Schutzmaßnahmen gälten hier nicht.
Zudem kritisiert EDRi in einer Mitteilung von Mittwoch: “Es wurde nicht darauf eingegangen, wie sich KI-Systeme, die von in der EU ansässigen Unternehmen entwickelt werden, auf Menschen außerhalb der EU auswirken , obwohl es Beweise für Menschenrechtsverletzungen in Drittländern gibt, die durch in der EU entwickelte Überwachungstechnologien erleichtert werden.”
Die Verbraucherzentrale Bundesverband begrüßte es, dass sich die EU-Institutionen auf Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen geeinigt haben. Doch die Regeln würde Verbraucherinnen und Verbrauchern keinen ausreichenden Schutz bieten, kritisierte dessen Vorständin Ramona Pop in einer Mitteilung. “Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und Know-how ausgestattet sind.” Bei der Kontrolle von KI-Systemen und dem Durchsetzen der Regeln müssten Verbraucherinteressen höchste Priorität bekommen.
Mitgliedsländer am Zug
Das nun anstehende Gesetz geht auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten. Zuvor hatten Unterhändler von Europaparlament und EU-Ländern im Dezember nach langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu.
Für die Mitgliedsstaaten bedeutet das nun, dass sie zunächst schrittweise verbotene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen alle Punkte des Gesetzes vollständig umgesetzt sein. Die Mitgliedstaaten müssen etwa Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein, die von 7,5 Millionen bis 35 Millionen Euro beziehungsweise 1,5 bis 7 Prozent des weltweiten Umsatzes reichen.
Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen. Auch soll die Bevölkerung das Recht bekommen, sich Entscheidungen hochriskanter KI-Systeme erklären zu lassen, wenn diese ihre Rechte beeinträchtigen. (dpa / hcz)