© Pavel Romanchenko / 123RF.com

Die Verhandlungsführer von EU-Parlament und Rat haben eine Einigung zum Gesetz über künstliche Intelligenz erzielt. Kritiker warnen, dass das Gesetz den Weg für die Einführung biometrischer Massenüberwachung in Europa freimacht.

Bis zuletzt standen die Verhandlungen über das KI-Gesetz auf der Kippe. Noch am Vortag der Einigung gab es Streit über die Vorgaben für den Einsatz biometrischer Fernidentifikationssysteme wie einer automatisierten Gesichtserkennung. Das Parlament vertrat darin die Position, solche Systeme zu verbieten. Die EU-Staaten dagegen sprachen sich für eine Erweiterung der durch die EU-Kommission dafür eingeräumten Möglichkeiten aus.

Biometrische Identifizierung

Die Verhandlungsführer einigten sich letztlich auf eine Reihe von Schutzmaßnahmen und Ausnahmen für die Verwendung biometrischer Identifizierungssysteme (Remote Biometric Identification, RBI) in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken [1]. Demnach muss eine vorherige richterliche Genehmigung vorliegen, und es gibt eine Liste klar definierter Straftaten, die dafür infrage kommen.

Bei der Post-Remote-RBI, die diverse Medien umfassen kann, findet die Suche nicht in Echtzeit statt. Sie werde ausschließlich bei der gezielten Suche nach bereits Verurteilten eingesetzt oder bei der Suche nach Personen, die im Verdacht stehen, eine schwere Straftat begangen zu haben, heißt es im Kompromiss. Eine Echtzeit-RBI bleibt zeitlich und örtlich auf bestimmte Zwecke begrenzt, darunter die Suche nach Opfern von Entführung, Menschenhandel und sexueller Ausbeutung. Zu den legitimen Zwecken zählen daneben die Abwehr einer konkreten und gegenwärtigen terroristischen Bedrohung sowie das Lokalisieren oder Identifizieren von Personen, die im Verdacht stehen, eine der in der Verordnung genannten Straftaten begangen zu haben. Die entsprechende Liste umfasst Terrorismus, Menschenhandel, sexuelle Ausbeutung, Mord, Entführung, Vergewaltigung, bewaffneten Raubüberfall, Beteiligung an einer kriminellen Vereinigung und Umweltkriminalität.

Die Verordnung solle Grundrechte, Demokratie, Rechtsstaatlichkeit und die ökologische Nachhaltigkeit vor risikoreicher KI schützen und gleichzeitig die Innovation fördern sowie Europa zu einem Vorreiter in diesem Bereich machen, teilt das EU-Parlament mit.

Risikogruppen

Für KI-Anwendungen legt die Verordnung eine Einteilung in drei Risikogruppen fest: minimal, hoch und inakzeptabel. Auch diese Einteilung war heiß diskutiert. Anwendungen mit inakzeptablem Risiko trifft der Bannstrahl der EU. Dazu zählen biometrische Kategorisierungssysteme, die sensible Merkmale verwenden, beispielsweise politische, religiöse oder philosophische Überzeugungen, sexuelle Orientierung und Rasse. Auch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsanlagen zum Erstellen von Gesichtserkennungsdatenbanken untersagt die Verordnung. Als inakzeptabel gelten außerdem eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, ein Social Scoring auf der Grundlage von Sozialverhalten oder persönlichen Merkmalen sowie die Manipulation von Menschen, um ihren freien Willen zu umgehen.

Lob von der Präsidentin

Ursula von der Leyen, Präsidentin der Europäischen Kommission, sagte: “Künstliche Intelligenz verändert schon heute unseren Alltag, und das ist erst der Anfang. Klug und breit eingesetzt, verspricht KI enorme Vorteile für unsere Wirtschaft und Gesellschaft.” Von der Leyen bezeichnete die Einigung als historischen Moment [2]. Mit dem KI-Gesetz würden die europäischen Werte in eine neue Ära überführt. Durch die Konzentration der Regulierung auf erkennbare Risiken fördere der Kompromiss eine verantwortungsvolle Innovation in Europa.

Drohende Massenüberwachung

Das sieht nicht jeder so. Der Europaabgeordnete Patrick Breyer (Piratenpartei) befürchtet, das Gesetz mache den Weg für die Einführung biometrischer Massenüberwachung in Europa frei. Es lasse Echtzeit-Gesichtserkennung im öffentlichen Raum zu, etwa zur Suche nach Verdächtigen und Opfern von Straftaten, sobald auch nur ein einziger EU-Mitgliedsstaat das beschließe, sagte Breyer [3].

Die genannten Ausnahmen bezeichnet Breyer als Augenwischerei: Es würden praktisch ständig Tausende der im Gesetz genannten Straftaten Verdächtige durch Richterbeschluss gesucht, so Breyer. In der Realität habe man mit biometrischer Massenüberwachung des öffentlichen Raums noch keinen einzigen Terroristen gefunden und keinen einzigen Anschlag verhindert, moniert Breyer. Stattdessen führe sie zu unzähligen Festnahmen Unschuldiger.

Laut einer repräsentativen Umfrage von YouGov in zehn EU-Ländern im Auftrag Breyers lehnt eine deutliche Mehrheit der Europäer biometrische Massenüberwachung im öffentlichen Raum ab [4].

TÜV-Siegel

Der TÜV-Verband wiederum begrüßt die Einigung bei Trilog-Verhandlungen und sieht Europa als führendes Ökosystem für sichere und vertrauenswürdige KI. Der risikobasierte Ansatz erhöhe die Sicherheit und schütze Innovationen.

“Europa sendet mit dem AI Act ein klares Signal in die Welt: Künstliche Intelligenz muss sicher sein. Die Technologie darf Menschen nicht gefährden oder benachteiligen”, sagte Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands [5]. “Die in der KI-Verordnung verankerte risikobasierte Regulierung ist ein pragmatischer Ansatz für eine komplexe Technologie.” Künftig müssten KI-Anwendungen je nach Risiko, das von ihnen ausgeht, unterschiedlich hohe Anforderungen erfüllen.

Der TÜV-Verband begrüßt auch, dass besonders leistungsstarke KI-Basismodelle nicht von der Regulierung ausgenommen bleiben. Dazu gehören sogenannte Allzweck-KIs (General Purpose AI) wie ChatGPT (GPT-4).

Nachteil für Unternehmen

Der Digitalverband Bitkom verlautbart über seinen Hauptgeschäftsführer Bernhard Rohleder [6]: “Die Einigung zum AI Act ist ein politischer Schaufenstererfolg zu Lasten von Wirtschaft und Gesellschaft. Der […] Kompromiss schießt insbesondere bei der Regulierung generativer KI über das Ziel hinaus und greift tief in die Technologie ein. Die EU bindet damit den Unternehmen einen regulatorischen Klotz ans Bein.”

Rohleder (Abbildung 1) sieht europäische Unternehmen durch das nicht praxistaugliche Gesetz aufgrund der rasanten technologischen Entwicklung künftig im Nachteil. Die Regulierung der sogenannten General Purpose AI als Technologie an sich, unabhängig von der konkreten Anwendung, sieht er als Abweichung vom risikobasierten Ansatz.

Abbildung 1: Bitkom-Geschäftsführer Bernhard Rohleder befürchtet, dass der AI Act Unternehmen ausbremst. Quelle: Bitkom

Der Branchenverband sieht die Gefahr, dass das besonders wichtige Feld der KI durch Vorgaben eingeschränkt wird, die sich nicht an neue technologische Entwicklungen anpassen lassen. Die große Herausforderung besteht nach Ansicht des Bitkom nun darin, die Einigung als Nächstes in praxistaugliche Regeln zu überführen, die eine Grundlage für den verantwortungsvollen Umgang mit KI schaffen. (uba)