© Alexander Koltyrin / 123RF.com

Federführende Ausschüsse im Europäischen Parlament haben für ein Verbot biometrischer Massenüberwachung gestimmt. Es drohe ein “Sicherheitsalbtraum”.

In der EU steht eine intensive Debatte über die Nutzung biometrischer Erkennungssysteme bevor. Während die Mitgliedstaaten den Einsatz solcher Systeme bei der Suche nach Straftätern oder Verdächtigen künftig erlauben wollen, haben zwei federführende Ausschüsse des Europaparlaments im Mai 2023 für ein generelles Verbot von automatisierter Gesichtserkennung im öffentlichen Raum gestimmt. Sollte das Plenum der Abgeordneten diese Position im kommenden Juni bestätigen, dürfte das Thema der zentrale Streitpunkt bei den anstehenden Trilogverhandlungen werden.

Die Regelungen sind Bestandteil der geplanten Verordnungen zu künstlicher Intelligenz (KI). Dazu hatte die EU-Kommission im April 2021 einen Entwurf [1] vorgelegt. Der nun beschlossene Vorschlag [2] sieht in Artikel 5 der Verordnung ein generelles Verbot für “die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen” vor. Die EU-Staaten wollen die Einsatzmöglichkeiten für Gesichtserkennung hingegen noch ausweiten.

Abbildung 1: Drago Tudorache (Mitte) bei der Abstimmung zum AI-Act. Quelle: European Union 2023

Die Abstimmung erfolgte in einer gemeinsamen Sitzung der Ausschüsse für Binnenmarkt (Imco) und Inneres (Libe). Zu dem 175-seitigen Entwurf [3] der Verhandlungsführer Brando Benifei und Drago Tudorache, der im April 2022 veröffentlicht worden war, gab es rund 3000 Änderungsvorschläge von Seiten der Europaabgeordneten.

Massenüberwachung

Patrick Breyer, Europaabgeordneter der Piratenpartei kommentierte: “Die heutige Abstimmung ist ein historischer Durchbruch für die Bewegung, die eine dystopische Zukunft biometrischer Massenüberwachung in Europa nach chinesischem Vorbild verhindern will. Im Gegensatz zu dem, was manche behaupten, gibt es kein einziges Beispiel dafür, dass biometrische Echtzeit-Überwachung je einen Terroranschlag oder andere Ereignisse dieser Art verhindert hätte. Mit Fehlalarmquoten von bis zu 99 Prozent sind diese Technologien nicht annähernd zuverlässig genug, um von Nutzen zu sein.”

Der routinemäßige Einsatz solcher Algorithmen würde selbst bei großer Genauigkeit dazu führen, dass die Zahl der Fehlalarme die der richtigen Alarme bei Weitem übersteige, so Breyer weiter. Die von der EU-Kommission vorgeschlagenen Verfahrensvorschriften seien ein Deckmantel für die Massenüberwachung. Darüber hinaus sei die wahllose Massenverarbeitung personenbezogener Daten vom Europäischen Gerichtshof immer wieder für nichtig erklärt worden, weil sie nicht mit den Grundrechten vereinbar sei.

Menschliche Datensätze

Das Abstimmungsergebnis löst auch beim Verein Digitalcourage Jubel aus. Konstantin Macher von Digitalcourage e.V. sieht es als riesigen Erfolg für die Zivilgesellschaft an. Biometrische Überwachung sei eine Gefahr für unsere Demokratie, so Macher. “Automatische KI-Erkennung von Gesichtern, der Gangart und anderer biometrischer Merkmale reduziert uns Menschen zu Datensätzen und ist besonders gefährlich. Das ist die Art von skalierbarer Kontrolle, auf die autoritäre Regime setzen und nicht Rechtsstaaten. Aber selbst bei gut gemeinter Anwendung verstärken solche Systeme aufgrund ihrer Funktionsweise eine gesellschaftliche Diskriminierung. Ein Verbot von biometrischer KI-Überwachung ist darum der einzig richtige Weg für eine freiheitlich-demokratische Gesellschaft”, sagte Konstantin Macher.

KI-Potenzial schützen

Bitkom-Präsident Achim Berg ist anderer Meinung: “Wir warnen davor, KI durch ein Übermaß an Regulierung aus Deutschland und Europa zu vertreiben. Wie Europa sich zur Künstlichen Intelligenz verhält, wird großen Einfluss auf unsere künftige Wettbewerbsfähigkeit und unseren Wohlstand haben. Die vergangenen Monate haben mit Durchbrüchen rund um generative Künstliche Intelligenz wie ChatGPT angedeutet, welch enormes Potenzial diese Technologie besitzt. Mit Verboten oder übertrieben strengen Auflagen, wie sie von den Mitgliedern des europäischen Parlaments teilweise diskutiert wurden, werden wir allenfalls dafür sorgen, dass KI-Entwicklung künftig außerhalb Europas stattfindet und Expertinnen und Experten aus Deutschland und anderen europäischen Ländern ihr Wissen anderswo einsetzen.” Man dürfe KI nicht aus Europa verdrängen, sagte Berg. KI brauche Regulierung, es gelte beim AI Act aber, sich auf jene Anwendungen zu konzentrieren, die potenziell ein hohes Risiko mit sich bringen, etwa im Gesundheits- oder Mobilitätsbereich. Pauschale Vorgaben für eine Technologie würden nicht helfen und stattdessen Forschung und Entwicklung ebenso wie die Entwicklung von Geschäftsmodellen abwürgen, warnte Berg.

Neue Regelungen für generative KI

Zuletzt brachten die Abgeordneten noch Änderungen ein, die sich auf den Einsatz sogenannter generativer KI wie Chatbots oder Bildprogramme bezieht. Entsprechende Regelungen finden sich nun im Artikel 28b des Kompromissvorschlags. Demnach müssen die Anbieter “eine hinreichend detaillierte Zusammenfassung der Verwendung von urheberrechtlich geschützten Trainingsdaten dokumentieren und öffentlich zugänglich machen”. Außerdem müssen sie angemessene Vorkehrungen treffen, dass die erzeugten Inhalte nicht gegen europäisches Recht verstoßen.

In einem Gespräch mit Journalisten am Vortag der Abstimmung hatten sich Benifei und Tudorache zuversichtlich gezeigt, die Mitgliedstaaten in den Verhandlungen von der Position des Parlaments überzeugen zu können. KI solle kein “Sicherheitsalbtraum” werden, sagte Benifei. Solche Techniken müssten demokratisch reguliert werden. Es sei wichtig, Vertrauen in der Bevölkerung für die Nutzung von KI-Systemen aufzubauen. Die beiden Verhandlungsführer versicherten, dass die keine Abschwächung von Grundrechten akzeptieren wollten.

Schutz freier Software

Dass die beiden federführenden Ausschüsse als Nebenaspekt in der Abstimmung zu KI-Regulierung mit breiter Mehrheit für den Schutz Freier Software in der Gesetzgebung gestimmt haben, berichtet die Free Software Foundation Europe (FSFE). Mit einer Ausnahme für Non-Profit- Organisationen sowie kleine Freie-Software-Projekte bis zu einer Größe von Micro-Unternehmen sollen diese künftig von der Regulierung weitgehend ausgenommen werden, freut sich die FSFE.

Alexander Sander, Senior Policy Consultant der FSFE erklärt: “Statt die Verantwortung den Entwicklern zuzuschreiben, soll diese den einsetzten Unternehmen, die auf dem Markt davon profitieren, übertragen werden. Kleinere Projekte sowie Non-Profit-Aktivitäten, beispielsweise von Stiftungen, müssen ausgenommen sein. Die Abgeordneten erkennen damit die Realitäten der Freien Software Entwicklung an und versuchen, diese zu schützen. Das Prinzip, Verantwortung und Haftung auf jene zu übertragen, die auf dem Markt profitieren anstatt die Entwickler in den Fokus zu stellen, muss auch im Cyber Resilience Act sowie der Product Liability Directive verankert werden. Nur so können Freie-Software-Projekte und deren Entwickler, aber auch Verbraucher und Kunden gleichzeitig geschützt werden.”

Tempo machen

Nach der Abstimmung in den beiden Ausschüssen soll das Plenum im Juni über die Position des Parlaments abstimmen. Nach Angaben von EU-Kommissionsvizepräsidentin Margrethe Vestager sollen die Trilogverhandlungen noch vor dem Sommer starten. “Wir brauchen Geschwindigkeit, um die Regelungen in Kraft treten zu lassen”, sagte Vestager vor Journalisten in Berlin.