© pitinan / 123RF.com

Die EU-Mitgliedstaaten wollen künftig den Einsatz biometrischer Erkennungssysteme bei der Suche nach Straftätern oder Verdächtigen erlauben.

Ebenso wie die EU-Kommission wollen auch die EU-Mitgliedstaaten die Suche nach Verdächtigen mithilfe von automatischer Gesichtserkennung erlauben. Eine vom Ministerrat im Dezember 2022 beschlossene Verhandlungsposition sieht vor, die bereits von der EU-Kommission vorgesehenen Einsatzmöglichkeiten einer automatisierten Gesichtserkennung im öffentlichen Raum noch zu erweitern. Das Europaparlament lehnt solche Überwachungsmaßnahmen bislang jedoch ab.

Die Bundesregierung stimmte dem Vorschlag im Ministerrat zu, obwohl die Ampelkoalition vereinbart hat: “Biometrische Erkennung im öffentlichen Raum sowie automatisierte staatliche Scoring-Systeme durch KI sind europarechtlich auszuschließen.” Automatische Gesichtserkennung wurde in den vergangenen Jahren bereits am Berliner Bahnhof Südkreuz getestet. Eine europaweite Initiative fordert hingegen ein generelles Verbot solcher Systeme.

Mehr Einsatzmöglichkeiten

In dem vom Rat beschlossenen Verordnungsentwurf [1] wird der Einsatz “biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken” weiterhin untersagt. Jedoch gibt es Ausnahmen, wenn dies für bestimmte Zwecke “unbedingt erforderlich” ist, beispielsweise zur Suche nach vermissten Personen. Die Mitgliedstaaten erweiterten die von der Kommission vorgesehenen Ausnahmen jedoch noch.

Demnach soll der Einsatz zum “Abwenden einer konkreten und erheblichen Gefahr für kritische Infrastrukturen sowie für das Leben, die Gesundheit oder die körperliche Unversehrtheit natürlicher Personen oder Verhinderung von Terroranschlägen” zulässig sein. Dabei fügte der Ministerrat die Gefährdung kritischer Infrastrukturen hinzu.

Schwammige Ausnahmen

Die Pläne bedeuten, dass künftig nach jedem Einbrecher, Drogendealer oder Computerhacker per Gesichtserkennung gesucht werden könnte. Das sieht der entsprechende Straftatenkatalog einer EU-Rahmenvereinbarung [2], auf den sich der Entwurf bezieht, in Artikel 2 Absatz 2 vor. Als Voraussetzung muss für das Delikt jedoch eine maximale Haftstrafe von mindestens drei Jahren drohen. Bei Delikten außerhalb der Vereinbarung soll nun eine maximale Haftstrafe von mindestens fünf Jahren vorausgesetzt werden. Das sind zwei Jahre mehr als im Entwurf der EU-Kommission.

Kritiker der Pläne bemängeln jedoch, dass das Verbot zum einen nur “Echtzeit-Fernidentifizierungssysteme” betrifft und nicht Systeme, bei denen der “Abgleich und die Identifizierung zeitgleich oder nahezu zeitgleich erfolgen”. Zudem gelte das Verbot nur für Strafverfolgungsbehörden oder deren Auftragnehmer, nicht jedoch für andere Behörden oder private Anbieter, hieß es auf Algorithmwatch.org [3]. Generell will die EU mit der Verordnung den Einsatz von Systemen künstlicher Intelligenz (KI) regeln.

Mehr Verbote für Social Scoring

Verboten bleiben damit manipulierende KI-Systeme, die eine Person durch sublime Verfahren so beeinflussen könnten, dass sie oder andere Personen körperlich oder psychisch geschädigt werden. Zudem dürfen solche Systeme nicht die Schwächen bestimmter Personen oder Gruppen aufgrund ihres Alters sowie körperlicher oder geistiger Beeinträchtigungen ausnutzen. Der Ministerrat will dieses Verbot auch auf Personen ausdehnen, die aufgrund einer “bestimmten sozialen oder wirtschaftlichen Situation” schutzbedürftig sind.

Ein KI-basiertes Social Scoring soll demnach ebenfalls verboten sein, wenn es Personen oder Personengruppen beispielsweise in Kontexten benachteiligt, die nicht im Zusammenhang mit der ursprünglichen Datensammlung stehen, oder wenn die Benachteiligung in keinem Verhältnis zum sozialen Verhalten steht. Dieses Verbot soll nach dem Willen der Mitgliedstaaten nicht nur Behörden betreffen, sondern auch private Akteure.

Weniger Hochrisikosysteme

Änderungswünsche haben die Mitgliedstaaten zudem bezüglich der als Hochrisikosysteme eingestuften KI-Anwendungen (Abbildung 1). Demnach sollen die Aufdeckung von Deepfakes durch die Strafverfolgungsbehörden, die Kriminalanalyse sowie die Überprüfung der Echtheit von Reisedokumenten aus der Liste gestrichen werden. Die Definitionen zu den KI-Systemen in der kritischen digitalen Infrastruktur und der Lebens- und Krankenversicherung wurden ergänzt.

Abbildung 1: KI-Anwendung Dall-E2 platziert fotorealistische Elemente in Bildern. Quelle: OpenAI

Darüber hinaus wurden die die Vorgaben für solche Hochrisikosysteme “präzisiert und so angepasst, dass sie technisch machbarer sind und ihre Einhaltung die Interessenträger weniger belastet, zum Beispiel in Bezug auf die Datenqualität oder auf die technische Dokumentation”. Solche Dokumentationen müssen auch kleine und mittlere Unternehmen erstellen um nachzuweisen, dass ihre Hochrisiko-KI-Systeme den Anforderungen entsprechen.

Europaparlament muss abstimmen

Der Datenschutzexperte und Europaabgeordnete Patrick Breyer kritisierte den Beschluss des Ministerrats. Die angenommene Position “würde eine dystopische Zukunft der biometrischen Massenüberwachung in Europa ermöglichen, in der jeder von uns potenziell einer ständigen Identifizierung ausgesetzt ist, sein Verhalten überwacht und seine Emotionen im öffentlichen Raum analysiert werden würden. Sie würde den permanenten und allgegenwärtigen Einsatz von Gesichtserkennungstechnologie rechtfertigen, um nach Tausenden von ‘Opfern’, ‘Bedrohungen’ und Verdächtigen von ‘schweren Verbrechen’ zu suchen, die zu jedem Zeitpunkt zur Fahndung ausgeschrieben sind”.

Bevor EU-Kommission und Mitgliedstaaten die Pläne beschließen können, stehen noch Verhandlungen mit dem Europaparlament an. Dort liegt seit April 2022 ein gemeinsamer Bericht [4] der Ausschüsse für Binnenmarkt und Verbraucherschutz (IMCO) sowie für bürgerliche Freiheiten (LIBE) vor. Über diesen soll im kommenden Frühjahr eine Entscheidung fallen.

Zwar wird das Thema automatisierte Gesichtserkennung in dem Bericht ausgeklammert, jedoch haben die einzelnen Fraktionen bereits Hunderte Änderungsvorschläge eingebracht [5]. Darin wird unter anderem die komplette Löschung der entsprechenden Passagen gefordert. Nach Angaben Breyers sind die Verhandlungen im Parlament “intensiv, und eine Mitte-Links-Mehrheit unterstützt ein ehrgeiziges Verbot der biometrischen Massenüberwachung, das sich auch auf die Erkennung von Emotionen und die Kontrolle von Menschenmengen erstreckt”. (uba)