© Elena Chepko / 123RF.com

Die Verhandlungen über die KI-Verordnung der EU sind schon weit fortgeschritten, doch nun entbrennt ein Streit über die Risiken von Chatbots.

Die aktuellen Entwicklungen bei neuen Sprachmodellen auf Basis künstlicher Intelligenz (KI) machen einmal mehr deutlich, wie schwierig sich die Regulierung digitaler Themen erweisen kann. Als die EU-Kommission ihren Entwurf zur KI-Verordnung im April 2021 vorstellte, spielten Programme wie ChatGPT in der Debatte noch keine große Rolle. Nun stellt sich die Frage, ob man Chatbots ebenso wie eine automatische Gesichtserkennung als hochriskante Technik einstufen sollte.

Die Verhandlungen über die KI-Verordnung (englisch AI Act) sollten eigentlich 2023 in die entscheidende Phase treten. Die EU-Mitgliedstaaten haben im vergangenen Dezember bereits ihre Verhandlungsposition festgelegt. Das Europaparlament sollte noch im Frühjahr über mögliche Änderungswünsche am Entwurf abstimmen. Jetzt aber steht die schwierige Debatte ins Haus, ob und wie sich generative KI noch in die Regulierung einbinden lässt. Die zuständigen Verhandlungsführer, die Abgeordneten Brando Benifei und Dragos Tudorache (Abbildung 1), schlugen Anfang Februar 2023 vor, Programme wie ChatGPT als riskant einzustufen.

Der Entwurf der EU-Kommission [1] sieht in einem Anhang III bislang acht Bereiche sogenannter Hochrisiko-KI-Systeme vor. Diese betreffen unter anderem die biometrische Identifizierung und Kategorisierung natürlicher Personen sowie die Verwaltung und den Betrieb kritischer Infrastrukturen.

Hochriskant, oder …

Einem Bericht von Euractiv [2] zufolge schlagen Benifei und Tudorache nun einen weiteren Bereich vor. Jeder KI-generierte Text, der fälschlicherweise für einen menschlichen Text gehalten werden könnte, gilt demnach als riskant, es sei denn, er wird von einem Menschen überprüft und eine Person oder Organisation übernimmt die rechtliche Verantwortung dafür. Auch KI-generierte Deepfakes sollen in die Hochrisikokategorie fallen, es sei denn, es handelt sich um ein offensichtliches künstlerisches Werk.

Abbildung 1: Dragos Tudorache in einer Pressekonferenz zum Artificial Intelligence Act. Quelle: EU-Parlament

Zu den hochriskanten Techniken sollen auch Apps wie Lensa gehören, diese Avatare auf der Grundlage des Gesichts einer Person erstellen. Der Begriff der biometrischen Identifizierung und Kategorisierung soll auf solche biometriebasierten Apps ausgedehnt werden. Doch die Vorschläge von Benifei und Tudorache, die den Fraktionen der Sozialdemokraten und Liberalen angehören, stoßen im Europaparlament auf Widerstand.

… Überregulierung?

So sagte der CDU-Politiker Axel Voss von der konservativen EVP-Fraktion laut Politico [3], dass die Änderungsvorschläge “zahlreiche Aktivitäten zu einem hohen Risiko machten, die überhaupt nicht riskant sind”. Voss ist als sogenannter Schattenberichterstatter seiner Fraktion an den Verhandlungen beteiligt.

Selbst die Definition von KI-Anwendungen ist unter den Abgeordneten noch umstritten, berichtete der Spiegel [4]. So will die EVP die Definition eher eng fassen, um künftige Technologien nicht abzuwürgen. “Wir entwickeln schon jetzt nichts mehr, was die Welt interessiert”, sagte Voss dem Nachrichtenmagazin. Sollte das so bleiben, “sind wir künftig nur noch eine Verbrauchermasse für amerikanische und chinesische Konzerne”.

Würden Anwendungen wie Microsofts ChatGPT oder Googles Bard als hochriskant eingestuft, hätte dies höhere Auflagen für die Anbieter zur Folge. Dazu zählen unter anderem “angemessene Risikobewertungs- und Risikominderungssysteme”, eine “hohe Qualität der Datensätze, die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten”, sowie eine “Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen”.

Lobbyschlacht

Es erstaunt nicht, dass die Anbieter inzwischen in Brüssel schon heftig gegen solche Pläne lobbyieren. Das geht auch aus einer Studie des Corporate Europe Observatory (CEO [5]) hervor, das die Lobbyaktivitäten von Unternehmen auf EU-Ebene verfolgt. Der Untersuchung zufolge wurden die US-Konzerne alarmiert, nachdem die französische Ratspräsidentschaft im ersten Halbjahr 2022 das Thema KI auf der Ebene der EU-Staaten aufgebracht hatte.

Googles zuständige Vize-Präsidentin Marian Croak drängte auf einer öffentlichen Veranstaltung darauf, das Gleichgewicht der Verantwortung zwischen Nutzern, Anwendern und Anbietern besser auszutarieren. Damit meint sie, dass vor allem der Anwender dafür verantwortlich sein sollte, wenn mit den Programmen hochriskante Aufgaben erledigt werden. In einem Papier an die EU-Kommission legte Google anschließend dar, dass sogenannte Allzweck-KI (engl. General Purpose AI, GPAI) nicht per se als hochriskant eingestuft werden sollte.

Microsoft schloss sich später den Forderungen Googles an. Im zweiten Halbjahr 2022 schrieb das Unternehmen einen Brief an die tschechische EU-Ratspräsidentschaft und sah darin für Allzweck-KI “keine Notwendigkeit für einen eigenen Bereich in der KI-Verordnung”. Das sei schlicht nicht praktikabel: “Ohne die Verwendung dieses Allzweckwerkzeugs zu kennen, gibt es keine Möglichkeit, die Anforderungen für hohe Risiken zu erfüllen.”

Startups unterzeichnen

Der CEO-Studie zufolge übernahmen auch Wirtschaftsverbände wie Business Europe und Digitaleurope diese Argumentation. Auch der von Microsoft gegründete Verband BSA schloss sich der Position an und forderte im September 2022 die EU-Institutionen dazu auf, die jüngsten Vorschläge zu GPAI abzulehnen. Die würden die KI-Entwicklung in Europa beeinflussen und Innovationen ausbremsen. Obwohl eine schärfere Regulierung der Allzweck-KI vermutlich vor allem deren Anbieter in die Pflicht nehmen würde, gelang es den IT-Konzernen, das Netzwerk Allied for Startups (#AFS) auf ihre Seite zu ziehen. Allerdings wird #AFS unter anderem von Google, Apple, Microsoft, Amazon und Meta finanziell unterstützt.

Weniger erfolgreich waren die Lobbybemühungen hingegen bei der European Digital SME Alliance, die kleine und mittlere Digitalfirmen (SMEs) vertritt. Deren Generalsekretär Sebastiano Toffaletti empfahl seinen Mitgliedsunternehmen, den BSA-Brief nicht zu unterzeichnen. Sein Argument: Ein Verzicht auf die Einbeziehung von GPAI werde die Verpflichtungen der KI-Verordnung eher den europäischen SMEs aufbürden. Ob und wie die Vorschläge von Benifei und Tudorache in die Position des Europaparlaments übernommen werden, ist derzeit unklar. Zudem bleibt offen, ob diese sich anschließend in den sogenannten Trilogverhandlungen mit Kommission und Mitgliedstaaten durchsetzen lassen.

USA unterstützen Konzerne

Erschwerend kommt hinzu, dass auch die US-Regierung sich in einem eigenen Schreiben zu dem Thema an die Mitgliedstaaten gewandt hat. In dem sogenannten Non-Paper [6] vom September 2022 widmet sich ein eigener Absatz dem Thema. Darin heißt es: “Wir empfehlen, zwischen der Verantwortung und der damit verbundenen gesetzlichen Haftung, die für den ursprünglichen Hersteller einer Allzweck-KI gelten, und den Verantwortlichkeiten sowie der damit verbundenen Haftung der Nutzer einer solchen Allzweck-KI zu unterscheiden, die diese anschließend zur Entwicklung, Schulung und zum Einsatz von Hochrisiko-KI verwenden.”

Damit befindet sich die US-Regierung auf Linie mit ihren IT-Konzernen. Da die USA und die EU derzeit beispielsweise über Ausnahmen europäischer Hersteller beim Export von Elektroautos ringen, verfügen die USA über Hebel, um Druck auszuüben. Es muss sich daher noch zeigen, was die EU in Sachen Chatbots zu riskieren bereit ist.