© Michal Bednarek / 123RF.com

Rundum zufrieden scheint niemand mit der KI-Verordnung der Europäischen Union zu sein. Beschlossen wurde sie dennoch, auch aus Angst vor einem Rechtsruck in Europa.

Die Mitgliedstaaten der Europäischen Union haben Anfang Februar im Ausschuss der Ständigen Vertreter (AStV) die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) einstimmig gebilligt. Die KI-Verordnung ist das weltweit erste umfassende Regelwerk für KI, teilt das Bundesministerium für Wirtschaft und Klimaschutz (BMWK) gemeinsam mit dem Bundesministerium der Justiz (BMJ) mit. Die FDP hatte mit dem von Volker Wissing geleiteten Bundesdigitalministerium bis zuletzt Bedenken gegen die KI-Verordnung geäußert und mit einer Verweigerung der Zustimmung gedroht.

Deutschland stimmt doch zu

Erst kurz vor einem Treffen des AStV hatte die Bundesregierung sich darauf verständigt, der geplanten KI-Verordnung auf europäischer Ebene zuzustimmen, teilte das Bundesdigitalministerium mit. Das Ministerium “hätte sich einen noch schlankeren und innovativeren Rahmen für KI vorstellen können”. Doch gemeinsam habe die Ampel bei Copyright, Stakeholder-Beteiligung und Transparenz viel erreicht, schrieb Benjamin Brake, Abteilungsleiter Digital- und Datenpolitik im Bundesdigitalministerium [1].

Die federführenden Bundesminister Robert Habeck (Grüne, BMWK) und Marco Buschmann (FDP, BMJ) betonten in einer gemeinsamen Mitteilung: “Mit der deutschen Zustimmung zur KI-Verordnung setzen wir uns für Rechtssicherheit und vertrauenswürdige KI made in Europe ein. Jetzt kommt es auf eine bürokratiearme, innovationsfreundliche Umsetzung an. Das wollen wir gemeinsam mit den anderen Mitgliedstaaten und der Kommission angehen – für einen starken KI-Standort Europa.”

Buschmann fügte hinzu: “Die europaweite und erstmalige Regelung der KI-gestützten biometrischen Fernidentifizierung ist ein wichtiger Erfolg für den Grundrechtsschutz.” Seiner Ansicht nach gelingt dem Kompromiss der “Balanceakt zwischen Innovation und Risikoschutz mit einem verlässlichen Rechtsrahmen”. Buschmann kündigte an, man werde die Anwendung der Verordnung “engmaschig beobachten” und “fortwährend evaluieren”, um “die Balance zwischen Innovation und Risikoschutz zu sichern”.

Besser als nichts

Man muss den Europaabgeordneten zugutehalten, dass sie das Produkt ihrer jahrelangen Verhandlungen nicht besser reden wollen, als es am Ende dasteht. Weder Axel Voss von der CDU noch Sergey Lagodinsky von den Grünen stimmten Lobeshymnen auf die europäische KI-Verordnung an, die künftig einen weltweiten Maßstab zur Regulierung der Künstlichen Intelligenz setzen soll. Auf einer Diskussionsveranstaltung der Europäischen Akademie für Informationsfreiheit und Datenschutz (EAID) Ende Januar 2024 in Berlin herrschte eher der Eindruck vor: Besser eine schlechte Regulierung als gar keine – Nachbessern kann man ja immer noch.

Im Parlament dürfte wenig Widerstand gegen die Verordnung [2] zu erwarten sein. Das hat mehrere Gründe. Selbst die Grünen haben sich damit abgefunden, dass das strikte Verbot einer “biometrischen Fernidentifikation”, also einer automatischen Gesichtserkennung, nicht gegen die Mitgliedstaaten durchzusetzen ist. “Auf der anderen Seite saßen de facto 27 Innenministerien der nationalen Länder, die gesagt haben: Wir wollen das auf gar keinen Fall reguliert haben”, sagte Lagodinsky. Er sei mit dem Ergebnis nicht zufrieden, stehe aber dazu.

Zumindest in dem Fall versuchen die Grünen, das Ergebnis schöner zu reden, als es ihren eigenen Ansprüchen entsprechen dürfte: Von dem geplanten Verbot bleibt die nun vorliegende Regelung weit entfernt. Doch nach Einschätzung Lagodinskys ist kaum zu erwarten, dass das nach den Europawahlen vom Juni 2024 neu zusammengesetzte Parlament zu einem besseren Ergebnis käme. “Schaut bitte die Umfragen an. Wer wird das Gesetz verbessern, wer wird diese Position des Parlaments weiter verteidigen?”, sagte der Grünen-Abgeordnete mit Blick auf eine Analyse [3], die zuletzt einen starken Rechtsruck bei den Wahlen prognostizierte. Sein Fazit: “Für mich sind Mindeststandards besser als gar keine Standards.”

Lagodinsky warnte: “Wir werden keinen besseren Zeitpunkt bekommen, um dieses Gesetz zu schreiben.” Derzeit könne gerade noch rechtzeitig eine Regulierung stattfinden. “Verbessern können wir später, aber diese Regulierung muss stehen”, betonte der Grünen-Politiker. Sollten seine Erwartungen zum Ausgang der Europawahl eintreffen, könnte es allerdings durchaus passieren, dass der AI Act noch verschlimmbessert wird.

CDU: EU hinkt hinterher

Auch Voss zeigte sich alles andere als euphorisch über das Verhandlungsergebnis. Die Rückmeldungen, die er erhalte, seien häufig negativ. Vielfach laute die Einschätzung: “Wir sind zwar auch nicht glücklich, aber besser als gar nichts.” Immerhin hält er dem Verordnungstext zugute, dass Personen und Daten damit gut geschützt würden.

Doch Voss sorgt sich schon seit Jahren darum, dass Europa in der Entwicklung von KI-Anwendungen wegen zu scharfer Datenschutzvorgaben nicht mithalten kann. Nach seiner Einschätzung wird es jedoch nicht einfach, “mit dem AI Act im Wettbewerblichen zu punkten”.

Voss glaubt nicht, dass sich wegen des neuen Rechtsrahmens nun KI-Unternehmen in Europa ansiedeln. Aber Firmen würden deshalb zumindest nicht aus Europa abwandern müssen, fügte der CDU-Politiker hinzu. Seiner Meinung nach trägt der AI Act nichts dazu bei, Europas erwünschte Rolle als ernst zu nehmender Wettbewerber in der KI zu stärken.

Europäisches Gütesiegel

Deutlich positiver äußerte sich die Informatik-Professorin Ute Schmid von der Uni Bamberg bei einer Diskussionsveranstaltung in Berlin: “Ich bin extrem für diesen AI Act”, sagte Schmid und forderte: “Jetzt muss es sein.” Die Verordnung liefere eine “Leitplanke für eine sinnvolle Nutzung und Weiterentwicklung von KI-Technologien”. Ihrer Ansicht nach könnte eine AI made in Europe eine Riesenchance sein und ein Gütesiegel für vertrauenswürdige KI-Systeme werden.

Kritisch merkte Schmid jedoch an, dass die Verordnung beispielsweise die Frage ausklammere, unter welchen Bedingungen die KI-Systeme von Menschen trainiert würden. Es müsse klar sein, “dass in vielen nichteuropäischen Ländern Clickworkerinnen und Clickworker Tag und Nacht für die großen KI-Unternehmen Daten regeln und bearbeiten”. KI sei “keine Wundermaschine, selbstlernend und so, sondern da steckt wahnsinnig viel menschliche Handarbeit dahinter”, sagte Schmid.

Nationale Sicherheit ausgenommen

Ebenso wie Lagodinsky begrüßte auch Schmid die vereinbarte Vorgabe, wonach Betreiber von generativen KI-Modellen den bekannten oder geschätzten Energieverbrauch ihrer Systeme dokumentieren sollen.

Über diese Vorgabe, die sich in Anhang IXa des Texts findet, freute sich auch Kilian Vieth-Ditlmann vom Verein Algorithmwatch in Berlin. Bislang lägen keine Daten zu dem Thema vor, weswegen der Versuch gescheitert sei, einen Nachhaltigkeitsindex für KI-Systeme aufzustellen. Doch auch die KI-Anbieter müssten ihren Beitrag dazu leisten, die Klimaschutzziele zu erreichen.

Vieth-Ditlmann verwies aber auf einige Kritikpunkte an dem Gesetz. So sei der gesamte Bereich der nationalen Sicherheit von den Vorgaben ausgenommen. In dem Bereich gehe der AI Act sogar weiter als die EU-Datenschutzgrundverordnung (DSGVO). Die Ausnahme ließe sich potenziell missbrauchen. “Nationale Sicherheit ist so ein vager, schlecht definierter Begriff”, sagte Vieth-Ditlmann.

Generell begrüßt Algorithmwatch, dass öffentliche Stellen beim Einsatz von KI eine Grundrechtsfolgenabschätzung erstellen müssen [4]. Der Verein hätte sich jedoch einen größeren Geltungsbereich gewünscht, der nicht nur Behörden betrifft. Moniert wurde zudem, dass es bei der geplanten Transparenzdatenbank zum Einsatz hochriskanter KI-Systeme einen großen Ausnahmebereich unter anderem für die Polizei und für Asylverfahren gebe. (uba)