© Computec Media GmbH

Könnte ein ethischer Umgang mit KI rein freiwillig gelingen? In der EU arbeitet man lieber an einem Gesetz, das die boomende Branche regulieren soll.

Die Teflonpfanne ist das oft zitierte Paradebeispiel für eine alltägliche Errungenschaft, die wir angeblich der Raumfahrt verdanken. Ein Mythos: Teflon wurde schon Anfang 1941 in den USA patentiert, gut anderthalb Jahrzehnte bevor der erste Sputnik in einer Erdumlaufbahn piepste. Vielleicht können wir aber einen realen Vorteil durch Raumfahrt im Moment beobachten, und zwar im Feld der künstlichen Intelligenz. Janet Vertesi, außerordentliche Professorin für Soziologie an der Princeton University, hat jüngst Überlegungen zum Umgang mit KI veröffentlicht [1]. Es handelt sich um eine Art Best Practices, die sie direkt aus der Zusammenarbeit mit einem Team destilliert hat, das intelligente Roboterfahrzeuge für die NASA konstruiert.

Vertesis Credo lautet: Wir sollten nicht den Ersatz von Menschen durch intelligente Roboter in den Mittelpunkt der Überlegungen rücken, sondern besser die Mensch-Roboter-Kooperation, in die jede Seite ihre jeweils besten Fähigkeiten einbringt. Einem Mars-Roboter macht es nichts aus, in einer lebensfeindlichen Umwelt zu agieren. Seine Sensoren erfassen Dinge, die das menschliche Auge nicht wahrnimmt, etwa im Infrarotbereich. Aus dem Geschauten Schlüsse ziehen kann aber nur der Mensch. Mensch und Maschine sind aufeinander angewiesen und erreichen nur gemeinsam einen Erkenntnisgewinn.

Mensch und KI Hand in Hand, keiner macht dem anderen seine Kompetenzen streitig – das klingt gut. Aber wäre es so einfach? Nehmen wir an, wir hätten schon heute das vollkommen selbstständig fahrende Auto. Das würde den Taxifahrer überflüssig machen, dessen Lohn sein Unternehmen 60 Prozent vom Umsatz kostet. (In den USA ist das versuchsweise bereits Realität.) Wer würde dann noch lebende Fahrer einsetzen, nur weil die der Oma auch mal den Koffer tragen oder den Geschäftsreisenden mit Smalltalk unterhalten und ein gutes Restaurant empfehlen? Der Markt würde es richten; die Zielgröße dabei wäre Gewinnmaximierung, der soziale Aspekt stünde hintan. Und da reden wir noch nicht einmal von der Möglichkeit, dass die KI selbst – willentlich oder ungeplant – unsoziale Ziele verfolgen könnte.

Immer wenn der Markt allein nicht zu einem allgemein wünschenswerten Ziel führt, braucht es Regulierung. Nach der rufen mittlerweile KI-Experten landauf, landab – jüngst zum Beispiel der Kanadier Yoshua Bengio und der Brite Geoffrey Hinton, beide weltbekannt durch ihre Forschungen zu neuronalen Netzen [2]. Eine Regulierung versucht derzeit auch die EU-Kommission mit dem Entwurf für ein KI-Gesetz [3], das derzeit in Trilog-Gesprächen zwischen EU-Rat, Parlament und Kommission abgestimmt wird.

Der Entwurf folgt einem risikobasierten Ansatz und sieht vor, Anwendungen mit unannehmbaren Risiken ganz zu verbieten. Dazu würde zum Beispiel ein Punktesystem zählen, das Menschen wie in China nach dem Grad ihres Wohlverhaltens klassifiziert oder Echtzeit-Gesichtserkennung im öffentlichen Raum oder versteckte Verhaltensmanipulation etwa durch sprachgesteuertes Spielzeug.

Hochrisikosysteme müssten sich vor ihrem Einsatz einer Bewertung ihres gesamten Lebenszyklus unterwerfen. Dazu zählen Anwendungen, die Gefahren für Gesundheit, Sicherheit oder für die Grundrechte von Menschen heraufbeschwören können. Einige Bereiche nennt der Gesetzentwurf explizit, unter anderem Strafverfolgung, öffentliche Dienste, Bildung, Asyl und Migration sowie die Verwaltung kritischer Infrastrukturen.

Ein besonderer Fall wäre generative KI, von der der Entwurf unter anderem fordert, dass sie sich immer als solche zu erkennen geben muss und keine illegalen Inhalte erzeugen darf. Übrig blieben Systeme mit begrenztem Risiko, aber auch bei denen soll der Mensch immer bestimmen können, inwieweit er sich ihrer bedienen will.

Wird das die Taxifahrer retten? Womöglich nicht. Aber immerhin: Es ist der weltweit erste Versuch, der boomenden KI-Industrie einen ethischen Rahmen zu geben, der sich juristisch durchsetzen ließe.

Jens-Christoph Brendel

Stellv. Chefredakteur