© Kittipong Jirasukhanont, 123RF

Künstliche Intelligenz (KI) ist ein Top-Thema. Eine Expertengruppe der EU-Kommission hat nun Ethik-Leitlinien vorgelegt, die die mannigfaltigen Fantasien zum Einsatz von KI mit dem Respekt vor Mensch und Gesetz in Einklang bringen sollen. Ein Blick auf das Regelwerk.

Mit den Ethik-Leitlinien hat sich die von der EU-Kommission im Juni 2018 eingesetzte hochrangige Expertengruppe Mühe gegeben. Nach neun Monaten, in denen es Entwürfe und deren Diskussion mit Bürgerbeteiligung gab, hat die 52-köpfige Expertengruppe aus Wissenschaft, Wirtschaft und Zivilgesellschaft ihre Arbeit abgeschlossen und auf 42 Seiten die Ethik-Leitlinien [1] präsentiert.

Ziel der Richtlinien ist es, dass Entwickler und Nutzer sicherstellen können, dass die künstliche Intelligenz Grundrechte, geltende Vorschriften und Grundprinzipien respektiert. In den Ethics Guidelines for Trustworthy AI heißt es etwa, dass KI gesetzeskonform, ethisch und robust sein solle. Die Robustheit beziehen die Experten auf die technische Ausführung und eine soziale Perspektive gleichermaßen. Denn selbst in guter Absicht entwickelt könne KI unbeabsichtigt Schaden anrichten, heißt es im Regelwerk.

Schlüsselstellen

Insgesamt sind sieben Voraussetzungen (Abbildung 1) für eine vertrauenswürdige KI formuliert. Der Vorrang menschlichen Handelns und der menschlichen Aufsicht ist eine davon. Die Robustheit und Sicherheit der Anwendungen eine weitere. KI solle die Privatsphäre achten und schützen und transparent sein. Sie soll der Vielfalt und Fairness verpflichtet sein und nicht diskriminieren. Gesellschaftliches und ökologisches Wohlergehen und nicht zuletzt die Rechenschaftspflicht zählen zu den sieben Voraussetzungen ethischer KI.

Abbildung 1: Die sieben Voraussetzungen und ihre Beziehungen untereinander.

Für die menschliche Aufsicht schlägt das Papier verschiedene Mechanismen vor. Unter “Human in the Loop” (HITL) versteht man die Möglichkeit eines menschlichen Eingriffs in jeder Entscheidungsphase des Systems. “Human on the Loop” (HOTL) beschreibt die Möglichkeit, während des Systemdesigns einzuwirken und auch beim Monitoring des Systems. Bei “Human in Control” (HIC) steht dem Menschen die Übersicht über alle Aktivitäten des KI-Systems zur Verfügung, er kann entscheiden, wie und wann das System eingesetzt werden soll, oder auch, ob es in einer bestimmten Situation nicht zum Einsatz kommt.

Die technische Robustheit und Sicherheit müsse durch Schutz vor Angriffsszenarien garantiert sein, wie sie bei jeder Software zum Einsatz kommen sollte. Die Experten nennen Bereiche, die dabei zu berücksichtigen seien. Der Schutz der Daten selbst, die Absicherung der unterlegten Infrastruktur in Form von Software und Hardware.

Für die Garantie von Privatsphäre und Datenschutz nimmt die Kommission den gesamten Lebenszyklus der KI-Anwendung in die Pflicht. Diese Garantie erstrecke sich auf die von einem Nutzer ursprünglich mitgeteilten Daten ebenso wie auf die daraus eventuell generierte Information durch die Nutzung des Systems. Es müsse sichergestellt sein, dass die Datensammlung nicht ungesetzlich oder diskriminierend eingesetzt werde.

Fragenkatalog

Zu allen sieben Voraussetzungen hat die Expertengruppe einen Fragenkatalog für Anwender und Entwickler von KI in ihre Richtlinien aufgenommen. Anhand dieser Bewertungslisten könne geprüft werden, ob die Entwicklung der KI-Anwendung den EU-Richtlinien entspreche. Die Liste ist noch als Pilotversion gekennzeichnet. Unternehmen sollten sie in ihre möglicherweise schon existierenden Entwicklungsrichtlinien einbeziehen, rät das Gremium. Die Interessenvertreter seien zudem dazu eingeladen, diese Liste auf Vollständigkeit oder Fehler zu prüfen und entsprechend Feedback zu geben. Es sei dann vorgesehen, Anfang 2020 eine überarbeitete Fassung zu erstellen.

Chancen

Neben den ethischen Richtlinien geht das Papier auch auf die Chancen durch die Anwendung künstlicher Intelligenz ein. Die positiven Einsatzmöglichkeiten für eine klimaschonende Energie-Infrastruktur oder auch für intelligente Transportsysteme sind genannt. Dort könne künstliche Intelligenz durch die Anwendung von Algorithmen Energie sparen helfen. Auch in den Bereichen Medizin und Gesundheitswesen könne KI hilfreich ein, etwa durch die Analyse von komplexen Gesundheitsdaten.

Risiken

Das Lethal Autonomous Weapon System (LAWS) zählt auch in der Risikobewertung der Experten zu den sehr bedenklichen Einsatzmöglichkeiten von KI. Die Leitlinien gehen deshalb konform mit einer Resolution des EU-Parlaments zu solchen Waffensystemen. Darin werde dringend eine bindende gesetzliche Regelung gefordert.

Auch so genannte verdeckte KI-Systeme will die Regelung bannen. Menschen sollten sich immer darüber im Klaren sein, ob sie es mit KI oder einem menschlichen Gegenüber zu tun haben. Es sei die Pflicht der KI-Entwickler und -Anbieter, diese Anforderung zu erfüllen. Nutzer sollten also wahlweise über den Einsatz von KI informiert werden oder die Möglichkeit zur Validierung erhalten.

Als akzeptabel für eine vertrauenswürdige KI sehen die Experten die Identifizierung und das Tracking von Individuen. In manchen Fällen, etwa bei der Verbrechensbekämpfung, seien Identifizierungsmethoden wie Gesichtserkennung oder die Auswertung anderer biometrischer Daten mit ethischen Richtlinien im Einklang. Die automatisierte Identifizierung allerdings sei sehr bedenklich und habe möglicherweise unberechenbare Auswirkungen auf verschiedenen psychologischen und kulturellen Ebenen. Eine klare Definition ob, wann und wie KI für eine automatisierte Identifizierung zum Einsatz kommen soll, sei fundamental für das Vertrauen in KI.

Kritik aus eigenen Reihen

Thomas Metzinger, Professor für theoretische Philosophie an der Universität Mainz, war in der Expertengruppe und zählt zu den Kritikern der Richtlinien. Es habe, so Metzinger gegenüber verschiedenen Medien [2], zu viel Einfluss von der Industrie gegeben. Allein schon die Zusammensetzung der Expertengruppe sei Beleg dafür. Metzinger zählt dort nur vier Ethiker.

Einer seiner Hauptkritikpunkte an den Richtlinien ist deren vager Charakter. Gemeinsam mit dem Machine-Learning-Experten Urs Bergmann von Zalando wollte er so genannte rote Linien definieren, also ethische Prinzipien, die nicht verhandelbar seien. Die roten Linien sollten Grenzsteine sein, die künstliche Intelligenz in Europa nicht überschreiten dürfe. Metzinger nennt als Beispiele dafür genau jene autonomen Waffensysteme und das Social Scoring von Bürgern durch den Staat.

In der finalen Fassung der Guidelines tauchen die roten Linien nicht mehr auf. Die Formulierung sei gestrichen worden, so Metzinger. Als Ersatz sei nun die Rede von “critical Concerns”, also etwa ernsthafte Bedenken. Trotz der von ihm kritisierten Defizite gesteht Metzinger den Richtlinien zu, besser zu sein als alles, was es sonst gäbe. China und die USA etwa hätten nichts Vergleichbares.