(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Chris Olah, Mitgründer von Anthropic, warnte in einer Rede im Vatikan anlässlich der Präsentation der Enzyklika “Magnifica Humanitas” von Papst Leo XIV zur KI vor kommerziellen Zwängen und Verführungen.

Jedes KI-Lab sähe sich mit Anreizen und Beschränkungen konfrontiert, die mit der Absicht in Konflikt stünden, das Richtige zu tun. “Der Druck, wirtschaftlich überlebensfähig zu bleiben und an der Spitze der Forschung zu stehen. Geopolitischer Druck. Und die älteren, schlichteren Triebkräfte wie Stolz und Ehrgeiz. Ganz gleich, wie aufrichtig jeder von uns beabsichtigt, das Richtige zu tun – und ich glaube, viele von uns tun das – wir werden immer von diesen Anreizen beeinflusst werden.” Deshalb käme es auf Menschen an, denen am guten Gelingen gelegen ist und die auf Sicherheit bestehen; die genau hinschauen, die bereit sind, Unbequemes auszusprechen, und die bereit sind, unsere ernsthaften, bedachten Kritiker zu sein.

Man könne glauben, KI-Fragen seien bei Computerwissenschaftlern am besten aufgehoben, doch das sei ein Irrtum: “Die Fragen, die die KI aufwirft, gehen über die KI-Forschungsgemeinschaft hinaus – nicht nur hinsichtlich ihrer Auswirkungen, sondern auch hinsichtlich ihres Wesens.”

Die Kirche könne und solle da vor allem in drei Punkten mitreden. Erstens gehe es um unsere Verpflichtung gegenüber den Armen der Welt. Es besteht die reale Möglichkeit, dass KI menschliche Arbeitskraft in sehr großem Maßstab verdrängen wird. Sollte dies geschehen, wird die Unterstützung der Verdrängten ein moralischer Imperativ von historischem Ausmaß sein. Die KI-Entwicklung läge in den Händen weniger Firmen in den wohlhabenden Nationen. Wie kann sichergestellt werden, dass die Gewinne durch KI der Weltgemeinschaft zugutekommen? Das sei ein ungelöstes Problem.

Zweitens gehe es um die notwendige moralische Vorstellungskraft und Ambition im Hinblick auf eine gedeihliche Entwicklung für alle. Der dritte Punkt sei die Notwendigkeit, die Natur von KI-Modellen mit Urteilsvermögen zu betrachten. Bei der internen Struktur dieser Modelle stoße man immer wieder auf Dinge, “die rätselhaft, ja sogar beunruhigend sind. Wir finden Strukturen, die Ergebnisse aus der menschlichen Neurowissenschaft widerspiegeln. Wir finden Hinweise auf Introspektion.”