(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Demis Hassabis, CEO von Googles KI-Sparte Deepmind, sieht eine starke KI (Artificial General Intelligence, AGI), die alle geistigen Fähigkeiten des Menschen beherrscht oder übertrifft, nur noch wenige Jahre entfernt. Hassabis schreibt: “Die Auswirkungen dieser Technologie werden beispiellos sein – vielleicht zehnmal so groß wie die der industriellen Revolution und zehnmal so schnell. Sie wird uns dabei helfen, einige der größten Probleme unserer Gesellschaft zu lösen, von der Beschleunigung der Arzneimittelforschung über die Entwicklung neuer sauberer Energiequellen bis hin zur Schaffung neuartiger, hochmoderner Werkstoffe.”

Allerdings müsse man jetzt dringend die Risiken adressieren, die auch aus dieser Technologie erwachsen könnten. Das beträfe etwa die Cybersicherheit, aber auch nukleare oder biologische Risiken. Diese Risiken seien seiner Überzeugung nach beherrschbar, aber nur, wenn wir uns Zeit und Raum geben, um die nächsten entscheidenden Schritte zu tun. Stattdessen sei man gegenwärtig in einem technologischen und geopolitischen Wettlauf gefangen. Der brächte zwar rasche Fortschritte, aber die überholten unser Vermögen, die Technologie selbst zu verstehen. Niemand auf der Welt wisse mit Gewissheit, wie es weitergehen wird und auch Experten seien geteilter Meinung. Dieses hohe Maß an Unsicherheit erfordere eine Politik, die Innovationen fördert und gleichzeitig Anreize für verantwortungsbewusstes Handeln und Sicherheit schafft, die internationale Zusammenarbeit bei zentralen Sicherheitsfragen stärkt und dazu anregt, sorgfältig zu prüfen, wie KI zum Wohle der Gesellschaft eingesetzt werden kann.

Hassabis schlägt eine Prüfbehörde nach dem Vorbild der amerikanischen Financial Industry Regulatory Authority (FINRA) vor, besetzt mit unabhängigen Experten aus Wirtschaft und Wissenschaft und Open-Source-Vertretern. Das Gremium solle neue Frontier-Modelle 30 Tage vor ihrer Markteinführung gründlich testen. Sobald sich das Bewertungsverfahren als wirksam und robust erwiesen hat, könnte eine Formalisierung rasch folgen; dies würde bedeuten, dass Frontier Models das Verfahren durchlaufen müssen, um auf dem US-Markt eingesetzt werden zu dürfen. Modellbewertungen sollten strenge wissenschaftliche Evaluierungen der Fähigkeiten in den Bereichen Cybersicherheit, biologische Bedrohungen und anderen Hochrisikobereichen umfassen. Spezifische Tests für agentenbasierte KI könnten auf Versuche abzielen, Sicherheitsvorkehrungen zu umgehen, oder auf Anzeichen von Täuschung prüfen und die Einhaltung bewährter Verfahren sicherstellen, wie beispielsweise das Einfügen digitaler Wasserzeichen in KI-generierte Bilder und die Erzeugung menschenlesbarer Ausgabetoken, um die Argumentationskette des Modells nachzuvollziehen.

Rund um die KI herrsche sowohl große Begeisterung als auch Ungewissheit – und beides sei berechtigt. Doch die Zukunft ist noch nicht geschrieben: “Wir müssen das kostbare Zeitfenster vor dem Aufkommen der AGI nutzen, um diese Technologie zum Wohle der gesamten Menschheit zu gestalten. Unser gemeinsames Handeln in der Gegenwart wird bestimmen, wie sich die nächste Phase der Zivilisation entfaltet.”