© Computec Media GmbH

Experten vertreten gegensätzliche Ansichten darüber, wie nahe wir einer Superintelligenz sind. Was jedenfalls weiterhin zählt, ist selbst zu denken.

Es fühlte sich an wie ein Kampf der Kulturen, so unversöhnlich prallten die Meinungen zur Zukunft der KI in zwei kürzlich veröffentlichten Stellungnahmen aufeinander. Da war zum einen der Blog-Beitrag “The Gentle Singularity” des OpenAI-CEOs Sam Altman, der schon im zweiten Satz postuliert, die Menschheit stehe kurz vor der Schaffung einer Superintelligenz: Man habe in letzter Zeit Systeme entwickelt, die in vielerlei Hinsicht intelligenter seien als Menschen.

Fast gleichzeitig erschien eine Studie von Apple, die mit “The Illusion of Thinking” überschrieben war und das genaue Gegenteil beweisen wollte: Dass KI nämlich sehr viel dümmer ist als angenommen. Kein einziges von etlichen sogenannten Reasoning-Modellen habe relativ einfache Denksportaufgaben wie die Türme von Hanoi lösen können, sofern sie nur etwas komplexer waren – das heißt, sobald es mehr als eine Handvoll Scheiben im Spiel gab.

Letztere These beruhte allerdings auf einem Denkfehler der Studienautoren, wie eine ursprünglich satirisch gemeinte Erwiderung zeigte. Das Versagen bei den Türmen von Hanoi war nicht darauf zurückzuführen, dass sich die Modelle keine Lösung überlegen konnten, sondern darauf, dass ihr Limit an Ausgabe-Token keine Aufzählung der schnell wachsenden Anzahl an Lösungsschritten zuließ. Verlangte man dagegen ein Python-Skript zur Berechnung des Problems, bekam man eine korrekte Lösung.

Grundsätzlich kann man sich fragen, ob solche Logik-Puzzles ein geeigneter Maßstab dafür sind, wie nah die Maschine einer Intelligenz kommt, die die menschliche in den Schatten stellt. Womöglich zeigen zwei ganz andere Argumente, in wie weiter Ferne eine Superintelligenz tatsächlich ist.

Erstens: Gegenwärtige generative KI-Modelle können schon allein deswegen nicht immer schlauer werden, weil sie gar nicht in der Lage sind, etwas dazuzulernen, nachdem sie einmal trainiert wurden. Ihr “Wissen” hat immer einen Stichtag, es kann nicht aktuell bleiben. Es mag Forschungen und ein paar Workarounds geben, aber das ändert nichts daran, dass das trainierte System bislang prinzipiell nicht mehr lernfähig ist.

Zweitens: KI-Systeme lernen nicht nur nichts hinzu, sie denken auch kein bisschen nach. Würde man ein LLM im Training nur mit Texten füttern, denen zufolge Kondensstreifen am Himmel in Wahrheit gefährliche Chemtrails sind, dann würde es anschließend diese schwachsinnige Verschwörungstheorie mit Inbrunst vertreten. Das liegt daran, dass es eben gerade nicht nachdenkt, sein eigenes “Wissen” nicht hinterfragt und nur das Antrainierte reproduziert. Aus seinem Input extrahiert es Muster und generiert auf deren Grundlage neuen Text. Das ist alles, was es kann.

Dazu kommt, dass gemeinhin argumentiert wird, der Fortschritt würde sich exponentiell beschleunigen, sobald Maschinen erst einmal gelernt hätten, sich selbst zu verbessern. Was wir momentan beobachten, ist jedoch das genaue Gegenteil: Die Modelle werden immer größer, aber der Progress im Vergleich zum Vorgänger nimmt ab. Die Schritte werden kleiner, nicht größer.

Superintelligenz ist also wohl noch sehr weit entfernt, und man kann sich fragen, ob wir sie jemals erreichen. Damit soll allerdings nicht gesagt sein, dass nicht bereits die heute verfügbare schwache KI unser Leben radikal verändern mag. Hier muss der Mensch entscheiden, was wünschenswert ist. Nicht zuletzt wäre dabei zu bedenken, was neuere Forschungen zeigen: Die übermäßige KI-Nutzung birgt die Gefahr, mit immer mehr vom Gleichen bedient und denkfaul zu werden. Dann würde am Ende die Maschine nur deshalb gewinnen, weil ihr menschlicher Widerpart sich vom Selberdenken entwöhnt hat.

Jens-Christoph Brendel

Stellv. Chefredakteur