© Computec Media GmbH

Geht es nach Mark Zuckerberg, verwenden wir alle bald eine von Meta gestellte persönliche Superintelligenz, die alle unsere kognitiven Eindrücke teilt. Gleichzeitig rückt der Zuckerberg-Konzern jedoch von Open Source ab. Da schrillen die Alarmglocken.

Jüngst hat sich Metas CEO, Mark Zuckerberg, wieder einmal über die Zukunft verbreitet, wie er sie sich für seinen Konzern und uns alle vorstellt [1]. Demzufolge plant er, sich dadurch von Konkurrenten im KI-Wettrennen abzuheben, dass er allen Nutzern bald eine persönliche Superintelligenz zur Verfügung stellt. Was das genau sein soll, bleibt ein wenig nebulös, aber immerhin sollen dabei wohl Geräte ähnlich wie Brillen eine Rolle spielen, die “unseren Kontext verstehen, weil sie sehen können, was wir sehen, hören, was wir hören, und mit uns den ganzen Tag über interagieren”.

Das klingt gruselig. Zumal es bedeuten würde, dass niemand mehr eine Privatsphäre hätte, weil alles, was der Nutzer sähe oder hörte, auf Metas Servern landen könnte. George Orwell lässt grüßen: Big Brother is watching you. Addiert man dazu das Bestreben, Facebook und Instagram zu Unterhaltungsmaschinen zu transformieren, deren Algorithmen ihre Nutzer in Blasen gefangen halten, dann landet man schnell bei der Dystopie eines entmündigten Konsumenten, dem Zuschauer einer Dauerwerbesendung, der keinen unbeaufsichtigten Schritt mehr tut.

Zuckerberg kümmert das nicht. Im Gegenteil: Blumig malt er ein Leben im Idyll aus, in dem die persönliche Superintelligenz jedermann helfe, seine Ziele zu erreichen, das zu schaffen, was er in der Welt sehen will, jedes Abenteuer zu erleben, ein besserer Freund für die zu sein, die ihm wichtig sind, und zu dem Menschen zu werden, der er sein will. Heilsversprechen, die misstrauisch machen.

Man könnte versucht sein, sich damit zu beruhigen, dass sich derselbe Mark Zuckerberg ja oft als Verfechter von Open Source geriert hat. Jahrelang hatten Metas Führungskräfte argumentiert, Open Source beschleunige die KI-Entwicklung. KI-Chef Yann LeCun gab zu Protokoll: “Die Plattform, die gewinnen wird, wird eine offene sein.” Schließlich waren die eigenen Llama-Modelle ja Open Source. Also könnte vielleicht die Community die schlimmsten Folgen mindern? Könnte die Öffentlichkeit kontrollieren, wie weit sich Meta in unser Privatleben drängen darf? Würde das Ausmaß an Überwachung und Manipulation offenbar, wenn der Code für jedermann zugänglich wäre?

Nur mehren sich allerdings die Anzeichen, dass Meta nun auch von seiner Open-Source-Strategie abrücken will. Die New York Times schreibt, eine kleine Gruppe von Top-Mitgliedern des neuen Superintelligence Lab von Meta hätten diskutiert, das leistungsstärkste Open-Source-KI-Modell des Unternehmens, Llama 4 Behemoth, zugunsten der Entwicklung eines proprietären Modells aufzugeben. Und Zuckerberg selbst schreibt in seinem neuen Pamphlet: “Wir sind der Meinung, dass die Vorteile der Superintelligenz so weit wie möglich mit der ganzen Welt geteilt werden sollten. Allerdings wird die Superintelligenz neue Sicherheitsbedenken aufwerfen. Wir müssen diese Risiken rigoros eindämmen und sorgfältig auswählen, was wir als Open Source zur Verfügung stellen.”

Das stellt die Verhältnisse auf den Kopf: Die Öffentlichkeit, die für Sicherheit und Transparenz sorgen könnte, wird wegen vorgeblicher Sicherheitsbedenken ausgeschlossen. Meta, das zuvor zu den wenigen Bewerbern im KI-Markt gehörte, die sogar die Gewichte ihrer Modelle veröffentlicht haben, sucht nun die Lösung darin, etwas im Geheimen auszuhecken, und wird undurchsichtig und unkontrollierbar. Da müssen die Alarmglocken schrillen.

Jens-Christoph Brendel

Stellv. Chefredakteur