(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Eine Veröffentlichung des Science Policy Forum, an der auch die Direktorin des Max-Planck-Instituts für Sicherheit und Privatsphäre, Prof. Meeyoung Cha, als Autorin beteiligt war, warnt davor, dass in Zukunft Schwärme intelligenter Bots, die individuelle Persönlichkeiten imitieren, den Anschein eines öffentlichen Konsenses erwecken und so die Demokratie verzerren könnten.

Die Autoren beschreiben, wie die Verschmelzung von großen Sprachmodellen (LLMs) mit Multi-Agent-Systemen “bösartige KI-Schwärme” ermöglichen könnte, die auf authentische Weise soziale Dynamiken imitieren – und den demokratischen Diskurs durch die Fälschung sozialer Beweise bedrohen. Der Artikel argumentiert, dass das zentrale Risiko nicht nur durch die falschen Inhalte entsteht, sondern durch den künstlich erzeugten Konsens: der Illusion des “Alle sagen das”, was Überzeugungen und Normen beeinflussen kann, selbst wenn einzelne Behauptungen umstritten sind.

Ein bösartiger KI-Schwarm ist ein Netzwerk von KI-gesteuerten Agenten, die über dauerhafte Identitäten und Erinnerungen verfügen. Sie können sich auf gemeinsame Ziele abstimmen und dabei Ton und Inhalt variieren, sich an Engagement und menschliche Reaktionen anpassen, mit minimaler Aufsicht operieren und plattformübergreifend eingesetzt werden. Da diese Systeme unter minimaler Beaufsichtigung agieren und sich über verschiedene Plattformen erstrecken, können sie vielfältige, kontextbezogene Inhalte generieren, die dennoch einer Linie folgen – was sie weitaus schwieriger zu erkennen macht als herkömmliche Bot-Netzwerke.

“Bei unseren Untersuchungen während COVID-19 haben wir beobachtet, dass sich Fehlinformationen genauso schnell über Grenzen hinweg verbreiten wie das Virus selbst. KI-Schwärme, die in der Lage sind, einen künstlichen Konsens zu erzeugen, könnten diese Bedrohung in einen noch gefährlicheren Bereich treiben”, sagt Meeyoung Cha.

Als Gegenmaßnahmen schlagen die Verfasser des Artikels Abwehrmaßnahmen vor, die koordiniertes Verhalten und die Herkunft von Inhalten verfolgen: Erkennung statistisch unwahrscheinlicher Koordinierung, die Durchführung von Stresstests für Social-Media-Plattformen mittels Simulationen, das Angebot von Verifikationsmöglichkeiten unter Wahrung der Privatsphäre und der Austausch von Beweisen über ein verteiltes Observatorium zur Überwachung des KI-Einflusses. Gleichzeitig sollen Anreize verringert werden, indem die Monetarisierung unechter Interaktionen begrenzt und der Haftungsumfang erhöht wird.