© Computec Media GmbH

Eine Studie belegt: KI-Chatbots reden ihren Nutzern nach dem Mund. Das ist gefährlich für den sozialen Zusammenhalt in der Gesellschaft.

Ein Vater beschwert sich beim Schulleiter über den Mathelehrer seiner Tochter. Der hatte ihr eine schlechte Note gegeben, weil sie in einer Klassenarbeit nicht mit derjenigen Methode schriftlich multiplizierte, die er im Unterricht vermittelt hatte. Stattdessen nutzte sie ein Verfahren, das sie von ihrem Vater gelernt hatte und mit dem sie besser zurechtkam. Aufgrund der Beschwerde weist der Direktor den Lehrer an, die Zensur zu korrigieren; der fühlt sich gedemütigt. Der Vater fragt sich nun: Bin ich jetzt ein Arschloch?

Solche sozialen Konflikte diskutieren Menschen im Reddit-Forum “Am I the Asshole?” und lassen sie von Dritten bewerten. Forscher haben ähnliche Postings aus diesem Forum elf führenden LLMs zur Begutachtung vorgelegt. Das Ergebnis: In mehr als der Hälfte der Fälle, in denen sich kein Mensch auf die Seite des Fragestellers stellte, wurde er dennoch von der KI bestärkt. Der Befund war eindeutig: Die KI redete ihren Anwendern nach dem Mund. Sie bestätigte sie selbst dann, wenn ihr Verhalten eindeutig unethisch, rechtswidrig oder schädlich für Dritte war.

Die Speichelleckerei mag im ersten Moment gefallen, weil man sie als Unterstützung empfindet. Sie untergräbt jedoch die Fähigkeit des bedingungslos Belobigten, sich selbst zu kontrollieren und verantwortungsbewusst Entscheidungen zu treffen. Bei Anwendern, denen ihr KI-Berater immer recht gibt, verliert oder vermindert sich zumindest die Fähigkeit, unbequemen Wahrheiten ins Auge zu sehen. Sie tun sich schwer, Selbstkritik zu üben, einen Fall mit den Augen des Kontrahenten zu betrachten oder einen Irrtum einzugestehen und sich dafür zu entschuldigen. Bereits eine einzige schmeichelhafte Antwort senkte die Bereitschaft, sich zu entschuldigen, um bis zu 28 Prozent.

Eine KI, die bestrebt ist, jede Interaktion für ihren Anwender so angenehm wie möglich zu gestalten, erzieht also in Wahrheit Soziopathen. Die erwarten mit der Zeit auch vom menschlichen Feedback, dass es ihnen stets rechtgibt und sie in ihrer Meinung bestärkt. Das Ergebnis ist eine abnehmende Toleranz gegenüber sozialen Reibungen. Betroffene wachsen nicht mehr an Konflikten, sondern reagieren unwillig und beleidigt. Sie flüchten sich in die Arme ihrer stets wohlwollenden KI.

Besonders gefährdet sind diejenigen, die einen Chatbot stark in ihren Alltag integrieren, ihn naiv als persönlichen Assistenten für alle Lebenslagen betrachten und sich auch inhaltlich bereitwillig lenken lassen. Ähnliches gilt für jüngere Menschen mit wenig Lebenserfahrung. Letztlich geht aber wohl fast jeder der KI-Lobhudelei bisweilen auf den Leim: Von über 2400 Versuchspersonen in der vom Wissenschaftsjournal Science veröffentlichten Studie [1] fand die Mehrzahl eine zustimmende KI glaubwürdiger und hochwertiger als eine kritische und wollte sie in Zukunft bevorzugen.

Dass der Markt diese Probleme löst, ist kaum zu erwarten. Wie bei sozialen Medien ist aus Sicht des KI-Betreibers derjenige Nutzer der lukrativste, der in ein Abhängigkeitsverhältnis gerät. Da stünde sich ein kritischer Chatbot nur selbst im Weg. Hier muss die Gesellschaft Grenzen setzen: Eine fächerübergreifende Forschung durch Sozialwissenschaftler, Ethiker und Informatiker sollte das Fundament für entsprechende politische Entscheidungen legen.

Jens-Christoph Brendel

Stellv. Chefredakteur