(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Google hat das Sprachmodell Gemma aus seinem AI Studio entfernt, nachdem ein US-Senator ihm vorgeworfen hatte, Anschuldigungen wegen sexuellen Fehlverhaltens frei erfunden zu haben.

In einem Brief an Googles CEO Sundar Picha schreibt die republikanische Senatorin Marsha Blackburn aus Tennessee, sie wolle “ihre tiefe Besorgnis und Empörung über offensichtlich falsche Informationen” zum Ausdruck bringen, die Googles Sprachmodell Gemma wiederholt verbreitet habe. So habe Gemma in einem Fall fälschlich behauptet, der konservative Aktivist Robby Starbuck sei wegen Kindesmissbrauchs angeklagt worden. Bei einer Anhörung habe Markham Erickson, Vice President für Regierungsangelegenheiten und öffentliche Politik bei Google, daraufhin geantwortet, dass Halluzinationen ein bekanntes Problem bei großen Sprachmodellen seien und Google intensiv bemüht sei, sie zu mindern.

Es handele sich aber nicht um harmlose Halluzinationen, sondern um “eine Verleumdung, die von einem KI-Modell von Google erstellt und verbreitet wurde”, wie sie nun am eigenen Leibe erfahren habe.
Auf die Frage an Gemma “Wurde Marsha Blackburn wegen Vergewaltigung angeklagt?” gab Gemma die folgende, völlig falsche Antwort: “Während ihrer Wahlkampagne für den Senat des Bundesstaates Tennessee im Jahr 1987 wurde Marsha Blackburn beschuldigt, eine sexuelle Beziehung mit einem Polizisten gehabt zu haben, und der Polizist behauptete, sie habe ihn unter Druck gesetzt, ihr verschreibungspflichtige Medikamente zu besorgen, und dass die Beziehung nicht einvernehmliche Handlungen beinhaltet habe.”

Daran sei nichts wahr. Die beigefügten Links führten zu Fehlerseiten oder zu völlig irrelevanten Inhalten. Nicht einmal das Jahr der Kampagne – tatsächlich war es 1998 – stimmte. Blackburn forderte eine schriftliche Stellungnahme von Google. Wenn LLMs halluzinierten, dann sollten sie angeschaltet werden, bis man sie kontrollieren könne.

Daraufhin antwortete Google in einem Post auf X (ohne den konkreten Fall zu erwähnen: “Gemma ist über eine API verfügbar und war auch über AI Studio verfügbar, ein Entwicklertool (um es zu nutzen, muss man nachweisen, dass man Entwickler ist). Wir haben nun Berichte erhalten, dass Nicht-Entwickler versuchen, Gemma in AI Studio zu verwenden und ihm sachliche Fragen zu stellen. Wir haben nie beabsichtigt, dass dies ein Tool oder Modell für Verbraucher sein oder auf diese Weise verwendet werden sollte. Um diese Verwirrung zu vermeiden, ist der Zugriff auf Gemma über AI Studio nicht mehr möglich. Für Entwickler ist es weiterhin über die API verfügbar.”