(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Die renommierte Anwaltskanzlei Sullivan & Cromwell, die mit mehr als 1000 Anwälten und 13 Zweigstellen in Asien, Australien, Europa und in den USA weltweit Kunden vertritt, musste sich dafür entschuldigen, dass in einem Dokument zu einem Insolvenzverfahren fehlerhafte Angaben enthalten waren, die eine KI halluziniert hatte.
Aufgefallen war das den Anwälten der Gegenseite. Der Partner der Kanzlei, Andrew Dietderich, erklärte, dass in diesem Fall bestehende Richtlinien und Überprüfungen nicht angewandt worden seien und der Fehler deswegen unentdeckt blieb. Er entschuldigte sich und übernahm die Verantwortung für den Vorfall.
Tatsächlich kommt Ähnliches immer wieder vor und verdeutlicht, dass es bislang unmöglich ist, Halluzinationen bei LLMs wirkungsvoll zu unterdrücken. Im Netz existiert eine Datenbank , die derzeit 1334 Fälle von KI-generierten Halluzinationen in Dokumenten zu rechtlichen Auseinandersetzungen dokumentiert, davon über 900 Fälle aus den USA, die restlichen verteilen sich über die ganze Welt, 7 Fälle betreffen Verfahren in Deutschland.
Die einzige wirkliche Abhilfe ist, jeden Fakt und jedes vermeintliche Zitat, dass sich in einer KI-Antwort findet, händisch einzeln nachzuprüfen.
