In dem Sicherheitsbericht "Uncovering Cyber Threats and Fraud in Loyalty Systems" von Ernst & Young (EY), einem der weltgrößten Beratungsunternehmen, haben Mitarbeiter von GPTZero, Hersteller von KI-Detektoren, massenweise von der KI erfundene Zitate und Quellenangaben entdeckt.
Die renommierte Anwaltskanzlei Sullivan & Cromwell, die mit mehr als 1000 Anwälten und 13 Zweigstellen in Asien, Australien, Europa und in den USA weltweit Kunden vertritt, musste sich dafür entschuldigen, dass in einem Dokument zu einem Insolvenzverfahren fehlerhafte Angaben enthalten...
Forscher der École Polytechnique Fédérale de Lausanne, des Tübinger ELLIS Institute, des Max-Planck-Instituts für Intelligente Systeme und des Tübinger AI Center haben einen Benchmark entwickelt, der Halluzinationen von Sprachmodellen misst.
Das neue Modell MiroThinker 1.5 vom Hersteller MiroMind leistet mit nur 30 Milliarden Parametern mehr als große Foundation-Modelle mit Hunderten Milliarden Parametern.
LLMs neigen bekanntlich zu Halluzinationen, weil sie in ihrem Training darauf trainiert wurden, unter allen Umständen eine möglichst hilfreiche Antwort zu geben. Das verleitet sie später zu plausibel klingenden Aussagen, für die in Wirklichkeit die Voraussetzungen fehlen. OpenAI will den...
Google hat das Sprachmodell Gemma aus seinem AI Studio entfernt, nachdem ein US-Senator ihm vorgeworfen hatte, Anschuldigungen wegen sexuellen Fehlverhaltens frei erfunden zu haben.
Forscher von OpenAI und der Georgia Tech Universität haben Gründe dafür gefunden, warum Sprachmodelle halluzinieren und schlagen Gegenmaßnahmen vor.
Nachdem sich in letzter Zeit die Fälle häuften, in denen Anwälte vor Gericht mit komplett erfundenen und falschen KI-generierten Aussagen zu anderem Prozessen auftraten, weist der High Court of England und Wales darauf hin, dass sie bei der Recherche mit KI-Tools sorgfältiger vorgehen müssen.
