(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Anthropic bezichtigt die chinesischen Konkurrenten DeepSeek, Moonshot und MiniMax in 16 Millionen Anfragen an sein Spitzenmodell Claude, die von rund 24 000 Fake-Accounts ausgingen, Fähigkeiten extrahiert zu haben, mit denen deren eigene Modelle verbessert wurden.

Die fragliche Technik wird auch als “Destillation” bezeichnet und dient dazu ein weniger leistungsfähiges Modell (der “Student”) mit den Ausgaben eines stärkeren Modells (dem “Lehrer”) zu trainieren. Auf diese Weise erzeugen beispielsweise Hersteller kleinere Versionen ihrer führenden Modelle, die billiger und weniger ressourcenhungrig sind. In dieser Verwendung ist Destillation üblich und legitim. Sie kann allerdings auch illegal eingesetzt werden, wenn Wettbewerber versuchen, die Fähigkeiten von Spitzenmodellen auf ihre eigenen zu übertragen – zu einem Bruchteil der Kosten, die entstanden wären, hätten sie ihr Modell regulär von Grund auf trainiert.

Eine derartige Destillation ist unter anderem auch deswegen gefährlich, weil sie Sicherheitsvorkehrungen umgehen kann. So implementieren die Spitzenmodelle Schutzmaßnahmen, die verhindern, dass sie zum Beispiel preisgeben, wie sich Biowaffen herstellen oder Cyberangriffe ausführen ließen. Modelle, die durch illegale Destillation hergestellt wurden, werden diese Sicherheitsvorkehrungen wahrscheinlich nicht beibehalten, was bedeutet, dass gefährliche Fähigkeiten sich verbreiten können, ohne dass Schutzvorkehrungen das aufzuhalten vermögen. Außerdem unterminieren solche Destillationsversuche die amerikanischen Exportbeschränkungen.

Ausländische Labore, die amerikanische Modelle destillieren, können diese ungeschützten Fähigkeiten dann in Militär-, Geheimdienst- und Überwachungssysteme einspeisen – und autoritären Regierungen so ermöglichen, modernste KI für offensive Cyberoperationen, Desinformationskampagnen und Massenüberwachung einzusetzen. Wenn destillierte Modelle als Open Source verfügbar sind, vervielfacht sich dieses Risiko, da sich diese Fähigkeiten ungehindert und außerhalb der Kontrolle einzelner Regierungen verbreiten.

Drei solcher Destillationskampagnen folgten einem ähnlichen Muster: Sie nutzten betrügerische Konten und Proxy-Dienste, um in großem Umfang auf Claude zuzugreifen und dabei einer Entdeckung zu entgehen. Der Umfang, die Struktur und der Schwerpunkt der Eingabeaufforderungen unterschieden sich deutlich von normalen Nutzungsmustern und spiegelten eher eine absichtliche Ausbeutung der Funktionen als eine legitime Nutzung wider. Jede Kampagne konnte mit hoher Sicherheit einem bestimmten Labor zugeordnet werden, und zwar anhand von IP-Adresskorrelationen, Metadaten von Anfragen, Infrastrukturindikatoren und in einigen Fällen durch Bestätigung von Branchenpartnern, die dieselben Akteure und Verhaltensweisen auf ihren Plattformen beobachtet haben. Jede Kampagne zielte auf Claudes herausragendste Fähigkeiten ab: agentenbasiertes Denken, Werkzeuggebrauch und Codierung.

Als Reaktion auf diese Vorgänge verschärft Anthropic die Zugangskontrollen zu Konten für Bildungseinrichtungen, Sicherheitsforschungsprogramme und Start-up-Unternehmen. Das waren die Wege, die am häufigsten für die Einrichtung betrügerischer Konten genutzt wurden. Außerdem ist man dabei eine Software zu entwicklen, die illegale Destillation vermindern soll, ohne legitime Kunden zu beeinträchtigen.