(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Das neueste KI-Modell von Anthropic, Claude Mythos Preview, kann in weit verbreiteter Software Sicherheitslücken finden, die jahrelang und trotz gründlicher Inspektionen bislang unentdeckt geblieben sind. Damit ist es für eine öffentliche Nutzung nach Ansicht des Herstellers zu gefährlich.
Stattdessen initiiert Anthropic zusammen mit Partnern, darunter auch die Linux Foundation, AWS, Apple, Broadcom oder Cisco, das Projekt Glasswing. Im Rahmen dieses Projekts sollen die Launchpartner Claude Mythos nutzen, um im Rahmen ihrer defensiven Sicherheitsforschung Schwachstellen zu entdecken und zu beheben. Außerdem weitet Anthropic den Zugang auf über 40 weitere Organisationen aus, die kritische Softwareinfrastrukturen entwickeln oder warten, damit diese das Modell zum Scannen und Absichern von eigenen und Open-Source-Systemen nutzen können. Anthropic stellt für diese Initiativen Nutzungsguthaben von bis zu 100 Millionen US-Dollar für Mythos Preview bereit und spendet zusätzlich 4 Millionen US-Dollar direkt an Open-Source-Sicherheitsorganisationen.
Anthropic versteht das Projekt Glasswing als einen Startpunkt. Kein einzelner Hersteller kann das Cybersecurityproblem alleine lösen. “Führende KI-Entwickler, andere Softwareunternehmen, Sicherheitsforscher, Open-Source-Entwickler und Regierungen weltweit spielen eine entscheidende Rolle. Die Verteidigung der globalen Cyberinfrastruktur könnte Jahre dauern; die Fähigkeiten fortschrittlicher KI werden sich voraussichtlich allein in den nächsten Monaten rasant weiterentwickeln. Um im Kampf gegen Cyberkriminalität die Oberhand zu behalten, müssen wir jetzt handeln.”
