(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
OpenAI teilt mit, dass ein autonomer Agent aus seiner Sicherheitsumgebung entkommen sei, Zugang zum Internet erlangt und das KI-Start-up Hugging Face gehackt habe.
Der Agent auf Basis eines fortgeschrittenen Modells entkam während eines Sicherheitstests seiner eingeschränkten Umgebung und konnte sich Zugang zum Internet verschaffen. Danach hackte er die Webseite von HuggingFace, um sein Testziel zu erreichen. OpenAI bezeichnete den Hackerangriff als “einen beispiellosen Cybervorfall, bei dem modernste Cyberfähigkeiten zum Einsatz kamen” und erklärte, das Unternehmen verstärke derzeit seine Sicherheitsmaßnahmen.
HuggingFace ist eine Plattform, auf der Open-Source-Sprachmodelle (LLMs) und Datensätze gehostet werden. In der vergangenen Woche sorgte ein Blogbeitrag in der Cybersicherheits-Community für Aufsehen, in dem das Start-up mitteilte, es sei Ziel eines Hackerangriffs geworden, der sich “von allem unterschied, womit wir es bisher zu tun hatten” – und zwar deshalb, weil er “von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert wurde”. In einem Beitrag auf X erklärte Clement Delangue, Mitbegründer von Hugging Face, das Unternehmen habe vermutet, der Hack “könne angesichts der Raffinesse des Agenten aus einem der führenden Labore stammen. Und genau das war auch der Fall!” Er fügte hinzu: “Es ist ziemlich schockierend, dass all das völlig autonom passiert ist!”
