(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Nvidia hat zusammen mit einer ganzen Reihe namhafter Unternehmen, darunter etwa Red Hat, die Linux Foundation, Microsoft, Cisco, Dell, HPE, IBM, oder aus Deutschland Siemens und SAP eine neue Allianz, die Open Secure AI Alliance, gegründet, die sich für freie Software im Bereich der Cybersecurity einsetzt.
Die Gründung kann man als direkte Reaktion auf den Sicherheitsvorfall verstehen, bei dem ein außer Kontrolle geratener Agent von OpenAI Hugging Face angegriffen hat. Die Verteidiger konnten den Angriff nur dank eines offenen Modells analysieren. Das hat gezeigt, dass Verteidiger hoch entwickelten KI-Systeme auf ihrer eigenen Infrastruktur untersuchen, anpassen und betreiben können müssen, um ihre Reaktionsfähigkeit genau in dem Moment zu bewahren, in dem Schnelligkeit am wichtigsten ist.
Für die Cybersicherheit, so argumentiert die Allianz, seien offene Modelle und offene Frameworks unverzichtbar, da sie Verteidigungsfähigkeiten allgemein zugänglich machen, die Transparenz für die Verteidiger erhöhen, Cyberabwehr unter Wahrung des Datenschutzes ermöglichen und geschlossene Modelle an vorderster Front durch anpassbare, lokalisierte Kontrollmechanismen ergänzen. Open Source ermögliche eine massiv verteilte, gemeinschaftsgetriebene und selbstgesteuerte Verteidigung – ohne einen Single Point of Failure. Solche offenen Technologien, Techniken und Tools zu entwickeln und zu teilen hat sich die Allianz auf die Fahnen geschrieben.
Während sich politische Entscheidungsträger und Regulierungsbehörden mit der Sicherheit von KI befassen, wird es nach Ansicht der Allianz entscheidend sein, offene Modelle, Sicherheits-Frameworks und entsprechende Schutzwerkzeuge im Rahmen der KI- und Cybersicherheitspolitik als defensive Stärken und nicht als Risikofaktoren zu begreifen. Pauschale Beschränkungen für offene Spitzen-KI-Systeme würden die Verteidigungsfähigkeit schwächen und die Gefahr bergen, Macht, Abhängigkeiten und Anfälligkeiten bei wenigen geschlossenen Anbietern zu konzentrieren. Unternehmen und Regierungen sollten entsprechend in eine offene Infrastruktur investieren.
