(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com

Google investiert zusammen mit den Partnern Stiftung Schmidt Sciences, der britischen Regierungsagentur ARIA, der Cooperative AI Foundation und unterstützt von Google.org 10 Millionen Dollar in Forschungsprojekte, die weltweit die Erkundung und Minderung der Risiken zum Ziel haben, die agentische KI mit sich bringt.

Google erklärt dazu, man trete jetzt in eine neue Ära ein: Bald werden Millionen von KI-Agenten – entwickelt von verschiedenen Organisationen – in digitalen Umgebungen miteinander interagieren, kommunizieren, verhandeln und Geschäfte abschließen. Diese Interaktionen müssten sicher ablaufen und jetzt habe man die Chance, die Sicherheit und Stabilität des gesamten KI-Ökosystems von Anfang an zu stärken.

Allerdings hat man bislang vor allem die Sicherheitsrisiken isolierter Systeme untersucht. Doch wenn in naher Zukunft große Gruppen von KI-Agenten interagieren, könnten plötzlich neue kollektive Verhaltensweisen und Fähigkeiten entstehen. Derzeit fehlten die Instrumente, um diese Übergänge vorherzusagen, zu messen und zu überwachen. Deswegen sei jetzt eine unmittelbare und weitreichende Ausweitung der Forschung nötig.

Kein einzelnes Labor könne die Sicherheit von Multi-Agenten-Systemen im Alleingang gewährleisten. Die Geldgeber laden deshalb akademische und unabhängige Forschende dazu ein, Vorschläge in vier Schwerpunktbereichen einzureichen: Sandboxes, die Wissenschaft von Agenten-Systemen, Stärkung der Agenten-Infrastruktur und Kontrolle der Agenten.

Interessenten können sich bis zum 8. August hier  bewerben. Welche Einreichungen akzeptiert wurden, soll im Herbst bekanntgegeben werden.