Sicherheitsforscher haben in drei verschiedenen Komponenten von Googles KI Gemini Schwachstellen entdeckt.
Die Schwachstellen firmieren unter dem Namen Gemini Trifecta. Im Einzelnen handelt es sich um diese verwundbaren Punkte:
Ein Prompt-Injection-Fehler in Gemini Cloud Assist, der es Angreifern ermöglichen könnte, Cloud-basierte Dienste auszunutzen und Cloud-Ressourcen zu kompromittieren, indem sie die Tatsache ausnutzen, dass das Tool in der Lage ist, Protokolle zusammenzufassen, die direkt aus Rohprotokollen gezogen werden. Dies ermöglicht es dem Bedrohungsakteur, einen Prompt in einem User-Agent-Header als Teil einer HTTP-Anfrage an eine Cloud-Funktion und andere Dienste wie Cloud Run, App Engine, Compute Engine, Cloud Endpoints, Cloud Asset API, Cloud Monitoring API und Recommender API zu verstecken.
Eine Search-Injection-Schwachstelle im Gemini Search Personalization-Modell, die es Angreifern ermöglichen könnte, Eingabeaufforderungen einzuschleusen und das Verhalten des KI-Chatbots zu steuern, um die gespeicherten Informationen und Standortdaten eines Benutzers auszuspionieren, indem sie den Chrome-Suchverlauf mit JavaScript manipulieren und die Unfähigkeit des Modells ausnutzen, zwischen legitimen Benutzeranfragen und eingeschleusten Eingabeaufforderungen aus externen Quellen zu unterscheiden.
Ein indirekter Prompt-Injection-Fehler in Gemini Browsing Tool, der es Angreifern ermöglichen könnte, die gespeicherten Informationen und Standortdaten eines Benutzers auf einen externen Server zu übertragen, indem sie den internen Aufruf von Gemini nutzen, um den Inhalt einer Webseite zusammenzufassen.




