Mit MemoryCache hat Mozilla ein Forschungsprojekt gestartet, das KI datenschutzkonform auf den Desktop bringen soll. MemoryCache arbeitet laut Mozilla mit lokalen Dateien, die im Browser gespeichert werden.
MemoryCache sei in einem sehr frühen Stadium, berichtet Mozilla. Man betrachte das ganze derzeit noch als Sandbox dafür, um zu erforschen, was mit KI lokal möglich ist. Es soll aber ein personalisiertes und maßgeschneidertes Erlebnis unter dem Aspekt der Privatsphäre dabei herauskommen.
Das Testgelände für MemoryCache sei derzeit ein Gaming-PC mit einem Intel i7-8700-Prozessor, der die groovy.ggml-Version des gpt-4-all-Modells von Nomic AI verwende. Es komme die ursprüngliche Version von privateGPT zum Einsatz, da eine vorläufige Auswertung ergeben habe, dass neuere Modelle und Versionen der Anwendung die Antworten zu stark verallgemeinern, selbst nachdem man das Modell mit persönlichen Daten erweitert habe. In der Testumgebung befänden sich 75,3 MB an Dokumenten, die im Browser und in persönlichen Blogbeiträgen, Notizen und Journal-Einträgen gespeichert worden seien.
Mozilla verweist auf das Projekt bei GitHub und hat eine Website für MemoryCache eingerichtet.
