Mozilla hat eine neue Schnittstelle in Firefox Nightly ausgeliefert, die es ermöglicht, die Firefox KI Runtime zu nutzen, um Maschinelles Lernen Offline in Web-Erweiterung auszuführen.
Mozilla hat kürzlich eine neue Komponente in Firefox veröffentlicht, die Transformers.js und die zugrunde liegende ONNX-Laufzeit-Engine nutzt. Mit dieser Komponente lässt sich jedes Machine-Learning-Modell, das mit Transformers.js kompatibel ist, im Browser ausführen, ohne serverseitige Aufrufe über den anfänglichen Download der Modelle hinaus, teilt Mozilla mit. Das bedeutet, dass Firefox alles auf dem lokalen Gerät ausführen kann und Daten nicht an Dritte weitergeben muss.
Obwohl Webanwendungen Transformers.js bereits in JavaScript verwenden können, unterstreicht Mozilla die Vorteile der neuen Schnittstelle für Erweiterungen. Die Inferenz-Laufzeit etwa werde in einem eigenen, isolierten Prozess ausgeführt, um Sicherheit und Robustheit zu gewährleisten. Außerdem würden die Modelldateien mit IndexedDB gespeichert und über verschiedene Ursprünge hinweg gemeinsam genutzt. Nicht zuletzt arbeite man an Firefox-spezifischen Leistungsverbesserungen, um die Laufzeit zu beschleunigen
Diese Plattform habe man mit Firefox 133 ausgeliefert, um Alt-Text für Bilder in PDF.js bereitzustellen, und sie werde an mehreren anderen Stellen in Firefox 134 und darüber hinaus verwendet, um das Benutzererlebnis zu verbessern. Der Beitrag nennt spezifische Einsatzmöglichkeiten.
