(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Das französische KI-Unternehmen Mistral AI hat ein neues Sprachmodell namens Mistral Small 3.1 vorgestellt, dass mit einem Bruchteil an Parametern (24 Milliarden) die amerikanischen Konkurrenten höherer Gewichtsklassen von Google und OpenAI schlagen soll.
“Dieses neue Modell bietet eine verbesserte Textverarbeitung, multimodales Verständnis und ein erweitertes Kontextfenster von bis zu 128000 Token”, erklärte Mistral in einem Blogbeitrag des Unternehmens zur Veröffentlichung. Das Unternehmen gibt an, dass das Modell Informationen mit einer Geschwindigkeit von 150 Token pro Sekunde verarbeitet und sich daher für Anwendungen eignet, die schnelle Reaktionszeiten erfordern. Nach Aussagen des Herstellers solle es damit als erstes Open-Source-Modell beispielsweise GPT-4o Mini von OpenAI schlagen. Als Beleg veröffentlicht Mistral AI zahlreiche Diagramme mit Benchmarkresultaten.
Das neue Modell soll mit einer einzelnen Nvidia Grafikkarte RTX 4090 oder auf einem Mac mit 32 GByte RAM laufen und sich ideal für Anwendungen eignen, die eine schnelle Reaktion erfordern, etwa virtuelle Assistenten. Es lässt sich für bestimme Anwendungsfelder fein abstimmen, was insbesondere für Anwendungen im Bereich medizinische Diagnose oder Rechtsberatung interessant ist.
Mistral AI wurde 2023 von ehemaligen Forschern von Google DeepMind und Meta gegründet und hat sich schnell als Europas führendes KI-Startup etabliert, mit einer Bewertung von ca. 6 Mrd. US-Dollar. Diese Bewertung ist für ein europäisches Start-up zwar beeindruckend, aber nur ein Bruchteil der zum Beispiel 80 Milliarden Dollar von OpenAI.
Das neue Modell steht auf der Plattform Hugginface zum Download bereit und kann außerdem über seine API auf Mistrals Plattform LePlayground ausprobiert werden. Das Modell ist auch auf Google Cloud Vertex AI verfügbar. Mistral Small 3.1 wird in den kommenden Wochen auf NVIDIA NIM und Microsoft Azure AI Foundry verfügbar sein.
