(C) unter Verwendung eines Motivs von Sergey Nivens / 123RF.com

Das französische KI-Startup Mistral AI hat am nun eine neue API für die Moderation von Inhalten vorgestellt. Damit will das Unternehmen mit OpenAI und anderen führenden KI-Anbietern konkurrieren und gleichzeitig den wachsenden Bedenken hinsichtlich der Sicherheit von KI und der Filterung von Inhalten Rechnung tragen.

Die neue Moderations-API basiert auf einer fein abgestimmten Version des Sprachmodells Mistral 8B und soll schädliche Inhalte in 9 Kategorien erkennen, darunter sexuelle Inhalte, Hassreden, Gewalt, gefährliche Aktivitäten und personenbezogene Daten. Die API bietet sowohl Funktionen für die Analyse von Rohtext als auch von Konversationsinhalten.

Die Moderations-API wird bereits in Mistrals eigener Plattform Le Chat eingesetzt und unterstützt 11 Sprachen, nämlich Arabisch, Chinesisch, Englisch, Französisch, Deutsch, Italienisch, Japanisch, Koreanisch, Portugiesisch, Russisch und Spanisch. Diese Mehrsprachigkeit verschafft Mistral einen Vorteil gegenüber einigen Mitbewerbern, die vorrangig englische Inhalte untersuchen.

Die Veröffentlichung folgt auf Mistrals jüngste Reihe hochkarätiger Partnerschaften, darunter Verträge mit Microsoft Azure, Qualcomm und SAP, die das junge Unternehmen als zunehmend wichtigen Akteur auf dem KI-Markt für Unternehmen positionieren. Letzten Monat kündigte SAP an, die Modelle von Mistral, einschließlich Mistral Large 2, auf seiner Infrastruktur zu hosten, um Kunden sichere KI-Lösungen zu bieten, die den europäischen Vorschriften entsprechen.