(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
KI-Applikationen auf der Grundlage von Anthropics Modell Claude Sonett 3.5 können 20 bis 30 Prozent teurer sein als solche, die auf OpenAIs Modell GPT-4o beruhen – trotz auf den ersten Blick vergleichbarer Preise pro Token.
Die Ursache liegt in einer ineffizienten Tokenisierung des Anthropic-Modells das bei gleichem Input viel mehr Token erzeugt. Obwohl seine Input-Tokens mit 0,003 Dollar/1000 Token sogar 40 Prozent günstiger sind als die von GPT-4o (0,005 Dollar/1000 Token) ergeben sich im Endergebnis deutlich höhere Kosten, berichtet Venturebeat. Die Ergebnisse schwanken je nach Sachgebiet, lagen bei englischer Sprache 16 Prozent höher, bei mathematischen Aufgaben 21 Prozent und bei Python-Code sogar 30 Prozent über denen des Konkurrenten von OpenAI.
Neben dieser direkten Auswirkung auf die Kosten gibt es noch einen indirekten Effekt, der das Kontext-Window betrifft. Das ist zwar bei Anthropic mit 200k größer als bei OpenAI mit 128k, aber wegen der Weitschweifigkeit bei der Tokenisierung kann auch hier der effektiv nutzbare Bereich kleiner ausfallen.
Für Wirtschaftlichkeitsberechnungen ist es daher unabdingbar, die sich tatsächlich ergebende Anzahl Tokens im Ergebnis der Tokenisierung vorher abzuschätzen (ohne bereits die kostenpflichtige API dafür zu benutzen).
