(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Auf OpenRouter, einer Plattform, die über eine einheitliche API Zugriff auf Dutzende Sprachmodelle erlaubt, rangierte in den letzten Wochen das anonyme Modell Owl Alpha in den Nutzungsstatistiken auf vorderen Plätzen. Jetzt wurde bekannt, das dahinter das Modell LongCat-2.0 des chinesischen Lieferservice-Anbieters Meituan steht, das nun unter MIT-Lizenz als Open Source freigegeben wurde.
LongCat-2.0 überzeugt unter anderem durch sehr günstige Preise: Regulär werden 0,75 Dollar pro Millionen Input-Tokens und 2,95 Dollar pro Millionen Output-Token verlangt (in einer zeitlich begrenzten Promo-Phase ist es sogar noch günstiger). Zum Vergleich: für Anthropics Fable 5 werden 10 beziehungsweise 50 Dollar je Milionen In- beziehungsweise Output-Token fällig.
Weiter ist bemerkenswert, dass das Modell auf einem Cluster aus 50 000 in China hergestellten Application-Specific Integrated Circuits (ASICs) trainiert wurde und völlig ohne die sonst standardmäßig verwendeten Nvidia GPUs auskommt. Der erfolgreiche Einsatz alternativer Siliziumchips deutet auf einen tiefgreifenden Strukturwandel hin. Sollten chinesische Konzerne in der Lage sein, Architekturen mit Billionen von Parametern konsequent mithilfe selbst entwickelter ASICs anstelle von Allzweck-GPUs zu optimieren, würde dies die Dominanz von Nvidia in diesem Sektor gefährden. Außerdem konterkariert es die amerikanischen Exportbeschränkungen für diese GPUs. In diesem Sinne warnt auch eine wachsende Zahl von Technologieexperten, Aktivisten und Branchenkennern davor, dass diese defensiven regulatorischen Maßnahmen unbeabsichtigt den gegenteiligen Effekt erzielen. Durch die Abschottung westlicher Closed-Source-Modelle und die Verteuerung der API-Nutzung hat die US-Regierung Entwickler weltweit ermuntert, sich nach erschwinglichen, leistungsstarken Alternativen umzusehen – wie sie etwa in chinesischen Open-Source-Modellen wie Meituan LongCat-2.0 zu finden sind.
Die Betriebskennzahlen dokumentieren die Begeisterung der Entwickler: Während seiner markenunabhängigen Präsenz auf OpenRouter verzeichnete Owl Alpha monatlich rund 10,1 Billionen Token – durchschnittlich 559 Milliarden Token pro Tag –, was einem Volumenanstieg von 242 % gegenüber dem Vormonat entspricht und das Projekt unter die globalen Top 3 der Plattform katapultierte.
