Zwei Startups – Cerebras Systems und Groq, Letzteres gegründet von einem Ingenieur, der zuvor Schaltkreise für Google entwickelte – haben Chips herausgebracht, mit denen das chinesische LLM DeepSeek neue Geschwindigkeitsrekorde aufstellen soll.
Cerebras Systems stellt riesige Computerchips – so groß wie Teller für den Mittagstisch – mit einem radikalen Design her. Groq hingegen baut Chips, die für große Sprachmodelle maßgeschneidert sind. In einem Vergleichstest haben diese Chips die Konkurrenz mit einer Version von DeepSeek klar distanziert. Dabei überschlagen sich die Ereignisse: Zunächst erklärte Cerebras, dass seine Version von DeepSeek einige Codierungsaufgaben in nur 1,5 Sekunden erledigt hat, für die andere Systeme Minuten brauchten. Nach Angaben von Artificial Analysis waren die Wafer-Scale-Chips des Unternehmens 57-mal schneller als die der Wettbewerber, die die KI auf GPUs laufen ließen, und mit Abstand die schnellsten. Doch kurz darauf hat Groq Cerebras mit einem neuen Angebot an der Spitze abgelöst. Groq soll Antworten fast in Echtzeit geben können, wo andere LLMs zeilenweise Ausgaben erzeugen.
Schlussfolgernde KI-Modelle erzeugen im Hintergrund mehrere Antworten, wählen die beste aus und geben eine Begründung für ihre Antwort. Ihre Hersteller sagen, die Antworten werden besser, je länger sie “denken” dürfen. Diese Modelle sind älteren Modellen nicht in allen Bereichen überlegen, aber sie haben Fortschritte in Bereichen gemacht, in denen ältere Algorithmen Schwierigkeiten haben, etwa in Mathematik und Codierung. Mit der Verlagerung des Schwerpunkts von Argumentationsmodellen auf die Inferenz – den Prozess, bei dem ein fertiges KI-Modell die Anfrage eines Nutzers verarbeitet – spielen Geschwindigkeit und Kosten eine größere Rolle. Vor allem auf diesem Gebiet sieht sich Nvidia wachsender Konkurrenz gegenüber.
Im Moment ist Big Tech noch entschlossen, mehr Hardware zu kaufen, und Nvidia wird dabei nicht so bald verdrängt werden. Aber Alternativen könnten beginnen, an der Peripherie Marktanteile zu erobern, vor allem, wenn sie KI-Modelle schneller oder billiger bedienen können. Die Aussicht, dass unter diesen Bedingungen vielleicht gar nicht so große Hardware-Investitionen nötig sind, bescherte der NVIDIA-Aktie an der Börse jüngst einen beispiellosen Absturz.
