(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Mit Open Responses gibt es nun erstmals einen Vorschlag für einen Open-Source-Standard für ein herstellerunabhängiges JSON-API, über das Clients mit LLMs kommunizieren können.
Es basiert auf OpenAI Responses und definiert ein gemeinsames Schema, eine Client-Bibliothek und eine Tooling-Ebene, die eine einheitliche Erfahrung für den Aufruf von Sprachmodellen, das Streamen von Ergebnissen und das Erstellen von agentenbasierten Workflows ermöglichen – unabhängig vom Anbieter.
Dem neuen Standard werden vor allem deshalb gute Chancen eingeräumt, weil zu seinen Launch-Partnern Schwergewichte wie Hugging Face, LM Studio, vLLM, Ollama und Vercel gehören. Er gewährt erstmals auch Zugriff auf neuere Features von LLMs wie Reasoning Traces, über die Sprachmodelle dokumentieren, wie sie zu Schlussfolgerungen gelangt sind. Auch agentische Workflows werden in der Spezifikation explizit berücksichtigt.
Der Standard könnte damit eine Ära beenden, die durch inkompatible Entwicklungen geprägt war und in der für jedes LLM zumindest ein eigener Adapter nötig war. Das erleichtert den Austausch eines LLMs in der Applikation und vermindert dadurch die Abhängigkeit des Anwenders von einem bestimmten Anbieter.
