(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Forscher der University of California San Diego und von Meta haben in einem Papier eine neue Methode vorgestellt, um schlussfolgernde Sprachmodelle so zu optimieren, dass sie bessere Antworten mit weniger Rechenpower generieren.
Die Methode heißt Deep Think with Confidence (DeepConf) benutzt modellinterne Signale für den Grad des Vertrauens in die Antwort, um minderwertige Gedankengänge während oder nach dem Schlussfolgern auszufiltern. Sie erfordert kein zusätzliches Modelltraining oder Hyperparameter-Tuning und lässt sich nahtlos in bestehende Serving-Frameworks integrieren.
Die Forscher evaluierten DeepConf mit einer Vielzahl von Argumentationsaufgaben und den neuesten Open-Source-Modellen, darunter Qwen 3 und die GPT-OSS-Serie. Bei anspruchsvollen Benchmarks wie AIME 2025 erreicht DeepConf@512 eine Genauigkeit von bis zu 99,9 Prozent und reduziert die Anzahl der generierten Token um bis zu 84,7 Prozent.
Eine bisher gängige Methode war beispielsweise Self-Consistency with Majority Voting, bei der dem Modell mehrmals dieselbe Aufforderung gegeben wird und die häufigste Antwort als endgültige Antwort gewählt wird. Diese Technik ist zwar effektiv, aber mit einem erheblichen Rechenaufwand verbunden. Die Generierung von Hunderten von Argumentationsketten für eine einzige Aufforderung erhöht die Kosten für die Schlussfolgerung erheblich, was sie für viele Anwendungen unpraktisch macht.
Außerdem besteht das Kernproblem dieser Methode darin, dass bei der Standard-Mehrheitsabstimmung jeder Argumentationspfad gleich behandelt wird, unabhängig von seiner Qualität. Dies kann zu suboptimalen Ergebnissen führen, wenn einige wenige minderwertige, aber ähnliche Antworten den Abstimmungsprozess dominieren und die richtige Antwort überstimmen.
