01 Was passiert ist
Cohere hat CALIBER vorgestellt, eine Methode, die Reasoning-Modelle lehrt, ihre Konfidenz sowohl vor als auch nach dem Reasoning zu schätzen. Dies verbessert die Zuverlässigkeit der Konfidenzangaben, ermöglicht jedoch noch keine Entscheidungsfindung auf Basis dieser Aktualisierungen.
02 Die wichtigsten Details
- CALIBER trainiert ein Reasoning-Modell, zwei Konfidenzschätzungen auszugeben – vor dem Reasoning und nach der Antwort – und beide in einer Antwort zu melden.
- Auf BigMathDigits reduziert das 7B-Modell die erwartete Kalibrierungsabweichung um 52,5 % auf 0,028 und übertrifft damit die beste Single-Confidence-Baseline.
- Ohne zusätzliches Training verringert das 7B-Modell den Kalibrierungsfehler auf GPQA (−26,8 %), TriviaQA (−32,2 %) und SimpleQA (−36,2 %).
- Ob die Konfidenzaktualisierungen einem Modell helfen, über Nachschlagen oder Enthaltung zu entscheiden, hat Cohere nicht getestet; CALIBER liefert lediglich die Schätzwerte.
03 Warum das wichtig ist
Verlässliche Konfidenzschätzungen helfen Nutzern zu entscheiden, ob sie eine Modellausgabe akzeptieren oder prüfen sollten – entscheidend für den KI-Einsatz in sicherheitskritischen Bereichen.
04 Für wen es relevant ist
KI-Entwickler, Forscher und Ingenieure für maschinelles Lernen.
Originalquelle