Reasoning Tokens

Reasoning-Tokens sind Tokens, die ein Reasoning-Modell für seine interne Bearbeitung einer Aufgabe erzeugt, bevor es die sichtbare Antwort ausgibt. Sie gehören zum Generierungsprozess und zählen zum Output-Verbrauch. (OpenAI) Im Umfeld solcher Modelle begegnet dir dafür auch die Bezeichnung „Thinking Tokens“; hier wird sie als verwandte Bezeichnung verwendet, nicht als Garantie für ein anbieterübergreifend identisches Messfeld.

So kannst du dir das vorstellen

Du sollst eine Lieferplanung bewerten und notierst zunächst Zwischenrechnungen, Abhängigkeiten und mögliche Varianten. An die Geschäftsführung schickst du anschließend nur deine Empfehlung.

Das Bild hilft, die Trennung zwischen Bearbeitungsaufwand und sichtbarem Ergebnis zu verstehen. Es soll keine Behauptung darüber sein, dass ein Modell denselben mentalen Vorgang wie ein Mensch durchläuft.

Was in der Nutzungsstatistik steht

Reasoning-Tokens laufen im Ausgabe-Verbrauch mit und stehen zusätzlich in einem eigenen Detailfeld, etwa output_tokens_details.reasoning_tokens. (OpenAI) Sie sind dort keine weitere unabhängige Menge, die man noch einmal auf die bereits vollständigen Output-Tokens addieren sollte. (OpenAI)

Wenn eine Statistik beispielsweise 2.000 Output-Tokens nennt, davon 1.700 Reasoning-Tokens, ist „3.700 insgesamt“ in dieser Lesart eine Doppelzählung. Die Zahlen dieses Beispiels sind frei gewählt und sollen nur die Beziehung zwischen Gesamtwert und Teilmenge erklären.

Unsichtbar heißt nicht kostenlos

Reasoning-Tokens zählen sowohl beim verfügbaren Kontext als auch bei der Abrechnung als Ausgabetokens. (OpenAI) Ein knappes sichtbares Ergebnis kann daher mehr Ausgabeverbrauch verursachen, als sein Textumfang vermuten lässt. (OpenAI)

Auch ein technisches Ausgabelimit muss bei diesen Modellen Platz für die interne Bearbeitung und die sichtbare Antwort lassen. (OpenAI) Für die Planung eines automatisierten Workflows sollten deshalb realistische Aufgaben getestet werden, nicht nur die Länge der erwarteten Schlussantwort.

Kein Qualitätssiegel

Die Menge der Reasoning-Tokens würde ich als Verbrauchsangabe behandeln. Ob eine Empfehlung korrekt ist, lässt sich besser an nachvollziehbaren Kriterien prüfen: Stimmt die Rechnung, sind die Randbedingungen berücksichtigt, fehlen wichtige Informationen?

Eine ausgegebene Erklärung und eine Verbrauchszahl erfüllen dabei unterschiedliche Zwecke. Beides sollte nicht ungeprüft als Nachweis für eine richtige Entscheidung dienen.

Verwandte Begriffe

Reasoning Model, Output-Tokens, Chain of Thought und Inference-Time Compute führen zu Modelltyp, sichtbaren Erklärungen und zusätzlichem Rechenaufwand.