← Zum Glossar

Kontextfenster, Kontextmanagement und Kontextprobleme

Output Limit

Heißt auch Max Output Tokens.

Separate Begrenzung der generierbaren Tokens.

Ein Output Limit begrenzt die Zahl der Tokens, die ein Modell für eine Antwort erzeugen darf. OpenAI: Responses-Referenz Beim Parameter max_output_tokens umfasst diese Obergrenze sowohl sichtbare Ausgabetokens als auch Reasoning-Tokens. OpenAI: Responses-Referenz

Obergrenze statt Wunschlänge

Das Limit beschreibt die höchstens erlaubte Generierung, nicht eine zugesicherte Mindestlänge der Antwort. OpenAI: Responses-Referenz Ein Modell kann seine Ausgabe schon vorher beenden; ein enges Limit kann umgekehrt zu einer unvollständigen Antwort führen. OpenAI: Reasoning Models

Bei Reasoning-Modellen kann ein Teil des Budgets für interne Verarbeitung verbraucht werden. Dokumentiert sind deshalb auch Fälle, in denen das Limit erreicht wird, bevor eine sichtbare Antwort vorliegt. OpenAI: Reasoning Models

Ausgabelimit und Kontextfenster sind getrennte Größen: Das eine beschränkt die Generierung, das andere den insgesamt verarbeitbaren Kontext nach den Regeln des jeweiligen Modells. OpenAI: Conversation State OpenAI: Reasoning Models Ein großes Kontextfenster garantiert somit keine beliebig lange Ausgabe.

So kannst du dir das vorstellen

Angenommen, du lässt hypothetisch aus umfangreichen Unterlagen eine kurze Entscheidungsvorlage erstellen. Du möchtest fünf Absätze, aber genügend Raum für die nötige Verarbeitung und ein vollständiges Ergebnis.

Die inhaltliche Längenvorgabe „fünf Absätze“ gehört in die Aufgabe. Die technische Tokenobergrenze würde ich getrennt davon als Schutzgrenze festlegen und anschließend prüfen, ob die Ausgabe regulär abgeschlossen wurde.

Ein zu knappes Limit wäre kein verlässliches Mittel, einen gut formulierten kurzen Text zu erzwingen. Es könnte auch mitten im Ergebnis enden.

Schnittstellen nicht gleichsetzen

Der Name und die genaue Bedeutung eines Ausgabeparameters müssen in der jeweiligen Dokumentation geprüft werden. Insbesondere darf die Anzahl sichtbarer Wörter nicht mit dem gesamten generierten Tokenverbrauch gleichgesetzt werden. OpenAI: Tokens verstehen und zählen OpenAI: Reasoning Models

Für einen automatisierten Ablauf würde ich Abschlussstatus und tatsächliche Nutzung mit auswerten. Eine abgeschnittene Antwort sollte nicht unbemerkt als fachlich vollständiges Ergebnis weiterverarbeitet werden.

Verwandte Begriffe

Output Tokens, Reasoning Tokens, Token Budget, Context Window, Reasoning Effort.

Quellen