Grundbegriffe und Modelltypen
Reasoning Model
Heißt auch Reasoning-Modell oder Thinking Model.
Modell mit besonderem Fokus auf mehrschrittiges Problemlösen.
Ein Reasoning Model ist auf mehrschrittiges Problemlösen ausgerichtet und kann vor seiner sichtbaren Antwort zusätzliche interne Verarbeitungsschritte in Form von Reasoning-Tokens erzeugen. (OpenAI) Solche Modelle werden unter anderem für Planung, Programmierung und Aufgaben eingesetzt, bei denen Alternativen oder mehrere Bedingungen berücksichtigt werden müssen. (OpenAI)
So kannst du dir das vorstellen
Du planst die Einsätze von drei Monteuren. Zwei Termine überschneiden sich, für einen Auftrag wird eine besondere Qualifikation benötigt und zwischen den Kunden liegen Fahrzeiten.
Ein erster Entwurf könnte auf einem Notizzettel entstehen: Wer kommt für welchen Auftrag infrage? Wo entstehen Konflikte? Welche Variante lässt noch Puffer? Erst danach schreibst du den eigentlichen Einsatzplan.
Der Notizzettel ist eine Metapher für zusätzliche Zwischenschritte. Er soll kein menschliches Innenleben des Modells behaupten und auch nicht versprechen, dass du sämtliche internen Schritte sehen kannst.
Mehr Verarbeitung, nicht automatisch mehr Wahrheit
Reasoning-Tokens können vor der sichtbaren Antwort erzeugt werden und sind je nach Anbieter nicht als vollständiger Antworttext sichtbar. (OpenAI) Der Umfang der sichtbaren Antwort zeigt daher nicht den gesamten erzeugten Tokenaufwand. (OpenAI)
Prüfe beim Einsatzplan trotzdem alle harten Bedingungen. Sind Fahrtzeiten berücksichtigt? Wurde eine nicht verfügbare Person eingeplant? Lass diese Kontrolle auch dann nicht aus, wenn das Modell lange an seiner Antwort gearbeitet hat.
Wann lohnt sich ein Versuch?
Ein sinnvoller Testfall enthält mehrere voneinander abhängige Bedingungen, etwa bei einer Fehleranalyse oder beim Abwägen verschiedener Vorgehensweisen. Solche komplexeren Aufgaben gehören zu den beschriebenen Einsatzfeldern von Reasoning-Modellen. (OpenAI)
Bei einer kurzen Umformulierung lohnt ein Gegenversuch mit weniger Verarbeitungsaufwand. Vergleiche die Ergebnisse, bevor du für sämtliche Aufgaben dieselbe Einstellung festlegst.
Die Anleitung sollte Ziel, Einschränkungen und erwartetes Ergebnis klar machen; Für Reasoning-Modelle sind entsprechende Aufgabenbeschreibungen besser geeignet als ein starres Vorschreiben jedes einzelnen Denkschritts. (OpenAI) Diese Empfehlung ist anbieterspezifisch und sollte bei anderen Modellen anhand ihrer Dokumentation geprüft werden.
Verwandte Begriffe
Passend sind Reasoning-Tokens, Chain of Thought, Test-Time Compute, Reasoning Effort und Halluzination. Chain of Thought und sichtbare Begründungen sollten dabei nicht ungeprüft mit dem tatsächlichen internen Ablauf gleichgesetzt werden.