Reasoning und Test-Time Compute
Tree of Thoughts
Heißt auch ToT.
Verzweigte Suche mit Bewertung und Verwerfen von Lösungswegen.
Tree of Thoughts, kurz ToT, ist ein Verfahren, das mehrere mögliche Lösungswege als verzweigte Suche verfolgt. Yao et al.: Tree of Thoughts Das System erzeugt alternative Zwischenschritte, bewertet die entstehenden Teillösungen und entscheidet, welche Wege weiter untersucht oder verworfen werden. Yao et al.: Tree of Thoughts
Schon unterwegs Alternativen prüfen
Eine einzelne „Thought“-Einheit ist dabei ein sinnvoller textlicher Lösungsschritt, dessen Größe von der Aufgabe abhängt. Yao et al.: Tree of Thoughts Das kann beispielsweise eine Gleichung, ein Wort für ein Kreuzworträtsel oder ein kurzer Schreibplan sein. Yao et al.: Tree of Thoughts
Zu einem ToT-Verfahren gehören die Erzeugung solcher Alternativen, ihre Bewertung und eine Suchstrategie. Yao et al.: Tree of Thoughts Die ursprüngliche Arbeit untersucht unter anderem Breitensuche mit mehreren vielversprechenden Zuständen und Tiefensuche, die bei Sackgassen zu früheren Entscheidungen zurückkehren kann. Yao et al.: Tree of Thoughts
Im Unterschied zu Self-Consistency werden also nicht nur vollständige Antworten am Ende verglichen. Yao et al.: Tree of Thoughts Die Auswahl beeinflusst bereits, welche Zwischenwege überhaupt weiter ausgebaut werden. Yao et al.: Tree of Thoughts
So kannst du dir das vorstellen
Du planst hypothetisch einen Workshop mit mehreren voneinander abhängigen Übungen. Nach einer ersten Einführung könnten zwei unterschiedliche Reihenfolgen sinnvoll erscheinen.
Das System entwickelt beide Ansätze weiter und prüft, ob notwendiges Vorwissen jeweils rechtzeitig vermittelt wird. Stellt sich eine Reihenfolge später als ungeeignet heraus, kann der Suchablauf zu einer früheren Verzweigung zurückgehen.
Das Bild ähnelt einem verzweigten Planungsbaum. Es bedeutet nicht, dass das Sprachmodell intern automatisch genau diesen Baum besitzt; der Baum beschreibt den organisierten Suchablauf.
Suche verursacht zusätzlichen Aufwand
Das ursprüngliche ToT-Verfahren nutzt ein vortrainiertes Modell ohne zusätzliches Training für die Suche. Yao et al.: Tree of Thoughts Dafür entstehen weitere Modellaufrufe zur Erzeugung und Bewertung von Zwischenständen. Yao et al.: Tree of Thoughts
Die Autoren betonen, dass der Aufwand bei ohnehin einfach lösbaren Aufgaben unnötig sein kann. Yao et al.: Tree of Thoughts Zudem hängt die Suche davon ab, ob die Bewertung vielversprechende Wege tatsächlich erkennt; eine systematische Suche ist noch kein Beweis für eine korrekte Lösung.
Verwandte Begriffe
Chain of Thought, Self-Consistency, Best-of-N, Test-Time Scaling, Verifier.