Zurück zum Glossar

Begriff

Tree of Thoughts

Tree of Thoughts (ToT) ist eine Prompting-Technik, bei der ein LLM mehrere Lösungspfade als verzweigten Baum exploriert, bewertet und nur vielversprechende Äste weiterverfolgt — eine Verallgemeinerung von Chain-of-Thought.

Tree of Thoughts — ausführlicher erklärt

Chain-of-Thought generiert einen einzelnen linearen Lösungsweg. Tree of Thoughts geht weiter: an jeder Stelle erzeugt das Modell mehrere mögliche nächste Schritte („Thoughts”), bewertet sie selbst (z. B. „vielversprechend”, „nicht erreichbar”) und sucht den entstehenden Lösungsbaum mit klassischen Such-Verfahren wie Breadth-First oder Depth-First ab. Sackgassen werden verworfen, vielversprechende Äste weiterverfolgt. Das Verfahren stammt aus einem 2023er Paper von Yao et al. und ist auf Aufgaben gemünzt, bei denen ein einzelner Versuch oft scheitert und Backtracking nötig ist.

Beispiel / Praxisbezug

Beim Spiel „Game of 24” (mit vier Zahlen und Grundrechenarten 24 erreichen) erreicht GPT-4 mit Chain-of-Thought etwa 4 % Erfolgsquote — mit Tree of Thoughts laut Originalpaper rund 74 %. Der Preis ist hoch: ToT braucht teils zehn- bis hundertfach mehr LLM-Calls pro Aufgabe, weil jeder Knoten im Baum eigene Bewertungs- und Expansions-Aufrufe auslöst. Im Alltag lohnt das Verfahren nur bei harten Reasoning- oder Planungsaufgaben, nicht bei einfachen Fragen.

Abgrenzung zu ähnlichen Begriffen

Chain-of-Thought ist der lineare Spezialfall ohne Verzweigung. Self-Consistency erzeugt mehrere unabhängige CoT-Pfade und nimmt die häufigste Antwort — kein Baum, keine Bewertung pro Schritt. Graph of Thoughts erweitert ToT um Querverbindungen zwischen Knoten und ist die nächste Verallgemeinerungsstufe.

Entdecke mehr

Themenuebersicht