Chain of Draft (CoD) ist eine Prompting-Technik für große Sprachmodelle, die Reasoning-Zwischenschritte nicht ausführlich, sondern als kurze, informationstragende Notizen formuliert. Sie überträgt die menschliche Arbeitsweise – beim Rechnen nur das Nötigste aufschreiben – auf die Token-Erzeugung eines LLMs.
Idee und Funktionsweise
Beim klassischen Chain-of-Thought (CoT) erzeugt das Modell ausführliche, schrittweise Gedankengänge. CoD gibt stattdessen die Anweisung, nur etwa drei bis fünf Wörter pro Zwischenschritt zu notieren. Das Ergebnis ist ein knapper Notizzettel, der genau die Information enthält, die für den nächsten Schritt und die Endantwort nötig ist.
Formal arbeitet CoD mit einer Folge kurzer Zwischenzustände statt langer Erklärungen – dadurch sinken Kosten und Latenz spürbar, während die Qualität erhalten bleibt.
Ergebnisse
- Konzept vorgeschlagen 2025 von Silei Xu und Kollegen (arXiv 2502.18600).
- Gegenüber CoT sinkt der Token-Verbrauch auf bis zu 7,6 Prozent.
- In Benchmarks erreicht CoD eine mit CoT vergleichbare oder bessere Genauigkeit.
- Besonders relevant für API-basierte Anwendungen, bei denen Token kosten und Latenz zählt.
Abgrenzung
CoD ist keine eigene Denkarchitektur, sondern eine Variante des Chain-of-Thought-Prinzips – die Zwischenschritte werden nur kompakter formuliert. Es ergänzt verwandte Techniken wie Self-Refine und Scratchpad um eine Kostenperspektive.
Verwandte Grundlagen: Chain-of-Thought, Self-Refine, Scratchpad, Few-Shot-Prompting, In-Context-Learning, Maschinelles Lernen.