Chain-of-Verification (CoVe) ist eine Prompting-Technik, mit der Sprachmodelle ihre eigenen Antworten systematisch überprüfen und dadurch Halluzinationen reduzieren. Vorgeschlagen wurde sie 2023 von Shehzaad Dhuliawala und Kollegen (arXiv 2309.11495).
Die vier Phasen von CoVe
- Baseline generieren: Das Modell beantwortet die Frage zunächst normal und erzeugt dabei möglicherweise falsche Aussagen.
- Verifikationsfragen planen: Das Modell formuliert gezielte Prüfungsfragen, die die kritischen Fakten der Antwort hinterfragen.
- Fragen unabhängig beantworten: Jede Prüfungsfrage wird separat beantwortet — bewusst ohne Rückgriff auf die ursprüngliche Antwort.
- Finale geprüfte Antwort erzeugen: Auf Basis der Verifikationsergebnisse wird die Antwort überarbeitet oder bestätigt.
Die unabhängige Beantwortung der Prüfungsfragen ist der Kern: Sie verhindert, dass sich das Modell in seiner eigenen, möglicherweise falschen Erzählung verfängt. In den Experimenten reduzierte CoVe Halluzinationen bei Listen-Generierung, offenen Frage-Antwort-Aufgaben und Biografie-Erstellung spürbar gegenüber der Baseline.
Einordnung
CoVe ergänzt Chain-of-Thought (Schritt-für-Schritt-Denken) um eine Qualitätssicherung: Während CoT bessere Zwischenschritte erzeugt, prüft CoVe das Ergebnis. Beide Techniken lassen sich mit Reflexion und Self-Consistency kombinieren, um die Zuverlässigkeit von LLMs zu erhöhen.
Verwandte Grundlagen: In-Context Learning, Few-Shot Prompting, Prompt-Engineering-Muster. Wer die Zerlegungs-Seite komplexen Denkens sucht, findet sie beim Least-to-Most-Prompting; die Fehler-Lern-Schleife ergänzt Reflexion.