Self-Verification (deutsch: Selbst-Verifikation) ist eine Technik, bei der ein Sprachmodell seine eigene Ausgabe überprüft und korrigiert. Das Modell erzeugt zunächst eine Antwort und prüft sie anschließend mit derselben oder einer zweiten Generierung — ganz ohne externes Prüfsystem.
Warum funktioniert Selbst-Verifikation?
Entscheidend ist die Asymmetrie zwischen Erzeugen und Prüfen: Ein Modell kann eine Lösung generieren, ohne ihre Korrektheit zu beurteilen — aber eine vorgelegte Antwort auf Plausibilität zu prüfen, fällt ihm oft leichter. Bekannt wurde das Muster 2023 in der medizinischen Informationsextraktion: Modelle nannten für ihre eigenen Extraktionen Belege und prüften die Antworten nach, was die Genauigkeit in Few-Shot-Aufgaben messbar verbesserte.
Typische Abläufe
- Kandidaten erzeugen: Das Modell generiert mehrere Antwort-Varianten, z.B. per Sampling.
- Selbstprüfung: Jede Variante wird auf Stimmigkeit und Plausibilität geprüft.
- Auswahl: Die am besten bewertete Antwort wird ausgegeben.
Verwandte Techniken
Self-Verification ist eng verwandt mit Self-Consistency (Mehrheitsabstimmung über mehrere Denkpfade) und Verifier-Modellen (eigenständige Prüf-Modelle, die Schritt für Schritt bewerten). Gemeinsam helfen sie, Halluzinationen zu reduzieren. Bei synthetic data sorgt die Selbstprüfung dafür, dass nur qualitätsgeprüfte Beispiele ins Training gelangen; bei der Distillation prüft sie die Antworten des Lehrer-Modells, bevor das Schüler-Modell daraus lernt.
Verwandte Grundlagen: Halluzination, LLM-Evaluation, Chain-of-Verification.