Soft Prompting ist ein Überbegriff für Techniken, die einen Prompt nicht als menschenlesbaren Text, sondern als kontinuierliche, lernbare Vektoren darstellen. Diese Vektoren liegen im Embedding-Raum eines Large Language Models und werden per Gradientenabstieg auf eine Aufgabe optimiert.
Diskrete versus Soft Prompts
Ein klassischer Prompt besteht aus Token-IDs, die ein Mensch auswählt — ein diskreter Prompt. Ein Soft Prompt besteht dagegen aus Embedding-Vektoren, die das Modell direkt als Eingabe verarbeitet und die nicht an einzelne Wörter gebunden sind. Dadurch lassen sich Prompts feiner und effizienter optimieren als durch manuelles Ausprobieren.
Einsatzgebiet
Soft Prompting gehört zu den parameter-effizienten Verfahren (PEFT): Die Modellgewichte bleiben eingefroren, trainiert werden nur die Prompt-Vektoren. Bekannte Umsetzungen sind Prompt Tuning und Prefix Tuning. Die gelernten Vektoren bauen auf der Embedding-Repräsentation der Eingabe auf.
Verwandte Grundlagen: Prompt Tuning, Prefix Tuning.