Fine-Tuning vs. RAG: Wann welcher Ansatz?
Beide Ansätze passen ein LLM an eigene Bedürfnisse an – aber auf unterschiedliche Weise.
RAG (Retrieval-Augmented Generation)
- Wie: Dokumente extern speichern, bei Anfragen die relevanten Chunks in den Prompt einbetten.
- Vorteile: aktuell, erklärbar (Quellen), keine teuren Trainingsläufe, sofort änderbar.
- Nachteile: Retrieval-Qualität entscheidend, mehr Latenz und Tokens.
Fine-Tuning
- Wie: Modellgewichte auf eigenen Daten weiter trainieren (z.B. LoRA, QLoRA).
- Vorteile: besserer Stil/Format, domänenspezifisches Verhalten, weniger Tokens pro Anfrage.
- Nachteile: teuer, muss bei neuen Daten neu trainiert werden, Overfitting-Risiko.
Entscheidung
RAG, wenn: Wissen sich ändert, Quellen wichtig sind, kein Training-Budget – das ist für die meisten Unternehmen der Fall.
Fine-Tuning, wenn: Format/Stil zählt, das Modell ständig dasselbe kann (z.B. Klassifikation, Code-Konvertierung), Antworten kürzer sein sollen.
Beides: In der Praxis oft kombiniert: Fine-Tuning für Verhalten + RAG für Wissen.
Weiterführend: KI: LLM & Agenten.