Verwenden Sie RAG, wenn ein Modell aktuelle, interne oder belegbare Informationen benötigt. Verwenden Sie Fine-Tuning, wenn sich Stil, Format, Klassifikation oder wiederkehrendes Verhalten zuverlässig ändern soll. Für domänenspezifische Assistenten kann ein feinabgestimmtes Modell weiterhin RAG für aktuelles Wissen verwenden.
Was verändert Retrieval-Augmented Generation?
RAG verändert nicht automatisch die Gewichte des verwendeten Sprachmodells. Stattdessen baut die Anwendung eine Wissensschicht auf: Dokumente werden indexiert, bei einer Frage durchsucht und als Kontext in den Prompt eingefügt. Aktualisierungen erfolgen primär in der Wissensbasis.
Der Ansatz eignet sich besonders für Faktenwissen, das häufig wechselt, aus internen Quellen stammt oder mit Fundstellen belegt werden soll. Die Grundlagen erläutert Was ist Retrieval-Augmented Generation?.
Was verändert Fine-Tuning?
Beim Fine-Tuning wird ein vorhandenes Modell mit zusätzlichen Trainingsbeispielen weiter angepasst. Je nach Verfahren werden alle oder nur ein Teil der Modellparameter verändert. Ziel ist typischerweise ein bestimmtes Verhalten: gewünschter Stil, zuverlässiges Ausgabeformat, domänenspezifische Klassifikation oder bessere Ausführung einer wiederkehrenden Aufgabe.
Fine-Tuning ist keine ideale Datenbank für schnell wechselnde Einzelfakten. Informationen lassen sich nicht so einfach gezielt löschen, versionieren oder als konkrete Fundstelle ausweisen wie in einer externen Wissensbasis.
RAG vs. Fine-Tuning im Direktvergleich
| Kriterium | RAG | Fine-Tuning |
|---|---|---|
| Primäres Ziel | Wissen zur Laufzeit bereitstellen | Modellverhalten anpassen |
| Aktualisierung | Quellen neu indexieren | Erneutes Training oder neue Adapterversion |
| Quellennachweis | Fundstellen explizit möglich | Nicht aus Trainingsgewichten ableitbar |
| Dynamische Fakten | Gut geeignet | Nur eingeschränkt geeignet |
| Stil und Format | Über Prompt begrenzt steuerbar | Für wiederkehrendes Verhalten geeignet |
| Löschung einzelner Inhalte | Quelle entfernen und Index aktualisieren | Schwierig aus Modellgewichten zu isolieren |
| Laufzeit | Zusätzliche Retrieval-Latenz | Kein Retrieval zwingend erforderlich |
| Entwicklungsaufwand | Datenpipeline, Suche, Rechte, Evaluation | Trainingsdaten, Training, Modellversionierung |
Wann eignet sich welcher Ansatz?
RAG wählen, wenn …
- Wissen häufig aktualisiert wird
- interne Dokumente genutzt werden
- Fundstellen wichtig sind
- Berechtigungen pro Quelle gelten
- mehrere Modelle austauschbar bleiben sollen
Fine-Tuning prüfen, wenn …
- ein stabiles Ausgabeformat nötig ist
- viele hochwertige Trainingsbeispiele vorliegen
- eine spezielle Klassifikation wiederkehrt
- Prompts allein das Verhalten nicht stabilisieren
- Training und Modellbetrieb beherrscht werden
Wenn eine klassische Suchabfrage, Regelengine oder SQL-Abfrage das Problem deterministisch löst, ist möglicherweise weder RAG noch Fine-Tuning die beste erste Wahl.
Kann man RAG und Fine-Tuning kombinieren?
Ja. Ein feinabgestimmtes Modell kann beispielsweise konsistent strukturierte Antworten erzeugen, während RAG aktuelle Produkt- oder Vertragsinformationen liefert. Die Kombination ist sinnvoll, wenn beide Nutzenanteile getrennt gemessen werden können.
- Zuerst mit Prompting und einem Basismodell eine Ausgangslinie messen.
- RAG ergänzen, wenn externes oder dynamisches Wissen fehlt.
- Fine-Tuning erst prüfen, wenn wiederkehrendes Verhalten trotz guter Prompts instabil bleibt.
- Jede zusätzliche Schicht mit separaten Testfällen und Versionen evaluieren.
Architekturentscheidung mit realen Daten treffen
Ein begrenzter PoC zeigt, ob Retrieval, Prompting oder Modellanpassung für den konkreten Use Case den grössten Qualitätsgewinn bringt.