RAG vs. Fine-Tuning: was Sie für Ihren ersten Use Case brauchen

Zwei Begriffe, die ständig durcheinandergeworfen werden. Eine Entscheidungshilfe in 800 Wörtern — Spoiler: für 90% der KMU ist die Antwort RAG.

Wer heute eine KI-Lösung evaluiert, hört zwei Begriffe ständig: RAG und Fine-Tuning. Beide lösen unterschiedliche Probleme — und für 90% der KMU-Projekte ist die Antwort RAG.

## RAG in einem Satz

Retrieval-Augmented Generation heisst: Das Modell bleibt unverändert. Bei jeder Anfrage suchen Sie die relevanten Dokumente aus Ihrer Wissensbasis, klemmen sie an den Prompt und lassen das Modell antworten. Vorteil: Sie können jederzeit Dokumente hinzufügen, ändern, löschen. Das Modell vergisst nichts, weil es nie etwas gelernt hat.

## Fine-Tuning in einem Satz

Fine-Tuning heisst: Sie trainieren das Modell selbst auf Ihren Daten. Das Modell lernt Sprache, Tonalität, Fachvokabular. Vorteil: konsistente Antworten in Ihrem Stil. Nachteil: jede Änderung erfordert ein neues Training, Wissen veraltet, und für jeden neuen Anwendungsfall braucht es ein neues Modell.

## Die Entscheidungsmatrix

Brauchen Sie Faktenwissen aus Ihren Dokumenten (Verträge, Wikis, Produktdaten)? → RAG. Brauchen Sie einen bestimmten Schreibstil oder ein Fachvokabular, das nirgends dokumentiert ist? → Fine-Tuning. Ändern sich Ihre Daten häufig? → RAG. Haben Sie 10'000+ saubere Trainingsbeispiele? → Fine-Tuning möglich, sonst RAG.

## Warum Dienstleister gern Fine-Tuning verkaufen

Fine-Tuning ist mehr Aufwand, klingt nach «echter KI» und rechtfertigt höhere Tagessätze. Für die meisten KMU-Use-Cases — interne Suche, Offerten-Assistent, FAQ-Bot, E-Mail-Triage — ist es schlicht das falsche Werkzeug. Lassen Sie sich nicht überreden, ein Modell zu trainieren, bevor RAG den Use-Case nicht erschöpft hat.