Zurück zum Glossar

Begriff

RAG

RAG (Retrieval-Augmented Generation) verbindet ein Sprachmodell mit einer externen Wissensquelle — passende Passagen werden gesucht und mit der Frage zusammen ans Modell gegeben.

RAG — ausführlicher erklärt

RAG steht für Retrieval-Augmented Generation und bezeichnet ein Verfahren, ein Sprachmodell mit einer externen Wissensquelle zu verbinden, ohne es neu zu trainieren. Der typische Ablauf: Die Frage wird in einen Vektor umgewandelt, eine Vektor-Datenbank liefert die ähnlichsten Textpassagen aus einer Wissensbasis zurück, und das Modell bekommt diese Passagen zusammen mit der ursprünglichen Frage als Kontext. Antworten stützen sich dadurch auf konkrete Belege statt allein auf das im Training gespeicherte Wissen.

Beispiel / Praxisbezug

Klassische Anwendung sind Chatbots auf eigenen Dokumenten — Produkthandbücher, interne Wikis, juristische Texte. Das Modell kennt die Dokumente nicht aus dem Training, kann aber dank RAG passende Auszüge zitieren und mit Quelle ausweisen. Damit lassen sich auch nach dem Wissensstichtag aktuelle oder unternehmensinterne Inhalte einbinden, ohne das Modell selbst anzupassen.

Abgrenzung zu ähnlichen Begriffen

Im Gegensatz zum Fine-Tuning verändert RAG das Modell nicht — die Wissensquelle ist austauschbar und lässt sich jederzeit aktualisieren. Gegenüber langen Kontextfenstern, in die man komplette Dokumente direkt einfüttert, skaliert RAG besser auf große Bestände, da pro Anfrage nur die relevanten Passagen geladen werden.

Entdecke mehr