Generative AI & LLMs intermediate

Retrieval-Augmented Generation

Also called: RAG

Fetching relevant documents first and putting them in the prompt, so the model answers from sources instead of memory.

RAG teilt die Aufgabe in zwei: Ein Retrieval-Schritt findet Passagen, die zur Frage passen, dann antwortet das Modell mit diesen Passagen als Kontext. Es ist die Standardlösung für Wissens-Cutoffs, private Daten und Halluzinationen, weil das Modell in Text geerdet ist, den es zitieren kann. Die Retrieval-Qualität setzt die Obergrenze — auch das beste Modell rettet die falschen drei Absätze nicht.

In der Praxis: Ein Support-Bot, der deine tatsächliche Rückerstattungsrichtlinie zitiert statt einer plausibel klingenden Erfindung.

Where this comes up