Generative AI & LLMs intermediate

Retrieval-Augmented Generation

Also called: RAG

Fetching relevant documents first and putting them in the prompt, so the model answers from sources instead of memory.

Il RAG divide il lavoro in due: una fase di recupero trova i passaggi rilevanti per la domanda, poi il modello risponde usando quei passaggi come contesto. È la soluzione standard per i limiti temporali della conoscenza, per i dati privati e per le allucinazioni, perché il modello è ancorato a testo che può citare. La qualità del recupero fissa il tetto — il modello migliore non può salvare i tre paragrafi sbagliati.

In pratica: Un bot di supporto che cita la tua vera politica di rimborso invece di un’invenzione dal suono plausibile.

Where this comes up