Generative AI & LLMs intermediate

Retrieval-Augmented Generation

Also called: RAG

Fetching relevant documents first and putting them in the prompt, so the model answers from sources instead of memory.

O RAG divide o trabalho em duas partes: uma etapa de recuperação encontra os trechos relevantes para a pergunta e, então, o modelo responde usando esses trechos como contexto. É a correção padrão para data de corte do conhecimento, dados privados e alucinação, porque o modelo fica ancorado em um texto que ele pode citar. A qualidade da recuperação define o teto — o melhor modelo do mundo não salva os três parágrafos errados.

Na prática: Um bot de suporte que cita a sua política de reembolso de verdade, em vez de uma invenção plausível.

Where this comes up