Generative AI & LLMs intermediate

Retrieval-Augmented Generation

Also called: RAG

Fetching relevant documents first and putting them in the prompt, so the model answers from sources instead of memory.

RAG divide el trabajo en dos: un paso de recuperación encuentra los pasajes relevantes para la pregunta, y luego el modelo responde usando esos pasajes como contexto. Es la solución estándar para los límites de conocimiento, los datos privados y las alucinaciones, porque el modelo queda anclado en texto que puede citar. La calidad de la recuperación fija el techo — el mejor modelo no puede rescatar los tres párrafos equivocados.

En la práctica: Un bot de soporte que cita tu política de reembolsos real en lugar de una invención que suena plausible.

Where this comes up