Generative AI & LLMs intermediate

Embedding

A list of numbers representing meaning, where similar things end up close together.

Ein Embedding verwandelt Text, ein Bild oder ein Objekt in einen Vektor in einem hochdimensionalen Raum, der so angeordnet ist, dass semantische Ähnlichkeit zu geometrischer Nähe wird. Diese eine Eigenschaft trägt die semantische Suche, Empfehlungen, Clustering und die Retrieval-Hälfte von RAG.

In der Praxis: ‘Auto’ und ‘Wagen’ landen nah beieinander; ‘Auto’ und ‘Automat’ nicht, obwohl sie sich fast alle Buchstaben teilen.