Embedding

Wat zijn embeddings?

Een embedding is een wiskundige representatie van tekst (of een ander type data) als een vector, een reeks getallen in een meerdimensionale ruimte. Woorden, zinnen, paragrafen of volledige documenten worden omgezet in vectoren waarbij semantisch gelijkaardige inhoud dicht bij elkaar staat in die ruimte. "Factuur" en "rekening" hebben vectorrepresentaties die dichter bij elkaar liggen dan "factuur" en "fiets".

Dit principe maakt semantisch zoeken mogelijk: in plaats van te zoeken naar exacte woordovereenkomsten, zoek je naar betekenisovereenkomsten. Een zoekopdracht als "hoeveel kost het om een medewerker aan te werven?" vindt een document over "aanwervingskosten en werkgeverslasten" ook al staat die exacte zin er niet in.

Embeddings als fundament van RAG

In RAG-systemen (Retrieval-Augmented Generation) spelen embeddings een centrale rol. Wanneer een kennisbank opgebouwd wordt, wordt elk document of fragment omgezet in een embedding en opgeslagen in een vectordatabase. Wanneer een gebruiker een vraag stelt, wordt ook die vraag in een embedding omgezet, waarna de vectordatabase de meest semantisch relevante fragmenten opzoekt en aan het taalmodel meegeeft als context.

Voor KMO's betekent dit dat een AI-assistent die gekoppeld is aan de interne kennisbank, een vraag over het retourbeleid correct beantwoordt door het meest relevante fragment op te zoeken, ook als de vraag anders geformuleerd is dan de tekst in het beleidsdocument.