Nauwkeurige antwoorden
Antwoorden zijn gebaseerd op uw eigen bronnen, niet op de algemene training van het model. Minder hallucinaties, meer antwoorden waar u echt wat aan heeft.
Gids
RAG is de technologie die een taalmodel in staat stelt vragen te beantwoorden op basis van uw eigen documenten, met bronvermeldingen die u kunt verifiëren. Zo werkt het, en zo gebruikt PrivateGPT het in uw eigen Azure-omgeving.
Wat is RAG?
Retrieval-Augmented Generation (RAG) is een architectuur die twee stappen combineert: het relevante materiaal vinden in uw eigen bronnen, en een antwoord genereren dat op dat materiaal is gebaseerd.
In plaats van dat een taalmodel alleen antwoordt op basis van waar het op getraind is, krijgt het de meest relevante fragmenten uit uw documenten, websites of SharePoint gepresenteerd — en genereert daarmee een antwoord. Het model ziet dus nooit uw hele kennisbasis, alleen wat het voor deze specifieke vraag nodig heeft.
Dat is de reden waarom RAG nauwkeurig blijft op schaal, werkt op grote documentcollecties, en waarom PrivateGPTs RAG in uw eigen Azure-omgeving onder uw controle kan draaien.
Hoe het werkt
Uw documenten worden opgesplitst in kleinere delen (chunks) en omgezet in embeddings — wiskundige vectoren die betekenis representeren. Ze worden opgeslagen in een zoek- of vector-index samen met metadata die voor filtering gebruikt kan worden — bijv. bron, documentbibliotheek, workspace, assistant-scope en toegang-gerelateerde attributen.
Wanneer een gebruiker een vraag stelt, wordt die omgezet naar hetzelfde vector-formaat. Het systeem vindt de meest relevante fragmenten — semantische match, niet alleen op keywords — gefilterd op basis van het scope en de rechten die de gebruiker en assistent hebben.
Een tweede model beoordeelt de kandidaten opnieuw en herordent ze op werkelijke relevantie voor de vraag, niet alleen op vector-gelijkenis. Hier verschilt moderne RAG van eerdere generaties.
Het taalmodel krijgt de vraag plus de best gerangschikte fragmenten als context en genereert een antwoord dat op dat materiaal is gebaseerd — met bronvermeldingen naar de documenten.
Voordelen
Antwoorden zijn gebaseerd op uw eigen bronnen, niet op de algemene training van het model. Minder hallucinaties, meer antwoorden waar u echt wat aan heeft.
Elk antwoord verwijst naar het materiaal waarop het is gebaseerd. De gebruiker kan het direct verifiëren.
Nieuwe kennis kan gebruikt worden zodra het document geïndexeerd is. Het vereist geen hertraining van het model, maar hangt af van de gekozen sync- en indexeringsfrequentie.
In PrivateGPT draait RAG in uw eigen Azure-omgeving. Documenten, index en toegangsbeheer blijven onder uw controle, en documenten worden niet gebruikt voor modeltraining — alleen de context die per antwoord nodig is.
Filtering op rechten gebeurt voordat het materiaal het model bereikt. De gebruiker ziet alleen waar hij al toegang toe heeft.
RAG maakt het mogelijk om met grote documentbibliotheken te werken, omdat het systeem alleen de meest relevante fragmenten per vraag ophaalt. De feitelijke schaal hangt af van architectuur, databronnen, indexering en beheer.
Moderne RAG
Het basisprincipe is nog steeds retrieval + generation. Maar de techniek is aanzienlijk geëvolueerd — waar RAG in 2023 voornamelijk ging over het vinden van tekstfragmenten die op de vraag leken, doet moderne RAG veel meer om het juiste antwoord te vinden.
Combinatie van semantisch vector-zoeken en klassiek keyword-zoeken (BM25). Semantiek begrijpt wat de gebruiker bedoelt, keywords vangen namen, codes en exacte terminologie. Samen presteren ze beter dan elke methode afzonderlijk.
Een cross-encoder-model herrangschikt kandidaten op werkelijke relevantie, niet alleen op vector-gelijkenis. Vangt nuances die semantisch zoeken mist.
De vraag van de gebruiker wordt vóór retrieval geherformuleerd — uitgebreid met synoniemen, opgesplitst in subvragen, of aangevuld met context uit de gesprekshistorie. Betere input geeft betere resultaten.
Filtering gebeurt voordat materiaal aan het model wordt aangeboden, niet in het antwoord. Data die de gebruiker niet mag zien, bereikt het taalmodel nooit.
Moderne RAG levert niet alleen een antwoord, maar ook welke fragmenten aan elke uitspraak ten grondslag liggen. De gebruiker kan de bron in één klik volgen.
Complexe vragen worden niet in één retrieval-call beantwoord. Het systeem haalt op, redeneert, haalt opnieuw op — tot het het benodigde materiaal heeft.
Wanneer past RAG?
RAG in PrivateGPT
PrivateGPT is opgebouwd rond RAG als een van de kern-platformfuncties. Het is beschikbaar voor eindgebruikers en als basis voor uw eigen assistenten.
PrivateGPT kan zowel Azure AI Search als Qdrant gebruiken als zoek- en vectorlaag, afhankelijk van uw setup. Ongeacht de zoeklaag verzorgt PrivateGPT de RAG-pipeline zelf: documentinname, chunking, embeddings, retrieval, filtering, bronbeheer, assistant-scope en toegangsbeheer.
Een HR-assistent kan bijvoorbeeld gekoppeld zijn aan HR-beleid en onboardingmateriaal, terwijl een juridische assistent werkt met contractsjablonen en compliance-documenten.
Klaar om het in de praktijk te zien?
Boek een demo — we vertrekken vanuit een paar van uw echte documenten en laten zien hoe RAG uw eigen vragen beantwoordt, met bronvermeldingen, toegangsbeheer en alles wat erbij hoort.