PrivateGPT

Gids

RAG — Retrieval-Augmented Generation

RAG is de technologie die een taalmodel in staat stelt vragen te beantwoorden op basis van uw eigen documenten, met bronvermeldingen die u kunt verifiëren. Zo werkt het, en zo gebruikt PrivateGPT het in uw eigen Azure-omgeving.

Wat is RAG?

AI die antwoordt op basis van uw eigen data — niet alleen op wat het model getraind heeft

Retrieval-Augmented Generation (RAG) is een architectuur die twee stappen combineert: het relevante materiaal vinden in uw eigen bronnen, en een antwoord genereren dat op dat materiaal is gebaseerd.

In plaats van dat een taalmodel alleen antwoordt op basis van waar het op getraind is, krijgt het de meest relevante fragmenten uit uw documenten, websites of SharePoint gepresenteerd — en genereert daarmee een antwoord. Het model ziet dus nooit uw hele kennisbasis, alleen wat het voor deze specifieke vraag nodig heeft.

Dat is de reden waarom RAG nauwkeurig blijft op schaal, werkt op grote documentcollecties, en waarom PrivateGPTs RAG in uw eigen Azure-omgeving onder uw controle kan draaien.

Hoe het werkt

Vier stappen van vraag naar antwoord

  1. Indexering

    Uw documenten worden opgesplitst in kleinere delen (chunks) en omgezet in embeddings — wiskundige vectoren die betekenis representeren. Ze worden opgeslagen in een zoek- of vector-index samen met metadata die voor filtering gebruikt kan worden — bijv. bron, documentbibliotheek, workspace, assistant-scope en toegang-gerelateerde attributen.

  2. Retrieval

    Wanneer een gebruiker een vraag stelt, wordt die omgezet naar hetzelfde vector-formaat. Het systeem vindt de meest relevante fragmenten — semantische match, niet alleen op keywords — gefilterd op basis van het scope en de rechten die de gebruiker en assistent hebben.

  3. Reranking

    Een tweede model beoordeelt de kandidaten opnieuw en herordent ze op werkelijke relevantie voor de vraag, niet alleen op vector-gelijkenis. Hier verschilt moderne RAG van eerdere generaties.

  4. Generation

    Het taalmodel krijgt de vraag plus de best gerangschikte fragmenten als context en genereert een antwoord dat op dat materiaal is gebaseerd — met bronvermeldingen naar de documenten.

Voordelen

Waarom organisaties RAG gebruiken

Nauwkeurige antwoorden

Antwoorden zijn gebaseerd op uw eigen bronnen, niet op de algemene training van het model. Minder hallucinaties, meer antwoorden waar u echt wat aan heeft.

Bronvermeldingen

Elk antwoord verwijst naar het materiaal waarop het is gebaseerd. De gebruiker kan het direct verifiëren.

Bijgewerkt zonder hertraining

Nieuwe kennis kan gebruikt worden zodra het document geïndexeerd is. Het vereist geen hertraining van het model, maar hangt af van de gekozen sync- en indexeringsfrequentie.

Data blijft bij u

In PrivateGPT draait RAG in uw eigen Azure-omgeving. Documenten, index en toegangsbeheer blijven onder uw controle, en documenten worden niet gebruikt voor modeltraining — alleen de context die per antwoord nodig is.

Respecteert toegangsrechten

Filtering op rechten gebeurt voordat het materiaal het model bereikt. De gebruiker ziet alleen waar hij al toegang toe heeft.

Schaalt mee met uw data

RAG maakt het mogelijk om met grote documentbibliotheken te werken, omdat het systeem alleen de meest relevante fragmenten per vraag ophaalt. De feitelijke schaal hangt af van architectuur, databronnen, indexering en beheer.

Moderne RAG

Wat er de afgelopen jaren is bijgekomen

Het basisprincipe is nog steeds retrieval + generation. Maar de techniek is aanzienlijk geëvolueerd — waar RAG in 2023 voornamelijk ging over het vinden van tekstfragmenten die op de vraag leken, doet moderne RAG veel meer om het juiste antwoord te vinden.

Hybride zoeken

Combinatie van semantisch vector-zoeken en klassiek keyword-zoeken (BM25). Semantiek begrijpt wat de gebruiker bedoelt, keywords vangen namen, codes en exacte terminologie. Samen presteren ze beter dan elke methode afzonderlijk.

Reranking

Een cross-encoder-model herrangschikt kandidaten op werkelijke relevantie, niet alleen op vector-gelijkenis. Vangt nuances die semantisch zoeken mist.

Query-herformulering

De vraag van de gebruiker wordt vóór retrieval geherformuleerd — uitgebreid met synoniemen, opgesplitst in subvragen, of aangevuld met context uit de gesprekshistorie. Betere input geeft betere resultaten.

Toegangsfiltering bij retrieval

Filtering gebeurt voordat materiaal aan het model wordt aangeboden, niet in het antwoord. Data die de gebruiker niet mag zien, bereikt het taalmodel nooit.

Grounded antwoorden met citations

Moderne RAG levert niet alleen een antwoord, maar ook welke fragmenten aan elke uitspraak ten grondslag liggen. De gebruiker kan de bron in één klik volgen.

Agentic / multi-hop

Complexe vragen worden niet in één retrieval-call beantwoord. Het systeem haalt op, redeneert, haalt opnieuw op — tot het het benodigde materiaal heeft.

Wanneer past RAG?

RAG is krachtig, maar niet het antwoord op alles

RAG past vooral bij

  • Kennisintensieve taken waar het antwoord in uw documenten te vinden is
  • Domeinen met kennis die continu verandert — nieuw beleid, contracten, versies
  • Situaties waar bronvermeldingen noodzakelijk zijn (compliance, juridisch, audit)
  • Omgevingen met gedifferentieerde toegangsrechten
  • Chatbots, zoeken en interne kennisdeling over afdelingen heen

Overweeg alternatieven wanneer

  • Kennis in realtime verandert — dan moet het systeem direct integreren met het bronsysteem, niet alleen met een geïndexeerde kopie
  • Antwoorden 100% deterministisch moeten zijn — dan past een regel-engine beter dan een taalmodel
  • De taak echte domeinexpertise vereist die verder gaat dan wat uw documenten dekken — fine-tuning kan een overweging zijn (vaker als aanvulling op RAG dan als vervanging)

RAG in PrivateGPT

Zo gebruikt het platform het

PrivateGPT is opgebouwd rond RAG als een van de kern-platformfuncties. Het is beschikbaar voor eindgebruikers en als basis voor uw eigen assistenten.

PrivateGPT kan zowel Azure AI Search als Qdrant gebruiken als zoek- en vectorlaag, afhankelijk van uw setup. Ongeacht de zoeklaag verzorgt PrivateGPT de RAG-pipeline zelf: documentinname, chunking, embeddings, retrieval, filtering, bronbeheer, assistant-scope en toegangsbeheer.

Een HR-assistent kan bijvoorbeeld gekoppeld zijn aan HR-beleid en onboardingmateriaal, terwijl een juridische assistent werkt met contractsjablonen en compliance-documenten.

  • Semantisch zoeken in SharePoint, geüploade bestanden, websites en interne kennisbronnen
  • Ondersteuning voor zowel Azure AI Search als Qdrant als zoek-/vectorlaag
  • Indexering van grote SharePoint-documentbibliotheken of geselecteerde mappen, sites en gefilterde delen van de inhoud
  • Hybride zoeken met semantiek en keyword/BM25, waar relevant
  • Reranking beschikbaar in relevante workflows
  • Filtering op basis van gebruiker, assistent, workspace en databron
  • Bronvermeldingen op RAG-gebaseerde antwoorden, waar bronnen beschikbaar zijn
  • Assistenten kunnen specifieke RAG-bronnen en scopes toegewezen krijgen
  • De index kan automatisch of gepland bijgewerkt worden, afhankelijk van de databron en configuratie

Klaar om het in de praktijk te zien?

In 30 minuten laten we RAG zien op uw eigen documenten

Boek een demo — we vertrekken vanuit een paar van uw echte documenten en laten zien hoe RAG uw eigen vragen beantwoordt, met bronvermeldingen, toegangsbeheer en alles wat erbij hoort.