Wat is RAG (Retrieval Augmented Generation)?

Definitie: RAG (Retrieval Augmented Generation) is een techniek waarbij een taalmodel eerst relevante informatie opzoekt in een eigen kennisbron en pas daarna een antwoord schrijft. Zo baseert een AI-assistent zijn antwoord op jouw actuele documenten in plaats van alleen op wat het model tijdens zijn training heeft geleerd.

In het kort

• RAG staat voor Retrieval Augmented Generation: genereren, versterkt door ophalen.
• De techniek werd in 2020 beschreven door Patrick Lewis en collega’s van Facebook AI Research (nu Meta).
• RAG vermindert verzonnen antwoorden en maakt bronvermelding mogelijk.
• Het is de gangbare basis voor een chatbot op eigen documenten.

Wat betekent RAG?

Retrieval Augmented Generation betekent letterlijk: tekst genereren die versterkt wordt door informatie op te halen. Een groot taalmodel (LLM) zoals GPT of Claude weet veel, maar niet wat er in jouw handleidingen, offertes of interne procedures staat. Ook kent het geen informatie van na zijn trainingsdatum.

RAG lost dat op door het model vlak voor het antwoord de juiste passages mee te geven. Het model schrijft dan op basis van die passages, als een medewerker die eerst het dossier erbij pakt.

Waar komt RAG vandaan?

De term komt uit het onderzoeksartikel “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks” van Patrick Lewis en collega’s bij Facebook AI Research, gepresenteerd op de NeurIPS-conferentie in 2020. Zij combineerden een taalmodel met een doorzoekbare index van Wikipedia. Sinds de opkomst van ChatGPT is RAG uitgegroeid tot de standaardaanpak om AI te laten werken met bedrijfskennis.

Hoe werkt RAG?

Een RAG-systeem heeft twee fases: eerst de kennis voorbereiden, daarna bij elke vraag ophalen en antwoorden.

1. Documenten opdelen. Handleidingen, PDF’s en webpagina’s worden in kleine stukken geknipt, zogenoemde chunks.
2. Embeddings maken. Elk stuk wordt omgezet in een reeks getallen die de betekenis vastlegt.
3. Opslaan in een vectordatabase. Daarin kun je zoeken op betekenis in plaats van op exacte woorden.
4. Ophalen bij een vraag. De vraag van de gebruiker wordt ook een embedding, en het systeem zoekt de best passende stukken.
5. Antwoord genereren. Het taalmodel krijgt de vraag plus die stukken en schrijft een antwoord, idealiter met bronverwijzing.

RAG of fine-tuning?

Naast RAG kun je een model ook bijtrainen op eigen data, dat heet fine-tuning. Ze lossen verschillende problemen op.

Voor de meeste zakelijke toepassingen is RAG de logische eerste keuze.

Waar wordt RAG voor gebruikt?

RAG is nuttig overal waar mensen steeds opnieuw antwoorden zoeken in dezelfde verzameling documenten:

• Klantenservice: een chatbot die vragen beantwoordt op basis van handleidingen, voorwaarden en de FAQ.
• Interne kennisbank: medewerkers vragen naar procedures, beleid of eerdere projecten.
• Sales en offertes: productinformatie en technische specificaties snel terugvinden.
• Juridisch en compliance: passages uit contracten of regelgeving opzoeken, met verwijzing naar de bron.

Waar let je op bij RAG?

Een RAG-systeem mag alleen tonen wat de gebruiker ook zelf mag inzien. Neem de bestaande rechten op documenten dus mee in de zoekstap. Verwerk je persoonsgegevens, dan gelden de AVG-regels en heb je een verwerkersovereenkomst nodig met de partij die het taalmodel levert. Kies waar mogelijk een aanbieder die zakelijke data niet gebruikt voor training en die opslag in Europa aanbiedt.

Wat bepaalt of RAG goed werkt?

Een RAG-systeem is zo goed als de kennis die erin zit. Verouderde of tegenstrijdige documenten leveren verouderde of tegenstrijdige antwoorden op. Daarnaast tellen de grootte van de stukken, de zoekkwaliteit en een duidelijke instructie om alleen op de gevonden bronnen te antwoorden. Test een systeem met echte vragen van gebruikers voordat je het breed inzet.

Wat betekent dit voor jouw project?

Wil je AI laten antwoorden op basis van je eigen kennis, dan begint het voor mij niet bij het model maar bij de bron. Welke informatie is betrouwbaar, wie houdt die bij en welke beoordeling blijft bij een mens?

Bij Contentooo zie ik hetzelfde principe terug. Daar bouwt de conceptgeneratie voort op wat eerder in de intake en het klantprofiel is vastgelegd, en daarna volgen controle, vrijgave en akkoord. Goede invoer bepaalt wat een volgende stap kan opleveren.

Wil je AI laten werken met de kennis van je eigen bedrijf? Stuur me welke informatie je team steeds opnieuw opzoekt en wie die vragen stelt. Dan bepalen we samen de logische eerste stap.

Veelgestelde vragen over RAG

Wat is RAG in AI?

RAG is een techniek waarbij een AI-model eerst relevante informatie opzoekt in een eigen kennisbron, zoals bedrijfsdocumenten, en die gebruikt om een antwoord te schrijven. Het model antwoordt daardoor op basis van actuele en controleerbare informatie.

Wat is een RAG-chatbot?

Een RAG-chatbot is een chatbot die antwoorden baseert op opgehaalde passages uit jouw documenten, zoals handleidingen of FAQ’s. Hij kan aangeven uit welke bron een antwoord komt en blijft actueel als je de documenten bijwerkt.

Voorkomt RAG hallucinaties?

RAG vermindert verzonnen antwoorden sterk, maar sluit ze niet volledig uit. De kwaliteit hangt af van de documenten, de zoekstap en de instructie aan het model om alleen op de gevonden bronnen te antwoorden.

Verwante termen

Large Language Model (LLM) · Embeddings · Vectordatabase · Fine-tuning · AI-hallucinatie · Chatbot op eigen data