Agentic RAG: van kennis ontsluiten naar taken uitvoeren

Veel organisaties gebruiken generatieve AI inmiddels voor algemene taken: een mail opstellen, iets opzoeken, een tekst samenvatten. Veel minder organisaties krijgen AI aan het werk binnen hún bedrijfsprocessen – met hún data en hún kennis. En dat is nou net waar het interessant wordt, want daar haal je als bedrijf de meeste waarde uit, maar heb je wel een systeem voor nodig waar medewerkers en klanten dagelijks op durven te vertrouwen. Hiervoor heb je geordende data, autorisatie, monitoring en evaluatie nodig. Met een pilot die niet opschaalt kom je er dan niet.

Retrieval-Augmented Generation is daarvoor de sleuteltechnologie. In een eerder artikel legden we uit hoe RAG werkt en waarom een Oracle-database daar een logische plek voor is. Dit stuk gaat over de stap daarna: wat er gebeurt als je een AI-agent om die RAG-opzet heen bouwt.

Wat is agentic RAG?

Agentic RAG is een RAG-opzet waarin een AI-agent zelf bepaalt hoe een vraag wordt beantwoord: hij plant de stappen, kiest welke bronnen hij raadpleegt, beoordeelt of het gevonden antwoord goed genoeg is en zoekt zo nodig opnieuw, voordat hij antwoord geeft. Klassieke RAG doet één zoekactie per vraag, agentic RAG mag er meerdere doen en kan ook zelf tussendoor bijsturen.

Een klassieke RAG-opzet is in de kern een eenmalige actie: één vraag, één zoekactie, één antwoord. Dat werkt uitstekend voor gerichte kennisvragen. Maar het loopt tegen grenzen aan zodra een vraagstuk meerdere stappen vraagt, informatie uit verschillende systemen nodig heeft, of een stukje eigen beoordeling vereist.

Vergelijk het zo. Klassieke RAG is één keer een naslagwerk openslaan. Agentic RAG is een assistent die zelf bepaalt welke boeken hij pakt, checkt of het klopt wat hij vindt, en pas daarna met een onderbouwd antwoord komt. Desnoods na een paar tussenstappen.

Wat een agent kan wat een chatbot niet kan

Voor organisaties is dit een grotere stap dan hij op het eerste gezicht lijkt. Een chatbot beantwoordt vragen over documenten. Een agent neemt zelf beslissingen over wat er moet gebeuren en voert dat ook uit.

Denk aan:

• Een schademelding beoordelen én zelf bepalen of hij genoeg weet om dat te doen. Is de melding eenvoudig en duidelijk gedekt, dan stelt hij zelf een besluit voor. Ontbreekt cruciale informatie, dan vraagt hij daar gericht naar, in plaats van te gokken. Is het bedrag hoog of de situatie twijfelachtig, dan routeert hij de melding door naar een medewerker. Steeds is het de agent zelf die bepaalt welke van deze drie routes past.
• Een offerte samenstellen waarbij de agent zelf beslist welke systemen hij nodig heeft. Hij start bij de klantgegevens en afhankelijk van wat hij daar aantreft, een lopend contract of een speciale afspraak, besluit hij zelf of hij ook het prijzensysteem of de contracthistorie moet raadplegen. Geen vaste route die altijd hetzelfde rijtje systemen afloopt, maar een keuze die per klant kan verschillen.
• Een routinematige, ondubbelzinnige aanvraag zelf afronden, inclusief het vastleggen van het besluit in het systeem, niet alleen een advies opstellen dat een medewerker nog moet natrekken. Alleen de twijfelgevallen legt hij voor.

Vergelijk dat met ‘een conceptadvies opstellen dat een medewerker alleen nog hoeft na te lopen’. Dat kan een chatbot met RAG al. Daar wordt niets zelf besloten of uitgevoerd, alleen tekst gegenereerd op basis van wat is opgehaald. Het verschil met een agent zit ’m dus niet in hoeveel bronnen er worden geraadpleegd of hoe knap het antwoord klinkt, maar in de vraag of het systeem zelf bepaalt wat de volgende stap is: welke bron nodig is, of er genoeg informatie is en of er een actie volgt in plaats van alleen een tekst.

Hier ontstaat wel een verschil dat je vooraf moet kennen. Voor het beantwoorden van vragen heb je je bestaande applicaties niet per se nodig: je leest alleen en die data is meestal goed bereikbaar, vaak zonder dat je iets aan de bestaande software hoeft te veranderen.

Bij het uitvoeren van taken ligt het anders. Dan moet de agent ook de regels kennen die bepalen wat er mag gebeuren: wie iets mag goedkeuren, welke controles verplicht zijn en in welke volgorde stappen moeten gebeuren. Een deel van die regels ligt vast in de techniek onder de motorkap en daar kan een agent bij. Maar bij oudere systemen zit een groot deel van die regels verstopt in de schermen zelf, in de manier waarop de applicatie is gebouwd, niet in de data erachter. Buiten die schermen om bestaat die kennis dan simpelweg niet. Het gevolg: de agent kan dan wel lezen, maar niet zelf handelen.

Dat is geen reden om te wachten. De basis, de kennis die de agent nodig heeft om vragen goed te beantwoorden, kun je nu al opbouwen. Blijkt later dat je ook taken wilt laten uitvoeren, dan weet je precies waar de grens ligt en wat nodig is om die te verleggen. Vaak kan het nuttig zijn om de onderliggende verouderde applicatie dan te vervangen of te moderniseren. Dit proces, ook wel ‘replatformen’ genoemd, biedt Transfer Solutions ook aan en gebeurt met behulp van onze nieuw ontwikkelde AI Factory.

In alle gevallen geldt: het antwoord komt zelden uit één bron, maar is een samenstelling van meerdere. De agent moet dus kunnen bepalen welke bron voor welk deel dient én weten wanneer hij genoeg weet om een betrouwbaar antwoord te geven of een actie te starten.

De valkuil: een agent is niet kieskeurig

Hoe autonomer het systeem, hoe zwaarder het leunt op wat eronder ligt. Een model kiest niet vanzelf de juiste versie van een document. Het haalt net zo makkelijk een verouderde polisvoorwaarde op als de meest recente, tenzij je je datafundament goed hebt ingericht. En omdat het uiteindelijk nog steeds een taalmodel is dat de tekst schrijft, blijft er een risico op hallucinaties. Kleiner dan bij een kaal taalmodel, maar niet nul.

Bij agentic RAG telt dat zwaarder dan bij een gewone kennisbot. Een fout in stap één werkt door in alle vervolgstappen, en de gebruiker ziet alleen het eindresultaat. Daarom horen bronvermelding en een herleidbaar spoor van de genomen stappen wat ons betreft standaard in zo’n systeem te zitten. Daarnaast verandert er na de oplevering steeds iets: brondocumenten worden bijgewerkt, modellen vervangen, vragen verschuiven. Daarom bouwen we altijd een monitoringstap in, die de kwaliteit blijft meten en afwijkingen signaleert.

Wij behandelen een RAG-traject dan ook nooit als AI-project, maar als datavraagstuk. Welke bronnen zijn betrouwbaar en actueel? Hoe is de data gestructureerd? Wie stelt de vraag, en welke documenten mag die persoon in dat geval terugkrijgen? En hoe borg je governance en compliance, zeker als er persoonsgegevens in het spel zijn of als je in een gereguleerde sector zit?

Waarom het dataplatform eronder het verschil maakt

Transfer Solutions is al jaren de grootste onafhankelijke Oracle-specialist van Nederland, met daarnaast een sterke Microsoft-samenwerking. We kennen de databases, platformen en data-architecturen van onze klanten door en door, of het nu gaat om Oracle 23ai en 26ai of om Azure Document Intelligence en semantic chunking.

Dat is precies waar agentic RAG staat of valt: op de kwaliteit van de data eronder, niet op de AI erboven. We bouwen geen los AI-laagje bovenop een bestaand landschap.

Dit zien we dagelijks terug. Bij een klantenservice, waar antwoorden direct en correct moeten zijn op basis van actuele productinformatie. Bij interne kennisbanken, waar nieuwe medewerkers sneller wegwijs raken. Bij verkoopondersteuning op basis van actuele catalogi. En bij compliance- en juridische vraagstukken, waar herleidbaarheid naar de bron cruciaal is.

Zo pakken we een traject aan

Klein beginnen, snel iets werkends laten zien, pas daarna opschalen. Concreet:

• Fase 1, Proof of Value. Binnen twee weken een eerste werkende functionaliteit, op basis van je eigen data en actuele embeddingmodellen
• Fase 2, Ontwikkeling. Iteratief uitbreiden naar volledige functionaliteit, in korte sprints met tussentijdse toetsing
• Fase 3, Implementatie. Integratie in bestaande systemen, uitrol naar vestigingen of afdelingen, inclusief training en begeleiding
• Fase 4, Beheer. Doorlopende kwaliteitscontroles en een meetbaar resultaat op conversie of advieskwaliteit. Geen vage belofte, maar een afgesproken metric

Geen hype, wel resultaat

RAG is niet nieuw meer, de eerste onderzoekspublicaties dateren uit 2020. Het is inmiddels volwassen genoeg om productiewaardig te zijn, mits de datafundamenten kloppen. Agentic RAG is daar de logische volgende stap op: van kennis ontsluiten naar taken uitvoeren.

Wij geloven niet in AI die los van je organisatie staat, maar in AI die eromheen gebouwd is. Vertrekkend vanuit je eigen kennis en processen, met bewijs in plaats van beloftes.

Wil je weten wat agentic RAG voor jouw organisatie kan betekenen? In een sessie van een uur kijken we samen waar het bij jullie het snelst concrete waarde oplevert. Neem dan contact met ons op door het formulier op deze pagina in te vullen.

Verder lezen: Oracle AI vector search, Microsoft over RAG in Azure.