Je AI-agent weet alles — en begrijpt niets

“We moeten met mijn ouders meegaan op hun reis naar Ierland” — deze ogenschijnlijk onschuldige verklaring zond rillingen over mijn ruggengraat.

Mijn vrouw en ik reizen veel. We weten wat we leuk vinden. De ouders van mijn vrouw reizen daarentegen zelden verder dan een paar honderd mijl van hun huis en hebben het land samen maar één keer verlaten — voor ons huwelijk.

Om het nog erger te maken, was deze reis een kerstcadeau van mijn schoonvader aan mijn schoonmoeder, zodat ze haar familie kon bezoeken, misschien voor de laatste keer.

Ik kon me deze reis voorstellen in één woord: ramp. Hoe zouden we in vredesnaam onze sterk uiteenlopende ervaringen en verwachtingen kunnen combineren, zodat we een geweldige reis zouden hebben — of tenminste elkaar niet zouden haten aan het einde ervan?

Zoals elke zichzelf respecterende techneut, greep ik naar technologie — specifiek naar AI.

Maar wat ik niet verwachtte, was dat mijn kleine experiment met het vibecoden van een AI-gebaseerde familiereisplanner me bijna alles zou leren over het toepassen van AI binnen enterprise IT.

Hoe meer je AI voedt, hoe dommer het wordt

De meeste enterprise AI-implementaties volgen een voorspelbaar patroon. Organisaties beginnen met het geven van instructies aan een agent en verbinden deze met een informatiebron, of het nu een RAG (Retrieval-Augmented Generation) framework, een bestaande kennisbasis of zelfs een MCP-server is. Vervolgens voegen ze een LLM toe en laten deze zijn gang gaan.

Het probleem is dat LLM’s in hun kern dom zijn. Ze weten niet hoe ze alle informatie die ze tot hun beschikking hebben, moeten prioriteren, dus hebben ze de neiging elk stukje context even zwaar te laten wegen. Een mens moet een laag van curatie toevoegen, om het model te leren wat belangrijk is en wat niet. Zonder curatie, krijg je AI die alles weet en niets begrijpt.

De drie soorten geheugen die ertoe doen

Effectieve enterprise AI-curatie houdt in dat je het meeste haalt uit drie specifieke soorten geheugen.

De eerste is institutioneel geheugen, dat in het begin nogal basaal kan lijken. Wanneer iemand “financiële diensten” zegt, weet de agent dat hij de afdeling Financiële Diensten van het bedrijf bedoelt en niet de hele industrie. Dit wordt blijvende organisatorische kennis gevuld met definities, voorkeuren en conventies die niet vaak veranderen. Naarmate dit uitbreidt naar institutionele kennis over strategische prioriteiten, sleutelinitiatieven en organisatorische dynamiek, wordt het een rijke bron van institutionele context.

Daarna komt de actiegeschiedenis, die zich richt op significante beslissingen, taken en gebeurtenissen. Wanneer een serviceticket wordt ingediend of een systeem wordt geïmplementeerd, herkent de agent die specifieke actie en registreert deze in de actiegeschiedenis. Dit wordt het historische record dat de organisatorische context samenstelt.

Tenslotte is er de korte-termijnconversatiecontext. Denk hierbij aan de moment-tot-moment-interactie met een agent. Het is nuttig in het moment, maar verliest doorgaans snel zijn relevantie.

Samen vormen deze drie soorten geheugen het wegingssysteem dat generieke AI-modellen missen. Nu, wanneer iemand de agent over het bedrijf vertelt, classificeert en prioriteert hij al dat geheugen en curateert de informatie die belangrijk is. Dit vormt de kern van wat AI zou moeten leveren: niet alleen domeingegevens, maar domeinbeoordeling.

Hoe gecureerd geheugen eruitziet op grote schaal

Maar genoeg over het kader, hoe ziet dit er in de praktijk uit? Hier is wat we hebben ontdekt bij het bouwen van deze agenten zelf.

Een veelvoorkomend IT-scenario is het verzenden van een storingsmelding naar een helpdeskagent. Stel dat uw Outlook niet werkt, dus typt u een beschrijving van het probleem en wacht u tot de agent deze beoordeelt en een oplossing suggereert.

Maar met gecureerd geheugen in uw voordeel, kan een beter proces inhouden dat u een screenshot maakt dat de Outlook-fout laat zien en dit uploadt naar de agent. Nu gebruikt de agent (1) institutioneel geheugen om uw werkomgeving te begrijpen; (2) controleert de actiegeschiedenis op gerelateerde incidenten; en (3) past contextuele beoordeling toe voor een specifieke oplossing, niet alleen een algemeen antwoord.

Het resultaat is een intelligente agent die niet hoeft te raden naar het antwoord op basis van een screenshot. De agent onderzoekt nu echt de situatie, bekijkt alle actuele informatie en levert een meer bruikbaar antwoord. De agent kan zelfs uitbreiden naar een netwerk- of zwerm-effect, waarbij hij naar andere gebruikers in het systeem kijkt om te zien of het Outlook-probleem alleen u betreft of een bedrijfsbreed probleem.

Het in context plaatsen van de geschiedenis of het geheugen maakt het verschil. Als u uw geheugen niet effectief curateert, zult u achterblijven bij degenen die dit wel doen. Het is essentieel om een architectuur te hebben die weet hoe deze gegevens door de tijd heen beheerd moeten worden en begrijpt wat behouden moet blijven, wat naar voren moet komen en wat losgelaten kan worden.

Terug naar de reis

Hoe veranderde mijn AI-gebaseerde reisplanner mijn kijk op AI in enterprise IT?

Wat ik bouwde, was een app die fungeerde als onze persoonlijke reisconcierge en begon met het “interviewen” van elke deelnemer. We legden allemaal uit wat voor ons belangrijk was op de reis: wat een must was en wat we konden overslaan. Nog belangrijker, het vroeg ons naar ons “waarom” — waarom was iets voor ons belangrijk, wat betekende het voor ons.

Met behulp van deze informatie, deed het twee dingen. Ten eerste, curateerde het een reisplan dat gebalanceerd was om iets voor iedereen te bieden — we konden allemaal onze verlangens en voorkeuren in het plan zien dat het produceerde.

Maar, natuurlijk, was dit eerste reisplan slechts een concept. Er waren nog veel vragen te beantwoorden.

En dat was het moment waarop de echte magie gebeurde. We vroegen de agent naar een hotel of attractie of rit, en de antwoorden die het gaf, waren verrijkt met de context van onze unieke situatie: “Het zou een lange rit zijn voor de kinderen, maar mijn schoonvader zou het kasteel (en het bijzondere koffiehuis ernaast) geweldig vinden — en dit kon precies de plek zijn waar mijn vrouw die massage kon krijgen.”

Dankzij dit rijke begrip van wat voor ons belangrijk was, kon het ons helpen bij het plannen en verfijnen van onze reis op een manier die volgens mij anders niet mogelijk zou zijn geweest.

En het was in een van die eerste momenten dat ik begreep wat we moesten bouwen voor onze enterprise-klanten: intelligente systemen die zo beladen waren met organisatorische, transactie- en persoonlijke context dat elk antwoord en elke interactie zou zijn als een vingerafdruk: volledig uniek voor dat moment en die interactie, en zo een soort waarde zou bieden die op geen enkele andere manier tot stand kon komen.