Uw AI-agent weet alles – en begrijpt niets

“We moeten met mijn ouders meegaan op hun reis naar Ierland” — deze ogenschijnlijk onschuldige verklaring zond rillingen over mijn ruggengraat.

Mijn vrouw en ik reizen uitgebreid. We weten wat we leuk vinden. De ouders van mijn vrouw reizen daarentegen zelden verder dan een paar honderd mijl van hun huis en hebben het land samen maar één keer verlaten — voor ons huwelijk.

Om het nog erger te maken, was deze reis een kerstcadeau van mijn schoonvader aan mijn schoonmoeder, zodat ze haar familie kon bezoeken, misschien voor de laatste keer.

Ik kon me deze reis voorstellen in één woord: ramp. Hoe zouden we in vredesnaam onze wilde verschillen in ervaringen en verwachtingen kunnen combineren, zodat we een geweldige reis zouden hebben — of tenminste elkaar niet zouden haten aan het einde ervan?

Als elk zelfrespecterend techneut, greep ik naar technologie — specifiek naar AI.

Maar wat ik niet verwachtte, was dat mijn kleine experiment met het ontwikkelen van een AI-gebaseerde familiereisplanner me bijna alles zou leren over het toepassen van AI binnen enterprise IT.

Hoe meer je AI voedt, hoe dommer het wordt

De meeste enterprise AI-implementaties volgen een voorspelbaar patroon. Organisaties beginnen met het geven van instructies aan een agent en verbinden deze met een informatiebron, of het nu een RAG (Retrieval-Augmented Generation) framework, een bestaande kennisbasis of zelfs een MCP-server is. Vervolgens voegen ze een LLM toe en laten deze zijn gang gaan.

Het probleem is dat LLM’s in hun kern dom zijn. Ze weten niet hoe ze alle informatie die ze tot hun beschikking hebben, moeten prioriteren, dus ze behandelen elke contextuele informatie gelijk. Een mens moet een laag van curatie toevoegen, om de model te leren wat belangrijk is en wat niet. Zonder curatie, krijg je AI die alles weet en niets begrijpt.

De drie soorten geheugen die ertoe doen

Effectieve enterprise AI-curatie houdt in dat je het meeste haalt uit drie specifieke soorten geheugen.

De eerste is institutioneel geheugen, dat in het begin nogal basaal kan lijken. Wanneer iemand “financiële diensten” zegt, weet de agent dat hij de financiële diensten van het bedrijf bedoelt en niet de hele industrie. Dit wordt persistent organisatorisch kennis gevuld met definities, voorkeuren en conventies die niet vaak veranderen. Naarmate dit uitbreidt naar institutionele kennis over strategische prioriteiten, sleutelinitiatieven en organisatorische dynamiek, wordt het een rijke bron van institutioneel context.

Volgend is actiegeschiedenis, dat zich richt op significante beslissingen, taken en gebeurtenissen. Wanneer een serviceticket wordt ingediend of een systeem wordt geïmplementeerd, herkent de agent die specifieke actie en registreert deze in de actiegeschiedenis. Dit wordt het historische record dat de organisatorische context samenstelt.

Tenslotte is er de korte-termijnconversatiecontext. Denk hierbij aan de moment-tot-moment-interactie met een agent. Het is nuttig in het moment, maar verliest snel zijn relevantie.

Samen vormen deze drie soorten geheugen het weegsysteem dat generieke AI-modellen missen. Nu, wanneer iemand de agent over het bedrijf vertelt, classificeert en prioriteert hij al dat geheugen en curateert de informatie die belangrijk is. Dit vormt de kern van wat AI zou moeten leveren: niet alleen domeingegevens, maar domeinbeoordeling.

Hoe gecureerd geheugen eruitziet op grote schaal

Maar genoeg over het kader, hoe ziet dit er in de praktijk uit? Hier is wat we hebben ontdekt bij het bouwen van deze agenten zelf.

Een veelvoorkomend IT-scenario is het verzenden van een storingsmelding naar een helpdeskagent. Stel dat uw Outlook niet werkt, dus typt u een beschrijving van het probleem en wacht u tot de agent deze beoordeelt en een oplossing suggereert.

Maar met gecureerd geheugen in uw voordeel, kan een beter proces inhouden dat u een screenshot maakt die de Outlook-fout laat zien en deze uploadt naar de agent. Nu trekt de agent (1) institutioneel geheugen aan om uw werkomgeving te begrijpen; (2) controleert de actiegeschiedenis op gerelateerde incidenten; en (3) past contextuele beoordeling toe voor een specifieke oplossing, niet alleen een generische antwoord.

Het resultaat is een intelligente agent die niet hoeft te raden naar het antwoord op basis van een screenshot. Het is nu daadwerkelijk ondervragend, kijkt naar alle informatie die op dit moment loopt en levert een meer bruikbaar antwoord. De agent kan zelfs uitbreiden naar een netwerk- of zwerm-effect, waarbij hij naar andere gebruikers in het systeem kijkt om te zien of het Outlook-probleem alleen voor u is of een bedrijfsbreed probleem.

De contextualisatie van de geschiedenis of het geheugen is het verschil. Als u uw geheugen niet effectief curateert, zult u achterblijven bij degenen die dit wel doen. Het is essentieel om een architectuur te hebben die weet hoe hij deze gegevens over tijd moet beheren en begrijpt wat hij moet bewaren, wat hij moet laten zien en wat hij moet loslaten.

Terug naar de reis

Hoe veranderde mijn AI-gebaseerde reisplanner mijn kijk op AI in enterprise IT?

Wat ik bouwde, was een app die fungeerde als onze persoonlijke reisconcierge en begon met het “onddervragen” van elke deelnemer. We legden allemaal uit wat voor ons belangrijk was op de reis: wat een must was en wat we konden overslaan. Nog belangrijker, het vroeg ons naar onze “waarom” — waarom was iets voor ons belangrijk, wat betekende het voor ons.

Met behulp van deze informatie, deed het twee dingen. Ten eerste, curateerde het een reisplan dat gebalanceerd was om iets voor iedereen te bieden — we konden allemaal onze verlangens en voorkeuren in het plan zien dat het produceerde.

Maar, natuurlijk, was dit eerste reisplan slechts een concept. Er waren nog veel vragen te beantwoorden.

En dat was het moment waarop de echte magie gebeurde. We vroegen de agent naar een hotel of attractie of rit, en de antwoorden die het gaf, waren verrijkt met de context van onze unieke situatie: “Het zou een lange rit zijn voor de kinderen, maar mijn schoonvader zou de kasteel (en het unieke koffiehuis ernaast) lief vinden — en dit kon precies de plek zijn waar mijn vrouw die massage kon krijgen.”

Volle van dit rijke begrip van wat voor ons belangrijk was, kon het ons helpen bij het plannen en verfijnen van onze reis op een manier die ik niet denk dat mogelijk zou zijn geweest op een andere manier.

En het was in een van die eerste momenten dat ik begreep wat we moesten bouwen voor onze enterprise-klanten: intelligente systemen die zo beladen waren met organisatorische, transactie- en persoonlijke context dat elk antwoord en elke interactie zou zijn als een vingerafdruk: volledig uniek voor dat moment en interactie, en zou leveren een soort waarde die op geen andere manier kon gebeuren.