Waarom betere data alleen niet genoeg is voor AI-agenten

Jarenlang was een van de meestgehoorde adviezen voor AI in bedrijven: zorg eerst dat de data op orde is. De redenering is eenvoudig: als een systeem nuttige beslissingen moet nemen, heeft het nauwkeurige, toegankelijke informatie nodig.

Die uitspraak is nog steeds waar, maar wordt steeds minder volledig nu AI-agenten niet alleen vragen beantwoorden en content genereren, maar ook namens werknemers en organisaties actie ondernemen. Data kan een agent vertellen wat er waar is over een klant, transactie, claim of verzoek, maar vertelt hem niet per se wat er vervolgens moet gebeuren, noch wat de gevolgen van een actie zouden zijn. Dat onderscheid is van belang wanneer een agent niet langer alleen een antwoord geeft, maar een verzoek goedkeurt, een dossier bijwerkt, contact opneemt met een klant of een zaak verder afhandelt.

Van werknemers in bedrijven wordt verwacht dat ze leren werken binnen een structuur met goedkeuringsketens, bedrijfsregels, afhankelijkheden, uitzonderingen en escalatieroutes; agenten moeten dat ook kunnen. De kennislacunes van agenten worden alleen maar moeilijker te negeren nu de voorspelling van Gartner luidt dat tegen eind 2026 40% van de bedrijfsapplicaties taakspecifieke AI-agenten zal bevatten, tegenover minder dan 5% in 2025. 

Gartner voorspelt ook dat tegen 2028 80% van het tastbare rendement op investeringen (ROI) uit agentische AI afkomstig zal zijn van gespecialiseerde agenten voor specifieke domeinen. Specialisatie is belangrijk, maar lost slechts een deel van het probleem op. Kennis van een bepaald domein vertelt een agent niet automatisch waar zijn verantwoordelijkheid begint en eindigt, hoe zijn taak past binnen een groter proces of wie het moet overnemen wanneer iets buiten zijn bevoegdheden valt. Om betrouwbare deelnemers aan bedrijfsprocessen te worden, hebben agenten zowel context over de werkprocessen als bedrijfsgegevens nodig.

Goede data vertelt een agent niet wat er vervolgens gebeurt

Denk aan een leningaanvraag, waarbij een agent toegang kan hebben tot de financiële geschiedenis, werkgegevens en andere relevante gegevens van een aanvrager. Die informatie kan hem helpen de aanvraag te begrijpen, maar vertelt de agent niet hoe de organisatie ermee omgaat.

Welke controles moeten eerst plaatsvinden? Wat verandert er als een aanvrager aan de ene voorwaarde wel voldoet, maar aan een andere niet? Welke informatie is verplicht voordat de aanvraag verder kan? Welke beslissingen kunnen automatisch worden genomen en welke moeten aan een kredietbeoordelaar worden voorgelegd?

In de meeste bedrijfsprocessen komen dit soort voorwaardelijke routes volop voor. Een proces kan automatisch verdergaan wanneer aan bepaalde criteria is voldaan, worden onderbroken terwijl aanvullende informatie wordt verzameld, of een heel andere route volgen wanneer zich een uitzondering voordoet. Welke actie de volgende stap is, hangt niet alleen af van de beschikbare informatie, maar ook van de huidige fase van het werk en van wat er al is gebeurd.

Dit verandert wat betrouwbaarheid voor een agent in een bedrijf betekent. Een nauwkeurig antwoord volstaat niet als de volgende actie verkeerd is. Een agent kan de informatie die hij voor zich heeft correct interpreteren en toch een zaak naar de verkeerde fase verplaatsen, de vereiste goedkeuring overslaan of handelen voordat aan een voorwaarde is voldaan.

McKinsey deelde onlangs inzichten over zijn samenwerking met een medtechbedrijf dat ontdekte dat het AI-platform dat het gebruikte verschillende essentiële regels voor zijn werkprocessen niet kon ondersteunen. In plaats van de lanceringsdatum uit te stellen om die tekortkomingen aan te pakken, ging het bedrijf volgens plan verder en bleef uiteindelijk naar schatting 30% van de beoogde waarde van de AI onbenut. Dit voorbeeld onderstreept dat bedrijven rekening moeten houden met het proces rondom een taak, en niet alleen met de informatie die nodig is om die taak uit te voeren. 

Stem de waarborgen af op de beslissingen die een agent kan nemen

Naarmate agenten in staat zijn om actie te ondernemen, moeten ook de regels voor toezicht specifieker worden. Een agent die een beleidsdocument opzoekt, brengt niet hetzelfde risico met zich mee als een agent die de rekening van een klant wijzigt, een betaling goedkeurt of een transactie in gang zet. Toch kunnen organisaties gemakkelijk in een van twee uitersten vervallen: agenten te veel vrijheid geven of voor vrijwel alles menselijke goedkeuring eisen.

De controles rond een agent moeten aansluiten bij de beslissingen die hij kan nemen en de mogelijke gevolgen daarvan. Een actie met een laag risico die vaak wordt herhaald, kan geschikt zijn om zelfstandig uit te voeren. Voor een andere actie kan goedkeuring nodig zijn boven een bepaalde waarde. Een ongebruikelijke zaak moet mogelijk onmiddellijk aan een werknemer worden voorgelegd.

Menselijk toezicht is het nuttigst wanneer het doelbewust wordt ingezet. Als iemand elke routinestap moet goedkeuren, verdwijnt een groot deel van het voordeel van een agent. Maar controlepunten weghalen bij beslissingen die echt om inzicht of verantwoording vragen, leidt tot een ander probleem.

IBM Research heeft gepleit voor expliciete regels over de handelingen die agenten mogen uitvoeren en de momenten waarop menselijk toezicht nodig is. Die controles moeten ook rekening houden met het proces waaraan de agent deelneemt. De bevoegdheden van een agent blijven niet noodzakelijk van het begin tot het einde van een zaak gelijk. Wat de agent veilig kan doen, kan afhangen van de procesfase, de informatie die al is geverifieerd, eerder genomen beslissingen en de gevolgen van de volgende handeling.

Dat betekent dat organisaties governance in de workflow zelf moeten inbouwen. In plaats van een agent een brede set bevoegdheden toe te kennen en die overal te laten gebruiken, kunnen ze bepalen waar de agent zelfstandig mag handelen, waar aan aanvullende voorwaarden moet worden voldaan en waar de verantwoordelijkheid moet overgaan naar een persoon. De vraag is dan niet zozeer óf een agent autonoom is, maar eerder waar autonomie binnen een proces zinvol is.

Agents moeten aansluiten op de bestaande bedrijfsvoering

De procescontext wordt nog belangrijker wanneer een agent moet samenwerken met de rest van de organisatie. Organisaties beginnen niet met een schone lei. Eén klantverzoek kan al tussen een CRM-systeem, documentopslagplaats, platform voor casemanagement en ERP-systeem worden doorgegeven, terwijl medewerkers van verschillende afdelingen erbij betrokken zijn.

Een agent op één plek in die omgeving inzetten, maakt het totale proces niet vanzelf efficiënter. Een agent kan zijn afzonderlijke taak perfect uitvoeren, maar als een medewerker de uitvoer vervolgens naar een andere applicatie moet kopiëren, moet bepalen wie die daarna nodig heeft of het proces elders handmatig opnieuw moet starten, is het knelpunt alleen maar verplaatst.

Daarom moeten organisaties agents zien als deelnemers aan een groter proces, en niet als op zichzelf staande tools. Waardoor wordt de agent geactiveerd? Welke informatie ontvangt die? Waarvoor is die verantwoordelijk? Waar gaat het werk naartoe als de agent klaar is? En wat gebeurt er als de agent de taak niet kan voltooien?

Die vragen worden nog belangrijker wanneer organisaties meerdere gespecialiseerde agents introduceren. Deloitte heeft orkestratie aangemerkt als een belangrijke vereiste voor bedrijven die overstappen op multi-agentsystemen, waarin verschillende agents specifieke rollen kunnen vervullen en het werk kunnen coördineren. Orkestratie binnen ondernemingen moet ook betrekking hebben op de manier waarop agents met elkaar communiceren en hun werk onderling afstemmen, en niet alleen op hun afzonderlijke werking. Zonder dat toezicht lopen agents het risico te handelen op basis van onvolledige context, tegenstrijdige acties in gang te zetten of bestaande bedrijfsregels en goedkeuringsprocedures te omzeilen. Agents functioneren nog altijd binnen organisaties vol bestaande applicaties, medewerkers, bedrijfsregels en processen die dagen, weken of maanden kunnen duren.

Begin met het proces dat moet worden voltooid en bepaal welke rol agents, mensen en bestaande systemen daarin elk vervullen. Een agent kan een stap zelfstandig uitvoeren, een andere agent kan een gespecialiseerde controle uitvoeren, een medewerker kan een oordeel vellen en een bestaand systeem kan de uiteindelijke transactie uitvoeren. Het belangrijkste is dat het werk tussen de betrokkenen kan worden doorgegeven zonder onderweg de context te verliezen.

Autonomie vereist structuur

Agents meer structuur geven betekent niet dat elke handeling een extra laag beperkingen nodig heeft. Het tegenovergestelde kan zelfs waar zijn. Duidelijke processen kunnen organisaties meer vertrouwen geven in de plekken waar agents zelfstandig kunnen werken, omdat de grenzen, uitzonderingen en momenten waarop opschaling nodig is al zijn vastgelegd. Een agent heeft geen onbeperkte vrijheid nodig om betekenisvolle waarde te leveren. De agent heeft voldoende verantwoordelijkheid nodig om het werk vooruit te helpen, voldoende context om te weten wat de volgende stap is en een helder besef van wanneer de verantwoordelijkheid elders ligt.

Betere data zullen agents steeds capabeler maken. Maar alleen capaciteiten maken een agent nog niet nuttig binnen een onderneming. De echte test is of de agent op het juiste moment in een proces de juiste actie kan uitvoeren, binnen de grenzen die het bedrijf heeft vastgesteld.