Thought leaders
Van intentie naar autonome actie: AI-agenten in ondernemingen besturen

Belangrijkste puntenGovernance moet binnen het product zitten, omdat het bepaalt welke…
Meer weergeven
- Governance moet binnen het product zitten, omdat het bepaalt welke verantwoordelijkheden een organisatie veilig kan delegeren.
- Een agentisch controleplan koppelt agentidentiteit en goedgekeurde mogelijkheden aan beleidshandhaving en toezicht op de uitvoering.
- Organisaties moeten beginnen met een nauwe workflow en de bevoegdheid van agenten alleen uitbreiden wanneer operationeel bewijs dit ondersteunt.
Een instructie als ‘de dienstverlening herstellen’ klinkt eenvoudig, totdat een AI-agent moet bepalen waartoe die instructie precies machtigt. Een applicatie opnieuw starten, een configuratie wijzigen en infrastructuur inrichten kunnen allemaal bijdragen aan dat doel, maar hebben elk andere gevolgen. Wanneer agenten niet langer alleen acties aanbevelen, maar ze ook uitvoeren, hebben organisaties een expliciete koppeling nodig tussen bedrijfsintentie en operationele bevoegdheden.
Governance hoort in het product zelf thuis, omdat die bepaalt welke verantwoordelijkheden een organisatie met vertrouwen kan delegeren. Een agent die een taak betrouwbaar, binnen afgesproken grenzen en met bewijs van zijn acties kan voltooien, biedt een steviger fundament voor toepassing in ondernemingen dan een agent waarvan de bevoegdheden onduidelijk blijven. De architectonische uitdaging is om die grenzen onderdeel te maken van de werking van het systeem.
Om die grenzen in de praktijk toe te passen, is een consistente manier nodig om het handelen van agenten aan te sturen. Een besturingslaag voor AI-agenten kan hiervoor de basis bieden door de identiteit van agenten, goedgekeurde mogelijkheden, beleidshandhaving, geheugenbeheer en toezicht op de uitvoering in bestaande bedrijfssystemen met elkaar te verbinden. Zo wordt vastgelegd wie om een actie heeft gevraagd, welke bevoegdheid eraan ten grondslag ligt, welke middelen erdoor kunnen worden beïnvloed en hoe het resultaat wordt gecontroleerd.
Hier volgen drie praktische richtlijnen die we aanbevelen voor het aansturen van AI-agenten in ondernemingen:
Koppel mogelijkheden aan expliciete bevoegdheden
Elke agent moet een herkenbare eigenaar en een duidelijk doel hebben, en beschikken over bevoegdheden die passen bij zijn taak. Dit sluit aan bij het NIST-raamwerk voor risicobeheer van AI, waarin governance wordt beschouwd als een doorlopend onderdeel van de volledige AI-levenscyclus. Voor agenten moet dat principe ook gelden op het moment dat een actie een bedrijfssysteem wijzigt. Wanneer een agent een taak delegeert aan een andere agent, moeten die grenzen intact blijven.
Ook het ontdekken van mogelijkheden vereist een vergelijkbare mate van discipline: in een goedgekeurde catalogus moeten het doel, de invoer, de uitvoer, de toegestane omgevingen en de mogelijke neveneffecten van elke tool worden beschreven. Een tool ontdekken geeft niet automatisch toestemming om die uit te voeren; daarom moet de bevoegdheid worden gecontroleerd wanneer iemand een actie probeert uit te voeren. De richtlijnen van OWASP over buitensporige handelingsvrijheid onderstrepen dit onderscheid met aanbevelingen om functionaliteit en bevoegdheden te beperken en de autorisatie in achterliggende systemen af te dwingen.
Neem als voorbeeld een hypothetische procedure voor het herstellen van een dienst, waarin een agent een vertraging in een applicatie onderzoekt en voorstelt een onderdeel opnieuw te starten. Het beleid staat toegang tot goedgekeurde telemetrie toe, maar voor een herstart in de productieomgeving is bewijs nodig dat de redundantie naar behoren werkt, evenals goedkeuring van de eigenaar van de dienst. Zo wordt een algemene instructie omgezet in een afgebakende operationele beslissing.
Zet operationele intenties om in beheerde tools
Als er een goedgekeurde hersteltool bestaat, kan de agent met die mogelijkheid een verzoek voorbereiden. Bestaat zo’n tool niet, dan kan de agent helpen een script, draaiboek, invoerschema en toolbeschrijving op te stellen, waarmee een operationele intentie wordt vertaald naar een voorgestelde mogelijkheid die anderen kunnen beoordelen. Dat is de praktische waarde van toolontwikkeling door AI-agenten: agenten kunnen bijdragen aan de operationele middelen en die ook gebruiken.
Het genereren van die middelen mag er echter niet automatisch toe leiden dat ze in productie kunnen worden uitgevoerd. Voor een voorgestelde mogelijkheid is een onafhankelijk vrijgaveproces nodig, met een verantwoordelijke eigenaar, beveiligingscontroles, versiebeheer en tests voor ongeldige invoer, een te ruime reikwijdte, gedeeltelijke storingen en herhaalde uitvoering. Door agenten gegenereerde tests kunnen bewijs opleveren, maar met onafhankelijke validatie moet worden vastgesteld of de mogelijkheid aan de operationele vereisten voldoet voordat deze in de goedgekeurde catalogus wordt opgenomen.
De grenzen voor de uitvoering moeten vervolgens de reikwijdte van de ingezette middelen, netwerktoegang, looptijd en uitgaven beperken. Eventueel vereiste goedkeuring moet gekoppeld zijn aan de specifieke actie, het doel en de versie. Ook herstelvoorzieningen verdienen voldoende aandacht: sommige wijzigingen kunnen worden teruggedraaid, terwijl andere compenserende acties vereisen of niet ongedaan kunnen worden gemaakt. Bij elke mogelijkheid moeten die beperkingen duidelijk worden vermeld en moeten operators beschikken over een geteste manier om verdere uitvoering stil te leggen.
Geheugen brengt een extra verantwoordelijkheid op het gebied van governance met zich mee, omdat bewaarde waarnemingen toekomstige beslissingen kunnen beïnvloeden, lang nadat de oorspronkelijke context is veranderd. Organisaties moeten bepalen wat agenten mogen opslaan, hoe lang informatie beschikbaar blijft en welke toegangsgrenzen gelden, ondersteund door mechanismen voor herkomstregistratie en correctie. Een onthouden toestemming mag nooit een permanente bevoegdheid worden, en verouderde operationele kennis mag nieuwe acties niet ongemerkt sturen.
Breid autonomie uit op basis van bewijs
Doeltreffend toezicht vereist bewijs dat het oorspronkelijke verzoek, het toepasselijke beleid, de goedkeuring, de toolversie, het uitvoeringsresultaat en de daaropvolgende controle met elkaar verbindt. Menselijke beoordelaars hebben voldoende context nodig om de voorgestelde wijziging, de onzekerheden en de herstelmogelijkheden te kunnen beoordelen, zonder te worden overspoeld met onnodige details. Om dat toezicht te ondersteunen, moet escalatie plaatsvinden op basis van vastgelegde voorwaarden, zoals tegenstrijdige waarnemingen of een onbekende systeemstatus, en niet uitsluitend afhangen van het vertrouwen dat een agent zelf uitspreekt.
IT-leiders moeten beginnen met een beperkte workflow en de bevoegdheden uitbreiden naarmate de operationele resultaten daar aanleiding toe geven. Daarbij meten ze niet alleen succesvolle uitkomsten, maar ook uitzonderingen, hersteltijd, beleidsovertredingen en de inspanning die toezicht vergt. Deze maatstaven helpen bepalen of een agent klaar is voor meer verantwoordelijkheid en waar extra waarborgen of tests nodig zijn.
De kans ligt erin delegatie herhaalbaar te maken, waarbij elke goedgekeurde mogelijkheid vastlegt wat een agent kan doen, onder welke voorwaarden en met welke verantwoordingsplicht. Die discipline kan de veerkracht en efficiëntie versterken en organisaties tegelijk een verdedigbare basis bieden om meer autonomie toe te kennen. De belangrijkste conclusie is deze: governance bewijst zijn waarde in het product doordat het deze voortgang mogelijk maakt.












