Het AI-betrouwbaarheidsprobleem waar niemand over wil praten

Het dominante verhaal over AI-betrouwbaarheid is eenvoudig: modellen hallucineren. Daarom moeten modellen voor bedrijven om het meeste nut ervan te krijgen verbeterd worden. Meer parameters. Beter trainingsdata. Meer versterking van het leren. Meer afstemming.

En toch, zelfs als frontiermodellen capabeler worden, weigert het betrouwbaarheidsdebat te verdwijnen. Enterpriseleiders aarzelen nog steeds om agents toe te staan om belangrijke acties uit te voeren binnen kernsystemen. Raden vragen nog steeds: “Kunnen we het vertrouwen?”

Maar hallucinaties zijn niet primair een modelprobleem. Ze zijn een contextprobleem. We vragen AI-systemen om te opereren op enterprise-infrastructuur zonder hen de structurele zichtbaarheid te geven die nodig is om veilig te redeneren. Dan geven we de schuld aan het model als het gokt.

De echte betrouwbaarheidskloof ligt niet in de gewichten, maar in de informatielaag.

Een chirurg zonder beeldvorming

Stel je een chirurg voor die zonder beeldvorming opereert. Geen MRI. Geen CT-scan. Geen real-time visualisatie van omliggende weefsels. Alleen een algemeen begrip van anatomie en een scalpel. Zelfs de meest ervaren chirurg zou gedwongen worden om te gissen. Om te schatten. Om te vertrouwen op probabilistische redenering.

Dat is wat enterprise AI-agents nu doen.

Wanneer een AI-systeem wordt gevraagd om een workflow te wijzigen, een ERP-regel bij te werken of automatisering over tools te activeren, heeft het zelden een volledige afhankelijkheidsgrafiek van de omgeving. Het weet niet welk “niet gebruikte” veld een downstream-dashboard aandrijft. Het ziet niet welke automatisering naar die validatieregel verwijst. Het kan de tweede-orde-impact niet betrouwbaar simuleren.

Dus doet het wat grote taalmodellen zijn getraind om te doen: het voorspelt. Voorspelling is niet hetzelfde als begrip. En voorspelling zonder structurele context lijkt op hallucinatie.

We blijven de verkeerde discussie aangaan

De AI-gemeenschap is vastgelopen in een model-georiënteerde betrouwbaarheidsdiscussie. Papers over schaalwetten. Onderzoek naar keten van gedachtenprompting. Retrieval-augmentatietechnieken. Evaluatiebenchmarks.

Alles noodzakelijk. Alles waardevol. Maar let op wat ontbreekt: discussie over enterprise-systeemtopologie.

Betrouwbaarheid in een enterprise-context betekent niet alleen “het model genereert correcte tekst.” Het betekent “het systeem maakt wijzigingen die veilig, traceerbaar en voorspelbaar zijn.”

Dat is een fundamenteel andere vereiste.

Wanneer OpenAI en Anthropic evaluaties van modelprestaties publiceren, meten ze de nauwkeurigheid op redenertaken, codebenchmarks of kennisopvraag. Deze zijn nuttige signalen. Echter, ze meten niet de mogelijkheid van een AI-agent om een live-revenuesysteem met 15 jaar aan opgebouwde automatiseringschuld veilig te wijzigen.

Het probleem is niet of het model syntactisch correcte code kan schrijven; het is of AI de omgeving begrijpt waarin die code wordt geïmplementeerd.

Levende systemen accumuleren entropie

Enterprise-systemen zijn geen statische databases. Ze zijn levende systemen. Elke nieuwe integratie laat een spoor achter. Elke campagne introduceert een veld. Elke “snelle oplossing” introduceert een extra laag van automatisering. Over tijd, interactieert deze lagen op manieren die geen enkel persoon volledig begrijpt.

Dit is een functie van groei. Complexe adaptieve systemen accumuleren natuurlijk entropie. Onderzoek van MIT’s Sloan School heeft lang benadrukt hoe informatie-asymmetrie binnen organisaties operationeel risico verhoogt. Ondertussen schat Gartner dat slechte gegevenskwaliteit organisaties gemiddeld $12,9 miljoen per jaar kost.

Stel je nu voor dat je autonome agents in die omgeving implementeert zonder eerst de structurele ondoorzichtigheid aan te pakken.

We zouden niet verbaasd moeten zijn als de resultaten onvoorspelbaar lijken. De agent is niet kwaadwillig of dom. Het is blind. Het bouwt in het donker.

Opvragen is niet genoeg

Sommigen zullen beweren dat retrieval-augmented generatie (RAG) dit probleem oplost. Geef het model toegang tot documentatie. Voer het schema-beschrijvingen. Verbind het met API’s.

Dat helpt.

Maar documentatie is niet hetzelfde als topologie.

Een PDF die uitlegt hoe een workflow “zou moeten” werken, is niet hetzelfde als een real-time grafiek van hoe het daadwerkelijk interacteert met 17 andere automatiseringen.

Enterprise-reality komt zelden overeen met enterprise-documentatie.

Een studie uit 2023, gepubliceerd in Communications of the ACM vond dat verouderde documentatie een primaire bijdrager is aan software-onderhoudsfouten. Systemen evolueren sneller dan hun verhalen.

Dus zelfs als we AI-agents documentatie geven, geven we ze vaak een gedeeltelijke of geïdealiseerde kaart.

Gedeeltelijke kaarten produceren nog steeds zelfverzekerde fouten.

Het agente-laag is de echte veiligheidslaag

We hebben de neiging om veiligheid te zien als afstemmingsopleiding, beveiligingshekken, rood team en beleidsfilters. Alles belangrijk. Maar in enterprise-context is veiligheid contextueel. Het is weten:

• Waarvan hangt dit veld af?
• Welke automatisering verwijst naar dit object?
• Welke downstream-rapporten zullen breken?
• Wie is de eigenaar van dit proces?
• Wanneer is dit voor het laatst gewijzigd?
• Welke historische wijzigingen gingen vooraf aan de huidige configuratie?

Zonder deze laag is een AI-agent effectief improviserend in een zwarte doos. Met deze laag kan het de impact simuleren voordat het handelt. Het verschil tussen hallucinatie en betrouwbaarheid is vaak zichtbaarheid.

Waarom het model de schuld krijgt

Waarom richt de discussie zich zo zwaar op modellen? Omdat modellen leesbaar zijn. We kunnen perplexiteit meten. We kunnen benchmark-scores vergelijken. We kunnen schaalcurves publiceren. We kunnen de kwaliteit van de trainingsdata bespreken.

Informatietopologie binnen enterprise is veel, veel rommeliger. Het vereist cross-functionele coördinatie. Het eist governance-discipline. Het dwingt organisaties om de opgebouwde complexiteit van hun eigen systemen onder ogen te zien.

Het is gemakkelijker om te zeggen “het model is niet klaar” dan om toe te geven “onze infrastructuur is ondoorzichtig.”

Maar als AI-agents van inhoudsgeneratie naar operationele uitvoering gaan, wordt deze framing gevaarlijk.

Als we betrouwbaarheid alleen zien als een modelprobleem, zullen we blijven AI-agents implementeren in omgevingen die ze niet kunnen waarnemen.

Autonomie vereist context

Anthropics recente experimenten met multi-agent software-ontwikkelteams laten zien dat AI-systemen complexe taken kunnen coördineren als ze zijn voorzien van gestructureerde context en persistente geheugen. De capaciteitsgrens ontwikkelt zich snel. Maar deze vorm van autonomie zonder milieubewustzijn is broos.

Een zelfrijdende auto vertrouwt niet alleen op een krachtig neuronaal netwerk. Het hangt af van lidar, camera’s, kaartsystemen en real-time milieubewustzijn. Het model is een laag binnen een bredere perceptiestack.

Enterprise AI heeft het equivalent van lidar nodig. Niet alleen API-toegang. Niet alleen documentatie. Maar een gestructureerd, dynamisch begrip van systeemafhankelijkheden.

Totdat dat bestaat, zullen discussies over hallucinaties de oorzaak van het probleem blijven miskennen.

Het verborgen risico: oververtrouwen

Er is een ander subtiele risico in de huidige framing.

Naarmate modellen verbeteren, worden hun uitvoer meer vloeiend, overtuigender en gezaghebbender.

Vloeiendheid versterkt oververtrouwen.

Wanneer een agent een systeem met vertrouwen wijzigt zonder volledige context, is de fout niet onmiddellijk duidelijk. Het kan later naar boven komen als een rapportage-afwijking, een compliance-gat of een omzetprognosefout. Omdat het model competent lijkt, kunnen organisaties de operationele veiligheid overschatten. De echte foutmodus is een plausibele miscalculatie.

En plausibele miscalculatie gedijt in het donker.

Het herschrijven van de betrouwbaarheidsvraag

In plaats van te vragen: “Is het model goed genoeg?” Zouden we moeten vragen: “Heeft de agent voldoende structurele context om veilig te handelen?” In plaats van benchmark-nauwkeurigheid te meten, zouden we milieuzichtbaarheid moeten meten. In plaats van parameter-aantallen te bespreken, zouden we systeemondoorzichtigheid moeten auditen.

De volgende frontier van AI-betrouwbaarheid is niet alleen maar grotere modellen. Het is rijkere contextlagen.

Dit omvat:

• Afhankelijkheidsgrafieken van enterprise-systemen
• Real-time wijzigingstracking
• Eigenaarsmapping
• Historische configuratiebewustzijn
• Impactsimulatie vóór uitvoering

Niets hiervan is glamoureus. Niets hiervan trendt op sociale media. Maar hier zal betrouwbaarheid worden gewonnen.

Bouwen met de lichten aan

Enterprise-leiders hebben gelijk om betrouwbaarheid te eisen voordat ze agents operationele autoriteit geven. Maar de weg vooruit is niet wachten op een mythisch hallucinatie-vrij model.

Het is investeren in de zichtbaarheidsinfrastructuur die intelligente actie mogelijk maakt.

We zouden geen junior-beheerder toestaan om productiesystemen te wijzigen zonder de afhankelijkheden te begrijpen. We zouden AI-agents dat ook niet moeten toestaan.

Het doel? Om blinde vlekken te verminderen.

Wanneer agents met structurele bewustzijn opereren, dalen hallucinatiesnelheden niet omdat het model verandert, maar omdat de gokoppervlakte krimpt.

Voorspelling wordt redenering. Redenering wordt simulatie. Simulatie wordt veilige uitvoering.

De onvermijdelijke verschuiving

In de komende vijf jaar zal de AI-stack bifurceren. Een laag zal zich richten op modelcapaciteit: redeningsdiepte, multimodale vloeiendheid en kosten-efficiëntie. De andere laag zal zich richten op informatieve/contextuele topologie: systeemgrafieken, metadata-intelligentie en governance-kaders.

Organisaties die betrouwbaarheid alleen zien als een modelselectie-oefening, zullen worstelen.

Organisaties die betrouwbaarheid zien als een architectonische eigenschap, zullen sneller bewegen met minder risico.

De hallucinatiediscussie zal in retrospectief onschuldig lijken. Het echte verhaal zal over zichtbaarheid gaan.

AI is niet inherent roekeloos.

Het werkt in een donkere kamer.

Tot we dat aanpakken, bouwen we geen intelligente systemen. We bouwen krachtige voorspellers in ondoorzichtige omgevingen.

En dat betekent, ondanks alle vooruitgang, AI bouwt nog steeds in het donker.