Wanneer de Model Niet het Probleem Is en het Proces Fout Is

Stel je een gebruikelijke situatie in financiële dienstverlening voor. Een team implementeert AI om contracten te controleren: honderden pagina’s, herhalende clausules en routineuze werkzaamheden die normaal gesproken dagen in beslag nemen voor werknemers. Het model identificeert de risico’s en verwijzingen naar de juiste paragrafen. Toch komt de output niet overeen.

Het blijkt dat het probleem zich bevindt in de contractenmap, waar bestanden naast elkaar staan met namen als contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx en contract_finalfinal_THIS_ONE.docx.

De AI selecteerde het meest recent opgeslagen bestand. Maar dat bestand was een oudere versie die iemand per ongeluk vorige week had geopend en automatisch had opgeslagen.

Het model deed precies wat het was ontworpen om te doen. Het proces liet het echter in de steek.

Wanneer het Model Niet het Probleem Is

In mijn vorige artikel, betoogde ik dat AI-falen vaak buiten het model begint – in de governance, eigendom en besluitvormingsstructuren eromheen. Maar governance is slechts een deel van het probleem. Zelfs een goed bestuurde AI-systeem zal worstelen als het proces eronder afhankelijk is van verouderde documenten, informele uitzonderingen of goedkeuringspaden die zijn ontworpen voor een veel langzamere werktempo.

Wanneer een AI-systeem een slecht resultaat produceert, is het model meestal de eerste verdachte. Misschien heeft het gehallucineerd, de taak verkeerd begrepen of een zwakke prompt ontvangen. Maar soms deed het model precies wat het was ontworpen om te doen. Het falen vond plaats in het proces dat de informatie leverde of in de organisatie die niet kon handelen naar de output.

Het implementeren van AI onthult procesproblemen die altijd hebben bestaan maar nooit zichtbaar waren – zoals een diagnostisch hulpmiddel. Het legt zwakheden bloot die mensen eerder hebben gecompenseerd zonder erbij na te denken: ontbrekende context, onduidelijke eigendom en informele werkafspraken die nooit zijn gedocumenteerd.

Snelheid Zonder Capaciteit

AI versnelt niet alleen de output. Het versnelt ook escalaties, verzoeken om beslissingen en het ontdekken van problemen. Een model signaleert een anomalie in real-time, niet op vrijdagmiddag als iemand eindelijk de tijd vindt om de logs te controleren.

Organisaties zijn niet ingericht op deze snelheid. Goedkeuringsprocessen, escalatiepaden, besluitvormingsbevoegdheid – alles was afgestemd op menselijke snelheid. Wanneer AI output produceert sneller dan de organisatie kan absorberen, kunnen drie dingen gebeuren:

• AI wacht op een beslissing, waardoor de efficiëntiegrens wordt uitgewist.
• Werknemers negeren de output en keren terug naar wat ze denken dat werkt – het oude proces.
• Werknemers dringen beslissingen door zonder ze goed te controleren omdat ze zich onder druk gezet voelen om de snelheid te behouden die door de technologie is beloofd.

Sommige werknemers keren terug naar handmatige controles omdat die veiliger lijken. Anderen keuren resultaten goed die ze niet hebben kunnen verifiëren omdat ze zich onder druk gezet voelen om de snelheid te behouden. In beide gevallen betaalt de organisatie voor snellere output zonder sneller te worden in het nemen van verantwoorde beslissingen.

Eigendom kan ook vaag worden. Wie is verantwoordelijk voor het controleren van een gesignaleerde anomalie, het beslissen of het model fout is en het escalatieprobleem wanneer meerdere teams zijn betrokken? Zonder een duidelijk antwoord, blijft de AI draaien op de achtergrond, producerend output die niemand echt bezit.

Dit reflecteert een breder organisatorisch probleem. Zoals een Forbes-analyse uit eind 2025 opmerkte, wanneer technologie workflows sneller verandert dan een organisatie kan absorberen, is het resultaat niet efficiëntie, maar overwerk. AI kan één stadium van een proces versnellen, maar de waarde ervan hangt nog steeds af van of de omringende organisatie de output kan absorberen en erop kan handelen.

De Stille Kennis Die Niemand Heeft Geschreven

Stel je voor dat Martin weet dat het contract van het bedrijf met een leverancier een uitzondering bevat voor betalingen onder de €2.000. Het was drie jaar geleden mondeling overeengekomen, maar nooit gedocumenteerd. Wanneer het bedrijf AI implementeert om betalingsgoedkeuringen te automatiseren, blokkeert het systeem de betaling – correct, volgens het geschreven contract.

Dit is tacit knowledge: organisatorische kennis die in mensen’s hoofden leeft in plaats van in systemen. Elk bedrijf heeft het. En de meeste bedrijven hebben geen idee hoeveel ze hebben.

AI kan alleen kennis gebruiken die voor hem toegankelijk is gemaakt. Martin’s uitzondering bestaat niet vanuit het systeem’s perspectief. Zonder die context kan de beslissing van het systeem technisch correct zijn, maar operationeel verkeerd.

McKinsey heeft dezelfde uitdaging geïdentificeerd in agente AI-implementaties. Het opbouwen van effectieve AI-agents vereist dat bedrijven expertpraktijken codificeren die mogelijk bestaan in standaardprocedures – of alleen als tacit knowledge in werknemers’ hoofden. Met andere woorden: AI-implementatie kan dus de eerste keer zijn dat een organisatie ziet hoeveel het proces afhankelijk is van wat Martin weet.

De Valse Bron van Waarheid

De gevaarlijkste AI-output is niet altijd een overduidelijk onjuiste. Het kan een geloofwaardige, professioneel gepresenteerde antwoord zijn dat is gegenereerd uit verouderde informatie.

Gedurende jaren hebben veel afdelingen met meerdere versies van hetzelfde document gewerkt omdat Jane van de juridische afdeling altijd weet welke versie autoritair is. AI, helaas, niet.

Tenzij het regels heeft gekregen om tussen versies te onderscheiden, heeft het systeem geen reden om het document in twijfel te trekken. En dus loopt de AI-controle correct – op het verkeerde document. Dat kan erger zijn dan helemaal geen controle, omdat de output er geloofwaardig uitziet.

Een ervaren werknemer kan weten waar de waarheid is en door de chaos heen navigeren. Een systeem heeft echter een betrouwbare manier nodig om te bepalen welke informatie actueel, goedgekeurd en relevant is.

Tacit knowledge, onbetrouwbare documenten en goedkeuringsprocessen die zijn gebouwd voor menselijke outputtempo lijken afzonderlijke problemen. Maar ze delen dezelfde oorzaak. Geen van hen is door AI gecreëerd, maar AI maakt ze moeilijker te negeren.

Vragen om te Beantwoorden Voordat U een Agent Bouwt

Voordat u een AI-agent implementeert, moet een organisatie in staat zijn om drie vragen te beantwoorden.

Welke Beslissingen Hangen Af van Kennis die Nooit is Gedocumenteerd?

Dit betekent het identificeren van uitzonderingen, shortcuts en oordelen die ervaren werknemers toepassen zonder ze bewust te beschrijven. Interviews alleen kunnen deze kennis niet onthullen. Organisaties moeten mogelijk observeren hoe het werk daadwerkelijk wordt uitgevoerd en vergelijken met het officiële proces.

Hoe Zal het Systeem Informatie Identificeren die Actueel, Goedgekeurd en Relevant is?

Het geven van een agent toegang tot meer documenten lost het probleem niet op als het niet kan onderscheiden tussen een goedgekeurd contract en een concept of een actief beleid en een verouderd beleid. Versiebeheer, eigendom, goedkeuringsstatus en retentiebeleid moeten duidelijk genoeg zijn voor het systeem om te bepalen welke bron moet worden gevolgd.

Kunnen Bestaande Goedkeurings- en Escalatieprocessen de Volume en Snelheid van de Output Absorberen?

Teams moeten niet alleen schatten hoeveel werk de agent kan voltooien, maar ook hoeveel reviews, uitzonderingen en escalaties dat werk kan creëren. De NIST AI Risk Management Framework beveelt aan om duidelijk te definiëren wie verantwoordelijk is voor de menselijke toezicht op AI-systemen. Deze moeten worden ontworpen voor de verwachte volume voordat het systeem wordt geïmplementeerd – niet erna als werknemers worden overweldigd door het.

Deze vragen zijn niet om eenmaal te beantwoorden en te vergeten. Processen veranderen, documenten verouderen en ongedocumenteerde uitzonderingen accumuleren opnieuw. Bereidheid moet dus worden onderhouden, niet alleen geëtabileerd voordat de lancering plaatsvindt.

AI-bereidheid Begint met het Proces

AI-bereidheid is niet alleen een test van de technologie. Het is een test van of de organisatie zijn eigen processen expliciet genoeg heeft gemaakt voor de technologie om binnen te werken.

Het voorbereiden van een organisatie op AI omvat dus meer dan het selecteren van een model of het bouwen van een agent. Het betekent het verduidelijken van eigendom, het identificeren van autoritaire informatie, het documenteren van uitzonderingen en het herontwerpen van hoe output wordt gecontroleerd, geëscaleerd en uitgevoerd.

Dit is moeilijk werk, maar een mislukte implementatie zal de organisatie uiteindelijk dwingen om het toch te doen. Het enige variabele is de timing.