Waarom Enterprise AI na implementatie faalt – en wat je eraan kunt doen

Waarschuwing: het probleem ligt niet bij het model

In 2023 lanceerde de stad New York de MyCity-chatbot om bedrijven te helpen bij het navigeren door complexe regelgeving. Het idee was eenvoudig: juridische informatie gemakkelijker toegankelijk maken.

In de praktijk produceerde het systeem antwoorden die niet alleen onjuist waren, maar ook juridisch misleidend – van fooiregels tot huisdiscriminatie tot betalingswetten.

Een latere audit vond dat 71,4% van de gebruikersfeedback negatief was. In plaats van de onderliggende problemen op te lossen, was de reactie om disclaimer toe te voegen. De chatbot bleef zelfs meer dan twee jaar in “bèta” voordat deze werd stopgezet.

Het falen was niet technisch. Het systeem brak af in productie omdat er geen mechanisme was om de nauwkeurigheid te garanderen, geen duidelijke verantwoordelijkheid en geen manier om in te grijpen als dingen verkeerd gingen.

Dat is het patroon achter enterprise AI vandaag: de technologie werkt, maar organisaties zijn niet ingericht om deze betrouwbaar te exploiteren zodra deze live is.

Van proef tot productie: waar alles misgaat

Het opzetten van een proef is relatief eenvoudig – kies een use case, kies een model, bereid data voor, vind een sponsor. Een systeem in productie uitvoeren is een heel andere league.

Het gat is als het verschil tussen in een zwembad springen en uit de stratosfeer springen, zoals Felix Baumgartner in 2012 deed. Dezelfde basisfysica, maar compleet andere omstandigheden – en heel andere gevolgen voor falen.

In productie komt AI in echte besluitvormingsstromen, interacteert met klanten en creëert juridische en operationele gevolgen. Dat is waar de gaten beginnen te verschijnen – niet in het model, maar in hoe het wordt bestuurd.

Europa maakt dit zichtbaar eerder dan de meeste regio’s. Regels zoals de EU AI-wet, GDPR en NIS2 vertragen de adoptie niet – ze onthullen of organisaties AI-systemen kunnen exploiteren onder echte beperkingen.

In 2025 gebruikten 55% van de grote EU-ondernemingen al AI. De adoptie gebeurt al op grote schaal. De uitdaging is wat er gebeurt na de implementatie.

Op dat punt beginnen basisoperationele vragen te verschijnen. En vaak kan niemand ze beantwoorden: wie is verantwoordelijk voor AI-uitvoer en autonome beslissingen? Wat gebeurt er als het systeem onverwacht gedraagt? En wie zal het opvangen voordat de schade de media bereikt?

Aansprakelijkheid rust bij het bedrijf, niet bij de technologie. Air Canada’s chatbot gaf een klant onjuiste informatie over rouwverlof. De klant vertrouwde erop en werd later geen restitutie verleend. Een tribunal oordeelde dat de luchtvaartmaatschappij verantwoordelijk was – de chatbot was geen afzonderlijk entiteit.

Hetzelfde probleem, vanuit een andere hoek: McDonald’s McHire -systeem onthulde gevoelige gegevens van bijna 64.000 sollicitanten. De oorzaak was geen geavanceerde aanval – het admin-login gebruikte “admin” en “123456”. Het systeem leek geavanceerd. Het falen was elementair.

Wanneer je governance aan een live-systeem koppelt, is het al te laat. Het implementeren van een systeem is een technische beslissing. Het exploiteren ervan op een betrouwbare manier is een organisatorische. En dat is het deel dat de meeste bedrijven onderschatten.

Wie is eigenlijk verantwoordelijk voor AI-risico? Niemand.

Dit is de kern van het probleem en, paradoxaal genoeg, het minst besproken. IT beheert de infrastructuur. Juridische afdelingen behandelen de naleving. Bedrijfstakken dringen use cases aan. Maar niemand is verantwoordelijk voor het eind-tot-eind AI-risico.

Dat creëert twee onmiddellijke problemen. De “go”-beslissing vertraagt – omdat niemand verantwoordelijkheid wil nemen. En de “stop”-beslissing vertraagt evenzeer – omdat niemand weet wie kan.

De gegevens weerspiegelen dit. Minder dan 10% van de AI-use cases halen het van proef naar productie, en de meeste organisaties hebben moeite om meetbare zakelijke impact te genereren. Tegelijkertijd zijn veel organisaties al AI aan het implementeren – maar volgens een governance-maturiteitsonderzoek had slechts 7% een goed gestructureerde en consistent toegepaste governance in plaats.

Waarom gebeurt dit zo consistent? Omdat de meeste kaders en bedrijfsbeleid definiëren wat moet gebeuren – niet wie verantwoordelijk is wanneer het ertoe doet. Wanneer een systeem onjuiste uitvoer begint te produceren om middernacht op een vrijdag, is de vraag niet theoretisch. Wie handelt? En wie heeft de autoriteit om te beslissen?

Dit wordt alleen maar erger met schaal. Één systeem kan informeel worden beheerd. Wanneer je er dertig hebt, fragmenteert de verantwoordelijkheid over teams, en niemand heeft een volledig beeld.

Commonwealth Bank of Australia biedt een duidelijk voorbeeld. De bank verving 45 klantenservicemedewerkers met AI-stemrobots, in de verwachting dat de vraag zou dalen. Dat gebeurde niet. De oproepen namen toe, managers stapten in om de overloop te verwerken, en de bank moest alle 45 medewerkers opnieuw in dienst nemen. Toen het werd uitgedaagd, kon het niet aantonen dat automatisering de werklast had verlaagd.

Niemand had de aannamen geverifieerd voordat het systeem live ging. Niemand was verantwoordelijk voor het resultaat toen die aannamen faalden. Dat is wat een verantwoordelijkheidsvacuüm in de praktijk lijkt.

Regels alleen zijn niet genoeg. Je hebt een mechanisme nodig

De meeste organisaties ontbreken geen beleid. Ze ontbreken systemen die werken wanneer er iets misgaat.

Een beleid definieert wat moet gebeuren. Een mechanisme bepaalt wat er echt gebeurt – wanneer een model onjuiste uitvoer produceert, wanneer een leverancier iets in de achtergrond verandert, of wanneer een systeem onverwacht begint te gedragen.

Die verschil wordt zichtbaar in productie – wanneer beslissingen onder echte omstandigheden moeten worden genomen.

Deze fouten volgen een consistente dynamiek. In elk geval verschijnen dezelfde operationele gaten – alleen in verschillende vormen.

Eigendom komt eerst

Elk geïmplementeerd AI-systeem heeft een duidelijk aanspreekbaar eigenaar nodig – één persoon, niet een team of afdeling, met de autoriteit om goed te keuren, te pauzeren en af te sluiten.

Zonder dat is noch snelle implementatie, noch veilige interventie mogelijk. Zoals te zien in het voorbeeld van de Commonwealth Bank, leidt het ontbreken van duidelijke eigendom rechtstreeks tot operationeel falen.

Gegevens en juridische duidelijkheid ontbreken vaak

Veel systemen gaan live zonder gedocumenteerde gegevensstromen, een geverifieerde juridische basis of duidelijkheid over welke verplichtingen van toepassing zijn zodra het systeem in productie is.

De actie van de Italiaanse toezichthouder tegen DeepSeek in 2025 illustreert dit duidelijk. Het probleem was niet de kwaliteit van het model – het was de onmogelijkheid om uit te leggen hoe persoonlijke gegevens werden afgehandeld. Het resultaat was een plotselinge onderbreking van de dienst voor Europese gebruikers.

Testen weerspiegelt zelden het gebruik in de echte wereld

Systemen worden vaak beoordeeld op scenario’s waarin ze goed presteren, maar niet op de gevallen waarin falen het meest zou tellen.

De MyCity-chatbot is een duidelijk voorbeeld. Basisrandgevallen – rond arbeidswetgeving, huisdiscriminatie of betalingsregels – werden niet opgevangen voordat het systeem live ging. Zodra het werd blootgesteld aan echte gebruikers, werden die fouten onmiddellijk publiek.

Testen is niet alleen over prestaties – het is over het identificeren van waar het systeem faalt voordat gebruikers, toezichthouders of journalisten dat doen.

Interventie is onduidelijk of te langzaam

Zelfs wanneer er problemen zichtbaar zijn, is er vaak geen duidelijke trigger of autoriteit om het systeem te pauzeren of af te sluiten.

Zillow Offers demonstreert dit op grote schaal. Het systeem gebruikte een algoritme om huizen te prijzen en te kopen. Toen de markt in 2021 afkoelde, bleef het systeem huizen kopen tegen opgeblazen prijzen. Er was geen mechanisme om drift in de tijd te detecteren, en geen duidelijk beslissingspunt om het te stoppen. Het resultaat was verliezen van meer dan 880 miljoen dollar en de sluiting van de hele afdeling.

Monitoring is niet eigendom

Monitoring wordt vaak teruggebracht tot dashboards, maar dat is niet wat falen voorkomt.

Wat telt, is gedefinieerde verantwoordelijkheid: wie signaaltjes volgt, wat escalatie activeert en wie verwacht wordt te handelen.

Deloitte Australia‘s zaak toont aan wat er gebeurt wanneer dat ontbreekt. Een overheidsrapport bevatte gehallucineerde citaten en onjuiste juridische verwijzingen omdat niemand expliciet verantwoordelijk was voor het verifiëren van uitvoer voordat deze werd geleverd. Het resultaat was een gedeeltelijke terugbetaling en reputatieschade.

Agente AI: wat eraan komt, zal nog moeilijker zijn

Generatieve AI produceert uitvoer. Agente AI neemt actie. Dat verandert het risico helemaal.

In plaats van één reactie om te evalueren, kan één instructie een keten van beslissingen over systemen activeren – API-aanroepen, gegevenstoegang, transacties, updates – vaak zonder menselijke interventie bij elke stap.

Wanneer er iets misgaat, is het probleem niet langer nauwkeurigheid. Het is traceerbaarheid. Welke stap veroorzaakte het probleem? Welke gegevens werden gebruikt? Wie autoriseerde de actie? In veel gevallen zijn die vragen moeilijk te beantwoorden achteraf.

Daar is waar de bestaande gaten kritiek worden. Onduidelijke eigendom, zwakke monitoring en gebrek aan interventie zijn niet alleen aanhoudend – ze verergeren. Een defect antwoord kan worden gecorrigeerd. Een defecte actie kan gevolgen creëren voordat iemand het opmerkt.

Vroege signalen wijzen al in deze richting. Gartner schat dat meer dan 40% van de agente AI-projecten tegen het einde van 2027 zal worden geannuleerd – niet vanwege modelbeperkingen, maar omdat organisaties worstelen om kosten, risico’s en resultaten te controleren. Dat is hetzelfde patroon dat we zien met generatieve AI na implementatie. Alleen met hogere inzet.

Toezichthouders reageren al met een eenvoudig principe: automatisering neemt geen verantwoordelijkheid weg. Voor organisaties creëert dit een duidelijke implicatie: als eigendom en controle onduidelijk zijn vandaag, zal het opschalen naar agente systemen het probleem niet oplossen. Het zal het verergeren.

Exploiteer het – of verlies het

AI is niet langer de beperking. Modellen zijn breed beschikbaar, capabel en steeds meer gemeengoed. De echte differentiator is niet of een organisatie AI kan bouwen – maar of het deze betrouwbaar kan exploiteren zodra het live is.

Daar is waar de meeste fouten optreden – in hoe systemen worden uitgevoerd, niet in hoe ze worden gebouwd. De organisaties die slagen, zullen niet die zijn met de meest geavanceerde modellen. Ze zullen die zijn met de duidelijkste operationele structuren eromheen.

Dit kan direct worden getest. Neem uw belangrijkste AI-systeem en beantwoord drie vragen:

• Wie kan het afsluiten?
• Hoe weet u wanneer het faalt?
• Wat gebeurt er wanneer het dat doet?

Als die antwoorden onduidelijk zijn, is het systeem niet klaar voor productie.

Het model kan dat wel zijn. De organisatie niet.