Kunt u verdedigen wat uw AI zojuist heeft gedaan?

Regelgevende deadlines voor AI blijven verschuiven, maar de behoefte aan AI‑verantwoordelijkheid blijft bestaan 

Al twee jaar wordt het regelgevende gesprek over enterprise‑AI georganiseerd rond deadlines. De high‑risk‑bepalingen van de EU AI‑Act zouden op 2 augustus van kracht worden. Colorado’s eerste AI‑wet van het land zou op 30 juni ingaan. Washington zou eindelijk de vraag beantwoorden wie wat mag reguleren. 

Dus, zien we vooruitgang ten opzichte van die deadlines? Min of meer. 

In ongeveer zes weken dit voorjaar, stemde de EU ermee in de Annex‑III‑high‑risk‑verplichtingen uit te stellen tot december 2027, en product‑geïntegreerde high‑risk‑systemen tot 2 augustus 2028. In Colorado stopte een federale gerechtelijke beschikking de staats‑advocaat van het afdwingen van de oorspronkelijke wet, en verving deze door een beperkter kennisgevings‑kader dat vanaf 1 januari 2027 van kracht is. Op 2 juni ondertekende het Witte Huis een uitvoerend AI‑order dat een bewust pro‑innovatie‑standpunt innam, waarbij vrijwillige samenwerking met toonaangevende ontwikkelaars werd geprefereerd boven enige verplichte licentie‑ of vooraf‑goedkeuringseis voor AI‑modellen. 

Verschuivende tijdlijnen en de illusie van regelgevende verlichting

Het belangrijke punt voor bedrijven is dat verschuivende deadlines de AI‑verantwoordelijkheid niet hebben doen verdwijnen. In Europa, zelfs nu sommige high‑risk‑vereisten werden verplaatst, bleven verplichtingen rond transparantie, AI‑geletterdheid, synthetische content en handhaving voortschrijden. Colorado vertelt een vergelijkbaar verhaal: wetgevers hebben enkele van de meest belastende compliance‑eisen weggelaten, maar de basisprincipes behouden, zoals het melden wanneer AI betrokken is, het uitleggen van nadelige beslissingen, het corrigeren van slechte data en het bieden van een route naar menselijke beoordeling.

Dat is een nuttig signaal van waar regelgeving uiteindelijk kan convergeren. Beleidsmakers kunnen van mening verschillen over impact‑evaluaties, licentieregimes en welk niveau van overheid de regels moet stellen. Maar het vermogen om uit te leggen wat een AI‑systeem heeft gedaan, te documenteren hoe het tot een uitkomst kwam en mensen een zinvolle remedie te bieden, blijkt veel moeilijker weg te reguleren. Een bank moet nog steeds een AI‑beïnvloede kredietbeslissing kunnen verklaren. Een ziekenhuis moet nog steeds een verslag hebben van hoe een AI‑ondersteunde aanbeveling tot stand kwam. Een bedrijf moet nog steeds weten wat er gebeurt wanneer een geautomatiseerd systeem een uitkomst produceert die het moet verdedigen.

Indien iets, maakt de groeiende beschikbaarheid van open modellen die verantwoordelijkheid nog belangrijker. Hoe meer controle een onderneming heeft over waar en hoe een model draait, hoe moeilijker het wordt om verantwoording af te schuiven op iemand anders. Als een organisatie niet kan reconstrueren, uitleggen en verdedigen wat haar AI‑systemen doen, bieden regelgevende uitstelmaatregelen slechts tijdelijke verlichting.

Bent u Chief AI Officer, Head of Model Risk Management, of draagt u andere verantwoordelijkheden met betrekking tot AI‑gebruik binnen een gereguleerde sector, en heeft u eerdere periodes van innovatie en regulering meegemaakt, dan weet u dat het eerste altijd het tweede overtreft – en echte verantwoordelijkheid wordt bepaald door wat uw organisatie doet bij de inzet, al dan niet inclusief regelgevende eisen.  

De AI‑vertrouwens‑verificatiekloof: waarom marktrisico regelgeving overtreft

Verantwoordelijkheid wordt gedefinieerd door de beslissingen die zonder toezicht worden genomen en het vermenigvuldigt zich in beide richtingen. Hoewel enterprise‑AI‑verantwoordelijkheid vaak wordt aangezien voor een door toezichthouders uitgevonden consequentie‑gebaseerd concept, ontstaat het op het moment dat een bedrijf een model inzet, ongeacht of er al een afdwingbare consequentie is benoemd. En de inzet versnelt veel sneller dan welke compliance‑kalender dan ook – nu nog sneller nu autonome agenten in productie gaan, acties ondernemen, data aanraken en beslissingen nemen met een snelheid die geen menselijke beoordelaar kan evenaren. Gartner verwacht dat tegen het einde van dit jaar 40 % van enterprise‑applicaties taak‑specifieke AI‑agenten zal bevatten, tegen minder dan 5 % in 2025. 

Daarom komt het meest doorslaggevende signaal in enterprise‑AI nu niet van regelgevers – het komt uit bestuurskamers en wordt getoond op de carrière‑pagina’s van bedrijven in diverse sectoren. Board‑level toezicht op AI is met 84 % gestegen in openbaar‑bedrijf disclosures en Forrester voorspelt dat 60 % van de Fortune 100 dit jaar een toegewijde hoofd AI‑governance zal aanstellen. Morgan Stanley en BlackRock zijn begonnen AI‑governance‑volwassenheid mee te wegen in hun waardering van bedrijven. Niets daarvan is een reactie op een wet; het is een reactie op risico dat bedrijven die AI al toepassen erkennen in alles, van bedrijfsvoering tot vacature‑teksten. 

Stanford’s 2026 AI Index stelde vast dat beveiliging en risico – niet modelkwaliteit of kosten – nu de grootste belemmering vormen voor het opschalen van agent‑gebaseerde AI, genoemd door 62 % van organisaties en ver boven technische beperkingen en regelgevende onzekerheid uitgelicht. Die kloof – tussen wat een systeem doet en wat de eigenaar daadwerkelijk kan bewijzen – is de AI‑vertrouwens‑verificatiekloof, en die sluit niet op een regelgevende tijdlijn. 

Het patroon van innovatie dat regelgeving overtreft is hetzelfde als bij cloud‑adoptie, de opkomst van encryptie, en de cybersecurity‑industrie in de afgelopen drie decennia – de media behandelen het, regelgevers erkennen het, en elke sector worstelt met de praktische implicaties en unieke scenario’s terwijl ze van terughoudendheid naar experimentatie en uiteindelijk naar verschillende graden van bedrijfsadoptie gaan. Bij cloud‑computing lanceerde AWS in 2006, en bedrijven migreerden een decennium lang gevoelige data en kernsystemen voordat de compliance‑structuur bijkwam. FedRAMP kwam pas in 2011, de industrie moest het “shared responsibility model” uitvinden om verantwoordelijkheid toe te wijzen die contracten niet hadden, en GDPR gaf pas in 2018 echte tanden aan dataverwerking. Cybersecurity volgde dezelfde boog: PCI DSS werd pas in 2004 formeel, lang nadat kaartdata al online waren; de wetgeving voor datalekken begon met één Californië‑statutaire wet in 2003 en blijft een staat‑voor‑staat lappendeken; en de SEC eiste pas in 2023 dat bedrijven materiële cyber‑incidenten melden. In beide gevallen bestond de verantwoordelijkheid lang vóór de regel, en het was de markt, klanten, auditors, verzekeraars en af en toe een zeer publieke inbreuk die die verantwoordelijkheid oplegde aan bedrijven die het anders deden.

Van pilot‑capaciteit naar uitkomst‑verdedigbaarheid in productie

Snelheid en capaciteit waren wat AI in enterprise‑pilots bracht en, net als elke andere grote technologische innovatie, dat was uit noodzaak. Maar ze zijn niet voldoende om AI in productie te krijgen binnen sterk gereguleerde omgevingen met complexe datasets en workflows – banken, verzekeraars, kritieke infrastructuur, defensieprogramma’s – omgevingen waar iemand uiteindelijk een AI‑gedreven beslissing moet voorleggen aan een toezichthouder, een bestuur of een advocaat van een eiser en die moet verdedigen. In die ruimtes is “het model is zeer capabel” geen verantwoord antwoord. 

Dat onderscheid is de echte scheidslijn geworden, en meer bedrijven realiseren zich dat het een architectuur‑probleem is vóórdat het een beleidsprobleem is. Je kunt een black‑box niet achteraf auditten tot verantwoordelijkheid. Verklaarbaarheid, traceerbaarheid en een duidelijke eigenaarschap‑keten moeten in het systeem ingebouwd zijn; anders bestaan ze niet, en de organisaties die dit op de harde manier leren, zijn diegenen die eerst hebben ingezet en pas daarna over verantwoordelijkheid hebben nagedacht. Gartner voorspelt dat tegen 2027, 40 % van de bedrijven autonome agenten zal moeten demoten of buiten gebruik stellen juist vanwege governance‑gaten die pas na een productiefout werden ontdekt. 

De Klue‑inbraak eerder deze zomer is een uitstekend voorbeeld dat alleen maar leerzamer werd naarmate het zich ontvouwde. Klue is een AI‑gedreven platform voor concurrentie‑intelligentie, en de aanvallers versloegen geen geavanceerde verdedigingen; ze gebruikten een enkele integratie‑referentie, uitgegeven in 2022 voor een pilot die later werd verlaten en nooit werd ingetrokken, om in te loggen op CRM‑verbindingen van klanten en records op te halen via geautomatiseerde queries. Wat begon als een handvol onthullingen groeide uit tot meerdere bedrijven die betrokken waren. Zelfs nadat de oorspronkelijke aanvaller begon mee te werken, verscheen een tweede groep die dezelfde gestolen data claimde en een eigen afpersingscampagne startte. 

De blootstelling was geen model‑fout of een slimme zero‑day; het was een vertrouwde, geautomatiseerde toegangsroute waarvoor niemand actief verantwoordelijkheid droeg, en die bleef consequenties genereren lang nadat het incident zogenaamd “opgelost” was. Naarmate bedrijven AI en haar agenten in meer van hun systemen integreren, wordt elke verbinding dezelfde vraag die wacht om gesteld te worden: wie bezit het, wie houdt het in de gaten, en wie beantwoordt het wanneer het sneller beweegt dan iemand kan superviseren? 

Regelgevers verschuiven data precies vanwege dit onderliggende probleem. Hoe je deze systemen leesbaar, testbaar en verantwoordelijk maakt, is echt moeilijk, en de standaarden en tooling zijn nog niet volledig ontwikkeld. Maar dat is geen reden om te wachten; het is juist het duidelijkste signaal van wat onmiddellijk moet worden geprioriteerd. Bedrijven die de extra speling zien als toestemming om te vertragen, zullen in 2027 onder druk doen wat hun concurrenten nu vrijwillig doen. 

De definitie van succes bij enterprise‑AI‑implementatie moet verschuiven van pilot‑capaciteit naar uitkomst‑verdedigbaarheid. In de praktijk betekent dat dat elke besluitvormingsroute waarin AI betrokken is drie tests moet doorstaan: een duurzaam verslag van wat het systeem deed, een verklaring die een niet‑engineer kan volgen, en een route voor de getroffen persoon om het resultaat aan te vechten. Dat is geen framework dat iemand in een vendor‑deck heeft verzonnen, maar bijna woord‑voor‑woord wat overleefde na de deregulering van Colorado. 

Vragen of AI in abstracte zin betrouwbaar is, was in 2025 een filosofisch debat. Nu en in de toekomst moeten bedrijven kunnen beantwoorden of ze de uitkomsten die AI levert kunnen verdedigen, en dat elke keer bewijzen aan iedereen die ernaar vraagt. 

De deadlines kunnen worden uitgesteld en meer verlengingen kunnen blijven bestaan, maar in tegenstelling tot regelgevers, de markt en de klanten die uw bedrijf uiteindelijk bedient, verlenen zij geen uitstel of accepteren geen excuses.