AI-incidenten worden operationele crisissen. We moeten ze zo behandelen.

De afgelopen jaren hebben de meeste organisaties over AI-risico’s gesproken in de taal van governance.

Is het model nauwkeurig? Is het eerlijk? Is de data goedgekeurd? Voldoen we aan de opkomende regelgeving? Dat zijn belangrijke vragen, maar ze zijn niet de enige vragen. De meest dringende vraag is wat er gebeurt als er iets misgaat?

Wat gebeurt er als een AI-agent een actie onderneemt die hij nooit had mogen nemen? Wat gebeurt er als een model gevoelige gegevens lekt? Wat gebeurt er als een hallucinatie in een juridisch, financieel, klinisch of HR-werkproces legale exposure creëert, of een geautomatiseerde beslissing een klant, werknemer, patiënt of partner op een manier beïnvloedt die niet gemakkelijk ongedaan kan worden gemaakt?

En misschien wel het meest praktisch: waar gaat de organisatie naartoe om de respons te coördineren? Dat is de verschuiving die nu gaande is. AI-risico wordt een operationeel resilientieprobleem, niet alleen een governanceprobleem.

AI verplaatst zich van experimenten naar de werkende machinerie van het bedrijf. Het wordt geïntegreerd in klantenservice, softwareontwikkeling, financiële operaties, zorgwerkprocessen, werving, claimsverwerking, supply chains en interne automatisering. Naarmate AI meer verbonden wordt met het bedrijf, worden AI-falen bedrijfsincidenten.

De OECD AI Incidenten Monitor volgde 596 AI-incidenten in januari 2026 alleen, 200% groei jaar op jaar. Inspanningen zoals de OECD AI Incidenten Monitor en AI Incidenten Database documenteren negatieve of schadelijke resultaten met betrekking tot AI-systemen, zodat de industrie kan leren van ervaring op dezelfde manier als de luchtvaart en cybersecurity dat al jaren doen.

Die vergelijking is belangrijk. Volwassen industrieën vragen zich af hoe ze falen kunnen voorkomen EN hoe ze moeten reageren als er toch een fout optreedt.

AI-incidenten gedragen zich niet als traditionele softwarebugs

Een traditionele softwarebug heeft meestal een relatief duidelijke grens. Iets breekt, ingenieurs onderzoeken, en het team reproduceert het probleem, patcht de code en levert een oplossing.

AI-incidenten zijn echter rommeliger. Ze kunnen probabilistisch, intermittent en ontstaan uit de interactie tussen een model, een prompt, een opvragingsysteem, een plug-in, een agent, een gebruiker en een downstream bedrijfsproces. Soms werkt het AI-systeem exact zoals ontworpen, maar het ontwerp is onvolledig voor de omgeving waarin het wordt gebruikt. Dat maakt de respons moeilijker.

Een hallucinatie in een consumentenchatbot is een soort probleem. Een hallucinatie in een juridisch, financieel, klinisch of HR-werkproces is een ander. Een biased output in testen is serieus. Een biased beslissingsproces dat op grote schaal in productie draait, is iets heel anders. Een AI-assistent die een e-mail opstelt, is één ding, maar een agent die machtigingen kan wijzigen, refunds kan uitgeven, records kan bijwerken, workflows kan triggeren of code kan uitvoeren, is een heel andere categorie risico.

Het MIT AI Risk Repository vat een breed scala aan AI-risico’s samen, waaronder valse of misleidende informatie, privacy- en beveiligingsfouten, discriminatie, misbruik en systeemveiligheidsproblemen. OWASP’s Top 10 voor LLM-toepassingen benadrukt risico’s zoals prompt-injectie, gevoelige informatie-onthulling, onveilige outputafhandeling en overmatige agentie. Dit zijn praktische falenmodi, in plaats van abstracte technische zorgen.

Als een AI-agent te veel autoriteit heeft, kan het acties ondernemen die geen mens heeft bedoeld. Als een prompt-injectie slaagt, kan het systeem informatie onthullen of vijandige instructies volgen. Als gevoelige gegevens lekken via een model of opvragingsysteem, heeft de respons juridische, regulatorische, klant- en reputatie-implicaties. Daarom kan de taal van AI-governance soms te passief worden. Governance vertelt ons wat waar zou moeten zijn. Incidentenrespons vertelt ons wat te doen als de realiteit sneller beweegt dan het beleid.

De respons zal cross-functioneel zijn

Een van de grootste lessen uit cybersecurity is dat incidenten zelden binnen het securityteam blijven. Aan het begin kan een evenement technisch lijken. Zeer snel betrekt het juridisch, communicatie, businessleiderschap, compliance, klantenteams, externe raadslieden, verzekeraars, forensische specialisten en soms het bestuur.

AI-incidenten zullen hetzelfde patroon volgen.

Stel je voor dat een model gevoelige klantgegevens blootlegt. Security- en privacyteams moeten weten wat er is gebeurd. Juridisch moet de verplichtingen beoordelen. Communicatie kan voorbereiden op klanten, regulators of de media. Engineering kan een systeem uitschakelen of terugdraaien. Businessleiders kunnen de continuïteit afwegen tegen het containen.

Of stel je voor dat een AI-agent onbedoelde acties onderneemt in bedrijfssystemen. Het technische team kan het uitschakelen, maar de organisatie moet nog steeds weten wat het heeft gedaan, wie erdoor is getroffen, welke beslissingen zijn genomen, of contractuele verplichtingen zijn geactiveerd en hoe hetzelfde falen in de toekomst kan worden voorkomen. Dat kan niet worden opgelost door het AI-team alleen.

Organisaties moeten cross-functionele spiermassa opbouwen voordat ze het nodig hebben. Dat betekent duidelijke escalatiemomenten, duidelijke rollen, duidelijke beslissingsrechten, duidelijke communicatiepaden, duidelijke documentatie en oefening.

In een crisis is coördinatie infrastructuur, niet alleen een zachte vaardigheid.

Het AI-systeem dat onderzocht wordt, mag de respons niet controleren

Er is nog een ander probleem waar organisaties veel zorgvuldiger over na moeten denken. Als het AI-systeem dat onderzocht wordt toegang heeft tot dezelfde communicatie, documenten, workflows of automatisering die worden gebruikt om de respons te coördineren, heeft de organisatie een probleem.

In cybersecurity is dit een vertrouwd principe. Als ransomware het bedrijfsnetwerk heeft gehackt, coördineer je de respons niet op systemen die de aanvaller kan lezen, verstoren of manipuleren. Je gaat out-of-band. Je scheidt het incident van de respons.

Hetzelfde logica geldt voor AI.

Een AI-systeem kan niet kwaadaardig zijn in de menselijke zin, maar als het de responsplanning kan zien, de responsvergadering kan samenvatten, de workflow kan beïnvloeden, de volgende stap kan aanbevelen of binnen dezelfde omgeving kan opereren die wordt gebruikt om het te containen, dan heeft de organisatie de respons niet echt geïsoleerd.

Dit wordt nog belangrijker met agente AI. Google’s Secure AI Framework benadrukt risico’s zoals prompt-injectie, datapoisoning en rogue-acties, en kaart ze naar controles over de AI-levenscyclus. Dat is de juiste kader. Naarmate AI-systemen capabeler worden om over tools, gegevens en workflows te handelen, moeten organisaties nadenken over modelveiligheid EN over operationele scheiding.

Denk eraan als het onderzoeken van een brand. Je zou de sprinklercontroles niet aan hetzelfde defecte systeem willen koppelen dat je probeert te diagnosticeren.

Prepareer, oefen, reageer, rapporteer

Een nuttig kader voor AI-incidentbereidheid is hetzelfde dat in cybersecurity is gerijpt: prepareer, oefen, reageer, rapporteer.

Prepareer betekent incidenttypen definiëren voordat ze gebeuren, zoals bias, hallucinatie, datalekkage, modeldrift, prompt-injectie, agente runaway, ongeautoriseerd toolgebruik en derdepartijmodelgebrek. Elk vereist verschillende stakeholders en verschillende beslissingen.

Een goede playbook moet geen 200-pagina’s tellende document zijn dat in een map zit. Niemand opent pagina 137 tijdens een crisis. Een goede playbook is rolgebaseerd, toegankelijk en actiegericht. Juridisch weet wat juridisch moet doen. Engineering weet wat engineering moet doen. Communicatie weet wanneer te engageren. Het bestuur weet wanneer management zal escaleren.

Oefenen betekent tabletop-oefeningen uitvoeren. Niet één keer per jaar als een vinkje, maar vaak genoeg om spiermassa op te bouwen. De eerste keer dat het bestuur een AI-incident bespreekt, moet niet tijdens een echt AI-incident zijn. De eerste keer dat juridisch, engineering, privacy, security en communicatie samenwerken aan een AI-falen, moet niet zijn wanneer klanten al vragen stellen.

Reageren betekent het live evenement coördineren met discipline. Wie is in de kamer? Wat zijn de feiten? Wat zijn de onzekere feiten? Wat zijn de genomen beslissingen? Wie heeft ze goedgekeurd? Wat is veranderd tussen uur 12 en uur 48?

Rapporteren betekent erkennen dat AI-regulering concreter wordt. De EU AI Act omvat serieuze incidentenrapportageverplichtingen voor aanbieders van bepaalde high-risk AI-systemen. De details zullen variëren per rechtsgebied, industrie en gebruik, maar de richting is duidelijk. AI-incidenten zullen steeds vaker een verdedigbaar record van wat er is gebeurd, wat bekend was, welke acties zijn ondernomen en wanneer, vereisen.

AI kan helpen, maar het kan geen vervanging zijn voor oordeel

Er is een verleiding om te denken dat AI-incidentenrespons volledig geautomatiseerd moet zijn. Ik denk dat dat de verkeerde kader is.

AI kan enorm helpen. Het kan feiten samenvatten. Het kan ontbrekende informatie identificeren. Het kan een incident vergelijken met eerdere patronen. Het kan after-action rapporten opstellen. Het kan helpen bij het in kaart brengen van regulatorische verplichtingen. Het kan administratieve last verminderen wanneer mensen onder druk staan.

Maar bij een ernstig incident zijn mensen onmisbaar.

Iemand moet beslissen of de feiten voldoende zijn. Iemand moet de klantimpact afwegen. Iemand moet beslissen of een systeem moet worden gepauzeerd. Iemand moet bepalen of de organisatie een rapportagegrens is overschreden. Iemand moet met verantwoordelijkheid en empathie communiceren.

De juiste rol voor AI in incidentenrespons is niet om het crisisteam te vervangen. Het is om het crisisteam een betere context te geven, sneller.

NIST’s AI Risk Management Framework is nuttig omdat het AI-risicomanagement kaderen rond vier functies: govern, map, measure en manage. Voor incidentenrespons zou ik één praktische uitbreiding toevoegen: oefenen.

Een plan dat nooit is getest, is geen echt plan. Het is een theorie.

Besturen hebben ook een playbook nodig

AI-risico wordt een bestuursniveau-onderwerp, maar bestuursbetrokkenheid kan niet stoppen bij toezichtspresentaties. Besturen moeten hun rol begrijpen voordat een crisis optreedt.

Wanneer wordt het bestuur geïnformeerd? Welke beslissingen vereisen bestuursinput? Welke informatie zal management verstrekken? Hoe zullen materialiteit, klantimpact, legale exposure, regulatorische verplichtingen en operationele verstoring worden beoordeeld?

Veel organisaties hebben securityplaybooks, privacyplaybooks, communicatieplaybooks en juridische playbooks. Weinig hebben een bestuursplaybook voor AI-incidenten. Die kloof zal zichtbaarder worden naarmate AI-systemen in gereguleerde, omzetgenererende en klantgerichte workflows worden geïntegreerd. De rol van het bestuur is om de organisatie te helpen bij het nemen van betere beslissingen onder druk, niet om technischer te worden.

Betrouwbaar AI vereist operationele resilientie

Er is veel gesprek over betrouwbaar AI. Dat is de juiste aspiratie, maar vertrouwen wordt niet alleen door principes gecreëerd. Vertrouwen wordt gecreëerd wanneer organisaties kunnen laten zien hoe ze zich voorbereiden, hoe ze problemen detecteren, hoe ze reageren, hoe ze communiceren, hoe ze beslissingen documenteren en hoe ze verbeteren.

Cybersecurity is door dezelfde evolutie gegaan. Organisaties hebben jarenlang geïnvesteerd in preventie, en ze moeten dat blijven doen. Maar volwassen organisaties leerden uiteindelijk dat preventie niet genoeg is. Je hebt ook resilientie nodig. AI gaat dezelfde fase in.

We moeten absoluut veiligere modellen bouwen, sterkere controles, betere evaluaties, beter rood team, en beter governance, maar we moeten ook accepteren dat incidenten zullen gebeuren. Modellen zullen falen, agenten zullen onverwacht gedragen, gegevens zullen lekken, mensen zullen systemen misbruiken, leveranciers zullen fouten maken, en reguleringen zullen evolueren.

De vraag is of de organisatie kan reageren met snelheid, coördinatie, oordeel en verantwoordelijkheid wanneer een incident optreedt. Dat is hoe AI van experimenten naar betrouwbare infrastructuur gaat, en dat is hoe resilientie cultuur wordt.