AI‑resilience heroverwegen: waarom het tijd is om het ‘Instellen en vergeten’ model te verlaten

Een recent Gallup‑onderzoek wijst op een trend van toenemende AI‑adoptie, aangezien meer dan de helft van de werkende volwassenen aangeeft de technologie minstens een paar keer per jaar te gebruiken. Deze gegevens zijn slechts een indicatie van de snelle AI‑adoptie die plaatsvindt in bedrijfsomgevingen. Hoewel meerdere bedrijfsleiders zijn begonnen de ROI van AI in twijfel te trekken, heeft dit organisaties niet weerhouden de technologie te gebruiken om handmatige taken te stroomlijnen en de productiviteit te maximaliseren.

Terwijl deze adoptie voortduurt, kunnen organisaties in de verleiding komen schadelijke misstappen bij geautomatiseerde werkstromen te negeren. Ze zien AI als een kant‑en‑klare oplossing, waarbij IT‑teams de technologie alleen hoeven in te stellen, te laten draaien en vervolgens “vergeten” dat deze bestaat. Sommige beveiligingsteams proberen dit denken tegen te gaan door automatiserings‑playbooks te creëren die veilig en verantwoord AI‑gebruik bevorderen. Toch laten zelfs de beste IT‑ en beveiligingsteams weinig ruimte voor aanpassing in deze playbooks. Daardoor kunnen bedrijven niet veilig evolueren met AI, terwijl de technologie zelf ook evolueert.

Naarmate bedrijven AI meer autoriteit geven in bedrijfs‑kritieke werkstromen, moet operationele wendbaarheid het nieuwe mandaat worden voor hedendaagse organisaties. Om hiervan een universele praktijk te maken, moeten beveiligingsleiders in bedrijven een “instellen‑en‑vergeten”-mentaliteit loslaten en ontwerpen voor veerkracht.

Begrijpen van de automatiseringsparadox

AI‑gedreven automatisering levert enorme productiviteitswinsten op in tal van bedrijfsfuncties. Laten we cybersecurity als voorbeeld nemen. AI‑tools stellen analisten in staat extra stappen te nemen die ze in overwerkte en overbelaste security‑operations‑centra nooit konden maken. Dit omvat taken zoals het prioriteren van meldingen, het beoordelen van gebeurtenissen, het detecteren van bedreigingen, cross‑referentie‑validatie en het verkrijgen van een second opinion. In tegenstelling tot sommige C‑suite‑leiders blijven CISO’s over het algemeen optimistisch over de waarde die AI in de toekomst zal bieden. Volgens gegevens uit “The CISO Report: From Risk to Resilience in the AI Era,” gelooft 83 % van de CISO’s dat automatisering de investering is die het waarschijnlijkst de verwachtingen zal overtreffen.

Voor de voordelen bestaat er echter een paradox. Hetzelfde rapport benadrukt de scepsis die CISO’s hebben ten aanzien van AI, uit angst voor de gevolgen van autonome fouten. 83 % van de CISO’s rangschikt de impact van hallucinaties, zoals gemiste meldingen of valse positieven, als hun grootste zorg over agent‑AI. Er is voldoende bewijs om deze zorgen over hallucinaties te onderbouwen. Een grote commerciële luchtvaartmaatschappij werd juridisch aansprakelijk gesteld en kreeg een schadevergoeding opgelegd nadat haar klantenservice‑chatbot een beleid voor rouw‑tarief terugbetaling hallucineerde. Een threat‑intelligence‑bedrijf staat voor juridische problemen omdat het naar verluidt een rapport heeft uitgebracht dat een startup verbond aan hackers van een buitenlandse macht. Wanneer AI fouten maakt, kan de nasleep zich uitstrekken buiten interne systemen tot zowel kapitaal als reputatie.

Het probleem met verouderde playbooks

AI‑gerichte beveiligings‑playbooks vormen de basis voor een succesvolle, veilige AI‑adoptie. Problemen ontstaan echter wanneer die playbooks nooit worden aangepast. Bedreigingen, IT‑infrastructuur en bedrijfsomgevingen evolueren voortdurend. AI stelt bedreigers in staat aanvallen op te schalen, terwijl steeds grotere en complexere IT‑omgevingen detectie bemoeilijken. Tegelijkertijd, naarmate bedrijven AI meer verantwoordelijkheid geven, worden de gevolgen van fouten aanzienlijk groter.

Als al deze factoren blijven evolueren, moet de automatiseringslogica met hen meegroeien. Bevroren automatiserings‑playbooks voorkomen dit. Ze laten beveiligingsteams huidige problemen aanpakken met verouderde logica. Soms kan dit scenario zelfs slechter eindigen dan wanneer het beveiligingsteam helemaal geen playbook had.

Om van playbooks levende organismen te maken die geschikt zijn voor de huidige AI‑implementatie en zo interne veerkracht bevorderen, moeten ze:

• Continu getest tegen nieuwe bedreigingsinformatie
• Geüpdatet na echte incidenten
• Afgeschaft zodra ze niet meer effectief zijn of geen waarde meer bieden

Deze mentaliteit sluit aan bij richtlijnen van de Cybersecurity and Infrastructure Security Agency (CISA) en andere wereldwijde cybersecurity‑instanties, die continu toezicht op AI‑systemen en voortdurende menselijke interventie bevorderen.

De veerkrachtformule implementeren

Het AI‑tijdperk vraagt bedrijven om af te stappen van een mentaliteit waarin AI wordt gezien als een puntoplossing, of simpelweg automatisering op bestaande use‑cases te plakken. Organisaties moeten in plaats daarvan een cultuur van veerkracht opbouwen die zowel IT‑personeel als systemen in staat stelt te profiteren van de momenten waarop AI het goed doet — en efficiënt te reageren wanneer de technologie iets fout heeft.

Een praktische formule in drie delen kan helpen deze veerkracht in geautomatiseerde acties te verankeren.

• Vertrouwen: Voor elke geautomatiseerde workflow moeten teams zichzelf afvragen: Hoe zeker zijn we van de trigger die de geautomatiseerde respons heeft gestart?
• Omkeerbaarheid: Is de actie omkeerbaar? Zo ja, hoe snel en veilig kunnen we dit doen?
• Impactbereik: Hoe verstrekkend zijn de gevolgen als een fout zich verspreidt, en hoe bedrijfskritisch is het getroffen asset?

De juiste observability‑ en monitoringtools zijn essentieel om deze vragen te beantwoorden. Teams moeten een geïntegreerd observability‑ en datamanagementplatform gebruiken zodat ze volledig kunnen begrijpen waar in een IT‑omgeving een geautomatiseerde respons kan optreden, welke andere assets het beïnvloedt en welke zakelijke consequenties eraan verbonden zijn. Het regelmatig uitvoeren van deze oefening stelt beveiligingsteams in staat up‑to‑date AI‑playbooks te behouden. Bovendien maakt het correcte human‑in‑the‑loop‑praktijken mogelijk, omdat IT‑teams weten waar en hoe ze moeten ingrijpen om onjuiste geautomatiseerde acties te voorkomen die wijdverspreide en kostbare effecten kunnen hebben.

Niet langer ‘Instellen en vergeten’

Het is belangrijk dat de moderne CISO en IT‑leiders inzien dat de verantwoordelijkheid bij hen ligt als het gaat om AI‑gedrag. Hoe meer AI belangrijke bedrijfsprocessen raakt, hoe groter de last voor chief cybersecurity officers. Een handige vuistregel om te onthouden is: “Automatisering verandert wie op de knop drukt. Het verandert niet wie verantwoordelijk is voor het indrukken van de knop.”

De inzet en verantwoordelijkheid van de hedendaagse CISO zijn te groot om set‑it‑and‑forget‑it‑playbooks te blijven gebruiken. In plaats daarvan moet veerkracht zowel een praktijk als een cultuur zijn die een onderneming doordringt en haar in staat stelt te herstellen nadat AI een fout heeft gemaakt. Wanneer teams continu toezicht, omkeerbaarheid, containment en menselijke eigenaarschap in het automatiserings‑playbook opnemen, kunnen bedrijven voorkomen dat een geautomatiseerde beslissing een bedrijf brede problematiek wordt.