Waarom doemscenario’s afleiden van het echte AI-risico waarover we ons zorgen moeten maken

Wie nieuws volgt, kan de toenemende paniek rond de AI-sector en waarschuwingen voor doemscenario’s moeilijk negeren. Het verhaal over het ‘existentiële risico’ dat AI-systemen voor de mensheid zouden vormen, heeft cybersecuritybedrijven maar al te gemakkelijk op de kar doen springen en angst als verkoopargument laten gebruiken. Toch is de focus op ‘het einde der tijden’ misplaatst, omdat die voorbijgaat aan de directere risico’s die agentische AI vandaag voor organisaties vormt.

Natuurlijk brengen AI-agenten die onafhankelijk van de controles van een organisatie handelen duidelijke risico’s met zich mee. Pas nog bleek uit berichtgeving uit Australië en de VS dat AI-agenten van OpenAI op overheidssystemen in beide landen buiten de hun toegewezen taken waren getreden.

Toch zijn de dreigingen van AI-doemscenario’s overdreven. In plaats van zich vast te bijten in hypothetische scenario’s moeten organisaties deze nieuwe realiteit onder ogen zien en zorgen voor deterministische waarborgen die de operationele veerkracht ondersteunen.

Het internet heeft geen centrale uitknop

Aanhangers van het doemscenarioverhaal geloven dat AI, naarmate die geavanceerder en wijdverspreider wordt, kan uitgroeien tot een geconcentreerde ‘kill switch’: één kwetsbaar punt waarop iemand de volledige controle kan overnemen en een catastrofe kan veroorzaken.

Het internet is echter veel meer verspreid en veelzijdig dan de kill-switch-theorie veronderstelt. Het werkt als een ‘netwerk van netwerken’ en bestaat uit miljarden onderdelen, gelaagd in verschillende architecturen en beschermd door talloze operationele teams die met uiteenlopende normen en hulpmiddelen werken. Er is dus geen enkele schakelaar die iemand, mens of machine, kan omzetten — geen afzonderlijke kwetsbaarheid of keten van kwetsbaarheden die kan worden uitgebuit om dit fatale effect te bereiken.

Het idee dat AI een ontworpen ziekteverwekker zou kunnen maken en verspreiden, of zou kunnen inbreken in nucleaire systemen die niet met andere netwerken zijn verbonden, is misschien boeiend voor een film in de bioscoop. Toch is het verre van een geloofwaardig scenario voor een operationele dreigingsanalyse.

Uit het zicht, buiten controle

Naarmate agentische AI zich verder ontwikkelt, zijn twee factoren de aard van risico’s voor ondernemingen fundamenteel veranderd.

Enerzijds kan AI kwaadwillenden nu helpen om cyberkwetsbaarheden op te sporen en uit te buiten in minuten in plaats van maanden. Tegen de tijd dat probabilistische AI-verdedigingssystemen verdachte activiteiten hebben vastgesteld, is het vaak te laat om op de dreiging te reageren. Omdat ze werken met statistische waarschijnlijkheden in plaats van vaste regels, zullen zelfs de beste sommige kwaadaardige activiteiten missen. Een aanvaller hoeft er maar één keer doorheen te glippen

Anderzijds maakt het gebruik van ‘schaduw-AI’ door werknemers het veel moeilijker om te weten wat bescherming nodig heeft. Maar liefst 82% van de organisaties die door de Cloud Security Alliance werden ondervraagd, ontdekte het afgelopen jaar AI-agenten waarvan beveiligings- of IT-teams niet wisten dat ze actief waren, hoewel 68% aangaf er veel vertrouwen in te hebben dat ze zicht hadden op de agenten. Daarnaast stelde EY vast dat een kwart van de grote Amerikaanse bedrijven die agentische AI gebruiken toegaf geen onbevoegde agenten te kunnen detecteren die binnen het bedrijf actief waren.

Beide ontwikkelingen leggen vanzelfsprekend een aanzienlijke operationele druk op bedrijfssystemen. Samen brengen ze organisaties flink op achterstand: ze zijn te traag om kwetsbaarheden op te sporen en te verhelpen, en hebben geen zicht op welke systemen überhaupt kwetsbaar zijn.

Grip krijgen op wat beheersbaar is

Organisaties hebben een actueel overzicht nodig van elke agent die binnen het bedrijf actief is, met of zonder toestemming. Voor elke agent moet een eigenaar bij naam worden aangewezen en duidelijk worden afgebakend waartoe de agent toegang heeft en wat die mag doen. Dat is de eerste stap om grip te krijgen op wat beheersbaar is: AI-modellen mogen dan probabilistisch zijn, maar de controles eromheen kunnen deterministisch, vast en duidelijk omschreven zijn.

In de praktijk betekent dit dat telkens wanneer een agent een actie voorstelt, een aparte handhavingslaag, onafhankelijk van het model zelf, moet controleren of die actie is toegestaan en een auditspoor moet bijhouden. Toch blokkeert slechts 11% van de organisaties automatisch een actie van een agent wanneer die buiten de toegestane reikwijdte valt; de meeste organisaties vertrouwen op goedkeuring door een medewerker of leggen de actie alleen vast. Het incident in Australië laat zien wat het kost om erop te vertrouwen dat het doelsysteem nee zegt: toen de toegang werd geweigerd, vond de agent een andere weg naar binnen. De bredere governance-architectuur moet bovendien alle agenten voortdurend kunnen identificeren, autoriseren en verifiëren om te voorkomen dat onvoorziene operationele risico’s werkelijkheid worden. Dit alles moet snel gebeuren, want voor aanvallen op machinesnelheid zijn regels nodig die op machinesnelheid werken.

Van hypothetische angst naar praktische oplossingen

Hoe overtuigend de berichtgeving over doemscenario’s als gevolg van autonome AI-systemen ook klinkt, ze staat ver van de werkelijkheid. Het risico waarover we ons zorgen moeten maken, is veel alledaagser dan een AI die besluit ons te vernietigen: een agent die binnen uw bedrijf handelt, sneller dan iemand het kan zien, met bevoegdheden die niemand hem heeft verleend.

De problemen rond snelheid en inzicht zijn allebei op te lossen, zolang de beveiligingssystemen die AI aansturen deterministisch zijn en elke agent nauwkeurig kunnen controleren en volgen op de snelheid waarmee die opereert.

Voor bestuurders en beveiligingsverantwoordelijken komt het neer op drie praktische vragen: weten we welke agents er allemaal in onze omgeving actief zijn, heeft elk daarvan een verantwoordelijke en duidelijk afgebakende grenzen, en kunnen we een ongeoorloofde actie tegenhouden voordat die wordt uitgevoerd? Klanten helpen deze praktische tekortkomingen aan te pakken, is waar cybersecurityaanbieders veel meer kunnen bijdragen aan weerbaarheid dan door angst aan te jagen voor hypothetische toekomstscenario’s.