Wanneer AI tekeergaat: het mitigeren van insiderbedreigingen in het tijdperk van autonome agenten

 De snelle opkomst van AI-agenten creëert nieuwe uitdagingen voor beveiligings- en IT-teams. Aan de vooravond van deze verschuiving naar meer agent-geautomatiseerde workflows voor taken voor bedrijfscontinuïteit, recente tests hebben aangetoond dat AI-agenten onder bepaalde omstandigheden onveilige of misleidende gedragingen kunnen vertonen, waardoor een nieuwe insiderbedreiging voor bedrijven in alle branches ontstaat.

Er is een kritieke behoefte aan organisaties om AI-agenten die toegang hebben tot gevoelige gegevens en zonder menselijke toezicht handelen, goed te monitoren. Dit introduceert mogelijk nieuwe klassen van risico’s die sneller, minder voorspelbaar en moeilijker toe te schrijven zijn. De realiteit van deze risico’s is tweeledig. Enerzijds moeten beveiligingsteams zich voorbereiden op kwaadwillige actoren die AI-agenten gebruiken om sociale engineering-aanvallen op hun medewerkers te versterken. Anderzijds moeten ze zich voorbereiden op intern door het bedrijf goedgekeurde AI-agenten die mogelijk gedrag vertonen dat een geheel nieuwe set beveiligingsrisico’s en kwetsbaarheden creëert.

Hoe interne AI-agenten tot insiderbedreigingen kunnen leiden

AI-agenten vormen twee belangrijke interne beveiligingsrisico’s binnen bedrijfsnetwerken. Ten eerste opereren ze autonoom zonder de ethische grenzen of ingebouwde verantwoordelijkheid die menselijke werknemers van nature volgen. Op basis van afgeleide doelen en niet expliciete instructies, kunnen hun efficiëntie en volharding grenzen overschrijden en hen in staat stellen om zonder goedkeuring te handelen. Zonder noodzakelijke checks en balances in plaats, kunnen blootstellingen gemakkelijk worden gecreëerd en over het hoofd worden gezien.

Deze agenten kunnen ook toegang hebben tot grote hoeveelheden gegevens, maar ontbreken de mogelijkheid om onderscheid te maken tussen geprivilegieerde en routine-informatie. Daarom kunnen zelfs eenvoudige taken zoals het analyseren van datasets ertoe leiden dat gegevens worden gelekt of blootgesteld aan externe partijen. Deze uitdaging wordt nog complexer wanneer AI wordt geschaald over verschillende systemen en workflows met verschillende gegevensregels en -protocollen. Agenten die opereren over regio’s schenden vaak locatiespecifieke gegevensbehandelingsregels vanwege inconsistentie in het beleid, waardoor beveiligingsrisico’s ontstaan. De realiteit is dat slechts 30% van de Amerikaanse bedrijven actief in kaart brengen welke AI-agenten toegang hebben tot kritieke systemen, waardoor een grote beveiligingsblindvlek ontstaat.

Hoe externe AI-agenten tot insiderbedreigingen kunnen leiden

Een van de meest voorkomende manieren waarop hackers toegang krijgen, is via phishing- en sociale engineering-aanvallen. Kwaadwillige actoren en cyberbendes gebruiken AI-agenten om deze aanvallen te versterken en geavanceerde deepfake- en impersonatie-incidenten uit te voeren. AI-agenten kunnen worden gebruikt om phishing- en sociale engineering-aanvallen te creëren die voor ongetrainde ogen meer realistisch en geloofwaardig lijken. 60% van de inbreuken in 2024 betrof een menselijk element, en bijna een kwart daarvan was afkomstig van sociale engineering. Dit aantal zal alleen maar toenemen naarmate het gebruik van AI-agenten deze methoden van toegang zal blijven versterken.

AI-agenten kunnen worden getraind om uitgebreide hoeveelheden sociale media- en persoonlijke gegevens over platforms en kanalen te doorzoeken om gerichte, persoonlijke communicaties te verzenden. Berichten die de toon en stem van afzenders imiteren, zijn meer waarschijnlijk succesvol en moeilijker te onderscheiden van echte media. AI-agenten kunnen leren om hun campagnes aan te passen om hun effectiviteit te verbeteren, door te pivoteren wanneer een aanval niet werkt of door een aanval te imiteren die wel werkte.

Wanneer het gaat om deepfakes, kunnen AI-agenten deze imitaties op uitstekende snelheden genereren, waardoor massale manipulatie ontstaat. Kwaadwillige actoren gebruiken AI-agenten ook om in real-time video-gesprekken te voeren met weinig tot geen latentie en om hun geloofwaardigheid te verbeteren. Ze kunnen reageren op de reactie van een doelwit in real-time en hun aanpak aanpassen als dat nodig is. Deze versterkte aanvallen kunnen het risico van insiderbedreigingen van onbewuste medewerkers vergroten, die mogelijk worden misleid om gevoelige gegevens bloot te stellen, transacties te autoriseren of referenties te delen met bedreigingsactoren.

De rol van beveiligingsteams bij het aanpakken van agente AI-uitdagingen

Beveiligingsteams moeten specifieke acties ondernemen om de blind spots die door AI-agenten worden gecreëerd, te beperken. IT-afdelingen moeten allereerst de toegang van AI-agenten tot gevoelige gegevens beperken via gegevensbeheer en real-time zichtbaarheidscontroles. Stappen om dit te bereiken, zijn onder andere het classificeren van AI-agentidentiteiten in IAM-systemen en het monitoren van hun activiteit met dezelfde rigor als geprivilegieerde accounts. Het zichtbaarheidsaspect gaat verder door het monitoren van netwerkactiviteit voor reeds geïmplementeerde gedragsbaselines die zijn toegewezen aan AI-agenten. Met zichtbaarheid kunnen IT-teams geprivilegieerde toegang en anomalieën monitoren, niet alleen om preventie-inspanningen te ondersteunen, maar ook om beperking- en herstelinspanningen te versnellen in het geval van een rogue-agent.

Bovendien kunnen organisaties, door het identificeren van nieuwe patronen en tactieken die worden gebruikt in AI-agentaanvallen, hun verdedigingsstrategieën bijwerken en hun beveiligingssystemen trainen om soortgelijke bedreigingen in de toekomst te herkennen en te verhinderen.

Blijven vooroplopen van insiderbedreigingen die door AI-agenten worden geïntroduceerd

De realiteit is dat AI-agenten een nieuw insider-risico introduceren vanwege hun autonomie en toenemende toegang tot gevoelige systemen. Bovendien zullen bedreigingsactoren AI-agenten blijven gebruiken om menselijke kwetsbaarheden effectiever te exploiteren via deepfakes, phishing en sociale engineering.

Naarmate deze technologie vordert, moeten bedrijven hun zichtbaarheid in AI-agenttoegang en -gedrag verbeteren voordat ze deze in hun workflows integreren. Dit omvat het investeren in proactief, 360-graden, real-time monitoren naast een AI-agentenwerkforce. Hoewel AI-agenten kritieke bedrijfsbottlenecks en -uitdagingen kunnen oplossen, vereisen ze een proactieve aanpak om toekomstige insiderbedreigingen te beperken.