AI tegen AI: De Nieuwe Realiteit van Cyberbeveiliging

AI-gepowered cyberaanvallen zijn aangekomen, waarmee een eerder theoretisch, maar verwacht risico wordt bevestigd, en ze kondigen een nieuwe tijdperk aan in het bedreigingslandschap. Met AI-agents die nu complexe, end-to-end campagnes in enkele minuten kunnen lanceren, kunnen cybercriminelen enterprise-vulnerabiliteiten op machinesnelheid identificeren en uitbuiten. De regels van de inzet zijn veranderd: de cyberverdediging van gisteren kan niet langer het tempo van de AI-gedreven aanval van vandaag bijhouden.

Nu AI cyberbedreigingen versterkt, moeten ondernemingen hun eigen AI-gepowered defensieve capaciteiten inzetten om gelijk op te gaan met de snelheid, schaal en precisie. Voorlopig volgen cyber-tegenstanders nog steeds vertrouwde tactieken, technieken en procedures (TTP’s), maar AI versnelt en upgradet hun playbook. Bovendien zijn de AI-modellen van ondernemingen zelf ook een nieuw doelwit via modelvergiftiging en taalgestuurd sociale engineering, waardoor cyber-teams hun AI-capaciteiten goed moeten beveiligen. Daarom moet beveiliging een kernonderdeel zijn van de bredere AI-strategie van een organisatie.

Wat onderscheidt AI-gepowered cyberaanvallen?

In een digitale wereld die al verzadigd is van vrijwel voortdurende cyberinbraakpogingen, is de drempel voor een kwaadwillige actor verlaagd, waardoor niet alleen het volume maar ook de complexiteit van aanvallen toeneemt. AI-gepowered aanvallen kunnen nu AI of machine learning (ML) gebruiken om elke fase van de aanvalscyclus te automatiseren, te versnellen of te verbeteren, van verkenning en informatieverzameling tot exploitatie en exfiltratie van gevoelige gegevens.

Het uitsluitend vertrouwen op bestaande beveiligingsprocessen en -technologieën zonder de inzet van dezelfde geavanceerde technologie die tegenstanders gebruiken, geeft de tegenstander een voordeel dat bijna onmogelijk is te evenaren zonder defensieve AI. Organisaties zijn al overweldigd door het monitoren van hun onderneming van traditionele bedreigingsactoren. AI-gepowered aanvallen zullen de alarmmoeheid verergeren. Dit vereist een evolutie van menselijk beheerde processen naar een hybride cyber mens/digitaal workforce.

Map elke digitale asset

In de huidige wereld is het begrijpen van de potentiële toegangspunten in een ondernemingsomgeving een vereiste, maar nog steeds buiten bereik voor veel grote ondernemingen. Naast alleen digitale systemen en assets is er behoefte aan een uitgebreide mapping van alle identiteiten en toegang binnen een organisatie. Digitale identiteit, die de fysieke en gedragskenmerken terugkoppelt naar een individu, is goed begrepen met de bestaande controles die nodig zijn om digitale toegang te beheren.

Het begrijpen van het ondernemingsbrede landschap van niet-menselijke identiteiten (NHI’s) is echter essentieel om digitale assets te beveiligen. Het realiseren van de potentiële waarde van AI binnen een organisatie betekent dat AI-agents toegang en toestemming krijgen om autonoom een bedrijfsproces te voltooien. Net als cloud-omgevingen in de vorige beveiligingstijdperk, draaien de huidige agentic-gepowered workflows NHI’s op en neer, waardoor een geavanceerde mogelijkheid nodig is om te beheren en te volgen waar in de omgeving ze opereren en hoe ze hun beoogde missies of rollen bereiken.

Ondernemingen moeten identiteitsbeheer uitbreiden over de levenscyclus van de agentidentiteit en agentacties monitoren, net zoals ze nu menselijke gebruikers-toegang monitoren voor insider-risicogedrag of accountcompromissen van bedreigingsactoren. Naarmate agentic-capaciteiten meer autonomie en zakelijke kritieke werk krijgen, is het begrijpen van hun identiteitsvoetafdruk en toegangspatroon cruciaal voor het implementeren van de toegangs- en bewakingscontroles die nodig zijn om ze en de onderneming te beschermen tegen misbruik.

Sluit AI-modellen af

AI-capaciteiten hebben de belofte om efficiëntie en productiviteit te ontgrendelen, maar ook het potentieel om tegen ondernemingen te worden gebruikt. Het introduceren van AI in elk aspect van bedrijfsoperaties is geen “nice to have” meer – het is een vereiste voor succes in het huidige concurrerende landschap. Daarom is het veilig inzetten van AI een noodzakelijk onderdeel om de volledige zakelijke potentie en resultaten veilig te realiseren.

De overgang naar AI-gepowered cyberverdediging is gaande, terwijl AI-modellen zelf doelwit zijn geworden. Tegenstanders kunnen proberen de gegevens die deze modellen voeden te vergiftigen en ze te manipuleren om onbedoelde acties te nemen of zelfs gevoelige informatie te onthullen.

Adversarial aanvallen tegen AI kunnen in verschillende vormen komen, zoals vergiftigingsaanvallen, prompt-injectie-aanvallen en anderen. Om AI adequaat te beschermen tegen potentiële manipulatie, moeten ondernemingen de filosofie van de Cyber Infrastructure and Security Agency (CISA) van Secure by Design hanteren. Dit begint met de gegevens die de modellen trainen. Het afsluiten van invoer vroeg in het ontwikkelingsproces legt de basis voor betrouwbare uitvoer bij implementatie.

Het begrijpen van de invoer die de modellen en capaciteiten ontwikkelt, is mogelijk door intentioneel gegevensbeheer en controle van toegang tot de modellen zelf. Critische controles die toelaten om gewenste uitvoer te valideren, komen in de vorm van gegevensverliespreventie (DLP); beleids- en veiligheidsenforcing; gronding via verifieerbare bronnen; en strikte goedkeuringscontroles voor hoge-impactacties, auditability en continue testing, inclusief penetratietesten van modellen om ze te verharden.

Integreer AI in beveiligingsoperaties

Tot nu toe is het toepassen van AI op cyberverdediging tactisch geweest, waarbij veel ondernemingen AI hebben toegevoegd aan legacy, mensgerichte processen, in plaats van strategisch na te denken over hoe ze AI-gecentreerde processen kunnen opbouwen. Dit is alsof je een V8-motor op een fiets probeert te zetten. De volgende evolutie van AI-inzet zal het ontwerpen van processen vanaf het begin zijn, met agentic AI en automatisering ingebouwd in het ontwerp. Bewezen beveiligingsoperatiemethoden en -processen, zoals bedreigingsdetectie, bedreigingsjacht en detectie-engineering, zijn nog steeds de kritieke items die essentieel zijn voor de beveiliging van een organisatie in de AI-tijdperk. Het transformeren van huidige beveiligingsprocessen om AI-augmentatie mogelijk te maken, kan een sterke basis leggen voor de toekomstige AI-gepowered beveiligingsoperatiecentrum (SOC).

Bovendien is automatisering geen nieuw concept dat uniek is voor de opkomst van AI; beveiligingsworkflows en -processen zijn al jaren geautomatiseerd, met mature ondernemingen die zeer geavanceerde orkestratie- en automatiseringscapaciteiten hebben. Echter, AI versterkt bestaande regelgebaseerde automatisering en evolueert deze verder, waardoor dynamische, adaptieve, contextrijke geautomatiseerde workflows mogelijk worden die helpen om de snelheid en wendbaarheid te adresseren die nodig zijn voor deze opkomende AI-risico’s.

Wat is de volgende stap?

Beveiliging moet blijven topprioriteit zijn voor bedrijven en IT om hun kritieke assets en gebruikers te beschermen tegen kwaadwillige exploitatie. Secure by design AI is een noodzaak gezien de snelheid waarmee AI-modellen kunnen worden ingezet en kritieke activiteiten kunnen uitvoeren. Cyber-teams moeten strategisch nadenken over het transformeren van processen vanaf het begin om nieuwe AI-capaciteiten adequaat te implementeren om gelijk op te gaan in het cyber kat-en-muisspel.

Beveiligingsleiders kunnen verschillende concrete stappen nemen in de nabije toekomst: een grondige review van de huidige beveiligingsprocessen uitvoeren om lacunes, moderniseringsmogelijkheden en gebieden te identificeren die rijp zijn voor transformatie. Blijf op de hoogte van opkomende AI-bedreigingen, trends en technologieën. Bovenal, blijf gefocust op de fundamentele beveiligingsprincipe van verdediging in diepte die zich in de loop van de tijd heeft bewezen – gelaagde bescherming en validatie van identiteit, naar eindpunt, naar netwerk, naar gegevens, met robuuste monitoring- en responsmogelijkheden die constant worden getest.

De transformatieve potentie van AI belooft een te groot voordeel om de adoptie ervan te vermijden, en de genie is uit de fles voor de bedreigingsactoren. Daarom is de rol van beveiligingsleiders in deze volgende tijdperk hetzelfde als het altijd is geweest: ondersteunen van uw organisaties bij het bereiken van hun zakelijke doelstellingen met zorgvuldige risicobeperking – alleen nu op machinesnelheid met het gebruik van AI.