Thought leaders
AI tegen AI: de nieuwe realiteit van cyberbeveiliging

Belangrijkste puntenMet AI-aangedreven aanvallen worden volledige aanvalslevenscycli geautomatiseerd op…
Meer weergeven
- Met AI-aangedreven aanvallen worden volledige aanvalslevenscycli geautomatiseerd op machinesnelheid, waardoor traditionele, door mensen beheerde verdedigingssystemen overweldigd raken.
- Bedrijven moeten niet-menselijke AI-agentidentiteiten in kaart brengen en beveiligen, aangezien deze autonome systemen kritieke bedrijfstoegang verkrijgen.
- Organisaties moeten AI-modellen vergrendelen volgens Secure by Design-principes om datavergiftiging en vijandige manipulatie te voorkomen.
AI-gestuurde cyberaanvallen zijn aangekomen, waarmee een eerder theoretisch, maar verwacht risico wordt bevestigd, en ze kondigen een nieuw tijdperk aan in het bedreigingslandschap. Met AI-agents die nu complexe, end-to-end campagnes in enkele minuten kunnen lanceren, kunnen cybercriminelen kwetsbaarheden van ondernemingen op machinesnelheid identificeren en uitbuiten. De spelregels zijn veranderd: de cyberverdediging van gisteren kan niet langer het tempo van de AI-gedreven aanval van vandaag bijhouden.
Nu AI cyberbedreigingen versterkt, moeten ondernemingen hun eigen AI-gestuurde defensieve capaciteiten inzetten om gelijk op te gaan met de snelheid, schaal en precisie. Voorlopig volgen cyber-tegenstanders nog steeds vertrouwde tactieken, technieken en procedures (TTP’s), maar AI versnelt en upgradet hun playbook. Bovendien zijn de AI-modellen van ondernemingen zelf ook een nieuw doelwit via modelvergiftiging en taalgestuurde sociale manipulatie, waardoor cyber-teams hun AI-capaciteiten goed moeten beveiligen. Daarom moet beveiliging een kernonderdeel zijn van de bredere AI-strategie van een organisatie.
Wat onderscheidt AI-gestuurde cyberaanvallen?
In een digitale wereld die al verzadigd is van vrijwel voortdurende cyberinbraakpogingen, is de drempel voor een kwaadwillige actor verlaagd, waardoor niet alleen het volume maar ook de complexiteit van aanvallen toeneemt. AI-gestuurde aanvallen kunnen nu AI of machine learning (ML) gebruiken om elke fase van de aanvalscyclus te automatiseren, te versnellen of te verbeteren, van verkenning en informatieverzameling tot exploitatie en exfiltratie van gevoelige gegevens.
Het uitsluitend vertrouwen op bestaande beveiligingsprocessen en -technologieën zonder de inzet van dezelfde geavanceerde technologie die tegenstanders gebruiken, geeft de tegenstander een voordeel dat bijna onmogelijk is te evenaren zonder defensieve AI. Organisaties zijn al overweldigd door het monitoren van hun onderneming op traditionele dreigingsactoren. AI-gestuurde aanvallen zullen de alarmmoeheid verergeren. Dit vereist een evolutie van menselijk beheerde processen naar een hybride personeelsbestand voor cyberbeveiliging met mensen en digitale medewerkers.
Breng elk digitaal bedrijfsmiddel in kaart
In de huidige wereld is het begrijpen van de potentiële toegangspunten in een ondernemingsomgeving een vereiste, maar nog steeds buiten bereik voor veel grote ondernemingen. Naast alleen digitale systemen en assets is er behoefte aan een uitgebreide mapping van alle identiteiten en toegang binnen een organisatie. Digitale identiteit, die de fysieke en gedragskenmerken terugkoppelt naar een individu, is goed begrepen met de bestaande controles die nodig zijn om digitale toegang te beheren.
Het begrijpen van het ondernemingsbrede landschap van niet-menselijke identiteiten (NHI’s) is echter essentieel om digitale assets te beveiligen. Het realiseren van de potentiële waarde van AI binnen een organisatie betekent dat AI-agents toegang en toestemming krijgen om autonoom een bedrijfsproces te voltooien. Net als cloud-omgevingen in het vorige beveiligingstijdperk, maken de huidige workflows op basis van agents niet-menselijke identiteiten op grote schaal aan en verwijderen ze weer, waardoor een geavanceerde mogelijkheid nodig is om te beheren en te volgen waar in de omgeving ze opereren en hoe ze hun beoogde missies of rollen bereiken.
Ondernemingen moeten identiteitsbeheer uitbreiden over de levenscyclus van de agentidentiteit en agentacties monitoren, net zoals ze nu menselijke gebruikers-toegang monitoren voor insider-risicogedrag of accountcompromissen van bedreigingsactoren. Naarmate capaciteiten van agents meer autonomie en bedrijfskritiek werk krijgen, is het begrijpen van hun identiteitsvoetafdruk en toegangspatroon cruciaal voor het implementeren van de toegangs- en bewakingscontroles die nodig zijn om ze en de onderneming te beschermen tegen misbruik.
Sluit AI-modellen af
AI-capaciteiten hebben de belofte om efficiëntie en productiviteit te ontgrendelen, maar ook het potentieel om tegen ondernemingen te worden gebruikt. Het introduceren van AI in elk aspect van bedrijfsoperaties is geen “nice to have” meer – het is een vereiste voor succes in het huidige concurrerende landschap. Daarom is het veilig inzetten van AI een noodzakelijk onderdeel om de volledige zakelijke potentie en resultaten veilig te realiseren.
De overgang naar AI-gestuurde cyberverdediging is gaande, terwijl AI-modellen zelf doelwit zijn geworden. Tegenstanders kunnen proberen de gegevens die deze modellen voeden te vergiftigen en ze te manipuleren om onbedoelde acties te nemen of zelfs gevoelige informatie te onthullen.
Vijandige aanvallen tegen AI kunnen in verschillende vormen komen, zoals vergiftigingsaanvallen, prompt-injectie-aanvallen en anderen. Om AI adequaat te beschermen tegen potentiële manipulatie, moeten ondernemingen de filosofie van de Cyber Infrastructure and Security Agency (CISA) van Secure by Design hanteren. Dit begint met de gegevens die de modellen trainen. Het afsluiten van invoer vroeg in het ontwikkelingsproces legt de basis voor betrouwbare uitvoer bij implementatie.
Het begrijpen van de invoer die wordt gebruikt om modellen en capaciteiten te ontwikkelen, is mogelijk door intentioneel gegevensbeheer en controle van toegang tot de modellen zelf. Kritieke controles die toelaten om gewenste uitvoer te valideren, komen in de vorm van gegevensverliespreventie (DLP); handhaving van beleid en veiligheidsregels; gronding via verifieerbare bronnen; en strikte goedkeuringscontroles voor hoge-impactacties, controleerbaarheid en voortdurende tests, inclusief penetratietesten van modellen om ze te verharden.
Integreer AI in beveiligingsoperaties
Tot nu toe is het toepassen van AI op cyberverdediging tactisch geweest, waarbij veel ondernemingen AI hebben toegevoegd aan bestaande processen die op mensen zijn gericht, in plaats van strategisch na te denken over hoe ze AI-gecentreerde processen kunnen opbouwen. Dit is alsof je een V8-motor op een fiets probeert te zetten. De volgende evolutie van AI-inzet zal het ontwerpen van processen vanaf het begin zijn, met AI op basis van agents en automatisering ingebouwd in het ontwerp. Bewezen beveiligingsoperatiemethoden en -processen, zoals bedreigingsdetectie, bedreigingsjacht en detectie-engineering, zijn nog steeds de kritieke items die essentieel zijn voor de beveiliging van een organisatie in het AI-tijdperk. Het transformeren van huidige beveiligingsprocessen om AI-augmentatie mogelijk te maken, kan een sterke basis leggen voor het toekomstige AI-gestuurde beveiligingsoperatiecentrum (SOC).
Bovendien is automatisering geen nieuw concept dat uniek is voor de opkomst van AI; beveiligingsworkflows en -processen zijn al jaren geautomatiseerd, met mature ondernemingen die zeer geavanceerde orkestratie- en automatiseringscapaciteiten hebben. Echter, AI versterkt bestaande regelgebaseerde automatisering en evolueert deze verder, waardoor dynamische, adaptieve, contextrijke geautomatiseerde workflows mogelijk worden die helpen om de snelheid en wendbaarheid te adresseren die nodig zijn voor deze opkomende AI-risico’s.
Wat is de volgende stap?
Beveiliging moet een topprioriteit blijven voor bedrijven en IT om hun kritieke assets en gebruikers te beschermen tegen kwaadwillige exploitatie. Secure by design AI is een noodzaak gezien de snelheid waarmee AI-modellen kunnen worden ingezet en kritieke activiteiten kunnen uitvoeren. Cyber-teams moeten strategisch nadenken over het transformeren van processen vanaf het begin om nieuwe AI-capaciteiten adequaat te implementeren om gelijk op te gaan in het cyber kat-en-muisspel.
Beveiligingsleiders kunnen verschillende concrete stappen nemen in de nabije toekomst: een grondige review van de huidige beveiligingsprocessen uitvoeren om lacunes, moderniseringsmogelijkheden en gebieden te identificeren die rijp zijn voor transformatie. Blijf op de hoogte van opkomende AI-bedreigingen, trends en technologieën. Bovenal, blijf gefocust op het fundamentele beveiligingsprincipe van verdediging in diepte die zich in de loop van de tijd heeft bewezen – gelaagde bescherming en validatie van identiteit, naar eindpunt, naar netwerk, naar gegevens, met robuuste monitoring- en responsmogelijkheden die constant worden getest.
De transformatieve potentie van AI belooft een te groot voordeel om de adoptie ervan te vermijden, en de genie is uit de fles voor de bedreigingsactoren. Daarom is de rol van beveiligingsleiders in dit volgende tijdperk hetzelfde als het altijd is geweest: ondersteunen van uw organisaties bij het bereiken van hun zakelijke doelstellingen met zorgvuldige risicobeperking – alleen nu op machinesnelheid met het gebruik van AI.













