Tankeledare

AI mot AI: den nya verkligheten inom cybersäkerhet

Kevin Urbanowicz Mark Nicholson
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterAI-drivna attacker automatiserar hela attacklivscykler med maskinhastighet, vilket…
Visa mer
  • AI-drivna attacker automatiserar hela attacklivscykler med maskinhastighet, vilket överväldigar traditionella, mänskligt hanterade försvarsåtgärder.
  • Företag måste kartlägga och säkra icke-mänskliga AI-agentidentiteter när dessa autonoma system får kritisk affärstillgång.
  • Organisationer måste säkra AI-modeller med Secure by Design-principer för att förhindra dataförgiftning och fientlig manipulation.

AI-drivna cyberattacker har anlänt, vilket bekräftar vad som tidigare bara var en teoretisk, men förväntad, risk, och de utropar en ny era i hotlandskapet. Med AI-agenter som nu kan lansera komplexa, slut-till-slut-kampanjer på några minuter, kan cyberkriminella identifiera och utnyttja företags sårbarheter med maskinens hastighet. Spelreglerna har förändrats: gårdagens cybersäkerhetsförsvar kan inte längre hålla jämna steg med dagens AI-drivna offensiv.

När AI förstärker cyberhoten behöver företagen distribuera sina egna AI-drivna försvarskapaciteter för att hålla jämna steg i fråga om hastighet, skala och precision. För tillfället följer cybermotståndare fortfarande bekanta taktiker, tekniker och förfaranden (TTP), men AI accelererar och uppgraderar deras spelbok. Dessutom är företags AI-modeller själva också ett nytt mål via modellförgiftning och språkbaserad social manipulation, vilket kräver att cybersäkerhetsteam ordentligt skyddar sina AI-kapaciteter. Därför bör säkerhet vara en kärndel av en organisations större AI-strategi.

Vad skiljer AI-drivna cyberattacker?

I en digital värld som redan är mättad av nästan konstanta cyberintrångsförsök har tröskeln för en skadlig aktör minskats, vilket inte bara ökar volymen utan också komplexiteten hos attackerna. AI-drivna attacker kan nu utnyttja AI eller maskinlärande (ML) för att automatisera, accelerera eller förbättra varje fas av attacklivscykeln, från rekognosering och informationsinsamling till exploatering och exfiltrering av känsliga data.

Att förlita sig uteslutande på befintliga säkerhetsprocesser och teknologier utan att distribuera samma avancerade teknologi som motståndare använder ger motståndaren en fördel som är nästan omöjlig att möta i motsvarande skala utan defensiv AI. Organisationer är redan överbelastade med att övervaka företaget med avseende på traditionella hotaktörer. AI-drivna attacker kommer att förvärra varningsutmattningen. Detta kräver en utveckling från mänskligt hanterade processer till en hybrid arbetsstyrka för cybersäkerhet med både människor och digitala medarbetare.

Kartlägg varje digital tillgång

I dagens värld är det ett grundkrav att förstå de potentiella ingångspunkterna över hela företagsmiljön, men det är fortfarande utom räckhåll för många stora företag. Utöver bara digitala system och tillgångar finns behovet av en omfattande kartläggning av alla identiteter och åtkomst inom en organisation. Digital identitet, som knyter samman de fysiska och beteendemässiga egenskaperna till en individ, är väl förstådd med de befintliga kontrollerna som behövs för att hantera digital åtkomst.

Men att förstå företagsomfattande landskapet av icke-mänskliga identiteter (NHIs) är avgörande för att skydda digitala tillgångar. Att förverkliga det potentiella värdet av AI inom en organisation innebär att ge AI-agenter åtkomst och tillstånd att autonomt slutföra en affärsprocess. Liksom molnmiljöer i den föregående säkerhetseran skapar och avvecklar dagens agentbaserade arbetsflöden icke-mänskliga identiteter i stor skala, vilket kräver en avancerad förmåga att hantera och spåra var i miljön de opererar och hur de uppnår avsedda uppdrag eller roller.

Företagen bör utöka identitetsstyrning över hela agentidentitetslivscykeln och övervaka agentåtgärder, precis som de övervakar mänsklig användaråtkomst i dag för insiderbeteende eller komprometterade konton från hotaktörer. När agentbaserade kapaciteter tar på sig mer autonomi och affärskritiskt arbete är det avgörande att förstå hur deras identitetsavtryck och åtkomstmönster ser ut för att implementera de åtkomst- och övervakningskontroller som krävs för att skydda dem och företaget från missbruk.

Lås AI-modeller

AI-kapaciteter har löftet att låsa upp effektivitet och produktivitet, men också potentialen att vändas mot organisationer. Att införa AI i varje aspekt av affärsverksamheten är inte längre ett “nice to have” – det är ett krav för framgång i dagens konkurrenslandskap. Därför är det en nödvändig komponent att säkert distribuera AI för att säkert förverkliga den fulla affärspotentialen och resultaten.

Övergången till AI-drivet cyberförsvar pågår, medan AI-modellerna själva har blivit mål. Motståndare kan försöka förgifta data som matar dessa modeller och manipulera dem till att vidta oavsedda åtgärder eller till och med avslöja känslig information.

Angrepp från motståndare mot AI kan komma i olika former, såsom förgiftningsattacker, promptinjektionsattacker och andra. För att lämpligt skydda AI från potentiell manipulation bör organisationer utnyttja Cyber Infrastructure and Security Agency (CISA):s filosofi om Secure by Design. Det börjar med data som matar modellens träning. Att låsa fast ingångarna tidigt i utvecklingsprocessen skapar grunden för tillförlitliga utdata vid driftsättning.

Att förstå ingångarna som går in i att utveckla modellerna och kapaciteterna är möjligt genom avsiktlig datastyrning tillsammans med kontroll av åtkomst till modellerna själva. Kritiska kontroller som tillåter att validera önskade utdata kommer i form av dataförlustsförebyggande (DLP); upprätthållande av policyer och säkerhetsregler; grundning via verifierbara källor; och strikta godkännandekontroller för åtgärder med stor påverkan, granskning och kontinuerlig testning, inklusive penetrationstestning av modeller för att stärka deras motståndskraft mot angrepp.

Integrera AI i säkerhetsoperationer

Tills nu har tillämpningen av AI på cyberförsvar varit taktisk, med många organisationer som fäster AI på äldre processer med människan i centrum, snarare än att strategiskt ompröva hur man bygger AI-centrerade processer. Detta är som att försöka sätta en V8-motor på en cykel. Nästa utveckling av AI-aktivering kommer att vara att utforma processer från grunden, med agentbaserad AI och automation inbyggd i designen. Beprövade säkerhetsoperationsmetoder och processer, såsom hotdetektering, hotjakt och detekteringsutveckling, är fortfarande de kritiska punkterna som är avgörande för organisatorisk säkerhet i AI-eran. Att omvandla nuvarande säkerhetsprocesser för att möjliggöra AI-förstärkning kan lägga en stark grund för den framtida AI-drivet säkerhetsoperationscentralen (SOC).

Dessutom är automation inte ett nytt koncept unikt för AI:s framväxt; säkerhetsarbetsflöden och processer har automatiserats i åratal, med mogna organisationer som har mycket sofistikerade orkestrerings- och automationsförmågor. Men AI förbättrar befintlig regelbaserad automation och utvecklar den ytterligare, vilket möjliggör dynamiska, anpassningsbara, kontextrika automatiserade arbetsflöden som kan hjälpa till att hantera hastigheten och agiliteten som krävs för dessa nya AI-risker.

Vad händer sedan?

Säkerhet behöver fortsätta att vara en hög prioritet för företag och IT för att hålla sina kritiska tillgångar och användare säkra från skadlig exploatering. Secure by design AI är en nödvändighet med tanke på den hastighet med vilken AI-modeller kan distribueras och begäras att utföra mer kritiska aktiviteter. Cybersäkerhetsteam bör tänka strategiskt om att omvandla processer från grunden för att lämpligt implementera nya AI-kapaciteter för att hålla jämna steg i cybersäkerhetens katt-och-råtta-lek.

Cybersäkerhetsledare kan vidta flera konkreta steg på kort sikt: genomföra en omfattande granskning av nuvarande säkerhetsprocesser för att identifiera luckor, moderniseringsmöjligheter och områden som är mogna för omvandling. Håll koll på AI:s framväxande hot, trender och teknologier. Framför allt, förbli förankrad i den grundläggande säkerhetsprincipen om försvar i djupet som har visat sig över tiden – skiktat skydd och validering från identitet till slutpunkt, nätverk, data, med robust övervakning och responsförmåga som alltid testas.

Den transformationella potentialen av AI lovar för stora fördelar för att avstå från införandet, och genien är ute ur flaskan för hotaktörerna. Därför är rollen för cybersäkerhetsledare i denna nästa era densamma som den alltid har varit: att stödja organisationer i att uppnå sina affärsmål med genomtänkt riskreducering – nu på maskinens hastighet med användning av AI.

Kevin Urbanowicz är en principal på Deloitte & Touche LLP och tjänstgör som Deloittes ledare för cybersäkerhetsverksamhet i USA.

Mark Nicholson är en principal på Deloitte & Touche LLP och tjänstgör som Deloittes ledare för US Cyber AI.