Att bekämpa AI med AI i det moderna hotlandskapet

Det är inte direkt nyheter att säga att AI har förändrat cybersäkerhetsbranschen dramatiskt. Både angripare och försvarare använder artificiell intelligens för att förbättra sina förmågor, var och en strävar efter att hålla sig ett steg före den andra. Detta katt-och-mus-lek är ingenting nytt – angripare har försökt att överlista säkerhetslag under årtionden, men uppkomsten av artificiell intelligens har introducerat en fräsch (och ofta oförutsägbar) faktor i dynamiken. Angripare över hela världen gnider sina händer av glädje vid tanken på att utnyttja denna nya teknologi för att utveckla innovativa, aldrig tidigare sedda angreppsmetoder.

Minst, det är uppfattningen. Men verkligheten är en aning annorlunda. Medan det är sant att angripare alltmer använder AI, använder de den främst för att öka omfattningen och komplexiteten i sina angrepp, förfinar sin tillvägagångssätt för befintliga taktiker snarare än att bryta ny mark. Tanken här är tydlig: varför lägga tid och ansträngning på att utveckla angreppsmetoderna för morgondagen när försvararna redan kämpar för att stoppa dagens? Lyckligtvis använder moderna säkerhetslag AI-förmågor av sina egna – många av dessa hjälper till att upptäcka malware, phishing-försök och andra vanliga angreppstaktiker med större hastighet och noggrannhet. Medan “AI-kapprustningen” mellan angripare och försvarare fortsätter, kommer det att bli alltmer viktigt för säkerhetslag att förstå hur motståndarna faktiskt använder teknologin – och säkerställa att deras egna ansträngningar är fokuserade på rätt plats.

Hur angripare använder AI

Tanken på en semi-autonom AI som metodiskt hackar sig igenom en organisations försvar är en skrämmande tanke, men (för tillfället) förblir den fast i William Gibson-romaner och annan science fiction. Det är sant att AI har utvecklats i en otrolig takt under de senaste åren, men vi är fortfarande långt ifrån den sorts artificiell allmän intelligens (AGI) som kan perfekt efterlikna mänskliga tankemönster och beteenden. Det betyder inte att dagens AI inte är imponerande – den är det verkligen. Men generativa AI-verktyg och stora språkmodeller (LLM) är mest effektiva på att syntetisera information från befintligt material och generera små, iterativa förändringar. Den kan inte skapa något helt nytt på egen hand – men ingen ska tvivla på att förmågan att syntetisera och iterera är otroligt användbar.

I praktiken betyder detta att istället för att utveckla nya angreppsmetoder kan motståndare istället förbättra sina befintliga. Med hjälp av AI kan en angripare skicka miljontals phishing-e-post, istället för tusentals. De kan också använda en LLM för att skapa en mer övertygande meddelande, lura fler mottagare att klicka på en skadlig länk eller ladda ner en malware-belastad fil. Taktiker som phishing är i princip ett nummerspel: den överväldigande majoriteten av människor kommer inte att falla för en phishing-e-post, men om miljontals människor får den, kan även en 1% framgångsgrad resultera i tusentals nya offer. Om LLM kan öka den 1% framgångsgraden till 2% eller mer, kan bedragare effektivt dubbla effektiviteten i sina angrepp med liten eller ingen ansträngning. Samma sak gäller för malware: om små justeringar av malware-kod kan effektivt kamouflera den från upptäcktsverktyg, kan angripare få mycket mer ut av ett enskilt malware-program innan de behöver gå vidare till något nytt.

Det andra inslaget som är i spel här är hastighet. Eftersom AI-baserade angrepp inte är föremål för mänskliga begränsningar, kan de ofta utföra en hel angreppsserie i en mycket snabbare takt än en mänsklig operatör. Det betyder att en angripare potentiellt kan bryta sig in i ett nätverk och nå offrets kronjuveler – deras mest känsliga eller värdefulla data – innan säkerhetslaget ens får en varning, för att inte tala om att de svarar på den. Om angripare kan flytta snabbare, behöver de inte vara lika försiktiga – vilket betyder att de kan komma undan med bullrigare, mer störande aktiviteter utan att stoppas. De gör inte nödvändigtvis något nytt här, men genom att driva på med sina angrepp snabbare, kan de överträffa nätverksförsvar på ett potentiellt speländrande sätt.

Detta är nyckeln till att förstå hur angripare använder AI. Sociala ingenjörskampanjer och malware-program är redan framgångsrika angreppsvägar – men nu kan motståndare göra dem ännu mer effektiva, distribuera dem snabbare och operera på en ännu större skala. Istället för att bekämpa dussintals försök per dag, kan organisationer kämpa mot hundratals, tusentals eller till och med tiotusentals snabba angrepp. Och om de inte har lösningar eller processer på plats för att snabbt upptäcka dessa angrepp, identifiera vilka som representerar verkliga, tangibla hot och effektivt mildra dem, lämnar de sig själva farligt öppna för angripare. Istället för att undra hur angripare kan utnyttja AI i framtiden, bör organisationer utnyttja AI-lösningar av sina egna i syfte att hantera befintliga angreppsmetoder på en större skala.

Att vända AI till säkerhetslagens fördel

Säkerhetsexperter på alla nivåer, både i näringsliv och regering, söker efter sätt att utnyttja AI för defensiva ändamål. I augusti meddelade den amerikanska försvarsavdelningens avancerade forskningsprojektbyrå (DARPA) finalisterna i sin senaste AI Cyber Challenge (AIxCC), som delar ut priser till säkerhetsforskningslag som arbetar med att träna LLM för att identifiera och åtgärda kodbaserade sårbarheter. Utmaningen stöds av stora AI-leverantörer, inklusive Google, Microsoft och OpenAI, som alla tillhandahåller teknisk och finansiell support för dessa ansträngningar att stärka AI-baserad säkerhet. Naturligtvis är DARPA bara ett exempel – man kan knappt skaka en pinne i Silicon Valley utan att träffa ett dussin startup-grundare som är ivriga att berätta om sina avancerade nya AI-baserade säkerhetslösningar. Det räcker med att säga att att hitta nya sätt att utnyttja AI för defensiva ändamål är en hög prioritet för organisationer av alla typer och storlekar.

Men liksom angripare, finner säkerhetslag ofta den största framgången när de använder AI för att förstärka sina befintliga förmågor. Med angrepp som sker i en alltmer ökande skala, är säkerhetslag ofta uttänjda – både i termer av tid och resurser – vilket gör det svårt att tillräckligt identifiera, undersöka och mildra varje säkerhetsvarning som dyker upp. Det finns helt enkelt inte tid. AI-lösningar spelar en viktig roll i att lindra denna utmaning genom att tillhandahålla automatiserad upptäckt och responsförmåga. Om det finns en sak som AI är bra på, är det att identifiera mönster – och det betyder att AI-verktyg är mycket bra på att känna igen avvikande beteende, särskilt om det beteendet följer kända angreppsmönster. Eftersom AI kan granska stora mängder data mycket snabbare än människor, tillåter detta säkerhetslag att skala upp sina operationer på ett betydande sätt. I många fall kan dessa lösningar till och med automatisera grundläggande mildringsprocesser, motverka lågnivåangrepp utan mänskligt ingripande. De kan också användas för att automatisera processen för säkerhetsvalidering, kontinuerlig knackning och petning runt nätverksförsvar för att säkerställa att de fungerar som avsett.

Det är också viktigt att notera att AI inte bara tillåter säkerhetslag att identifiera potentiell angreppaktivitet snabbare – det förbättrar också dramatiskt deras noggrannhet. Istället för att jaga falska larm, kan säkerhetslag vara säkra på att när en AI-lösning varnar dem för en potentiell angrepp, är den värd deras omedelbara uppmärksamhet. Detta är ett inslag i AI som inte diskuteras tillräckligt – medan mycket av diskussionen kretsar kring AI “ersätter” människor och tar deras jobb, är verkligheten att AI-lösningar möjliggör för människor att göra sina jobb bättre och mer effektivt, samtidigt som de lindrar utbrändhet som kommer med att utföra tråkiga och repetitiva uppgifter. Långt ifrån att ha en negativ inverkan på mänskliga operatörer, hanterar AI-lösningar mycket av den “sysselsättning” som förknippas med säkerhetspositioner, vilket tillåter människor att fokusera på mer intressanta och viktiga uppgifter. I en tid när utbrändhet är på en rekordnivå och många företag kämpar för att locka till sig ny säkerhetstalent, kan förbättring av livskvalitet och jobbtillfredsställelse ha en enorm positiv inverkan.

Där ligger den riktiga fördelen för säkerhetslag. Inte bara kan AI-lösningar hjälpa dem att skala upp sina operationer för att effektivt bekämpa angripare som använder AI-verktyg av sina egna – de kan också hålla säkerhetsproffs lyckligare och mer tillfreds i sina roller. Det är en sällsynt vinst-vinst-lösning för alla inblandade, och den bör hjälpa dagens företag att inse att tiden att investera i AI-baserade säkerhetslösningar är nu.

AI-kapprustningen har just börjat

Kapprustningen för att anta AI-lösningar är i full gång, med både angripare och försvarare som hittar olika sätt att utnyttja teknologin till sin fördel. Medan angripare använder AI för att öka hastigheten, omfattningen och komplexiteten i sina angrepp, kommer säkerhetslag att behöva bekämpa eld med eld, använda AI-verktyg av sina egna för att förbättra hastigheten och noggrannheten i sina upptäckts- och mildringsförmågor. Lyckligtvis tillhandahåller AI-lösningar kritisk information till säkerhetslag, vilket tillåter dem att bättre testa och utvärdera effikheten i sina egna lösningar, samtidigt som de frigör tid och resurser för mer kritiska uppgifter. Inga misstag, AI-kapprustningen har just börjat – men det faktum att säkerhetsproffs redan använder AI för att hålla ett steg före angripare är ett mycket gott tecken.