Kommer LLM och Generativ AI att Lösa ett 20 År Gammalt Problem inom Applikationssäkerhet?

I den ständigt föränderliga världen av cybersäkerhet är det en ständig utmaning att ligga steget före illvilliga aktörer. Under de senaste två decennierna har problemet med applikationssäkerhet bestått, och traditionella metoder har ofta brustit i att upptäcka och mildra nya hot. Men en lovande ny teknik, Generativ AI (GenAI), är redo att revolutionera området. I den här artikeln kommer vi att undersöka hur Generativ AI är relevant för säkerhet, varför den adresserar långvariga utmaningar som tidigare tillvägagångssätt inte kunde lösa, de potentiella störningar den kan medföra i säkerhets ekosystemet och hur den skiljer sig från äldre maskinlärningsmodeller (ML).

Varför Problemet Kräver Ny Teknik

Problemet med applikationssäkerhet är mångfacetterat och komplext. Traditionella säkerhetsåtgärder har i huvudsak byggt på mönsterigenkänning, signaturbaserad upptäckt och regelbaserade tillvägagångssätt. Medan dessa metoder är effektiva i enkla fall, har de svårt att hantera de kreativa sätten som utvecklare skriver kod och konfigurerar system på. Moderna motståndare utvecklar ständigt sina angreppstekniker, utökar angreppsytor och gör mönsterigenkänning otillräcklig för att skydda mot nya risker. Detta kräver en paradigmskift i säkerhets tillvägagångssätt, och Generativ AI har en möjlig nyckel till att hantera dessa utmaningar.

Magin i LLM inom Säkerhet

Generativ AI är en vidareutveckling av äldre modeller som används i maskinlärningsalgoritmer som var bra på att klassificera eller klustra data baserat på tränad inlärning av syntetiska prover. De moderna LLM-modellerna tränas på miljontals exempel från stora kodarkiv (t.ex. GitHub) som delvis är märkta för säkerhetsproblem. Genom att lära sig från stora mängder data kan moderna LLM-modeller förstå de underliggande mönster, struktur och relationer inom applikationskod och miljö, vilket möjliggör identifiering av potentiella sårbarheter och förutsägelse av angreppsvektorer med rätt indata och priming.

En annan stor framsteg är förmågan att generera realistiska reparationsexempel som kan hjälpa utvecklare att förstå roten till problemet och lösa det snabbare, särskilt i komplexa organisationer där säkerhetsproffs är organisatoriskt avskilda och överbelastade.

Kommande Störningar som Möjliggörs av GenAI

Generativ AI har potentialen att störa applikationssäkerhets ekosystemet på flera sätt:

Automatiserad Sårbarhetsdetektering: Traditionella sårbarhetsscanningsverktyg förlitar sig ofta på manuell regeldefinition eller begränsad mönsterigenkänning. Generativ AI kan automatisera processen genom att lära sig från omfattande kodarkiv och generera syntetiska prover för att identifiera sårbarheter, vilket minskar tiden och ansträngningen för manuell analys.

Simulering av Adversarialattacker: Säkerhetstestning innebär vanligtvis att simulerar attacker för att identifiera svaga punkter i en applikation. Generativ AI kan generera realistiska angreppsscenarier, inklusive sofistikerade, flerstegsattacker, vilket möjliggör för organisationer att stärka sina försvar mot verkliga hot. Ett bra exempel är “BurpGPT”, en kombination av GPT och Burp, som hjälper till att upptäcka dynamiska säkerhetsproblem.

Intelligent Patchgenerering: Att generera effektiva lappar för sårbarheter är en komplex uppgift. Generativ AI kan analysera befintliga kodarkiv och generera lappar som åtgärdar specifika sårbarheter, vilket sparar tid och minskar mänskliga fel i lapputvecklingsprocessen.

Medan dessa typer av lappar traditionellt avvisades av branschen, kan kombinationen av automatiserad kodfix och förmågan att generera tester med GenAI vara ett bra sätt för branschen att driva gränserna till nya nivåer.

Utökad Hotinformation: Generativ AI kan analysera stora mängder säkerhetsrelaterad data, inklusive sårbarhetsrapporter, angreppsmönster och skadlig programvara. GenAI kan avsevärt förbättra hotinformationsförmågor genom att generera insikter och identifiera framväxande trender från en initial indikation till en verklig handlingsplan, vilket möjliggör proaktiva försvarsstrategier.

Framtiden för LLM och Applikationssäkerhet

LLM-modellerna har fortfarande luckor i att uppnå perfekt applikationssäkerhet på grund av deras begränsade kontextuella förståelse, ofullständig kodtäckning, brist på realtidsbedömning och avsaknad av domänspecifik kunskap. För att åtgärda dessa luckor under de kommande åren kommer en trolig lösning att behöva kombinera LLM-tillvägagångssätt med dedikerade säkerhetsverktyg, externa berikningskällor och scannrar. Pågående framsteg inom AI och säkerhet kommer att hjälpa till att överbrygga dessa luckor.

I allmänhet, om du har en större dataset, kan du skapa en mer exakt LLM. Detta gäller också för kod, så när vi har mer kod på samma språk kommer vi att kunna använda den för att skapa bättre LLM-modeller, vilket i sin tur kommer att driva bättre kodgenerering och säkerhet framåt.

Vi förväntar oss att under de kommande åren kommer vi att se framsteg inom LLM-teknik, inklusive förmågan att använda större tokenstorlekar, vilket har stor potential att ytterligare förbättra AI-baserad cybersäkerhet på betydande sätt.