Vil LLM og Generativ AI løse et 20 år gammelt problem i applikationssikkerhed?

I det konstant udviklende landskab af cybersikkerhed er det en konstant udfordring at være et skridt foran ondsindede aktører. I de sidste to årtier har problemet med applikationssikkerhed bestået, og traditionelle metoder har ofte manglet evnen til at opdage og afværge nye trusler. Men en lovende ny teknologi, Generativ AI (GenAI), er på vej til at revolutionere feltet. I denne artikel vil vi udforske, hvordan Generativ AI er relevant for sikkerhed, hvorfor den løser langvarige udfordringer, som tidligere tilgange ikke kunne løse, hvilke potentielle forstyrrelser den kan bringe til sikkerhedsøkosystemet og hvordan den adskiller sig fra ældre Maskinlæringsmodeller (ML).

Hvorfor problemet kræver ny teknologi

Problemets med applikationssikkerhed er multifacetteret og komplekst. Traditionelle sikkerhedsforanstaltninger har primært afhængigt af mønstergenkendelse, signaturbaseret opdækning og regelbaserede tilgange. Mens disse metoder er effektive i simple tilfælde, kæmper de med at tackle de kreative måder, udviklere skriver kode og konfigurerer systemer på. Moderne modstandere udvikler konstant deres angrebsteknikker, udvider angrebsfladen og gør mønstergenkendelse utilstrækkelig til at beskytte imod nye risici. Dette nødvendiggør en paradigmeskift i sikkerhedstilgange, og Generativ AI har en mulig nøgle til at tackle disse udfordringer.

Magien bag LLM i sikkerhed

Generativ AI er en videreudvikling af ældre modeller, der blev brugt i maskinlæringsalgoritmer, som var gode til at klassificere eller gruppere data baseret på trænet læring af syntetiske eksempler. De moderne LLM’er er trænet på millioner af eksempler fra store kodebiblioteker (f.eks. GitHub), der er delvist markeret for sikkerhedsproblemer. Ved at lære af enorme mængder data kan moderne LLM-modeller forstå de underliggende mønster, strukturer og relationer inden for applikationskode og miljø, hvilket ermöglicer dem at identificere potentielle sårbarheder og forudsige angrebsvektorer, hvis de får de rigtige input og priming.

En anden stor fremgang er evnen til at generere realistiske eksempler på løsninger, der kan hjælpe udviklere med at forstå rodårsagen og løse problemer hurtigere, især i komplekse organisationer, hvor sikkerhedseksperter er organisatorisk adskilt og overbelastet.

Kommende forstyrrelser, som GenAI muliggør

Generativ AI har potentialet til at forstyrre applikationssikkerhedsøkosystemet på flere måder:

Automatisk opdækning af sårbarheder: Traditionelle værktøjer til opdækning af sårbarheder afhænger ofte af manuel definition af regler eller begrænset mønstergenkendelse. Generativ AI kan automatisere processen ved at lære af omfattende kodebiblioteker og generere syntetiske eksempler til at identificere sårbarheder, hvilket reducerer tiden og indsatsen for manuel analyse.

Simulering af modstanderangreb: Sikkerhedstestning indebærer ofte at simulere angreb for at identificere svage punkter i en applikation. Generativ AI kan generere realistiske angrebs scenarier, herunder sofistikerede, multi-trins angreb, der ermöglicer organisationer at styrke deres forsvar mod virkelige trusler. Et godt eksempel er “BurpGPT”, en kombination af GPT og Burp, der hjælper med at opdage dynamiske sikkerhedsproblemer.

Intelligent generering af patches: At generere effektive patches for sårbarheder er en kompleks opgave. Generativ AI kan analysere eksisterende kodebiblioteker og generere patches, der løser specifikke sårbarheder, hvilket sparer tid og minimiserer menneskelige fejl i patchudviklingsprocessen.

Selvom disse typer af løsninger traditionelt blev afvist af industrien, kan kombinationen af automatiske kodefix og evnen til at generere tests via GenAI være en god måde for industrien at løfte sig til nye niveauer.

Forbedret trusselsintelligens: Generativ AI kan analysere store mængder sikkerhedsrelaterede data, herunder rapporter om sårbarheder, angrebsmønster og malwareeksempler. GenAI kan betydeligt forbedre trusselsintelligenskapaciteterne ved at generere indsigt og identificere nye tendenser fra en initial indication til en reel, håndterbar playbook, der ermöglicer proaktive forsvarsstrategier.

Fremtiden for LLM og applikationssikkerhed

LLM’er har stadig huller i opnåelse af perfekt applikationssikkerhed på grund af deres begrænsede kontekstforståelse, ufuldstændig kodecoverage, mangel på realtidsvurdering og manglen på domænespecifik viden. For at løse disse huller i de kommende år vil en sandsynlig løsning skulle kombinerer LLM-tilgange med dedikerede sikkerhedsværktøjer, eksterne berigelseskilder og scannere. Fremtidige fremskridt i AI og sikkerhed vil hjælpe med at lukke disse huller.

Generelt, hvis du har en større dataset, kan du oprette en mere præcis LLM. Dette gælder også for kode, så når vi har mere kode på samme sprog, vil vi være i stand til at bruge det til at oprette bedre LLM’er, der vil drive bedre kodegenerering og sikkerhed fremad.

Vi forventer, at i de kommende år vil vi opleve fremskridt i LLM-teknologi, herunder evnen til at udnytte større tokenstørrelser, hvilket har stor potentiale til at yderligere forbedre AI-baseret cybersikkerhed på væsentlige måder.