AI-agenter gjør null-dagersårbarheter til en kappløp mennesker ikke kan vinne alene

I mange år har null-dagersårbarheter vært farlige, men de var tidligere sjeldne og vanskelige å utnytte i stor skala. Å finne en null-dagersårbarhet krevde tålmodighet, spesialisert ferdighet og en dypt forståelse av programvareoppførsel. Som Nicole Perlroth og andre journalister har rapportert, var det en handel med null-dagersårbarheter, og nasjoner behandlet dem som ekstremt verdifulle cyber-våpen.

I dag er null-dagersårbarheter vidt tilgjengelige. Nesten hvem som helst kan oppdage nye på egen hånd, med hjelp av åpne kildekode-AI-modeller eller proprietære AI-modeller som Claude og OpenAI.

De samme fremgangene som gjør AI nyttig for å skrive kode, sammenfatte logger og akselerere sikkerhetsoperasjoner, kan også brukes til å søke etter feil, kjede sårbarheter og teste utnyttelsesveier i maskinens hastighet. Angripere trenger ikke lenger å manuelt inspisere hver avhengighet, omvende every applikasjon eller bruke uker på å prøve å finne en svakhet. AI-agenter kan automatisere mye av denne arbeidet, utforske kodebasen, skanne eksponerte systemer, generere hypoteser og iterere til de finner noe nyttig.

Dette endrer økonomien for null-dagers-utnyttelse. En menneskelig angriper kan kanskje bare ha tid til å forfølge de mest lovende målene. En AI-assistert angriper kan imidlertid undersøke langt mer programvare, langt raskere, med langt mindre slit. Selv om de fleste forsøk feiler, øker det store antallet forsøk sannsynligheten for suksess. I sikkerhet er skala ofte det som gjør sjeldne hendelser til rutinemessige.

AI utvider null-dagers-søkeflaten

Dette er hvorfor null-dagersårbarheter blir en mer presserende bedriftsrisiko. Moderne programvare er for stor, for sammenkoblet og for avhengig av tredjeparts-komponenter for at noen organisasjon kan fullstendig forstå hver svakhet før en angriper gjør det. De fleste selskaper avhenger av en sprengt blanding av kommersielle plattformer, åpne kildekode-biblioteker, skytjenester, SaaS-applikasjoner, API-er, identitetssystemer, kanter-enheter og interne verktøy. Hver lag introducerer potensielle sårbarheter. Hver integrasjon skaper nye angrepsveier. Hver oppdatering kan stille og quietly endre risikoprofilen.

Den ubehagelige virkeligheten er at det finnes en masse uoppdagede sårbarheter i programvare av alle slag. Noen av dem finnes i gammel kode. Noen av dem finnes i ny kode skrevet under press. Noen av dem kommer fra avhengigheter som få organisasjoner sporer med tilstrekkelig presisjon. Noen av dem oppstår fra måten systemer samhandler, selv om hver enkelt komponent ser sikker ut. AI-agenter er godt egnet til å utforske denne kompleksiteten fordi de kan søke bredt, utholdende og tilpasningsdyktig.

Forsvarerne står overfor et umulig problemer med å fikse sårbarheter. Du kan ikke fikse en sårbarhet du ikke vet eksisterer. Du kan ikke prioritere hver teoretisk svakhet like høyt. Du kan ikke fullstendig teste hver kombinasjon av programvare, konfigurasjon og brukeratferd før distribusjon. Selv modne sårbarhetsstyringsprogrammer er ofte bygget rundt kjente CVE-er, leverandør-rettledninger og trussel-intelligens-feeder. Disse er essensielle, men de ankommer etter oppdagelse. I en verden med AI-akselerert null-dagers-jakt, kan oppdagelse skje først i hendene på en angriper.

Dette skaper en voksende lek med “whack a mole”. En sårbarhet blir funnet. En fikse blir hastet. Utnyttelse skifter til en nærliggende system, en annen avhengighet eller en nytt eksponert grensesnitt. Sikkerhetsteamene responderer, men bakloggen holder på å utvide seg. AI øker hastigheten på hammeren på begge sider, men angripere får ofte fordelen først fordi de bare trenger å finne en enkelt viable vei. Forsvarerne må beskytte alle.

Løsningen på lang sikt kan komme fra AI selv. Når AI-systemer blir bedre til å generere, gjennomgå og teste kode, bør de hjelpe med å eliminere hele klasser av sårbarheter før programvaren når produksjon. Sikkerhet ved design-utvikling kan bli langt mer praktisk når AI kan kontinuerlig inspisere kode, identifisere usikre mønster, modellere utnyttbarhet og anbefale fikser i sanntid. Til slutt kan vi nå et punkt hvor vanlige minnefeil, injeksjonsfeil, autentiseringsfeil og usikre konfigurasjoner dramatisk reduseres fordi AI-assistert ingeniørarbeid fanger dem tidlig. I vårt arbeid i DeepTempo, ser vi allerede en økt bruk av minnesikre språk som Rust i vårt programvare; mens Rust er vanskeligere å kode i noen henseender, er det sikrere og å kode det har blitt mye enklere takket være AI.

Forsvarerne må skifte fokus fra fikse-hastighet til angreps-resiliens

Mens en fremtid hvor all programvare har blitt fikset eller omskrevet på en mer sikker måte, er verd å forfølge, er det uklart hvor teoretisk mulig det virkelig er av en rekke grunner. Uansett, vi vet at det ikke har ankommet ennå og vil ikke ankomme i mange år. I dag kan AI-generert kode fortsatt introdusere sårbarheter. Og AI-sikkerhetstverktøy kan fortsatt overse kontekst. I dagens bedriftsmiljøer finnes det fortsatt tiår med akkumulert teknisk gjeld. Angripere bruker allerede automatisering for å flytte raskere, mens forsvarerne fortsatt integrerer AI i eksisterende arbeidsflyter, godkjenningskjeder og risikomodeller og finner at LLM-er ikke er nyttige når det gjelder å oppdage angrep.Mer informasjon om hvordan LLM-er klarer seg i oppdagelse kan finnes i nylige åpne kildekode-benchmark som SOC Bench. Bare som et eksempel, fant ingeniørene bak SOC Bench at de beste LLM-ene har en falsk positiv rate på 20% og ville koste hundredvis av millioner av dollar om dagen på skalaen av et typisk stort sikkerhetsmiljø. Som en følge av alle disse faktorene, favoriserer AI-oppblomstringen for øyeblikket angriperne.

Uheldigvis må organisasjoner anta at noen ukjente sårbarheter vil bli oppdaget av motstandere før de offentliggjøres. Det er mer, takket være forbedret phising og utbredt fanging av identiteter, kan angripere nå enkelt logge inn.Kort sagt, i det minste for den midtre perioden, kan sikkerhetsstrategi ikke avhenge fullstendig av forebygging. Forebygging forblir kritisk, men den må kombineres med raskere oppdagelse, sterkere atferdsanalyse og tettere innkapsling.

Som en rekke organisasjoner har foreslått nylig, inkludert NIST, Five Eyes og National Academy of Sciences, gitt AI-aktiverende angripere, bør sikkerhetsteamene se på tilnærmingene til å forstå hva som er normalt over brukere, maskiner, identiteter, applikasjoner og datastrømmer. Null-dagers-utnyttelse lykkes ofte fordi de unngår kjente signaturer, men de etterlater likevel spor som dagens kraftigste klassifiseringsmodeller kan se og skille. For eksempel, kan angrep vise uvanlige tilgangsmønster, abnormalt privilegiebruk, uventet prosessaktivitet, merkelige autentiseringsstrømmer eller dataflytting som, i kombinasjon, ikke matcher miljøets basislinje. Formål-bygget AI kan hjelpe forsvarerne med å finne disse signalene tidligere, spesielt når angrepet selv er nytt.

I tillegg bør selskapene redusere sprengingsradiusen av kompromiss. Segmentering, minst privilegie, sterke identitetskontroller, kontinuerlig overvåking og rask isolasjon betyr mer når ukjente sårbarheter utnyttes. Hvis en angriper bruker en null-dager til å få tilgang, er neste spørsmål hvor langt de kan flytte før de blir oppdaget. Jo mindre vinduet er, jo mindre verdifull blir utnyttelsen.

Det finnes ingen ren pause-knapp for dette øyeblikket. AI-agenter vil fortsette å forbedre seg. Offensiv eksperimentering vil fortsette å akselerere. Antallet systemer som er verdt å undersøke, vil fortsette å vokse. Sikkerhetssamfunnets oppgave er å sikre at defensiv AI modnes like raskt.

Null-dagersårbarheter har alltid belønnet hastighet, kreativitet og asymmetri. AI-agenter forsterker alle tre. Organisasjonene som tilpasser seg, vil behandle AI som mer enn et produktivitetslag for sikkerhetsteam. De vil også bruke formål-bygget AI til å effektivt og nøyaktig oppdage ukjente trusler, prioritere åpenbart svake signaler som, i kombinasjon med tusenvis av andre, antyder en kompromiss, og respondere før en utnyttet sårbarhet blir en bedriftsvid krise.