Hva ankomsten av Frontier AI-modeller forteller oss om fremtiden for sårbarhetsoppdagelse

Når Claude Mythos ble annonsert i april, ble det raskt ett av de største sikkerhetstemaene i AI-æraen. Utviklet av Anthropic, viste den nye LLM ubeskrivelige cyber-evner og utløste reaksjoner som klassifiserte det som en stor teknologisk gjennombrudd sammen med advarsler om at sikkerheten kan være i ferd med å gå inn i en periode med uforutsett forstyrrelse.

Ifølge Anthropic kan modellen selvstendig oppdage et stort antall zero-day-sårbarheter, og rapporterer å ha funnet feil i store operativsystemer og nettlesere, inkludert eksempler som hadde forblett uoppdagede i tiår. Det var også i stand til å kjede enkelt svakheter inn i arbeidende multi-trinns-angrep.

Dets innvirkning har vært så dramatisk at, den 12. juni, US-regjeringen beordret Anthropic å suspendere all tilgang til teknologien for alle utenlandske nasjonale verden over, inkludert utenlandske nasjonale Anthropic-ansatte. Dette ble sett på som en reaksjon på bekymringer om at offensiv AI-kapasitet kan ha nådd et punkt hvor ubegrenset tilgang kan skape uakseptable, eller til og med ukontrollerbare, risiko.

Under Prosjekt Glasswing, Anthropics åpenbarings- og reparasjonsprogram, er tilgang for øyeblikket begrenset til om lag 50 organisasjoner, inkludert AWS, Apple, Google, Microsoft, CrowdStrike, Cisco og Linux Foundation, blant andre. Disse bedriftene har fått et vindu til å reparere kritiske systemer før sårbarheter identifisert av Mythos offentliggjøres fra juli og utover. På det tidspunktet går industrien virkelig inn i nytt territorium.

Å krysse Rubicon

Mange ville være enige om at ankomsten av frontier AI-modeller betyr at sikkerhets-Rubicon er krysset. Og la oss være klare: kjerneproblemet er ikke nødvendigvis fremkomsten av en bestemt modell, men muligheten (eller til og med sannsynligheten) for at sårbarhetsoppdagelse og utnyttelsesutvikling selv kan være i ferd med å gå inn i en ny æra, med AI i stand til å operere på en skala og hastighet utover det som menneskelige forskere kan.

Hvis det viser seg å være tilfelle, har implikasjonene langt større konsekvenser enn spesifikke sårbarheter; de påvirker antakelsene som sårbarhetsstyring og reparasjonsprosesser tradisjonelt har vært bygget på. Spesielt var gjeldende sårbarhetsstyringsprosesser utviklet i en æra hvor menneskelige forskere begrenset oppdagelseshastigheten. AI har potensialet til å fundamentalt endre den ligningen.

En konsekvens er sannsynligvis en skarp økning i antallet sårbarheter som kommer inn i sikkerhetssystemet. CVE-volumer har allerede økt dramatisk de siste årene, og sikkerhetsteam er allerede under økende press, selv før den fullstendige innvirkningen av frontier AI-modeller føles.

I denne sammenhengen kan sårbarhetsoppdagelse selv ikke lenger være begrensningene. I stedet flytter flasken til triage og reparasjon. Utfordringen er forsterket av det faktum at utnyttelses-tidsrammene har blitt kortere i årevis, og i noen tilfeller dukker utnyttelser nå opp før patches blir tilgjengelige, etterlater organisasjoner med lite tid til å reagere.

Operasjonell beredskap blir prioritet

Så, hva ser en oppdatert, tilpasset tilgang til sårbarhetsstyring ut som? Først og fremst må det behandles som en kontinuerlig operasjonell evne, fordi, som det står, er vinduet mellom oppdagelse og patch-utvikling ofte for langsomt. Sikkerhetsteam må forstå hvilke sårbarheter som faktisk er utnyttbare og hvilke systemer er berørt.

Ettersom volumet av funn øker og tiden til å utnytte minsker, vil operasjonalisering av AI for sikkerhet bli essensiell. Team som utnytter avanserte AI-oppdagelseskapasiteter (samtidig som de håndterer token-kostnader) og automatiserer oppdagelse, triage og reparasjon, vil være best posisjonert til å minimere eksponeringsvinduer og negative forretningspåvirkninger. Dette handler ikke om å oppdage de fleste sårbarheter; det handler om å identifisere og reparere de viktigste problemene raskt.

For det andre og viktigere, er frontier AI-modeller) verktøy for cyber-forsvar. Medlemmer av Glasswing kan bruke modellene til å oppdage og fikse tidligere uoppdagede sårbarheter, ideelt med avansert tilgang for å ha et forsprang over angripere når de uunngåelig får tilgang til frontier AI-kapasiteter også. Frontier AI-modeller er et verdifullt oppdagelsesverktøy; likevel løser de ikke automatisk de operasjonelle aspektene ved å håndtere AI-scanner (hva som er nødvendig for å scannere, når, hvordan å orchestrere scanning, hva å gjøre med funn, hvordan å håndtere token-kostnader osv.). Uansett hvilken modell som brukes (og de vil bli bedre over tid), må sikkerhetsteam være i stand til å operasjonalisere frontier AI-kapasiteter for cybersikkerhet raskere enn angripere kan utnytte kapasitetene for utnyttelse.

Den lange utfordringen som organisasjoner står overfor er derfor ikke å forberede seg på en enkelt modell eller en bestemt bølge av åpenbaringer, men om eksisterende operasjonsmodeller kan tilpasse seg en verden hvor sårbarheter oppdages og våpeniseres i en uforutsett hastighet. Gå galt, og organisasjoner står overfor en verden av problemer.