Hvad ankomsten af frontier AI-modeller fortæller os om fremtiden for opdagelse af sårbarheder

Da Claude Mythos blev annonceret i april, blev det hurtigt en af de største sikkerhedstemaer i AI-æraen. Udviklet af Anthropic, demonstrerede den nye LLM usædvanlige cyber-evner og udløste reaktioner, der klassificerede det som en stor teknologisk gennembrud sammen med advarsler om, at sikkerheden måske indtræder en periode med usædvanlig forstyrrelse.

Ifølge Anthropic kan modellen selvstændigt opdage et stort antal zero-day-sårbarheder, og det rapporteres, at den har identificeret fejl i store operativsystemer og browsere, herunder eksempler, der havde været ukendte i årtier. Den var også i stand til at kombinere enkelt svagheder til arbejdende multi-trin-eksplotationer.

Dens virkning har været så dramatisk, at den 12. juni havde den US-regeringen beordret Anthropic til at suspendere al adgang til teknologien for alle udenlandske statsborgere verden over, herunder udenlandske ansatte i Anthropic. Dette blev bredt set som en reaktion på bekymringer om, at offensiv AI-kapacitet måske havde nået et punkt, hvor ubegrænset adgang kunne skabe uacceptabel, endda ukontrollerbar risiko.

Under Project Glasswing, Anthropics afslørings- og afhjælpningsprogram, er adgangen i øjeblikket begrænset til omkring 50 organisationer, herunder AWS, Apple, Google, Microsoft, CrowdStrike, Cisco og Linux Foundation, blandt andre. Disse virksomheder har fået en chance til at reparere kritiske systemer, før sårbarheder identificeret af Mythos offentliggøres fra juli og frem. På det tidspunkt indtræder branchen virkelig i nyt territorium.

At krydse Rubicon

Mange vil være enige om, at ankomsten af frontier AI-modeller betyder, at sikkerheds-Rubicon er blevet krydset. Og lad os være klare: det centrale problem er ikke nødvendigvis opdukken af en bestemt model, men muligheden (eller endda sandsynligheden) for, at opdagelse af sårbarheder og udvikling af eksplotation selv kan være ved at indtræde i en ny æra, hvor AI kan operere på en skala og hastighed, der er ud over menneskelige forskeres.

Hvis det viser sig at være tilfældet, går implikationerne langt ud over specifikke sårbarheder; de påvirker antagelserne om, hvorpå sårbarhedsstyring og afhjælpningsprocesser traditionelt har været bygget. I særdeleshed var nuværende sårbarhedsstyringsprocesser udviklet i en æra, hvor menneskelige forskere begrænsede opdagelsens tempo. AI har potentialet til at fundamentalt ændre den ligning.

En konsekvens er sandsynligvis en skarp stigning i antallet af sårbarheder, der indtræder i sikkerhedssystemet. CVE-volumener er allerede steget dramatisk i de seneste år, og sikkerhedsteams er allerede under stigende pres, selv før den fulde virkning af frontier AI-modellerne er følt.

I denne kontekst kan opdagelse af sårbarheder selv ikke længere være den begrænsende faktor. I stedet flytter flasken sig til triage og afhjælpning. Udfordringen kompliceres af, at udnyttelses-tidsrammer har været mindskende i årevis, og i nogle tilfælde opstår eksplotationer før patches bliver tilgængelige, hvilket efterlader organisationer med lidt tid til at reagere.

Operationel beredskab bliver prioritet

Så, hvad ser en opdateret, tilform-til-form-tilgang til sårbarhedsstyring ud som? Først og fremmest skal den behandles som en kontinuerlig operationel kapacitet, fordi vinduet mellem opdagelse og patch-udførelse ofte er for langsomt. Sikkerhedsteams skal forstå, hvilke sårbarheder, der faktisk kan udnyttes, og hvilke systemer der er berørt.

Da antallet af fund øges og tiden til udnyttelse mindskes, vil operationelle AI-kapaciteter for sikkerhed blive essentielle. Teams, der udnytter avancerede AI-detections-kapaciteter (mens de håndterer token-omkostninger) og automatiserer opdagelse, triage og afhjælpning, vil være bedst placeret til at minimere eksponerings-vinduer og negative virkninger på forretningen. Dette handler ikke om at opdage de fleste sårbarheder; det handler om at identificere og afhjælpe de vigtigste problemer hurtigt.

Anden og mere vigtig, frontier AI-modeller) er værktøjer til cyber-forsvar. Medlemmer af Glasswing kan bruge modellerne til at opdage og reparere tidligere ukendte sårbarheder, ideelt med avanceret adgang til at have en fordel over angribere, når de uundgåeligt får adgang til frontier AI-kapaciteter. Frontier AI-modeller er et værdifuldt detections-værktøj; dog løser de ikke automatisk de operationelle aspekter af, hvordan man håndterer AI-scans (hvad der er nødvendigt for at scanne, hvornår, hvordan man orkestrerer scanning, hvad man skal gøre med fundene, hvordan man håndterer token-omkostningerne osv.). Uanset hvilken model der bruges (og de vil blive bedre over tid), skal sikkerhedsteams være i stand til at operationalisere frontier AI-kapaciteter for cybersikkerhed hurtigere end angribere kan udnytte kapaciteterne til eksplotation.

Den langsigtede udfordring, organisationer står over for, er derfor ikke at forberede sig på en enkelt model eller en bestemt bølge af afsløringer, men om eksisterende driftsmodeller kan tilpasse sig en verden, hvor sårbarheder opdages og udnyttes i en hidtil uset hastighed. Får man det galt, står organisationer over for en verden af problemer.