Mitä Frontier AI -mallien saapuminen kertoo meille haavoittuvuuksien löytymisen tulevaisuudesta

Kun Claude Mythos julkaistiin huhtikuussa, se nousi nopeasti yhdeksi suurimmista kyberTurvallisuuden puhuttavimmista aiheista AI-aikakaudella. Anthropicin kehittämä uusi LLM osoitti ennennäkemättömiä kyberturvallisuusominaisuuksia ja herätti reaktioita, jotka luokittelivat sen merkittäväksi teknologiseksi läpimurroksi varoituksin, että kyberturvallisuus saattaa olla siirtymässä ennennäkemättömän häiriön aikakauteen.

Anthrropicin mukaan malli voi itsenäisesti löytää suuren määrän nollapäivän haavoittuvuuksia, ja se on ilmoittanut löytäneensä virheitä suurten käyttöjärjestelmien ja selainten ohjelmistoissa, mukaan lukien esimerkkejä, jotka olivat jääneet havaitsematta vuosikymmenien ajan. Se pystyi myös ketjuamaan yksittäisiä heikkouksia toimiviksi monivaiheisiksi hyökkäyksiksi.

Vaikutus on ollut niin dramaattinen, että 12. kesäkuuta Yhdysvaltain hallitus määräsi Anthropicin keskeyttämään kaiken pääsyn teknologiaan ulkomaalaisille kansalaisille maailmanlaajuisesti, mukaan lukien ulkomaalaiset Anthropicin työntekijät. Tätä pidettiin laajasti reaktiona huoleisiin siitä, että hyökkäyskykyiset AI-ominaisuudet saattavat olla saavuttaneet kohdan, jossa rajoittamaton pääsy voisi luoda hyväksymättömiä, jopa hallitsemattomia riskejä.

Projektin Glasswingin ilmoitus- ja korjausohjelman puitteissa pääsy on tällä hetkellä rajoitettu noin 50 organisaatioon, mukaan lukien AWS, Apple, Google, Microsoft, CrowdStrike, Cisco ja Linux Foundation, muun muassa. Nämä yritykset on annettu ikkuna korjata kriittisiä järjestelmiä ennen kuin Mythosin havaitsemat haavoittuvuudet julkaistaan heinäkuun alusta alkaen. Tuolloin teollisuus siirtyy todella uuteen alueeseen.

Ylittäminen Rubikon

Monet ovat samaa mieltä siitä, että Frontier AI -mallien saapuminen tarkoittaa, että turvallisuuden Rubikon on ylittynyt. Ja olkoon selvää: ydinkysymys ei välttämättä ole jonkin tietyn mallin ilmaantuminen, vaan mahdollisuus (tai jopa todennäköisyys), että haavoittuvuuksien löytäminen ja hyökkäyksen kehittäminen itse saattavat olla siirtymässä uuteen aikakauteen, jossa AI pystyy toimimaan mittakaavassa ja nopeudessa, jota ihmiskokeilijat eivät voi saavuttaa.

Jos tämä osoittautuu todeksi, seuraukset ulottuvat paljon yksittäisten haavoittuvuuksien ohi; ne vaikuttavat oletuksiin, joiden perusteella haavoittuvuuden hallinta- ja korjausprosessit on perinteisesti kehitetty. Erityisesti nykyiset haavoittuvuuden hallintaprosessit kehitettiin aikakaudella, jolloin ihmiskokeilijat rajoittivat löytämisen tahdissa. AI:lla on potentiaalia muuttaa tämän yhtälön perustaa.

Yksi seuraus on todennäköisesti terävä lisäys haavoittuvuuksien määrässä, jotka tulevat turvallisuusympäristöön. CVE-volyymit ovat jo kasvaneet dramaattisesti viime vuosina, ja turvallisuustiimit ovat jo kasvavan paineen alla, vielä ennen kuin Frontier AI -mallien täysi vaikutus on havaittavissa.

Tässä kontekstissa haavoittuvuuksien löytäminen itsessään ei välttämättä ole enää rajoittava tekijä. Sen sijaan pullonkaula siirtyy triageen ja korjaamiseen. Haaste on monimutkaisempi, koska hyökkäysajat ovat lyhentyneet vuosien ajan, ja joissakin tapauksissa hyökkäykset ilmestyvät ennen kuin korjaukset ovat saatavilla, jättäen organisaatioille vain vähän aikaa reagoida.

Toiminnallinen valmius tulee etusijalle

Mitä tämä tarkoittaa käytännössä? Ensinnäkin se vaatii jatkuvaa toiminnallista kapasiteettia, koska nykyinen aikajakso haavoittuvuuksien löytymisen ja korjaamisen välillä on usein liian hidas. Turvallisuustiimien on ymmärrettävä, mitkä haavoittuvuudet ovat todella hyökkäyskelpoisia ja mitkä järjestelmät ovat vaarassa.

Kun havaintojen määrä kasvaa ja hyökkäysajat lyhenevät, AI:n operationalisointi turvallisuuden parantamiseksi tulee välttämättömäksi. Tiimit, jotka hyödyntävät edistyneitä AI-havaintokykyjä (samalla hallitsemalla token-kustannuksia) ja automatisoivat havainnon, triagen ja korjaamisen, ovat parhaiten asemissa minimoida altistumisajat ja negatiiviset liiketoimintavaikutukset. Tämä ei ole kyse siitä, kuka löytää eniten haavoittuvuuksia; se on kyse siitä, kuka tunnistaa ja korjaa tärkeimmät ongelmat nopeasti.

Toiseksi ja tärkeämpää, Frontier AI -mallit ovat työkaluja kyberturvallisuuden puolustamiseen. Glasswingin jäsenet voivat käyttää malleja havaitsemaan ja korjaamaan aiemmin havaitsemattomia haavoittuvuuksia, ja heillä on etulyöntiasema hyökkääjien edellä, kun heillä on pääsy Frontier AI -kykyihin. Frontier AI -mallit ovat arvokkaita havaintotyökaluja, mutta ne eivät itsestään ratkaise toiminnallisia haasteita, kuten miten hallita AI-skannauksia (mitä skannata, milloin, miten orkesteroida skannauksia, mitä tehdä havainnoilla, miten hallita token-kustannuksia jne.). Riippumatta siitä, mikä malli on käytössä (ja ne paranevat ajan myötä), turvallisuustiimien on kyettävä operationalisoida Frontier AI -kykyjä kyberturvallisuuden parantamiseksi nopeammin kuin hyökkääjät voivat hyödyntää kykyjä hyökkäyksiin.

Pitkän aikavälin haaste, jota organisaatiot kohtaavat, ei ole valmistautuminen yksittäiseen malliin tai tiettyyn haavoittuvuuksien ilmoitusprosessiin, vaan se, voivatko olemassa olevat toimintamallit sopeutua maailmaan, jossa haavoittuvuudet löydetään ja aseistetaan ennennäkemättömällä nopeudella. Jos tämä menee pieleen, organisaatiot ovat kohtaamassa maailman täynnä ongelmia.