Ce ne spun modelele de inteligență artificială Frontier despre viitorul descoperirii vulnerabilităților

Când Claude Mythos a fost anunțat în aprilie, a devenit rapid una dintre cele mai importante subiecte de securitate cibernetică din era inteligenței artificiale. Dezvoltat de Anthropic, noul model LLM a demonstrat capacități cibernetice fără precedent și a provocat reacții care l-au clasificat ca o mare înfrângere tehnologică, alături de avertizări că securitatea cibernetică ar putea intra într-o perioadă de perturbare fără precedent.

Conform Anthropic, modelul poate descoperi autonom un număr mare de vulnerabilități zero-day, raportând defecte în sisteme de operare și browsere majore, inclusiv exemple care au rămas nedescoperite timp de decenii. A fost, de asemenea, capabil să lanseze individual slăbiciuni în exploatarea multi-pașilor.

Impactul său a fost atât de dramatic, încât, până la 12 iunie, guvernul american a ordonat Anthropic să suspende toate accesul la tehnologie pentru orice național străin din lume, inclusiv angajații străini ai Anthropic. Acest lucru a fost văzut pe scară largă ca o reacție la preocupările că capacitățile ofensive ale inteligenței artificiale ar fi ajuns la un punct în care accesul neîngrădit ar putea crea riscuri inacceptabile, chiar și incontrolabile.

Sub Proiectul Glasswing, programul de divulgare și remediere a lui Anthropic, accesul este în prezent restricționat la aproximativ 50 de organizații, inclusiv AWS, Apple (AAPL ), Google, Microsoft (MSFT ), CrowdStrike (CRWD ), Cisco și Linux Foundation, printre altele. Aceste afaceri au primit o fereastră pentru a pata sisteme critice înainte ca vulnerabilitățile identificate de Mythos să fie divulgate public din iulie înainte. În acel moment, industria intră cu adevărat într-un teritoriu nou.

Trecerea Rubiconului

Mulți ar fi de acord că apariția modelelor de inteligență artificială Frontier înseamnă că Rubiconul securității a fost traversat. Și să fim clari: problema de bază nu este neapărat apariția unui anumit model, ci posibilitatea (sau chiar probabilitatea) că descoperirea vulnerabilităților și dezvoltarea exploatării în sine pot intra într-o nouă eră, cu inteligența artificială capabilă să opereze la o scară și o viteză dincolo de cea a cercetătorilor umani.

Dacă se dovedește a fi cazul, implicațiile se extind mult dincolo de vulnerabilitățile specifice; ele afectează ipotezele pe baza cărora procesele de gestionare și remediere a vulnerabilităților au fost tradițional construite. În special, procesele actuale de gestionare a vulnerabilităților au fost dezvoltate într-o eră în care cercetătorii umani au limitat ritmul descoperirii. Inteligența artificială are potențialul de a schimba fundamental această ecuație.

O consecință probabilă este o creștere bruscă a numărului de vulnerabilități care intră în ecosistemul de securitate. Volumul CVE a crescut deja dramatic în ultimii ani, iar echipele de securitate sunt deja sub o presiune crescândă, chiar înainte ca impactul complet al modelelor de inteligență artificială Frontier să fie resimțit.

În acest context, descoperirea vulnerabilităților în sine poate să nu mai fie factorul limitativ. În schimb, gâtul de sticlă se mută la triaj și remediere. Provocarea este exacerbată de faptul că timeline-urile de exploatare au scăzut de-a lungul anilor, iar în unele cazuri, exploatarea apare înainte ca patch-urile să devină disponibile, lăsând organizațiile cu puțin timp pentru a reacționa.

Pregătirea operațională devine prioritate

Deci, ce arată o abordare actualizată, potrivită pentru scop, a gestionării vulnerabilităților? În primul rând, trebuie să fie tratată ca o capacitate operațională continuă, deoarece, așa cum stă, fereastra dintre descoperire și implementarea patch-urilor este adesea prea lentă. Echipele de securitate trebuie să înțeleagă care vulnerabilități sunt de fapt exploatabile și care sisteme sunt afectate.

Pe măsură ce volumul de constatări crește și timpul de exploatare scade, operaționalizarea inteligenței artificiale pentru securitate va deveni esențială. Echipele care utilizează capacități avansate de detectare AI (în timp ce gestionează costurile tokenului) și automatizează detectarea, triajul și remedierea vor fi cele mai bine poziționate pentru a minimiza ferestrele de expunere și impactul negativ asupra afacerilor. Acest lucru nu este despre descoperirea celor mai multe vulnerabilități; este despre identificarea și remedierea celor mai importante probleme rapid.

În al doilea rând și mai important, modelele de inteligență artificială Frontier) sunt unelte pentru apărarea cibernetică. Membrii Glasswing pot utiliza modelele pentru a detecta și a remedia vulnerabilități nedescoperite anterior, ideal cu acces avansat pentru a avea un avans asupra atacatorilor atunci când aceștia vor avea inevitabil acces la capacitățile de inteligență artificială Frontier. Modelele de inteligență artificială Frontier sunt un instrument de detectare valoros; cu toate acestea, ele nu rezolvă automat aspectele operaționale ale modului de gestionare a scanărilor AI (ce trebuie scanat, când, cum se orchestrează scanarea, ce se face cu constatările, cum se gestionează costurile tokenului etc.). Indiferent de modelul utilizat (și acesta se va îmbunătăți în timp), echipele de securitate trebuie să poată operaționaliza capacitățile de inteligență artificială Frontier pentru securitate mai rapid decât atacatorii pot utiliza capacitățile pentru exploatare.

Provocarea pe termen lung cu care se confruntă organizațiile nu este pregătirea pentru un singur model sau o anumită undă de divulgări, ci dacă modelele de operare existente pot adapta la o lume în care vulnerabilitățile sunt descoperite și utilizate la o viteză fără precedent. Dacă greșiți, organizațiile se confruntă cu o lume de probleme.