Che cosa ci dice l’arrivo dei modelli AI di frontiera sul futuro della scoperta delle vulnerabilità

Quando Claude Mythos è stato annunciato ad aprile, è diventato rapidamente uno dei più grandi punti di discussione sulla sicurezza informatica dell’era dell’AI. Sviluppato da Anthropic, il nuovo modello LLM ha dimostrato capacità informatiche senza precedenti e ha sollevato reazioni che lo hanno classificato come un importante innovazione tecnologica, insieme ad avvertimenti che la sicurezza informatica potrebbe stare entrando in un periodo di inedita destabilizzazione.

Secondo Anthropic, il modello può scoprire autonomamente un gran numero di vulnerabilità zero-day, segnalando presunti difetti in importanti sistemi operativi e browser, compresi esempi che erano rimasti non scoperti per decenni. È stato anche in grado di concatenare singole debolezze in funzionanti exploit multi-step.

Il suo impatto è stato così drammatico che, entro il 12 giugno, il governo degli Stati Uniti ha ordinato ad Anthropic di sospendere l’accesso alla tecnologia per qualsiasi nazionalità estera in tutto il mondo, compresi i dipendenti di Anthropic di nazionalità estera. Ciò è stato ampiamente visto come una reazione alle preoccupazioni che le capacità AI offensive possano aver raggiunto un punto in cui l’accesso non restrittivo potrebbe creare rischi inaccettabili, addirittura incontrollabili.

Sotto Project Glasswing, il programma di divulgazione e risoluzione di Anthropic, l’accesso è attualmente limitato a circa 50 organizzazioni, tra cui AWS, Apple, Google, Microsoft, CrowdStrike, Cisco e la Linux Foundation, tra gli altri. A queste aziende è stato concesso un periodo di tempo per correggere i sistemi critici prima che le vulnerabilità identificate da Mythos siano rese pubbliche a partire da luglio. A quel punto, l’industria entra veramente in un nuovo territorio.

Superare il Rubicone

Molti sarebbero d’accordo che l’arrivo dei modelli AI di frontiera significa che il Rubicone della sicurezza è stato superato. E facciamo chiarezza: il problema principale non è necessariamente l’emergere di un particolare modello, ma la possibilità (o anche la probabilità) che la scoperta delle vulnerabilità e lo sviluppo degli exploit stessi possano stare entrando in una nuova era, con l’AI in grado di operare a una scala e a una velocità al di là di quella dei ricercatori umani.

Se questo si dimostra vero, le implicazioni si estendono ben oltre le specifiche vulnerabilità; influiscono sulle ipotesi su cui si basano tradizionalmente i processi di gestione e risoluzione delle vulnerabilità. In particolare, i processi di gestione delle vulnerabilità attuali sono stati sviluppati in un’epoca in cui i ricercatori umani limitavano il ritmo della scoperta. L’AI ha il potenziale per cambiare radicalmente quell’equazione.

Una conseguenza probabile è un aumento significativo del numero di vulnerabilità che entrano nell’ecosistema della sicurezza. I volumi di CVE sono già aumentati drasticamente negli ultimi anni e i team di sicurezza sono già sotto crescente pressione anche prima che si senta pienamente l’impatto dei modelli AI di frontiera.

In questo contesto, la scoperta delle vulnerabilità stessa potrebbe non essere più il fattore limitante. Invece, il collo di bottiglia si sposta verso la triage e la risoluzione. La sfida è aggravata dal fatto che i tempi di sfruttamento sono stati riducendo negli anni e in alcuni casi, gli exploit appaiono prima che i patch diventino disponibili, lasciando alle organizzazioni poco tempo per reagire.

La prontezza operativa diventa la priorità

Quindi, che cosa significa un approccio aggiornato e adatto allo scopo per la gestione delle vulnerabilità? Innanzitutto, deve essere trattato come una capacità operativa continua perché, come stanno le cose, la finestra tra la scoperta e il deploy del patch è spesso troppo lenta. I team di sicurezza devono capire quali vulnerabilità sono effettivamente sfruttabili e quali sistemi sono interessati.

Mentre il volume dei risultati aumenta e il tempo per sfruttare diminuisce, l’operativizzazione dell’AI per la sicurezza diventerà essenziale. I team che sfruttano avanzate capacità di rilevamento AI (gestendo i costi dei token) e automatizzano il rilevamento, la triage e la risoluzione saranno meglio posizionati per minimizzare le finestre di esposizione e gli impatti negativi sul business. Non si tratta di scoprire il maggior numero di vulnerabilità; si tratta di identificare e risolvere i problemi più importanti rapidamente.

In secondo luogo e più importante, i modelli AI di frontiera) sono strumenti per la difesa informatica. I membri di Glasswing possono utilizzare i modelli per rilevare e correggere vulnerabilità precedentemente non rilevate, idealmente con un accesso avanzato per avere un vantaggio sugli attaccanti quando inevitabilmente avranno accesso alle capacità AI di frontiera. I modelli AI di frontiera sono uno strumento di rilevamento prezioso; tuttavia, non risolvono automaticamente gli aspetti operativi di come gestire gli scan AI (cosa è necessario per eseguire lo scan, quando, come orchestrare lo scanning, cosa fare con i risultati, come gestire i costi dei token, ecc.). Indipendentemente dal modello utilizzato (e miglioreranno nel tempo), i team di sicurezza devono essere in grado di operativizzare le capacità AI di frontiera per la sicurezza informatica più velocemente di quanto gli attaccanti possano sfruttare le capacità per l’exploit.

La sfida a lungo termine che le organizzazioni devono affrontare non è quindi prepararsi per un singolo modello o una particolare ondata di divulgazioni, ma se i modelli operativi esistenti possano adattarsi a un mondo in cui le vulnerabilità sono scoperte e utilizzate a una velocità senza precedenti. Se si sbaglia, le organizzazioni si trovano ad affrontare un mondo di guai.