Gli agenti di intelligenza artificiale stanno trasformando i giorni zero in una gara che gli esseri umani non possono vincere da soli

Per anni, le vulnerabilità dei giorni zero sono state pericolose, ma erano rare e difficili da sfruttare su larga scala. Trovarne una richiedeva pazienza, abilità specializzate e una profonda comprensione del comportamento del software. Come hanno riferito Nicole Perlroth e altri giornalisti, c’era un commercio di giorni zero, e gli stati nazionali li trattavano come armi cibernetiche estremamente preziose.

Oggi i giorni zero sono ampiamente disponibili. Quasi chiunque può scoprirne di nuovi da solo, con l’aiuto di modelli di intelligenza artificiale open source o proprietari come Claude e OpenAI.

Gli stessi progressi che rendono l’intelligenza artificiale utile per scrivere codice, riassumere log e accelerare le operazioni di sicurezza possono anche essere utilizzati per cercare vulnerabilità, concatenare vulnerabilità e testare percorsi di sfruttamento a velocità di macchina. Gli attaccanti non devono più ispezionare manualmente ogni dipendenza, reverse-engineer ogni applicazione o trascorrere settimane a cercare una debolezza. Gli agenti di intelligenza artificiale possono automatizzare gran parte di quel lavoro, esplorando codici, scansionando sistemi esposti, generando ipotesi e iterando fino a quando non trovano qualcosa di utile.

Ciò cambia l’economia dello sfruttamento dei giorni zero. Un attaccante umano può avere il tempo di perseguire solo gli obiettivi più promettenti. Un attaccante assistito da intelligenza artificiale può permettersi di esaminare molto più software, molto più velocemente, con molto meno fatica. Anche se la maggior parte dei tentativi fallisce, il semplice volume dei tentativi rende più probabile il successo. Nella sicurezza informatica, la scala spesso trasforma eventi rari in eventi di routine.

L’intelligenza artificiale sta ampliando la superficie di ricerca dei giorni zero

Questo è il motivo per cui i giorni zero stanno diventando un rischio aziendale più urgente. Il software moderno è troppo grande, troppo interconnesso e troppo dipendente da componenti di terze parti perché qualsiasi organizzazione possa comprendere completamente ogni debolezza prima di un attaccante. La maggior parte delle aziende si affida a una miscela di piattaforme commerciali, librerie open-source, servizi cloud, applicazioni SaaS, API, sistemi di identità, dispositivi edge e strumenti interni. Ogni livello introduce potenziali vulnerabilità. Ogni integrazione crea nuovi percorsi di attacco. Ogni aggiornamento può cambiare silenziosamente il profilo di rischio.

La realtà scomoda è che c’è una grande quantità di vulnerabilità non scoperte all’interno del software di tutti i tipi. Alcune di esse esistono in codici vecchi. Alcune di esse esistono in codici nuovi scritti sotto pressione. Alcune di esse provengono da dipendenze che poche organizzazioni tracciano con sufficiente precisione. Alcune di esse emergono dal modo in cui i sistemi interagiscono, anche quando ogni componente individuale sembra sicuro. Gli agenti di intelligenza artificiale sono ben adatti a esplorare quella complessità perché possono cercare ampiamente, persistentemente e adattivamente.

I difensori affrontano un problema di patching impossibile. Non puoi patchare una vulnerabilità che non esiste. Non puoi dare priorità a ogni debolezza teorica in modo uguale. Non puoi testare completamente ogni combinazione di software, configurazione e comportamento dell’utente prima della distribuzione. Anche i programmi di gestione delle vulnerabilità più maturi sono spesso costruiti intorno a CVE noti, avvisi dei venditori e feed di intelligence sulle minacce. Quelli sono essenziali, ma arrivano dopo la scoperta. In un mondo di caccia ai giorni zero accelerata dall’intelligenza artificiale, la scoperta può verificarsi per prima nelle mani di un attaccante.

Ciò crea un gioco di whack a mole in crescita. Una vulnerabilità viene trovata. Una patch viene lanciata. Lo sfruttamento si sposta su un sistema vicino, una dipendenza diversa o un’interfaccia appena esposta. I team di sicurezza rispondono, ma il backlog continua ad espandersi. L’intelligenza artificiale aumenta la velocità del martello su entrambi i lati, ma gli attaccanti spesso beneficiano per primi perché hanno solo bisogno di trovare un percorso valido. I difensori devono proteggere tutti.

La risposta a lungo termine potrebbe venire dall’intelligenza artificiale stessa. Man mano che i sistemi di intelligenza artificiale diventano migliori nella generazione, revisione e testing del codice, dovrebbero aiutare a eliminare intere classi di vulnerabilità prima che il software raggiunga la produzione. Lo sviluppo sicuro-by-design potrebbe diventare molto più pratico quando l’intelligenza artificiale può ispezionare continuamente il codice, identificare modelli insicuri, modellare l’exploitabilità e raccomandare fix in tempo reale. Alla fine, potremmo raggiungere un punto in cui errori di memoria comuni, errori di iniezione, errori di autenticazione e configurazioni insicure sono drasticamente ridotti perché l’ingegneria assistita da intelligenza artificiale li coglie presto. Nel nostro lavoro in DeepTempo, vediamo già un uso maggiore di linguaggi sicuri come Rust nel nostro software; sebbene Rust sia più difficile in alcuni aspetti da codificare, è più sicuro e la codifica è diventata molto più facile grazie all’intelligenza artificiale.

I difensori devono spostarsi dalla velocità di patching alla resilienza agli attacchi

Mentre un futuro in cui tutto il software è stato patchato o riscritto in modo più sicuro è un obiettivo degno di essere perseguito, non è chiaro quanto teoricamente possibile sia per una varietà di motivi. In ogni caso, sappiamo che non è ancora arrivato e non arriverà per molti anni. Il codice generato dall’intelligenza artificiale di oggi può ancora introdurre vulnerabilità. E gli strumenti di sicurezza dell’intelligenza artificiale possono ancora perdere il contesto. Gli ambienti aziendali di oggi contengono ancora decenni di debito tecnico accumulato. Gli attaccanti stanno già utilizzando l’automazione per muoversi più velocemente, mentre i difensori stanno ancora integrando l’intelligenza artificiale nei flussi di lavoro esistenti, nelle catene di approvazione e nei modelli di rischio e scoprono che i LLM non sono utili quando rilevano attacchi.Ulteriori informazioni su come i LLM si comportano nelle rilevazioni possono essere trovate in recenti benchmark open source come SOC Bench. Ad esempio, gli ingegneri dietro SOC Bench hanno scoperto che i migliori LLM hanno un tasso di falsi positivi nel range del 20% e costerebbero centinaia di milioni di dollari al giorno alla scala di un ambiente di sicurezza tipico.Di conseguenza, la crescita dell’intelligenza artificiale attualmente favorisce enormemente gli attaccanti.

Purtroppo, le organizzazioni devono supporre che alcune vulnerabilità sconosciute saranno scoperte dagli avversari prima che vengano rese pubbliche. Inoltre, grazie al miglioramento del phishing e alla diffusione della cattura di identità, gli attaccanti possono semplicemente accedere.In breve, almeno per il medio termine, più che mai la strategia di sicurezza non può dipendere interamente dalla prevenzione. La prevenzione rimane critica, ma deve essere abbinata a una rilevazione più rapida, a un’analisi comportamentale più solida e a un contenimento più stretto.

Come hanno suggerito recentemente varie organizzazioni, tra cui NIST, i Five Eyes e l’Accademia Nazionale delle Scienze, data la crescita degli attaccanti abilitati dall’intelligenza artificiale, i team di sicurezza dovrebbero rivedere gli approcci per comprendere cosa significa “normale” attraverso utenti, macchine, identità, applicazioni e flussi di dati. Gli exploit dei giorni zero spesso hanno successo perché bypassano le firme note, ma lasciano comunque impronte che i modelli di classificazione più potenti di oggi possono vedere e discernere. Ad esempio, gli attacchi possono mostrare modelli di accesso insoliti, utilizzo di privilegi anormali, attività di processo inaspettata, flussi di autenticazione strani o movimenti di dati che, in combinazione, non corrispondono al baseline dell’ambiente. L’intelligenza artificiale progettata appositamente può aiutare i difensori a trovare quei segnali prima, specialmente quando l’attacco stesso è nuovo.

Inoltre, le aziende dovrebbero ridurre il raggio di compromissione. La segmentazione, il privilegio minimo, il controllo dell’identità solido, il monitoraggio continuo e l’isolamento rapido contano di più quando vengono sfruttate vulnerabilità sconosciute. Se un attaccante utilizza un giorno zero per accedere, la prossima domanda è quanto lontano può muoversi prima di essere rilevato. La finestra più piccola rende l’exploit meno prezioso.

Non c’è un pulsante di pausa pulito per questo momento. Gli agenti di intelligenza artificiale continueranno a migliorare. L’esperimentazione offensiva continuerà ad accelerare. Il numero di sistemi degni di essere esaminati continuerà a crescere. Il compito della comunità di sicurezza è assicurarsi che l’intelligenza artificiale difensiva maturi altrettanto rapidamente.

I giorni zero hanno sempre ricompensato la velocità, la creatività e l’asimmetria. Gli agenti di intelligenza artificiale amplificano tutti e tre. Le organizzazioni che si adattano tratteranno l’intelligenza artificiale come più di un livello di produttività per i team di sicurezza. Utilizzeranno anche l’intelligenza artificiale progettata appositamente per rilevare minacce sconosciute in modo efficiente e accurato, dare priorità a segnali apparentemente deboli che, in combinazione con migliaia di altri, suggeriscono un compromesso, e rispondere prima che una vulnerabilità sfruttata diventi una crisi aziendale su larga scala.