Combattere l’AI con l’AI nel Moderno Paesaggio delle Minacce

Non è esattamente una notizia che l’AI abbia cambiato drasticamente l’industria della sicurezza informatica. Sia gli attaccanti che i difensori stanno utilizzando l’intelligenza artificiale per aumentare le loro capacità, cercando di rimanere un passo avanti l’uno rispetto all’altro. Questo gioco del gatto e del topo non è nuovo – gli attaccanti cercano di superare le squadre di sicurezza da decenni – ma l’emergere dell’intelligenza artificiale ha introdotto un elemento fresco (e spesso imprevedibile) nella dinamica. Gli attaccanti in tutto il mondo si stanno sfregando le mani con gioia alla prospettiva di sfruttare questa nuova tecnologia per sviluppare metodi di attacco innovativi e mai visti prima.

Almeno, questa è la percezione. Ma la realtà è un po’ diversa. Se è vero che gli attaccanti stanno utilizzando sempre più l’AI, stanno principalmente utilizzandola per aumentare la scala e la complessità dei loro attacchi, raffinando il loro approccio alle tattiche esistenti piuttosto che rompere nuove strade. Il pensiero qui è chiaro: perché spendere tempo e sforzo per sviluppare i metodi di attacco di domani quando i difensori già lottano per fermare quelli di oggi? Fortunatamente, le squadre di sicurezza moderne stanno sfruttando le capacità dell’AI – molte delle quali stanno aiutando a rilevare malware, tentativi di phishing e altre tattiche di attacco comuni con maggiore velocità e precisione. Mentre la “corsa agli armamenti dell’AI” tra attaccanti e difensori continua, sarà sempre più importante per le squadre di sicurezza capire come gli avversari stanno effettivamente utilizzando la tecnologia – e assicurarsi che i loro sforzi siano concentrati nel posto giusto.

Come gli Attaccanti Stanno Sfruttando l’AI

L’idea di un’AI semi-autonoma utilizzata per attaccare metodicamente le difese di un’organizzazione è spaventosa, ma (per ora) rimane saldamente nel regno dei romanzi di William Gibson e di altre opere di fantascienza. È vero che l’AI ha fatto progressi incredibili negli ultimi anni, ma siamo ancora lontani da quell’intelligenza artificiale generale (AGI) in grado di mimare perfettamente i modelli di pensiero e comportamento umani. Ciò non significa che l’AI di oggi non sia impressionante – certamente lo è. Ma gli strumenti di AI generativa e i modelli linguistici di grandi dimensioni (LLM) sono più efficaci nel sintetizzare informazioni da materiali esistenti e generare piccoli cambiamenti iterativi. Non possono creare qualcosa di completamente nuovo da soli – ma non c’è dubbio che la capacità di sintetizzare e iterare sia incredibilmente utile.

Nella pratica, ciò significa che invece di sviluppare nuovi metodi di attacco, gli avversari possono invece aumentare quelli attuali. Utilizzando l’AI, un attaccante potrebbe essere in grado di inviare milioni di email di phishing, invece di migliaia. Possono anche utilizzare un LLM per creare un messaggio più convincente, ingannando più destinatari per far clic su un link dannoso o scaricare un file infetto. Le tattiche come il phishing sono essenzialmente un gioco di numeri: la stragrande maggioranza delle persone non cadrà in un’email di phishing, ma se milioni di persone la ricevono, anche un tasso di successo dell’1% può risultare in migliaia di nuove vittime. Se i LLM possono aumentare quel tasso di successo dell’1% al 2% o più, gli scammers possono effettivamente raddoppiare l’efficacia dei loro attacchi con poco o nessuno sforzo. Lo stesso vale per il malware: se piccoli aggiustamenti al codice del malware possono effettivamente camuffarlo dalla rilevazione degli strumenti, gli attaccanti possono ottenere molto più vantaggio da un singolo programma di malware prima di dover passare a qualcosa di nuovo.

L’altro elemento in gioco qui è la velocità. Poiché gli attacchi basati sull’AI non sono soggetti a limitazioni umane, possono spesso condurre un’intera sequenza di attacchi a un ritmo molto più veloce di un operatore umano. Ciò significa che un attaccante potrebbe potenzialmente violare una rete e raggiungere i “gioielli della corona” della vittima – i dati più sensibili o preziosi – prima che la squadra di sicurezza riceva anche solo un allarme, per non parlare di rispondere ad esso. Se gli attaccanti possono muoversi più velocemente, non devono essere così cauti – il che significa che possono permettersi attività più rumorose e più disruptive senza essere fermati. Non stanno necessariamente facendo nulla di nuovo qui, ma spingendo avanti con i loro attacchi più velocemente, possono superare le difese di rete in un modo potenzialmente rivoluzionario.

Questo è il punto chiave per capire come gli attaccanti stanno sfruttando l’AI. Le truffe di ingegneria sociale e i programmi di malware sono già vettori di attacco di successo – ma ora gli avversari possono renderli ancora più efficaci, schierarli più velocemente e operare su una scala ancora maggiore. Invece di combattere decine di tentativi al giorno, le organizzazioni potrebbero combattere centinaia, migliaia o addirittura decine di migliaia di attacchi veloci. E se non hanno soluzioni o processi in atto per rilevare rapidamente quegli attacchi, identificare quali rappresentano vere e tangibili minacce e rimediarli efficacemente, si stanno lasciando pericolosamente aperti agli attaccanti. Invece di chiedersi come gli attaccanti potrebbero sfruttare l’AI in futuro, le organizzazioni dovrebbero sfruttare soluzioni di sicurezza basate sull’AI con l’obiettivo di gestire i metodi di attacco esistenti su una scala maggiore.

Volgere l’AI a Favore delle Squadre di Sicurezza

Gli esperti di sicurezza a tutti i livelli, sia nel business che nel governo, stanno cercando modi per sfruttare l’AI a scopi difensivi. A agosto, l’Agenzia per la Ricerca e lo Sviluppo Avanzato della Difesa degli Stati Uniti (DARPA) ha annunciato i finalisti per la sua recente sfida AI Cyber Challenge (AIxCC), che assegna premi alle squadre di ricerca di sicurezza che lavorano per addestrare i LLM a identificare e correggere vulnerabilità basate sul codice. La sfida è supportata da importanti fornitori di AI, tra cui Google, Microsoft e OpenAI, tutti i quali forniscono supporto tecnologico e finanziario per questi sforzi per rafforzare la sicurezza basata sull’AI. Naturalmente, DARPA è solo un esempio – non si può quasi scuotere un bastone nella Silicon Valley senza colpire una dozzina di fondatori di startup ansiosi di parlare delle loro soluzioni di sicurezza avanzate basate sull’AI. Basta dire che trovare nuovi modi per sfruttare l’AI a scopi difensivi è una priorità alta per le organizzazioni di tutti i tipi e dimensioni.

Ma come gli attaccanti, le squadre di sicurezza spesso trovano il maggior successo quando utilizzano l’AI per amplificare le loro capacità esistenti. Con gli attacchi che avvengono su una scala sempre crescente, le squadre di sicurezza sono spesso tese – sia in termini di tempo che di risorse – rendendo difficile identificare, indagare e rimediare ogni allarme di sicurezza che si presenta. Non c’è semplicemente il tempo. Le soluzioni di AI stanno giocando un ruolo importante nell’alleviare questa sfida fornendo capacità di rilevamento e risposta automatizzate. Se c’è una cosa che l’AI è brava a fare, è identificare modelli – e ciò significa che gli strumenti di AI sono molto bravi a riconoscere comportamenti anomali, specialmente se quel comportamento si conforma a modelli di attacco noti. Poiché l’AI può esaminare grandi quantità di dati molto più velocemente degli esseri umani, ciò consente alle squadre di sicurezza di aumentare le loro operazioni in modo significativo. In molti casi, queste soluzioni possono addirittura automatizzare i processi di base di rimedio, contrastando attacchi di basso livello senza la necessità di intervento umano. Possono anche essere utilizzate per automatizzare il processo di convalida della sicurezza, continuando a testare e sondare le difese di rete per assicurarsi che funzionino come previsto.

È anche importante notare che l’AI non consente solo alle squadre di sicurezza di identificare attività di attacco potenziale più velocemente – ma migliora anche drasticamente la loro accuratezza. Invece di inseguire allarmi falsi, le squadre di sicurezza possono essere sicure che quando una soluzione di AI li allerta di un potenziale attacco, è degno della loro immediata attenzione. Questo è un aspetto dell’AI che non viene discusso abbastanza – mentre gran parte della discussione si concentra sull’AI che “sostituisce” gli esseri umani e prende il loro lavoro, la realtà è che le soluzioni di AI stanno abilitando gli esseri umani a fare il loro lavoro meglio e più efficientemente, alleviando anche il burnout che deriva dall’eseguire compiti tediosi e ripetitivi. Lungi dall’avere un impatto negativo sugli operatori umani, le soluzioni di AI stanno gestendo gran parte del “lavoro di routine” associato alle posizioni di sicurezza, consentendo agli esseri umani di concentrarsi su compiti più interessanti e importanti. In un momento in cui il burnout è ai massimi livelli e molte aziende lottano per attirare nuovo talento di sicurezza, migliorare la qualità della vita e la soddisfazione lavorativa può avere un impatto positivo enorme.

Questo è il vero vantaggio per le squadre di sicurezza. Non solo le soluzioni di AI possono aiutarle a scalare le loro operazioni per combattere efficacemente gli attaccanti che utilizzano strumenti di AI – possono anche tenere i professionisti della sicurezza più felici e più soddisfatti dei loro ruoli. È una rara soluzione vincente per tutti i coinvolti, e dovrebbe aiutare le aziende di oggi a riconoscere che il momento di investire in soluzioni di sicurezza basate sull’AI è adesso.

La Corsa agli Armamenti dell’AI è Appena Iniziata

La corsa per adottare soluzioni di AI è iniziata, con sia gli attaccanti che i difensori che trovano modi diversi per sfruttare la tecnologia a loro vantaggio. Mentre gli attaccanti utilizzano l’AI per aumentare la velocità, la scala e la complessità dei loro attacchi, le squadre di sicurezza dovranno combattere il fuoco con il fuoco, utilizzando strumenti di AI per migliorare la velocità e l’accuratezza delle loro capacità di rilevamento e rimedio. Fortunatamente, le soluzioni di AI stanno fornendo informazioni critiche alle squadre di sicurezza, consentendo loro di testare e valutare meglio l’efficacia delle loro soluzioni, oltre a liberare tempo e risorse per compiti più critici. Non c’è dubbio, la corsa agli armamenti dell’AI è appena iniziata – ma il fatto che i professionisti della sicurezza stiano già utilizzando l’AI per rimanere un passo avanti rispetto agli attaccanti è un ottimo segno.