Perché l’apocalisse è una distrazione e qual è il vero rischio dell’IA di cui dovremmo preoccuparci

Se seguite le notizie, è difficile ignorare il crescente allarmismo che circonda il settore dell’IA e gli avvertimenti sull’apocalisse. La narrazione, che mette in guardia dal «rischio esistenziale» che i sistemi di IA rappresentano per l’umanità, ha reso fin troppo facile per le aziende di cybersicurezza salire sul carro e vendere facendo leva sulla paura. Tuttavia, concentrarsi sull’«apocalisse» è fuorviante, perché distoglie l’attenzione dai rischi più immediati che l’IA agentica pone oggi alle organizzazioni.

Naturalmente, gli agenti di IA che agiscono indipendentemente dai controlli di un’organizzazione comportano rischi evidenti. Solo di recente, alcune notizie provenienti da Australia e dagli Stati Uniti hanno rivelato che agenti di IA di OpenAI avevano oltrepassato i limiti dei compiti loro assegnati nei sistemi governativi di entrambi i paesi.

Eppure, la minaccia rappresentata da scenari apocalittici legati all’IA è esagerata. Invece di fissarsi su ipotesi, le organizzazioni devono affrontare questa nuova realtà e assicurarsi di disporre di misure di protezione deterministiche a garanzia della resilienza operativa.

Internet non ha un unico interruttore di spegnimento

Chi condivide la narrativa apocalittica ritiene che, con l’aumento della sofisticazione e della portata dell’IA, questa potrebbe diventare un «interruttore di morte» concentrato: un unico punto vulnerabile, che qualcuno potrebbe assumere il controllo completo e usare per innescare una catastrofe.

Tuttavia, Internet è molto più distribuita e variegata di quanto presupponga la teoria dell’interruttore di morte. Funziona come una «rete di reti», composta da miliardi di componenti organizzati in architetture diverse e protetti da innumerevoli team operativi che adottano standard e strumenti differenti. Non esiste quindi un unico interruttore che qualcuno, umano o macchina, possa azionare, né un’unica vulnerabilità o catena di vulnerabilità sfruttabile per provocare conseguenze catastrofiche di tale portata.

L’idea che l’IA possa creare e diffondere un agente patogeno artificiale o violare sistemi nucleari isolati da Internet potrebbe offrire spunti avvincenti per un film. Resta però uno scenario ben lontano dall’essere credibile nell’ambito di una valutazione delle minacce operative.

Lontano dagli occhi, fuori controllo

Con la continua evoluzione dell’IA agentica, due fattori hanno cambiato radicalmente la natura dei rischi per le imprese.

Da un lato, oggi l’IA può consentire agli autori di attacchi di individuare e sfruttare le vulnerabilità informatiche in pochi minuti anziché in mesi. Quando le difese basate su modelli probabilistici individuano un’attività sospetta, spesso è già troppo tardi per reagire alla minaccia. Poiché si basano sulle probabilità statistiche anziché su regole fisse, anche le migliori non rileveranno alcune attività malevole, e a un aggressore basta riuscire a eludere i controlli una sola volta

Dall’altro, l’uso dell’«IA ombra» da parte dei dipendenti ha reso molto più difficile sapere che cosa occorre proteggere. Un impressionante 82% delle organizzazioni intervistate dalla Cloud Security Alliance ha scoperto nell’ultimo anno agenti di IA in esecuzione, di cui i team di sicurezza o IT ignoravano l’esistenza, nonostante il 68% avesse dichiarato di avere un’elevata fiducia nella propria capacità di monitorare gli agenti. Separatamente, EY ha rilevato che un quarto delle grandi aziende statunitensi che usano l’IA agentica ha ammesso di non essere in grado di rilevare gli agenti non autorizzati operanti all’interno dell’azienda.

È naturale che entrambi questi cambiamenti esercitino una forte pressione operativa sui sistemi aziendali. Nel loro insieme, mettono le organizzazioni in una posizione di notevole svantaggio: sono troppo lente nell’individuare e correggere le vulnerabilità esposte e non sanno quali sistemi siano esposti in primo luogo.

Tenere sotto controllo ciò che si può controllare

Le organizzazioni hanno bisogno di un inventario aggiornato in tempo reale di tutti gli agenti operativi al loro interno, autorizzati o meno, ciascuno associato a un responsabile nominativo e a un ambito chiaramente definito di ciò a cui può accedere e delle azioni che può svolgere. È il primo passo per tenere sotto controllo gli elementi controllabili: sebbene i modelli di IA possano essere probabilistici, i controlli definiti intorno a essi possono essere deterministici, fissi e chiaramente delineati.

In pratica, ogni volta che un agente propone un’azione, un livello di controllo separato e indipendente dal modello stesso deve verificare che l’azione sia consentita e conservarne traccia in un registro di audit. Eppure, solo l’11% delle organizzazioni blocca automaticamente l’azione di un agente quando questa esula dal suo ambito; la maggior parte si affida all’approvazione umana o si limita a registrarla. L’incidente australiano mostra il costo di affidarsi al sistema bersaglio perché dica di no: l’accesso è stato rifiutato, ma l’agente ha trovato un’altra via d’ingresso. L’architettura di governance complessiva deve inoltre essere in grado di identificare, autorizzare e verificare continuamente tutti gli agenti, così da impedire che si concretizzino rischi operativi imprevisti. Tutto questo deve avvenire rapidamente, perché agli attacchi che si muovono alla velocità delle macchine occorrono regole altrettanto rapide.

Dalla paura ipotetica alle soluzioni concrete

Per quanto convincente possa apparire, la valanga di notizie apocalittiche alimentata dai sistemi di IA autonomi è ben lontana dalla realtà. Il rischio di cui vale la pena preoccuparsi è molto più ordinario di un’IA che decide di distruggerci: un agente che agisce all’interno della tua azienda più rapidamente di quanto chiunque riesca a rendersene conto, con autorizzazioni che nessuno gli ha concesso.

I problemi della velocità e della visibilità sono entrambi risolvibili, purché i sistemi di sicurezza che governano l’IA siano deterministici e possano verificare e monitorare con precisione ogni agente alla velocità con cui opera.

Per i consigli di amministrazione e i responsabili della sicurezza, tutto si riduce a tre domande pratiche: sappiamo quali agenti operano nel nostro ambiente? Ognuno di loro ha un responsabile e limiti definiti? Possiamo bloccare un’azione non autorizzata prima che venga eseguita? Aiutare i clienti a colmare queste lacune pratiche è il modo in cui i fornitori di sicurezza informatica possono contribuire molto più alla resilienza che vendendo la paura di futuri ipotetici.