L’AI non ha bisogno di un altro cruscotto. Ha bisogno dell’autorizzazione ad agire

Per anni, la sicurezza informatica è stata ossessionata dalla visibilità. Volevamo vedere di più della rete, raccogliere più telemetria, correlare più eventi e rilevare le minacce prima. Così abbiamo creato cruscotti. Poi abbiamo creato cruscotti migliori. Poi abbiamo aggiunto l’apprendimento automatico a quei cruscotti. Ora stiamo aggiungendo l’IA.

Ma a un certo punto, dobbiamo porci la domanda ovvia: una volta che possiamo vedere l’attacco, a cosa siamo realmente pronti a fare? Non credo che il prossimo grande problema della sicurezza informatica sarà la rilevazione. Credo che sarà l’autorità.

L’IA potenzialmente ci offre qualcosa che i team di sicurezza desiderano da decenni: la capacità di identificare, comprendere e rispondere a un attacco alla velocità della macchina. Questo è importante perché gli attacchi avvengono sempre più rapidamente, a una velocità con cui il modello tradizionale di SOC semplicemente non riesce a tenere il passo.

Eppure molte organizzazioni stanno distribuendo l’IA nello stesso modello operativo che avevano prima. La tecnologia può rilevare qualcosa in pochi secondi, forse capire cosa sta accadendo e raccomandare la risposta appropriata, ma qualcuno deve ancora approvare cosa succederà dopo.

A quel punto, non avete davvero costruito una difesa autonoma. Avete costruito un sistema di allarme straordinariamente sofisticato. C’è una contraddizione qui che dobbiamo affrontare. Abbiamo passato anni a dire che i team di sicurezza sono sopraffatti. Ci sono troppi avvisi, troppe infrastrutture, troppo pochi professionisti qualificati e non abbastanza tempo per indagare su tutto. Ci lamentiamo che gli esseri umani non possono rispondere abbastanza rapidamente.

Poi introduciamo una tecnologia capace di rispondere più velocemente degli esseri umani e rifiutiamo di concederle l’autorizzazione ad agire.

Non ha senso. Se non ho un mandato per rispondere a qualcosa mentre sta accadendo, farò sempre una post‑mortem in seguito. Non importa quanto sia intelligente la tecnologia di rilevamento. Se il meccanismo di risposta è ancora in attesa che qualcuno prenda una decisione, l’attaccante mantiene il vantaggio.

La difesa autonoma richiede un’autorità di risposta chiara

E questo non è semplicemente un problema creato dall’IA. La maggior parte delle organizzazioni non ha ancora risolto correttamente la questione dell’autorità di risposta per i loro team di sicurezza umani.

Chi è realmente autorizzato a isolare una macchina? Chi può mettere offline un server? Chi ha l’autorità di interrompere un processo produttivo perché ci sono prove di un attacco? In molte organizzazioni, queste decisioni sono ancora poco chiare, negoziate durante un incidente o scalate attraverso vari livelli di gestione.

L’IA semplicemente evidenzia quanto sia diventato insostenibile quel modello.

Se vogliamo davvero una difesa autonoma, il mandato deve arrivare dall’alto. I consigli di amministrazione e i team esecutivi devono decidere quale autorità sono disposti a concedere ai loro sistemi di sicurezza prima che l’attacco avvenga, non mentre tutti lo osservano svilupparsi. Tuttavia, concedere all’IA l’autorizzazione ad agire crea un altro problema.

L’IA necessita di conoscenza degli asset e del contesto aziendale

Devi anche fornire abbastanza contesto affinché possa prendere la decisione giusta. Immagina un sistema IA che rileva un’infiltrazione su una macchina e determina che la risposta tecnica più sicura è isolarla. Dal punto di vista della sicurezza informatica, ciò può essere assolutamente corretto.

Ora immagina che quella macchina controlli una linea di produzione che genera un milione di sterline all’ora.

All’improvviso, la decisione tecnicamente corretta potrebbe essere quella sbagliata dal punto di vista aziendale.

Forse la minaccia è sufficientemente contenuta da permettere una rimessione in sicurezza in diverse ore senza spegnere la macchina. Forse metterla offline causa danni molto maggiori rispetto a consentirle di continuare a operare temporaneamente sotto controlli più stringenti.

L’IA non può fare questa distinzione a meno che l’organizzazione non le abbia indicato cosa sia quell’asset, cosa faccia e cosa accada all’azienda se scompare. È per questo che la conoscenza degli asset e il contesto aziendale diventano così importanti in un SOC guidato dall’IA.

I team di sicurezza parlano di gestione degli asset da decenni e, francamente, molte organizzazioni ancora non sanno cosa possiedono.

Lo Shadow IT ha reso la cosa già abbastanza difficile. Le unità di business acquistano server, distribuiscono applicazioni e collegano dispositivi senza che la sicurezza ne sia necessariamente a conoscenza. Poi abbiamo aggiunto infrastrutture cloud, lavoro remoto, SaaS e ambienti sempre più distribuiti. L’idea di un perimetro ordinato contenente un inventario perfettamente mantenuto è scomparsa anni fa.

Lo abbiamo tollerato quando il modello operativo era per lo più reattivo. Quando accadeva qualcosa di serio, un analista lo investigava e cercava di stabilire il contesto.

Questo diventa molto più complicato quando ci si aspetta che l’IA prenda decisioni in modo autonomo.

Un sistema autonomo deve sapere che non si tratta solo dell’indirizzo IP X o del punto finale Y. Deve capire che questa macchina controlla un processo di produzione, che questo server supporta SAP, che questo database contiene informazioni critiche sui clienti, o che mettere offline questo specifico sistema interromperà un’operazione che genera ricavi.

Senza quella conoscenza, l’autonomia diventa un’ipotesi. Ironia della sorte, è anche un ambito in cui l’IA stessa può aiutare. Può scoprire e classificare le risorse, identificare le relazioni, trovare sistemi che nessuno aveva realizzato esistessero e contattare i responsabili aziendali per ottenere il contesto mancante. Mantenere un database delle risorse accurato non deve rimanere l’odiosa, manuale, esercitazione pluriennale che le organizzazioni hanno storicamente considerato.

Tuttavia, l’informazione deve esistere da qualche parte. Se l’organizzazione stessa non comprende cosa faccia una risorsa o quanto sia importante, non possiamo ragionevolmente aspettarci che un sistema IA prenda una decisione aziendale intelligente al riguardo.

Definire i confini della sicurezza informatica autonoma

Ecco perché ritengo che la discussione sull’IA nel SOC debba andare oltre i modelli e i tassi di rilevamento.

La tecnologia sta diventando sufficientemente capace.

La domanda più importante è se le organizzazioni siano operative pronte a utilizzare quella capacità.

Questo significa rispondere a qualche domanda scomoda. Quali decisioni può prendere l’IA in modo autonomo? Cosa può isolare? Cosa può bloccare? In quali circostanze dovrebbe attendere l’approvazione umana? Quali risorse sono così critiche da richiedere regole diverse? E chi, all’interno dell’organizzazione, ha l’autorità di stabilire tali regole?

Queste sono domande di governance, ma sono anche domande di sicurezza informatica.

La risposta non può semplicemente essere che un umano debba approvare tutto ciò che è rilevante. Sembra sicuro finché non si considera l’ambiente che stiamo cercando di difendere.

Quando un attacco può svolgersi in meno di un minuto, attendere dieci minuti perché qualcuno comprenda un avviso, trovi la persona giusta e approvi una risposta non è cautela. È una vulnerabilità.

Ci saranno ovviamente errori. I sistemi autonomi a volte prenderanno decisioni che avremmo preferito non fossero state prese. È proprio per questo che le organizzazioni hanno bisogno di mandati chiari, una buona intelligenza delle risorse, contesto aziendale e confini accuratamente definiti.

Ma eliminare l’autonomia perché temiamo le conseguenze fraintende il punto.

L’obiettivo non dovrebbe essere costruire un’IA che non possa mai prendere una decisione sbagliata. Dovrebbe essere fornire all’IA conoscenza, contesto e autorità sufficienti per prendere la decisione giusta abbastanza rapidamente da fare la differenza.

Altrimenti, continueremo a fare quello che l’industria della sicurezza ha fatto per anni: rilevare gli attacchi, generare avvisi, riempire i cruscotti e spiegare in seguito cosa è successo.

L’IA ci offre l’opportunità di cambiare tutto ciò, ma solo se finalmente le concediamo il permesso di agire.