Leader di pensiero
L’IA può portare la sicurezza su larga scala. Ma cosa, esattamente?

Punti chiaveEl trattamento di più dati non migliora automaticamente il rilevamento delle minacce…
Vedi di più
- El trattamento di più dati non migliora automaticamente il rilevamento delle minacce senza un contesto organizzativo.
- I modelli ottimizzati possono supportare indagini su larga scala a un costo più prevedibile rispetto ai modelli di frontiera.
- L'autonomia dovrebbe essere proporzionata al rischio con una governance progettata prima che gli agenti vengano scalati.
Oggi i team di sicurezza aziendale devono gestire più attività, dati telemetrici e avvisi di quanti possano realisticamente esaminare a mano. Le stime variano; alcune ricerche suggeriscono che un team medio di security operations riceva più di 4.400 avvisi al giorno. Con l’espansione delle organizzazioni, l’aggiunta di nuovi strumenti e la possibilità per l’IA di rendere possibili più attacchi, è inevitabile che il numero aumenti. Stiamo già vedendo aziende con due milioni di endpoint nei propri ambienti e team di sicurezza che esaminano manualmente questi avvisi: non possono competere ad armi pari con aggressori che ricorrono sempre più spesso ad agenti.
Per chi si occupa di difesa, gli agenti di IA possono cambiare le carte in tavola facendosi carico delle indagini e di altre attività ripetitive in tutto l’ambiente. Tuttavia, la capacità di elaborare più dati non si traduce automaticamente in una migliore rilevazione o risposta alle minacce. Non basta aumentare la scala: serve anche il contesto.
L’importanza del contesto nella valutazione della scalabilità
Un agente che esamina milioni di endpoint deve capire cosa sta cercando, quali comportamenti sono insoliti in quello specifico ambiente e quali risultati richiedono ulteriori indagini. Senza questo contesto, l’automazione rischia di amplificare il rumore e di generare conclusioni irrilevanti o fuorvianti.
È importante anche tenere presente che non tutte le organizzazioni potranno affidarsi a modelli di frontiera per indagare ogni avviso: i costi diventerebbero eccessivi.
Gli ambienti di sicurezza differiscono per infrastrutture, applicazioni, requisiti operativi, obblighi normativi e propensione al rischio. Chi si occupa di difesa deve mantenere operative le applicazioni, rispettare i requisiti di conformità ed evitare interruzioni delle attività.
Per essere efficaci, gli agenti devono integrare le conoscenze dell’organizzazione, comprese le indagini passate, le procedure consolidate e il giudizio degli analisti esperti. Gran parte di queste conoscenze non può essere semplicemente fornita a un agente sotto forma di foglio di calcolo o in un altro formato: deve essere acquisita osservando il lavoro sul campo e imparando da chi si occupa di difesa nella pratica.
Per le aziende, la questione fondamentale è come acquisire questo patrimonio di conoscenze e tradurlo in sistemi capaci di prendere decisioni coerenti e adeguate al contesto alla velocità delle macchine.
Come rendere operative le conoscenze dell’organizzazione
Le organizzazioni hanno bisogno di meccanismi per acquisire e applicare le conoscenze che orientano le indagini, comprese le decisioni prese nei casi precedenti, le procedure consolidate e il modo in cui gli analisti interpretano le prove. Le aziende possono avere anche processi, strumenti e conoscenze informali «su misura» che è necessario acquisire.
La specializzazione dei modelli è una possibile soluzione. L’ottimizzazione dei modelli per i singoli clienti aziendali può consentire di svolgere indagini su larga scala a costi più prevedibili, mantenendo prestazioni elevate. I modelli open source ottimizzati possono essere particolarmente utili per attività che coinvolgono popolazioni di endpoint molto ampie.
Le organizzazioni devono inoltre valutare le prestazioni degli agenti man mano che cambiano i modelli, i flussi di lavoro e gli ambienti aziendali. Gli ambienti sintetici, o gemelli digitali, possono offrire contesti rappresentativi per testare diverse versioni degli agenti quando i dati di produzione non sono più disponibili o sono diventati obsoleti.
L’ottimizzazione non è l’unico modo per fornire contesto. Il recupero delle informazioni, la memoria, l’orchestrazione dei flussi di lavoro e i controlli espliciti delle policy sono approcci alternativi. Il requisito fondamentale è che il metodo scelto migliori le prestazioni dell’agente nell’ambiente in cui dovrà operare.
L’autonomia su larga scala richiede limiti chiari, supervisione e coordinamento
Identificare correttamente una minaccia è solo una parte della sfida. Gli agenti devono capire quali azioni sono autorizzati a intraprendere, quando è necessaria l’approvazione di una persona e come evitare di interferire con le legittime attività aziendali. Stabilire dove gli agenti possono agire autonomamente e dove è necessario l’intervento umano è fondamentale per un’implementazione affidabile.
L’autonomia su larga scala richiede anche economie di scala. Le aziende che usano modelli di frontiera per milioni di indagini finiranno per mandarsi in bancarotta. È quindi essenziale individuare il metodo più efficiente per condurre indagini con un modello di IA, che si tratti di uno Small Language Model (SLM) o di un modello proprietario.
Il grado di autonomia dovrebbe essere proporzionato al rischio. Le attività di routine e ben comprese possono essere adatte all’esecuzione autonoma, mentre le azioni con conseguenze rilevanti o potenzialmente disruptive possono richiedere l’approvazione di una persona o un’autorizzazione aggiuntiva. La sicurezza aziendale dipende anche dal coordinamento tra i team. Un’indagine che individua una minaccia e richiede una modifica alla configurazione del firewall deve passare senza intoppi al team responsabile di quel sistema, con le opportune autorizzazioni e responsabilità per la correzione.
La governance e la progettazione dei flussi di lavoro sono quindi componenti essenziali dell’implementazione degli agenti, non controlli da aggiungere dopo aver esteso la tecnologia su larga scala.
Il prossimo parametro per misurare il successo dell’IA nella sicurezza sarà la qualità dei risultati
Le organizzazioni dovrebbero valutare gli agenti in base a misure legate ai risultati, tra cui l’accuratezza delle indagini, i tassi di falsi positivi e falsi negativi, il tempo necessario per indagare e porre rimedio, il costo per indagine, la qualità delle escalation e il rispetto delle politiche di autorizzazione.
La valutazione continua è essenziale man mano che cambiano i modelli e i flussi di lavoro. Testare diverse versioni degli agenti su casi rappresentativi e utilizzare ambienti sintetici può aiutare le organizzazioni a individuare eventuali regressioni prima di distribuire gli aggiornamenti in produzione.
I responsabili della sicurezza devono bilanciare i vantaggi dell’automazione con i rischi operativi della sua implementazione. La disponibilità delle applicazioni, gli obblighi di conformità, la tolleranza al rischio dell’organizzazione e i tempi di implementazione influiscono tutti sulla rapidità con cui è possibile adottare nuove funzionalità.
L’IA offre ai team di sicurezza l’opportunità di affrontare un problema di capacità che si trascina da tempo, ma la semplice scalabilità non è l’obiettivo finale. La vera opportunità consiste nel combinare la velocità delle macchine con il contesto organizzativo, un’autorità adeguata e il giudizio umano, affinché gli agenti possano distinguere ciò che conta, intraprendere le azioni appropriate e coinvolgere le persone giuste quando necessario.












