L’AI non risolverà le fondamenta di sicurezza rotte

L’AI migliora la visibilità, l’analisi e la presa di decisioni, ma la sua efficacia è limitata dalla qualità dell’ambiente sottostante

“Utilizza l’AI?” è diventata la domanda standard nelle conversazioni sui prodotti di sicurezza, sollevata dai leader della sicurezza e ripetuta in quasi ogni presentazione dei venditori.

Il problema è che è la domanda sbagliata. Il fatto che un prodotto utilizzi l’AI non significa che aiuterà a rafforzare la postura di sicurezza di un’organizzazione. L’AI non è una panacea per tutti i problemi di sicurezza. Il suo valore dipende da come viene applicato, il che inizia con la definizione chiara del problema che si desidera risolvere.

La domanda migliore è: “Quale specifica lacuna di sicurezza stiamo cercando di colmare e questo tecnologia alimentata da AI aiuta effettivamente a colmarla?”

Cosa fa bene l’AI

L’AI fornisce valore nella sicurezza in tre aree chiave. In primo luogo, colma le lacune dei dati. I team di sicurezza raccolgono dati da decine di fonti, compresi inventari di asset obsoleti, sistemi di identità che non catturano tutte le relazioni di accesso e telemetria di rete che mancano di alcuni traffici. L’AI può inferire il contesto da set di dati incompleti per costruire un’immagine più completa degli asset, delle identità, della connettività e del comportamento del carico di lavoro.

L’AI migliora anche l’analisi su larga scala. Il problema del rapporto segnale/rumore nelle operazioni di sicurezza è grave e in peggioramento. L’AI può correlare gli eventi tra più fonti di dati, portare in superficie gli avvisi che meritano attenzione e spingere il rumore di bassa priorità fuori dal campo visivo dell’analista. È qui che la maggior parte dei venditori di sicurezza ha concentrato il loro investimento in AI. I team SOC trascorrono meno tempo nella triage degli avvisi a basso valore e più tempo in attività che richiedono giudizio umano.

In terzo luogo, una volta che l’AI ha arricchito i dati e analizzato i segnali, può guidare l’azione raccomandando il prossimo passo, come ad esempio quale modifica della politica mitigare il rischio, quale azione di risposta si adatta al modello di comportamento o dove una modifica della configurazione è necessaria.

L’AI fornisce il valore maggiore quando migliora il contesto, l’analisi e la presa di decisioni. Migliora le pratiche di sicurezza solide, ma non può compensare quelle mancanti.

Perché le fondamenta deboli falliscono ancora

L’AI è limitata dagli input che un’organizzazione le fornisce. Quegli input (ad esempio, telemetria, architettura, politiche, controlli e strumenti esistenti) definiscono i confini di ciò che l’AI può fare. Affilare quegli input e l’AI produce risultati più affilati. Inibirli e l’output si degrada.

Senza il contesto per identificare un’assenza, l’AI non ha modo di segnalarla. Non si assumerà il compito di esaminare un ambiente e segnalare ciò che manca. Non dirà a un team di sicurezza che la rete manca di segmentazione adeguata, che i controlli di accesso sono troppo permissivi o che le lacune di visibilità stanno lasciando interi segmenti dell’ambiente non monitorati.

L’AI non sfugge al vecchio principio di qualità dei dati, “spazzatura dentro, spazzatura fuori”, lo rafforza. La telemetria debole produce un’analisi debole. I controlli difettosi danno all’AI qualcosa da ottimizzare nella direzione sbagliata. La visibilità incompleta significa che le decisioni vengono prese da un’immagine parziale e l’AI prende quelle decisioni più velocemente, non più accurate. La velocità non è un miglioramento quando le informazioni sottostanti sono inaffidabili.

È per questo che la qualità della fondamenta conta prima di qualsiasi capacità di AI. Una solida fondamenta include controlli di identità e accesso che applicano confini significativi, il privilegio minimo tra utenti, carichi di lavoro, applicazioni, dati, microsegmentazione per limitare il movimento laterale e visibilità/osservabilità completa in tutto l’ambiente. Richiede anche telemetria affidabile e una chiara comprensione di come i sistemi si connettono e dipendono l’uno dall’altro.

Nessuna di queste è nuova. Sono le stesse discipline che i team di sicurezza hanno discusso per anni, dal passaggio alla mobilità al passaggio al cloud. Ciò che è cambiato è il costo della negligenza. L’AI può amplificare una solida fondamenta di sicurezza, ma non può sostituirla.

L’AI agente cambia l’equazione del rischio

Il passaggio non è da nessun AI all’AI; è dall’AI che assiste all’AI che agisce. L’AI tradizionale analizza i dati, porta in superficie informazioni e raccomanda i prossimi passi. L’AI agente esegue attraverso sistemi, dati e flussi di lavoro senza aspettare una decisione umana.

Pensatela in questo modo: distribuire 100 agenti AI in una notte è essenzialmente come assumere 100 nuovi dipendenti che non si disconnettono mai, operano alla velocità della macchina e hanno accesso a qualsiasi sistema le loro autorizzazioni consentono. Ma a differenza dei dipendenti umani, questi agenti non si fermano, non mettono in discussione o applicano il giudizio su quando quell’accesso dovrebbe essere utilizzato. Eseguono continuamente, muovendosi attraverso i sistemi e toccando più applicazioni esattamente come sono autorizzati.

È questo il divario. Il vostro modello di accesso presuppone un comportamento umano (ad esempio, azioni discrete, ritmo più lento e un certo livello di giudizio). Gli agenti AI rimuovono quelle limitazioni. Quindi, se le autorizzazioni sono troppo ampie (o inaccurate), non si limitano a rimanere inutilizzate o a essere utilizzate in modo errato occasionalmente; si esercitano costantemente, su larga scala, su ogni sistema che toccano.

Il rischio si accumula quando un’organizzazione assegna a un agente lo stesso profilo di accesso di un utente specifico, creano un clone, non un proxy utile. Quel clone ha le stesse autorizzazioni ampie dell’originale, funziona continuamente e può esporre l’organizzazione agli stessi rischi, sia che il suo comportamento sia malizioso o solo mal configurato.

Nell’era dell’AI, l’identità, il controllo di accesso, il privilegio minimo, la segmentazione e l’osservabilità non sono più solo le migliori pratiche; sono requisiti di sicurezza fondamentali. Un recente rapporto sviluppato con SANS, il progetto OWASP Gen AI Security e una comunità di professionisti, rafforza il punto che l’AI agente non rende questi fondamenti obsoleti. Li rende inderogabili.

Cosa significa la sicurezza pronta per l’AI

Trattare la prontezza per l’AI come una domanda di acquisto e concentrarsi su quali strumenti abilitati per l’AI implementare ignora il fatto che la prontezza per l’AI è una questione di architettura, governance e controlli. La domanda non è quali strumenti acquistare, ma se l’ambiente supporterà l’AI che opera in modo sicuro.

Inizia con la visibilità. Prima di distribuire qualsiasi capacità di AI, i team di sicurezza devono avere un’immagine chiara di ciò che esiste nell’ambiente: asset, carichi di lavoro, identità, applicazioni, dati, modelli di AI, agenti e connessioni di terze parti. Quell’inventario non è qualcosa che l’AI possa costruire per voi. È il punto di partenza che l’AI necessita per fare qualcosa di utile.

Da lì, definisci il problema. Identifica la lacuna di controllo o il rischio specifico. Decidi quale risultato deve migliorare. Poi chiedi se l’AI può aiutare a colmare quella lacuna meglio di altri approcci. Le organizzazioni che invertano questo ordine iniziando con uno strumento AI e poi cercando un problema a cui applicarlo tendono a generare attività senza migliorare la sicurezza.

Applicare i principi di zero trust agli agenti AI è dove questo diventa operativo. L’istinto è spesso quello di definire cosa gli agenti non dovrebbero fare, ma quella lista sarà sempre incompleta. Un approccio più affidabile è essere prescrittivi su cosa ogni agente possa fare, dargli solo l’accesso richiesto da un compito definito ed eseguire quei limiti attraverso ogni livello dello stack. Segmentare i sistemi che gli agenti possono raggiungere in modo che, se uno si comporta in modi al di fuori dei suoi confini definiti o un attaccante lo sfrutta, il danno rimane contenuto.

Infine, un aumento dell’attività non è un metrica di successo. L’AI aumenterà il volume delle azioni che un team di sicurezza intraprende, ma ciò non significa che stia migliorando la sicurezza. Un cruscotto che presenta molta attività non segnala che l’AI stia fornendo valore.

Misura i risultati, come ad esempio se i volumi di avvisi stanno calando in modi che riflettono un segnale genuino e il livello di rischio sta calando più velocemente nelle aree che contano di più. Assicurati che le raccomandazioni di politica rafforzino i controlli, consentano al team di sicurezza di contenere gli incidenti più velocemente e permettano agli analisti SOC di trascorrere più tempo sul lavoro che richiede giudizio umano.

La fondamenta vengono per prime

L’AI non è la fondamenta di una solida postura di sicurezza. È un moltiplicatore di forza, e come ogni moltiplicatore, il suo valore dipende interamente da ciò a cui viene applicato.

Le organizzazioni che hanno costruito un’architettura solida con visibilità chiara, privilegio minimo applicato, segmentazione e controlli di identità solidi possono utilizzare l’AI per affinare il loro contesto, accelerare l’analisi e agire su informazioni migliori. Quelli che non l’hanno fatto scopriranno che l’AI li muove più velocemente nella direzione sbagliata, ottimizzando controlli difettosi e portando in superficie informazioni da un’immagine parziale.

La domanda che deve essere posta prima di effettuare qualsiasi investimento in AI è la stessa che dovrebbe guidare ogni decisione di sicurezza: qual è il problema che stiamo cercando di risolvere? Se la risposta è chiara e l’architettura per supportarla è in place, allora l’AI può rendere la soluzione più efficace. Se la risposta è vaga o la fondamenta è debole, aggiungere l’AI non cambierà questo. Renderà solo più difficile da vedere la lacuna.

L’AI non risolverà le fondamenta di sicurezza rotte. Renderà solo più visibili le crepe più velocemente.