Come affrontare le sfide di sicurezza della rete relative all’AI Agentic

L’intelligenza artificiale (AI) agentic rappresenta la prossima frontiera dell’AI, promettendo di andare oltre le capacità dell’intelligenza artificiale generativa (GenAI). A differenza della maggior parte dei sistemi GenAI, che si basano su prompt o supervisione umana, l’AI agentic è proattiva perché non richiede input utente per risolvere problemi complessi e multi-step. Sfruttando un ecosistema digitale di modelli linguistici di grandi dimensioni (LLM), apprendimento automatico (ML) e elaborazione del linguaggio naturale (NLP), l’AI agentic esegue compiti in modo autonomo per conto di un utente o sistema, migliorando notevolmente la produttività e le operazioni.

Sebbene l’AI agentic sia ancora nella sua fase iniziale, gli esperti hanno evidenziato alcuni casi d’uso innovativi. Consideriamo un ambiente di servizio clienti per una banca in cui un agente AI fa più che semplicemente rispondere alle domande dell’utente quando richiesto. Invece, l’agente completa effettivamente transazioni o compiti come il trasferimento di fondi quando richiesto dall’utente. Un altro esempio potrebbe essere in un contesto finanziario in cui i sistemi AI agentic assistono gli analisti umani analizzando in modo autonomo e rapido grandi quantità di dati per generare report pronti per l’audit per la presa di decisioni basate sui dati.

Le incredibili possibilità dell’AI agentic sono innegabili. Tuttavia, come ogni nuova tecnologia, ci sono preoccupazioni relative alla sicurezza, alla governance e alla conformità. La natura unica di questi agenti AI presenta diverse sfide di sicurezza e governance per le organizzazioni. Le imprese devono affrontare queste sfide per raccogliere i frutti dell’AI agentic e garantire al contempo la sicurezza e l’efficienza della rete.

Quali sono le sfide di sicurezza della rete create dall’AI Agentic per le organizzazioni?

Gli agenti AI hanno quattro operazioni di base. La prima è la percezione e la raccolta di dati. Questi agenti, che possono essere centinaia, migliaia o addirittura milioni, raccolgono e raccoglieo dati da più luoghi, che possono essere il cloud, on-premises, l’edge, ecc., e questi dati possono provenire da qualsiasi luogo, piuttosto che da una specifica località geografica. Il secondo passo è la presa di decisioni. Una volta che gli agenti hanno raccolto i dati, utilizzano modelli AI e ML per prendere decisioni. Il terzo passo è l’azione e l’esecuzione. Gli agenti agiscono di conseguenza per eseguire la decisione presa. L’ultimo passo è l’apprendimento, in cui gli agenti utilizzano i dati raccolti prima e dopo la loro decisione per adattarsi e migliorare di conseguenza.

In questo processo, l’AI agentic richiede l’accesso a enormi dataset per funzionare efficacemente. Gli agenti si integrano tipicamente con sistemi di dati che gestiscono o archiviano informazioni sensibili, come registri finanziari, database sanitari e altre informazioni personali identificabili (PII). Purtroppo, l’AI agentic complica gli sforzi per proteggere l’infrastruttura di rete dalle vulnerabilità, in particolare con la connettività cross-cloud. Presenta anche sfide di sicurezza di uscita, rendendo difficile per le aziende difendersi contro l’esfiltrazione, nonché violazioni di comando e controllo. Se un agente AI viene compromesso, i dati sensibili potrebbero essere facilmente esposti o rubati. Allo stesso modo, gli agenti potrebbero essere sequestrati da attori malintenzionati e utilizzati per generare e distribuire disinformazione su larga scala. Quando si verificano violazioni, non solo ci sono penalità finanziarie, ma anche conseguenze sulla reputazione.

Capacità chiave come l’osservabilità e la tracciabilità possono essere frustrate dall’AI agentic poiché è difficile tenere traccia dei dataset ai quali gli agenti AI accedono, aumentando il rischio che i dati vengano esposti o accessi da utenti non autorizzati. Allo stesso modo, l’apprendimento dinamico e l’adattamento dell’AI agentic possono ostacolare le tradizionali verifiche di sicurezza, che si basano su log strutturati per tracciare il flusso di dati. L’AI agentic è anche effimera, dinamica e in esecuzione continua, creando un bisogno costante di mantenere la visibilità e la sicurezza ottimali 24 ore su 24. La scala è un’altra sfida. La superficie di attacco è cresciuta esponenzialmente, estendendosi oltre il data center on-premises e il cloud per includere l’edge. In effetti, a seconda dell’organizzazione, l’AI agentic può aggiungere migliaia o milioni di nuovi endpoint all’edge. Questi agenti operano in numerose località, che possono essere diverse cloud, on-premises, l’edge, ecc., rendendo la rete più vulnerabile agli attacchi.

Un approccio comprensivo per affrontare le sfide di sicurezza dell’AI Agentic

Le organizzazioni possono affrontare le sfide di sicurezza dell’AI agentic applicando soluzioni di sicurezza e best practice in ciascuna delle quattro operazioni di base:

1. Percezione e raccolta di dati: Le aziende hanno bisogno di una connettività di rete ad alta larghezza di banda che sia crittografata da un capo all’altro per consentire ai loro agenti di raccogliere la grande quantità di dati necessari per funzionare. Ricordiamo che questi dati potrebbero essere sensibili o di grande valore, a seconda del caso d’uso. Le aziende dovrebbero implementare una soluzione di connettività crittografata ad alta velocità per eseguire tra tutte queste fonti di dati e proteggere i dati sensibili e le informazioni personali identificabili (PII).
2. Presa di decisioni: Le aziende devono assicurarsi che i loro agenti AI abbiano accesso ai modelli e all’infrastruttura AI e ML corretti per prendere le decisioni giuste. Implementando un firewall cloud, le imprese possono ottenere la connettività e la sicurezza necessarie per i loro agenti AI per accedere ai modelli corretti in modo verificabile.
3. Esecuzione dell’azione: Gli agenti AI eseguono azioni in base alla decisione. Tuttavia, le aziende devono identificare quale agente, tra centinaia o migliaia, abbia preso quella decisione. Devono anche sapere come i loro agenti comunicano tra loro per evitare conflitti o “robot che combattono contro robot”. Pertanto, le organizzazioni hanno bisogno di osservabilità e tracciabilità delle azioni eseguite dai loro agenti AI. L’osservabilità è la capacità di tracciare, monitorare e comprendere gli stati interni e il comportamento degli agenti AI in tempo reale. La tracciabilità è la capacità di tracciare e documentare i dati, le decisioni e le azioni eseguite da un agente AI.
4. Apprendimento e adattamento: Le aziende spendono milioni, se non centinaia di milioni o più, per ottimizzare i loro algoritmi, il che aumenta il valore e la precisione di questi agenti. Se un attore malintenzionato ottiene il controllo di quel modello ed esegue un’esfiltrazione, tutte quelle risorse potrebbero essere in loro mani in pochi minuti. Le aziende possono proteggere i loro investimenti attraverso funzionalità di sicurezza di uscita che proteggono contro l’esfiltrazione e le violazioni di comando e controllo.

Capitalizzare sull’AI Agentic in modo sicuro e responsabile

L’AI agentic ha un potenziale notevole, consentendo alle aziende di raggiungere nuove vette di produttività ed efficienza. Tuttavia, come ogni tecnologia emergente nello spazio AI, le organizzazioni devono prendere precauzioni per proteggere le loro reti e i dati sensibili. La sicurezza è particolarmente cruciale oggi, considerando gli attacchi sofisticati e ben organizzati finanziati da stati-nazione, come Salt Typhoon e Silk Typhoon, che continuano a condurre attacchi su larga scala.

Le organizzazioni dovrebbero collaborare con esperti di sicurezza cloud per sviluppare una strategia di sicurezza robusta, scalabile e pronta per il futuro in grado di affrontare le sfide uniche dell’AI agentic. Questi partner possono consentire alle imprese di tracciare, gestire e proteggere i loro agenti AI; inoltre, aiutano a fornire alle aziende la consapevolezza necessaria per soddisfare gli standard relativi alla conformità e alla governance.