Il 2026 vedrà l’esplosione degli agenti AI nelle aziende: siamo pronti per i rischi di sicurezza?

Le aziende stanno correndo per adottare gli agenti AI, ma mancano dell’infrastruttura per farlo in modo sicuro. Gli agenti sono diversi dagli strumenti AI: lavorano in modo autonomo, accedono ai dati in continuazione e agiscono alla velocità della macchina senza necessità di supervisione. Ciò crea rischi completamente nuovi che dobbiamo prepararci ad affrontare.

Le persone stanno già utilizzando i propri agenti AI sul posto di lavoro – senza necessariamente informare i loro capi. Come possiamo assicurarci che i bot OpenClaw non cancellino file importanti? Tre aziende su quattro avranno adottato sistemi multi-agente entro la fine del 2026, secondo Gartner. Come possiamo assicurarci che ciascuno di quegli agenti non apra porte per gli attacchi degli hacker in modi nuovi?

L’attuale infrastruttura di sicurezza è progettata per affrontare minacce note e umane. Ciò non tiene conto degli agenti ribelli che manomettono il codice aziendale senza che noi lo sappiamo. O per gli attori malintenzionati che ci attaccano attraverso iniezioni di prompt: istruzioni nascoste nel codice o prompt che causano all’AI di esporre informazioni sensibili o eseguire codice malintenzionato.

La verità è che le aziende sono più affamate che preparate per questa ondata imminente. Solo il 29% delle organizzazioni “concorda fortemente” sul fatto di avere protezioni AI sicure in atto, secondo un sondaggio Microsoft.

I leader aziendali devono fare diverse cose.

1. Implementare misure di sicurezza native AI in tutta l’azienda.
2. Trattare gli agenti AI con le stesse misure di sicurezza degli esseri umani.
3. Aumentare la visibilità di ciò che stanno facendo questi agenti.

Eseguendo questi controlli, la sicurezza può tenere il passo con la velocità degli agenti e abilitare l’innovazione piuttosto che rallentarla.

Creare una sicurezza nativa AI

A febbraio, una ricercatrice di sicurezza di Meta ha pubblicato un post sorprendente su X: il suo bot OpenClaw aveva iniziato a cancellare le sue email e aveva ignorato i suoi ordini di fermarsi. Quando è riuscita a interrompere il processo manualmente, il danno era già stato fatto.

Questo è un esempio della velocità incredibile con cui un AI ribelle può agire, rendendo insufficienti i controlli umani. La sicurezza deve muoversi alla stessa velocità – e lungo gli stessi percorsi – dell’AI agente.

Ciò richiede un rinnovamento dell’infrastruttura di sicurezza dell’azienda, non semplici aggiornamenti degli strumenti esistenti. Diversi settori devono essere coinvolti in questo cambiamento sistemico degli strumenti.

Evitare situazioni veloci come quella della ricercatrice di Meta richiede strumenti AI che rilevino le anomalie in tempo reale e rispondano automaticamente. Ad esempio, gli agenti supervisor possono essere distribuiti per esaminare le attività ad alto impatto eseguite da altri agenti. Gli strumenti di Intelligenza delle Minacce Agente (ATI) possono rilevare e agire automaticamente nelle prime fasi di un potenziale attacco.

Un altro meccanismo di prevenzione importante è assicurarsi della sicurezza del modello effettivo distribuito sui sistemi. Piattaforme come ProtectAI, TrojAI o Aim Security possono testare per pericoli diretti come l’iniezione di prompt, utilizzando strumenti AI per pulire il codice prima della pubblicazione.

Assicurarsi della provenienza dei dati a cui gli agenti AI sono esposti è anche cruciale. Strumenti come Databricks Unity Catalog, Collibra o Alation abilitano i team a governare il movimento dei dati.

Possiamo anche prevenire la manomissione dei nostri agenti AI assicurandoci della sicurezza dei dispositivi fisici che utilizziamo per distribuirli. Piattaforme come CrowdStrike possono aiutare a evitare l’uso improprio delle credenziali AI e rilevare il comportamento anomalo.

È essenziale avere principi che governino le operazioni interne e la selezione dei fornitori. Utilizzare framework di settore esistenti per la guida, come Google SAIF per costruire un’architettura sicura, AWS CAF-AI per la governance AI o NIST AI RMF per la conformità. Il progetto di sicurezza AI Gen di OWASP – un’iniziativa open-source per mitigare i rischi dell’AI – offre indicazioni di sicurezza pertinenti per le aziende che distribuiscono l’AI.

Trattare l’AI con le stesse limitazioni degli esseri umani

L’anno scorso, un investitore stava utilizzando un agente AI Replit per scrivere codice – fino a quando, al nono giorno, l’agente ha deciso di cancellare il codice da un database di produzione live, interessando 1.200 aziende.

Perché gli agenti possono agire in modo autonomo, concedere loro l’accesso non monitorato a una vasta gamma di documenti, dati e API può essere disastroso. Una delle ragioni è che le aziende spesso non assegnano loro un’ “identità” allo stesso modo in cui farebbero con un utente umano, il che significa che non possono tracciare, monitorare e gestire l’accesso a diversi spazi.

Le aziende possono agire assegnando identità agli utenti non umani: i fornitori di gestione dell’accesso alle identità possono gestire da vicino quali aree gli agenti hanno accesso, per quanto tempo e individuare eventuali comportamenti a rischio. Ciò riduce l’accesso eccessivo alle aree di cui l’agente non ha bisogno. Limita anche ciò che può fare nelle aree in cui opera.

Assegnare identità agli agenti riduce anche la minaccia degli attori esterni.

Quando un team di ricercatori ha iniettato prompt malintenzionati in un’applicazione AI che gestisce contratti legali, un utente è stato in grado di recuperare dati privati appartenenti a un utente separato. Evidentemente non c’era una separazione sicura dei dati a livello di utente e l’autorizzazione a tali dati era stata concessa all’AI anche quando non era pertinente allo scenario in questione.

Stabilire confini per le “identità” AI significa che non avranno un accesso “sempre attivo” a larga gamma. Ad esempio, gli agenti richiederanno l’autorizzazione per determinate funzioni o saranno concessi con capacità di sola lettura in determinate aree. Facendo ciò, anche se un agente AI viene violato o manomesso da un attore malintenzionato, l’impatto rimane limitato piuttosto che catastrofico.

La leadership dovrebbe anche educare i propri team sul pericolo degli agenti che operano clandestinamente. Il rischio è maggiore quando i dipendenti collegano “agenti AI ombra” ai luoghi di lavoro senza che la leadership lo sappia e fornisca una corretta identificazione e salvaguardia. Inoltre, un approccio di Privilegi di Standing Zero (ZSP) crea una base di accesso 0 per qualsiasi agente. Quindi, se un dipendente collega un agente ombra non autorizzato, entra in un ambiente in cui tutte le porte sono chiuse.

Avere gli occhi sull’agente

Mentre sappiamo che l’analogia “l’AI è una scatola nera” è vera, il suo utilizzo nel vostro business dovrebbe essere osservato e monitorato.

Per applicare rigorose politiche di sicurezza, ogni agente deve essere governato: dovrebbero avere una chiara documentazione di proprietà, responsabilità e controlli in modo da poter tracciare con precisione i percorsi. Dovreste avere una telemetria continua – monitoraggio remoto – che traccia il comportamento dell’agente e alimenta gli strumenti di sicurezza esistenti in modo che possano rilevare le anomalie e eseguire un punteggio di fiducia adattivo.

La leadership deve prendere seriamente questa nuova frontiera di sicurezza e assicurarsi che diversi team siano responsabili dell’utilizzo degli agenti AI. Possono creare nuovi KPI di conformità, come “Numero di set di dati con provenienza verificata”, “% di agenti AI con identità gestite” o “Punteggio di fiducia AI”.

Questo è critico per la prevenzione, ma è anche importante per l’auditabilità – anche le identità non umane devono avere una traccia di audit per l’organizzazione per essere conformi.

Generalmente comprendiamo come gli esseri umani si comportano e quali percorsi prendono all’interno degli spazi di lavoro. Ma l’AI è una bestia completamente nuova. C’è molto che non sappiamo su come funziona. Alcune aziende stanno scegliendo la soluzione a breve termine di bloccare l’AI dall’ufficio – ma ciò ritarderà solo il problema o causerà ai dipendenti di utilizzare l’AI ombra. Preparare l’architettura di sicurezza in modo proattivo per gli agenti che stanno già diventando ubiqui.