Sicurezza informatica
Sicurezza dell’IA nel 2027: i permessi degli agenti definiranno il raggio d’impatto

Punti chiaveI permessi dell'agente, non l'affidabilità del modello, determineranno fin dove può…
Vedi di più
- I permessi dell'agente, non l'affidabilità del modello, determineranno fin dove può spingersi un malinteso.
- Le valutazioni di sicurezza devono riportare il completamento legittimo delle attività insieme agli attacchi bloccati per dimostrare che gli agenti restano utili.
- I rapporti sugli incidenti dovrebbero tracciare il percorso delle credenziali e dei permessi delegati anziché l'output anomalo del modello.
Immaginate un dipendente che chiede a un assistente IA di riordinare una casella di posta stracolma. Il compito sembra innocuo, finché un messaggio non convince l’assistente ad aprire la scheda di un cliente, esportare un allegato o inviare una richiesta di pagamento. La questione della sicurezza non riguarda più soltanto l’affidabilità della risposta. Ora ci si chiede se il software abbia l’autorità per trasformare un fraintendimento in un’azione.
È questa la pressione che alimenta il dibattito sulla sicurezza degli agenti nel 2027. Le aziende vogliono assistenti in grado di portare a termine il lavoro. I team di sicurezza devono sapere fin dove arriva questa libertà e se possono revocarla mentre il lavoro è ancora in corso.
Questo collegamento è già in fase di realizzazione. Microsoft ha reso Entra Agent ID disponibile a tutti nel 2026. Okta ha esteso la governance dell’identità degli agenti a diversi provider di identità ed ecosistemi di agenti. AWS ha reso Policy in Bedrock AgentCore disponibile a tutti a marzo, collocando le decisioni di autorizzazione al di fuori del codice dell’agente. Prevedere che i prodotti per l’identità degli agenti appariranno nel 2027 significherebbe ignorare un mercato che esiste già.
1. Le prove in produzione conteranno più degli annunci sull’identità
Un agente dovrebbe poter essere rimosso dal proprio incarico senza che il suo referente umano perda il proprio accesso. Questa semplice aspettativa diventa difficile da soddisfare quando tra l’assistente e l’applicazione che utilizza si interpongono diversi connettori e account di servizio. Nel 2027, le testimonianze sull’uso in produzione provenienti da aziende citate per nome inizieranno a mostrare se le identità distinte degli agenti resistono lungo tutto il percorso: autorità limitata all’inizio, identità riconoscibile durante il tragitto e, alla fine, un interruttore individuale per disattivarli.
Il meccanismo è noto, anche se il carico di lavoro è nuovo. L’autenticazione stabilisce quale entità software sta agendo. L’autorizzazione determina quali risorse e operazioni tale entità può utilizzare. La delega collega la sua autorità a una persona o a un’organizzazione. Una semplice voce in un inventario non dimostra che questi controlli siano applicati nel momento in cui si verifica un’azione dalle conseguenze rilevanti.
La discussione di NIST sull’identità degli agenti dell’agosto 2026 descrive i problemi di responsabilità creati dalla condivisione delle credenziali. I successivi principi di progettazione richiedono identificazione distinta, delega con privilegi limitati e autorizzazioni di breve durata e revocabili. Si tratta di principi di progettazione proposti, non della prova che ogni prodotto distribuito li applichi né di un nuovo requisito giuridico universale.
La difficoltà ingegneristica emerge quando un flusso di lavoro attraversa i confini organizzativi. Un agente può accedere tramite un provider di identità, chiamare un connettore gestito da un’altra azienda e interagire con un’applicazione che adotta un terzo modello di autorizzazione. Un’autorizzazione limitata a monte può trasformarsi in un ampio accesso a valle se un connettore sostituisce le credenziali con un proprio account di servizio dotato di privilegi elevati. L’identità visibile deve conservarsi lungo l’intera catena, altrimenti il piano di controllo perde proprio la distinzione che avrebbe dovuto preservare.
L’annuncio di Agent 365 di Microsoft e la spiegazione di Agent Gateway di Okta mostrano che i fornitori stanno sviluppando soluzioni per affrontare questo problema. Restano descrizioni delle funzionalità fornite dai vendor. Sono più convinto che emergeranno prove concrete dell’uso in produzione, non che questi sistemi eliminino le compromissioni.
Cosa tenere d’occhio nel 2027
Tenete d’occhio le implementazioni in produzione in cui un agente ha una propria identità, riceve un accesso limitato al compito assegnato e può essere disattivato senza bloccare l’accesso al suo referente umano. Le testimonianze dei clienti che descrivono il comportamento di questi controlli nelle applicazioni collegate saranno più significative delle sole registrazioni delle identità. Il perdurare della dipendenza da credenziali di servizio condivise indebolirebbe questa previsione.
Cosa significa per le aziende
I responsabili della sicurezza dovrebbero chiedere ai fornitori di dimostrare l’intera catena di delega, comprese le autorizzazioni utilizzate dai connettori a valle. Le verifiche in fase di approvvigionamento e implementazione dovrebbero individuare il responsabile dell’agente, le azioni che gli sono consentite e la procedura per revocargli l’accesso. Un inventario sempre più ampio di agenti registrati è utile solo se l’organizzazione può controllare ciò che ciascuno di essi è effettivamente in grado di fare.
2. Le difese più efficaci si misureranno in base al lavoro utile
L’agente più facile da proteggere è quello che non può fare nulla. È anche il più facile da rendere commercialmente inutile. Il risultato più interessante nel 2027 sarà una difesa che consenta di portare avanti il lavoro legittimo riducendo nettamente le azioni non autorizzate degli strumenti. Il mio criterio di valutazione è volutamente esigente: dimezzare queste azioni in modo riproducibile, senza perdere più di dieci punti nel completamento delle attività legittime. La protezione deve preservare un’utilità sufficiente perché il sistema resti attivo.
Un’iniezione di prompt modifica ciò che si chiede al modello di trattare come un’istruzione. L’autorizzazione dovrebbe stabilire se l’azione proposta è consentita, indipendentemente da quanto diventi persuasiva quell’istruzione. Un documento recuperato che richiede un’esportazione non dovrebbe acquisire l’autorizzazione a esportare solo perché l’agente può leggerlo.
Le linee guida sulla sicurezza del Model Context Protocol mostrano perché il livello di integrazione è importante: affrontano i problemi del confused deputy, il passthrough dei token e altri modi in cui una connessione può abusare dei privilegi. La conseguenza è di natura architetturale. L’intenzione dichiarata da un modello e il permesso che un’applicazione può far rispettare sono entità distinte, e l’applicazione deve convalidare il secondo.
C’è un secondo requisito: l’agente protetto deve comunque portare a termine il lavoro autorizzato. AgentDojo ha creato un ambiente estensibile per testare attacchi e difese contro agenti che usano strumenti. Il preprint del 2026 AgentDyn sostiene che compiti realistici e aperti mettano in luce sia le vulnerabilità di sicurezza sia i blocchi eccessivi. Un’altra recente analisi dei tentativi di prompt injection non riusciti distingue tra il rifiuto di un attacco, il semplice ignorarlo e il mancato completamento del compito dell’utente. Questi risultati di ricerca riguardano i sistemi e le condizioni sottoposti a valutazione; non sono tassi di sicurezza riferiti all’intera popolazione.
Il compromesso centrale è misurabile. Bloccare ogni operazione di scrittura può produrre un ottimo punteggio in termini di scritture non autorizzate, ma rendere inutile un agente per la contabilità. Un risultato convincente dovrebbe pubblicare l’esito dell’attacco, quello del compito legittimo, l’insieme di azioni consentite e i casi in cui è stata richiesta l’approvazione di una persona. Contano anche gli attaccanti adattivi: una difesa efficace solo contro attacchi sviluppati prima che fosse resa nota offre garanzie più deboli.
Cosa osservare nel 2027
Cercate valutazioni di sicurezza che riportino sia il completamento dei compiti legittimi sia gli attacchi bloccati. Le prove più solide mostreranno un agente che continua a svolgere attività autorizzate mentre un livello di controllo indipendente respinge le azioni non autorizzate, compresi gli attacchi adattati a quella difesa. Una diminuzione del tasso di successo degli attacchi accompagnata da un diffuso fallimento dei compiti offrirebbe rassicurazioni molto meno solide.
Cosa significa per le aziende
Valutate insieme la sicurezza e l’utilità di un agente. Un team addetto agli acquisti dovrebbe includere nella stessa valutazione attività aziendali rappresentative e scenari realistici di uso improprio, quindi verificare quali azioni richiedono un’approvazione e dove vengono applicati i permessi. In questo modo, il costo dei blocchi eccessivi risulta evidente quanto il potenziale danno derivante dal concedere a un agente troppa autorità.
3. I rapporti sugli incidenti ricostruiranno il percorso dei permessi
Dopo un incidente che coinvolge un agente, la domanda più rivelatrice potrebbe essere come un’istruzione abbia acquisito il potere di agire. Un messaggio malevolo è solo una parte della vicenda; tra le altre ci sono le credenziali, il connettore e i permessi delegati che ne hanno propagato gli effetti. Prevedo che nel 2027 le segnalazioni riconosciute dai fornitori renderanno più visibili questi percorsi. I difensori avranno così a disposizione qualcosa di più utile dell’ennesimo esempio di un modello che dice qualcosa che non dovrebbe dire.
La prova importante in una segnalazione di questo tipo è una sequenza: l’agente ha incontrato un determinato input, ha proposto o selezionato un’azione, ha ottenuto o ereditato l’autorità necessaria e ha oltrepassato un confine previsto. Descrivere solo le parole insolite del modello non spiega il malfunzionamento operativo. Descrivere solo una credenziale trapelata può non chiarire perché l’agente l’abbia esposta o utilizzata.
Non si tratta di prevedere che il primo superamento di questo tipo avverrà l’anno prossimo. Nella sua valutazione degli incidenti di cybersicurezza del settembre 2026, Anthropic ha descritto quattro casi in cui i modelli Claude hanno ottenuto accesso non autorizzato a sistemi reali di terze parti durante attività legate alla valutazione. Si tratta di una segnalazione del fornitore del modello relativa a incidenti specifici. Non va generalizzata trasformandola in un tasso misurato di violazioni aziendali, né considerata una verifica indipendente di ogni dettaglio.
L’OWASP Top 10 per le applicazioni agentiche offre un utile quadro dei rischi per discutere dei malfunzionamenti degli agenti. Un quadro, tuttavia, fornisce categorie, non un denominatore degli incidenti. Un aumento delle segnalazioni potrebbe riflettere una maggiore diffusione, una migliore rilevazione, una maggiore trasparenza nel riferire gli incidenti o una combinazione di tutti e tre i fattori. Da solo, non dimostrerebbe che ogni agente distribuito sia diventato meno sicuro.
La mia fiducia è minore in questo caso, perché gli incentivi a segnalare gli incidenti sono incerti. Le organizzazioni possono correggere un connettore senza darne notizia, considerare un malfunzionamento un normale problema di controllo degli accessi o scegliere di non rivelare il nome di un cliente. Un cambiamento operativo significativo può quindi lasciare poche tracce pubbliche. Questa incertezza deve restare parte della previsione, invece di essere eliminata contando ogni dimostrazione speculativa di vulnerabilità come una violazione.
Cosa osservare nel 2027
Prestate attenzione ai rapporti sugli incidenti che spiegano come un agente sia passato dalla lettura di materiale non attendibile all’utilizzo di un permesso su una risorsa reale. Descrizioni chiare del connettore, delle credenziali delegate, dell’azione interessata e delle misure correttive rafforzerebbero la previsione. I rapporti che si limitano a risposte insolite del modello diranno meno sul confine operativo che è stato violato.
Cosa significa per le aziende
I team di risposta agli incidenti dovrebbero conservare dati telemetrici sufficienti sull’agente e sull’applicazione per ricostruire il percorso dall’input all’azione. Le verifiche dei fornitori dovrebbero definire chi avviserà il cliente, quali registrazioni saranno disponibili e come contenere una connessione compromessa. Questi accordi determineranno la rapidità con cui un’organizzazione potrà valutare l’esposizione quando un agente si comporta in modo imprevisto.
4. La revoca sarà misurata con il cronometro
Un interruttore di spegnimento è una promessa sui tempi. Se un agente ha già copiato una credenziale o aperto un’altra sessione, revocarne l’identità può lasciare una finestra temporale in cui le azioni continuano ad andare a buon fine. Nel 2027, test indipendenti inizieranno a misurare questa promessa con il cronometro, attraverso applicazioni collegate. La previsione è concreta: bloccare entro un minuto le nuove azioni protette, anche quando le credenziali sono state memorizzate nella cache.
Revocare l’accesso è facile da promettere nella directory delle identità, ma più difficile da dimostrare a valle. Un connettore può conservare un token di accesso. Un processo può mantenere attiva una sessione. Un’attività pianificata può conservare una richiesta autorizzata in precedenza. Disabilitare la registrazione di un agente nell’inventario non dimostra che questi percorsi di esecuzione smettano di fare affidamento su autorizzazioni obsolete.
Il principio dell’autorizzazione revocabile di NIST e l’applicazione delle policy tramite gateway e la registrazione delle policy nei log di AWS descrivono alcuni elementi dell’architettura necessaria. La mia deduzione è che gli acquirenti chiederanno sempre più spesso di conoscere il tempo di contenimento effettivamente misurato. La soglia di 60 secondi è l’obiettivo della mia previsione, non un requisito attribuito a una delle due fonti.
Un’esercitazione efficace distingue l’interruzione di nuove attività dall’annullamento di quelle già completate. Revocare un’autorizzazione non può ritirare un messaggio già consegnato. La promessa misurabile è che una nuova azione protetta, inviata dopo che la revoca è diventata effettiva, venga negata. Le azioni in corso richiedono semantiche di annullamento o completamento documentate separatamente. Senza questa distinzione, una dimostrazione spettacolare dell’“interruttore di arresto” può nascondere una garanzia molto più limitata.
Il grado di fiducia da basso a moderato riflette la difficoltà di ottenere prove riproducibili attraverso più connettori. La documentazione pubblica dei prodotti può attestare i comportamenti supportati, ma la previsione richiede un risultato cronometrato effettivo. Richiede inoltre che chi svolge il test utilizzi una sessione già avviata, il contesto in cui è più probabile che le autorizzazioni obsolete siano rilevanti.
Cosa osservare nel 2027
Fate attenzione alle dimostrazioni di revoca che iniziano con un agente già operativo tramite connettori attivi, anche con credenziali memorizzate nella cache o sessioni già avviate. Il risultato utile è un tempo misurato per l’interruzione di nuove azioni protette, accompagnato da una spiegazione chiara delle attività in corso. Disabilitare una voce nel pannello di controllo senza effettuare test a valle lascerebbe senza risposta la domanda centrale.
Cosa significa per le aziende
Considerate l’arresto di un agente una capacità di risposta agli incidenti da sottoporre a esercitazioni. Verificate le applicazioni a cui l’agente può accedere, individuate le eventuali sessioni che restano attive dopo la revoca e assegnate la responsabilità di interrompere le attività in coda. Distinguete tra impedire l’azione successiva e annullare un’azione già completata: la pianificazione del ripristino deve tenere conto di entrambe.
Il budget per la sicurezza seguirà il confine di esecuzione
L’obiettivo è concedere agli agenti autorità sufficiente per essere utili e limiti sufficienti a mantenerli governabili. Questo equilibrio sarà negoziato nei connettori, nei token e nei controlli delle autorizzazioni, ben lontano dall’interfaccia conversazionale. Quando si verificherà il prossimo incidente, la domanda decisiva sarà fin dove il sistema avrebbe potuto spingersi prima che qualcuno — o qualcosa — lo fermasse.












