Sicurezza informatica
Cato Networks presenta AgentSense per bloccare le azioni dannose degli agenti IA prima che vengano eseguite

Punti chiaveAgentSense affronta l'iniezione indiretta di prompt tracciando come i contenuti non…
Vedi di più
- AgentSense affronta l'iniezione indiretta di prompt tracciando come i contenuti non attendibili orientano le azioni di un agente.
- Credenziali valide non garantiscono un comportamento sicuro perché un agente può essere manipolato per compiere azioni dannose.
- La sfida da 10.000 dollari di Cato invita i ricercatori a verificare se AgentSense resiste al reindirizzamento avversario dei flussi di lavoro.
Cato Networks ha presentato AgentSense, una funzionalità di sicurezza in fase di esecuzione progettata per bloccare le azioni dannose degli agenti IA prima che vengano eseguite. Sviluppata da Cato AI Labs, la tecnologia ricostruisce il modo in cui i contenuti non attendibili influenzano il comportamento di un agente, affrontando un rischio che le normali autorizzazioni di accesso non risolvono del tutto: un agente può disporre di credenziali legittime ed essere comunque manipolato per indurlo a fare la cosa sbagliata.
Cato afferma che AgentSense è integrato nella sua piattaforma e sarà incluso senza costi aggiuntivi nelle licenze Cato AI Usage. L’annuncio presenta la tecnologia insieme a una sfida di test avversari che offre 10.000 $ ciascuno ai primi tre partecipanti idonei che riescano a reindirizzare un flusso di lavoro protetto verso azioni dannose.
Autorizzazioni valide possono comunque portare a un’azione non sicura
Un agente aziendale potrebbe dover leggere email, cercare documenti, consultare siti web e richiamare strumenti per completare un’attività. Ogni fonte amplia le informazioni che può utilizzare, ma offre anche l’opportunità a testi esterni di influenzare il suo passaggio successivo.
L’iniezione indiretta di prompt sfrutta questo confine. Invece di impartire un’istruzione direttamente come utente autorizzato, un aggressore la nasconde nei materiali che l’agente incontra mentre lavora. Un documento, un ticket, una pagina web o la risposta di uno strumento possono contenere testo che tenta di reindirizzare il flusso di lavoro, esporre informazioni o attivare un’azione non pertinente.
È comunque importante verificare se un agente può accedere a un’applicazione. Questa verifica risponde a una domanda diversa da quella relativa al fatto che una determinata azione sia funzionale all’attività autorizzata dall’utente. Per esempio, un agente può essere autorizzato a leggere documenti aziendali senza esserlo a inviarli a una destinazione suggerita da un documento recuperato.
La proposta di AgentSense è valutare questo comportamento durante l’esecuzione, offrendo la possibilità di intervenire prima che venga compiuta un’azione sensibile.
Tracciare l’influenza dei contenuti non attendibili all’interno della sessione IA
La funzionalità annunciata Untrusted Influence Detection distingue le istruzioni attendibili dai contenuti non attendibili all’interno di una sessione IA e ricostruisce il modo in cui questi ultimi influenzano il comportamento e i risultati. Cato afferma che blocca un’azione quando rileva che materiali non attendibili stanno spingendo l’agente verso un passaggio non sicuro.
La distinzione è importante perché un attacco non deve necessariamente assomigliare a un prompt malevolo noto. Cato descrive AgentSense come una soluzione che valuta l’influenza, anziché affidarsi a classificatori statici o a un catalogo di schemi di attacco già osservati. L’obiettivo è affrontare sia nuove forme di iniezione indiretta di prompt sia quelle riconoscibili.
La nota descrive la tecnologia come brevettata, ma non fornisce un identificativo del brevetto, dettagli sull’implementazione né una valutazione indipendente della sua efficacia. La dichiarazione secondo cui protegge dagli attacchi mai visti prima va quindi intesa come una capacità di sicurezza prevista dal prodotto, non come una garanzia che ogni tentativo di iniezione di prompt verrà bloccato.
La questione operativa è se un livello di sicurezza disponga di un contesto sufficiente sulla sessione e sulle azioni per distinguere tra usare un documento come fonte di prova e trattarlo come un’autorità. AgentSense è progettato proprio per operare questa distinzione.
Drift Detection è una funzionalità distinta, ancora in fase di pianificazione
Cato descrive inoltre AgentSense Drift Detection in termini di sviluppi futuri. La funzionalità pianificata valuterà se le azioni di un agente continuano a contribuire all’attività iniziale man mano che il flusso di lavoro procede.
Questa funzionalità integra il rilevamento dell’influenza, ma affronta un problema diverso. Untrusted Influence Detection verifica se i contenuti esterni stanno orientando un’azione. Drift Detection dovrebbe invece verificare se l’azione è ancora coerente con l’obiettivo, anche quando il singolo passaggio è tecnicamente consentito.
Un flusso di lavoro può accumulare gradualmente passaggi che non contribuiscono più al suo scopo. Per rilevare questa deviazione occorre mantenere una visione dell’obiettivo autorizzato nell’arco dell’intera sessione, invece di valutare ogni chiamata a uno strumento isolatamente. La nota non specifica una data di disponibilità distinta per Drift Detection.
Come si integra AgentSense nella piattaforma di sicurezza IA esistente di Cato
L’offerta di sicurezza per l’IA agentica di Cato descrive già controlli per individuare gli agenti e i server Model Context Protocol, profilare le chiamate agli strumenti e applicare criteri alle interazioni degli agenti. La piattaforma più ampia combina contesto di rete, accesso e sicurezza.
L’azienda distingue inoltre la sicurezza per l’uso dell’IA da parte dei dipendenti dalla protezione delle applicazioni. La sua offerta di Sicurezza IA per le applicazioni descrive visibilità in fase di esecuzione, ispezione di prompt e risposte e protezioni configurabili per le applicazioni di IA distribuite. Questo fornisce un contesto per l’attenzione di AgentSense all’integrità delle azioni compiute durante un flusso di lavoro.
In pratica, controllare l’uso dell’IA comporta diverse decisioni correlate: quali servizi un’organizzazione consente, quali dati possono raggiungerli e cosa può fare un agente con le informazioni che incontra. AgentSense aggiunge a questo insieme di controlli una funzionalità basata sul comportamento: identificare quando sono i contenuti non attendibili a determinare l’azione.
La ricerca sull’iniezione di prompt mostra perché il confine è importante
La ricerca di Cato su EchoLeak descrive una catena di attacco in cui contenuti forniti dall’esterno potevano indurre Microsoft 365 Copilot a esporre informazioni presenti nel suo contesto. La rilevanza per la sicurezza degli agenti sta nel passaggio dalla lettura di materiale esterno all’esecuzione di istruzioni incorporate in esso.
La ricerca di Cato su CurXecute ha esaminato un esito diverso: l’iniezione di prompt tramite contenuti esterni poteva indurre un agente di programmazione a modificare una configurazione MCP e ad avviare l’esecuzione di comandi. Secondo quanto riportato da Cato, Cursor ha corretto la vulnerabilità nella versione 1.3. L’esempio illustra una modalità di malfunzionamento; non va interpretato come un’affermazione secondo cui il problema corretto sia ancora presente.
Entrambi i casi mostrano perché la provenienza dei contenuti sia importante quando un assistente può accedere a dati sensibili o a strumenti di esecuzione. Un’interazione che inizia come recupero di informazioni può trasformarsi in un incidente di sicurezza quando il testo recuperato modifica il flusso di controllo del processo.
Una sfida pubblica per mettere alla prova la protezione
La sfida AgentSense invita la comunità della sicurezza a inserire istruzioni in un flusso di lavoro protetto e a tentare di allontanare l’agente dalle intenzioni dell’utente. Cato afferma che i risultati e i riscontri dei partecipanti contribuiranno a ulteriori valutazioni e miglioramenti.
Secondo l’annuncio, i primi tre partecipanti idonei che completeranno con successo la sfida riceveranno ciascuno 10.000 $. Il comunicato fornito non include l’URL definitivo della sfida né il regolamento dettagliato; l’idoneità e i limiti dei test dipenderanno quindi dai termini del programma pubblicati.
Per le aziende che ampliano l’autonomia degli agenti, AgentSense risponde a un’esigenza concreta: mantenere il legame tra l’attività autorizzata dall’utente e le azioni che il sistema di IA esegue effettivamente. Il valore della tecnologia dipenderà dalla costanza con cui saprà far rispettare questo confine, consentendo al tempo stesso di portare avanti le attività legittime.












