Cybersécurité
Cato Networks dévoile AgentSense pour empêcher les agents d’IA d’effectuer des actions nuisibles

Points clésAgentSense cible l'injection d'invite indirecte en traçant la manière dont le contenu…
Voir plus
- AgentSense cible l'injection d'invite indirecte en traçant la manière dont le contenu non fiable oriente les actions d'un agent.
- Des identifiants valides ne garantissent pas un comportement sûr, car un agent peut être manipulé pour commettre des actions nuisibles.
- Le défi de 10 000 $ de Cato invite les chercheurs à tester si AgentSense résiste à la redirection adversariale des flux de travail.
Cato Networks a dévoilé AgentSense, une fonctionnalité de sécurité à l’exécution conçue pour empêcher les agents d’IA d’effectuer des actions nuisibles. Développée par Cato AI Labs, cette technologie retrace la manière dont des contenus non fiables influencent le comportement d’un agent et s’attaque à un risque que les autorisations d’accès classiques ne permettent pas de résoudre entièrement : un agent peut disposer d’identifiants légitimes et être malgré tout manipulé pour agir de façon inappropriée.
Selon Cato, AgentSense est intégrée à sa plateforme et sera incluse sans frais supplémentaires dans les licences Cato AI Usage. L’annonce s’accompagne d’un défi de tests adversariaux offrant 10 000 $ à chacun des trois premiers participants admissibles qui parviendront à détourner un flux de travail protégé pour lui faire exécuter des actions malveillantes.
Des autorisations valides peuvent tout de même entraîner une action dangereuse
Un agent d’entreprise peut avoir besoin de lire des courriels, de rechercher des documents, de consulter des sites Web et d’appeler des outils pour accomplir une tâche. Chaque source élargit les informations auxquelles il peut recourir, mais crée aussi une occasion pour des textes externes d’influencer son étape suivante.
L’injection indirecte de prompt exploite cette frontière. Au lieu de donner directement une instruction en tant qu’utilisateur autorisé, un attaquant la dissimule dans du contenu que l’agent rencontre au cours de son travail. Un document, un ticket, une page Web ou la réponse d’un outil peut contenir du texte visant à détourner le flux de travail, à divulguer des informations ou à déclencher une action sans rapport avec la tâche.
Il reste important de vérifier si un agent peut accéder à une application. Cela répond à une question différente de celle de savoir si une action donnée sert la tâche autorisée par l’utilisateur. Par exemple, un agent peut être autorisé à consulter des dossiers commerciaux sans pour autant avoir le droit de les envoyer à une destination suggérée par un document récupéré.
AgentSense vise à évaluer ce comportement pendant l’exécution, afin de pouvoir intervenir avant qu’une action sensible ne soit menée à bien.
Retracer l’influence de contenus non fiables au sein d’une session d’IA
La fonctionnalité annoncée de détection de l’influence de contenus non fiables distingue les instructions fiables des contenus non fiables au sein d’une session d’IA et retrace la manière dont ces derniers influencent le comportement et les résultats. Selon Cato, le système bloque une action lorsqu’il détecte qu’un contenu non fiable pousse l’agent à adopter une étape risquée.
Cette distinction est importante, car une attaque ne prend pas nécessairement la forme d’un prompt malveillant connu. Cato explique qu’AgentSense évalue l’influence au lieu de s’appuyer sur des classificateurs statiques ou un répertoire de schémas d’attaque déjà observés. Cette approche vise à contrer aussi bien les nouvelles formes d’injection indirecte de prompt que celles qui sont déjà reconnaissables.
Le communiqué présente cette technologie comme brevetée, mais ne fournit ni numéro de brevet, ni détails sur sa mise en œuvre, ni évaluation indépendante de son efficacité. Il convient donc de comprendre la protection annoncée contre les attaques inédites comme une fonctionnalité de sécurité visée par le produit, et non comme la garantie que toutes les tentatives d’injection de prompt seront bloquées.
La question opérationnelle consiste à déterminer si une couche de sécurité dispose d’un contexte suffisant sur la session et les actions pour distinguer le fait d’utiliser un document comme élément de preuve de celui de le traiter comme une source d’autorité. AgentSense cible précisément cette distinction.
La détection des dérives est une fonctionnalité distincte prévue
Cato présente également la détection des dérives d’AgentSense comme une fonctionnalité à venir. Cette fonctionnalité prévue évaluera si les actions d’un agent continuent de servir la tâche initiale au fil du déroulement d’un flux de travail.
Cette fonctionnalité complète la détection de l’influence, mais ne répond pas exactement au même problème. La détection de l’influence de contenus non fiables cherche à déterminer si un contenu externe oriente une action. La détection des dérives vise à déterminer si l’action demeure conforme à l’objectif, même si l’étape considérée est techniquement autorisée.
Un flux de travail peut progressivement accumuler des étapes qui ne contribuent plus à son objectif. Pour détecter cet écart, il faut conserver une vue d’ensemble de l’objectif autorisé tout au long de la session, plutôt que d’évaluer chaque appel d’outil isolément. Le communiqué ne précise pas de date de disponibilité distincte pour la détection des dérives.
Comment AgentSense s’intègre à la plateforme de sécurité de l’IA existante de Cato
L’offre de sécurité de l’IA agentique de Cato décrit déjà des contrôles permettant de détecter les agents et les serveurs du protocole Model Context, de dresser le profil des appels d’outils et d’appliquer des politiques aux interactions des agents. Sa plateforme plus large associe des informations sur le réseau, les accès et la sécurité.
L’entreprise distingue également la sécurisation de l’utilisation de l’IA par les employés de la protection des applications. Son offre de sécurité de l’IA pour les applications décrit une visibilité à l’exécution, l’inspection des prompts et des réponses, ainsi que des protections configurables pour les applications d’IA déployées. Cela permet de mieux situer l’objectif d’AgentSense : préserver l’intégrité des actions effectuées au cours d’un flux de travail.
Dans la pratique, encadrer l’utilisation de l’IA suppose de prendre plusieurs décisions connexes : quels services une organisation autorise, quelles données peuvent leur être transmises et ce qu’un agent peut faire des informations qu’il rencontre. AgentSense ajoute à cet ensemble une dimension comportementale : détecter quand un contenu non fiable est à l’origine de l’action elle-même.
Les recherches sur les injections de commandes montrent pourquoi cette frontière est importante
Les recherches de Cato sur EchoLeak décrivent une chaîne d’attaque dans laquelle du contenu provenant de l’extérieur pouvait amener Microsoft 365 Copilot à divulguer des informations issues de son contexte. Pour la sécurité des agents, l’enjeu réside dans le passage de la lecture de contenu externe à l’exécution d’instructions qui y sont intégrées.
Les recherches de Cato sur CurXecute ont examiné une autre conséquence : une injection de commandes par du contenu externe pouvait amener un agent de programmation à modifier une configuration MCP et à déclencher l’exécution de commandes. Selon le compte rendu de Cato, Cursor a corrigé cette vulnérabilité dans la version 1.3. Cet exemple illustre un mode de défaillance ; il ne faut pas y voir l’affirmation que le problème corrigé est toujours présent.
Ces deux cas montrent pourquoi la provenance du contenu est importante dès lors qu’un assistant peut accéder à des données sensibles ou à des outils d’exécution. Une interaction qui commence par la recherche d’informations peut se transformer en incident de sécurité lorsque le texte récupéré modifie le déroulement du processus.
Un défi public pour mettre la protection à l’épreuve
Le défi AgentSense invite la communauté de la sécurité à insérer des instructions dans un processus protégé et à tenter de détourner l’agent de l’intention de l’utilisateur. Cato indique que les résultats et les commentaires des participants contribueront à orienter les évaluations et les améliorations à venir.
D’après l’annonce, les trois premiers participants admissibles à réussir recevront chacun 10 000 $. Le communiqué fourni ne précise ni l’URL définitive du défi ni son règlement détaillé ; l’admissibilité et les limites des tests dépendront donc des conditions du programme qui seront publiées.
Pour les entreprises qui étendent l’autonomie des agents, AgentSense répond à un besoin concret : préserver le lien entre la tâche autorisée par l’utilisateur et les actions finalement exécutées par un système d’IA. La valeur de cette technologie dépendra de sa capacité à faire respecter cette limite de manière constante tout en permettant la poursuite des activités légitimes.












