Sysdig lance AI Defense pour encadrer les actions des agents, des terminaux au cloud

Sysdig a lancé AI Defense, un produit de sécurité et de gouvernance à l’exécution conçu pour examiner les actions des agents d’IA et intervenir lorsqu’elles dépassent les règles d’une organisation. Dans son annonce du 4 novembre, l’entreprise indique que le produit est désormais disponible pour macOS et Windows. La visibilité qu’il offre vise à relier l’activité sur les postes de travail des employés aux ressources cloud auxquelles leurs identifiants donnent accès.

Le produit répond à l’évolution d’une IA qui ne se contente plus de fournir des réponses, mais qui exécute des opérations dans des logiciels. Un agent de programmation peut lire des fichiers, appeler des outils, lancer des processus et modifier l’infrastructure. Pour sécuriser ce flux de travail, il faut comprendre à la fois la tâche que l’agent pense accomplir et les opérations qui se déroulent effectivement en arrière-plan.

Relier l’intention de l’agent aux traces fournies par le système d’exploitation

Sysdig indique qu’AI Defense associe l’instrumentation intégrée au cadre d’exécution de l’agent — le framework qui le fait fonctionner — à la télémétrie du système d’exploitation. Cette instrumentation recueille les appels aux outils, aux serveurs Model Context Protocol, aux compétences et aux extensions, ainsi que leurs arguments et leurs cibles. L’observation au niveau du système fournit un relevé distinct des processus et des activités générés par ces appels.

Cette distinction est importante lorsque le compte rendu d’un agent est incomplet ou compromis. Une seule action rapportée dans les journaux de l’agent peut lancer plusieurs processus, et l’ajout d’une connexion ou d’une compétence au cours d’une session peut modifier les capacités de l’agent. Sysdig fait état d’une première observation d’environ sept processus sous-jacents pour chaque action consignée dans les journaux des agents ; il s’agit d’un constat de l’entreprise, et non d’un ratio universel applicable à tous les agents.

Le système tient également compte des autorisations : une même opération de lecture de fichier peut avoir des conséquences différentes selon que l’identifiant utilisé donne accès à un environnement de test ou permet d’administrer un environnement de production. Un graphe d’actions doit relier la séquence des événements, la personne responsable, l’activité déclarée par l’agent et les ressources auxquelles celui-ci peut accéder.

Des règles pour autoriser, suspendre ou bloquer une action

Les organisations peuvent d’abord activer les règles en mode alerte, avant d’appliquer les mesures de contrôle. Une fois celles-ci activées, Sysdig indique que les règles peuvent bloquer les outils et les connexions qui n’ont pas été vérifiés, empêcher les accès risqués aux identifiants ou suspendre une action dans l’attente d’une approbation humaine. L’annonce décrit également la possibilité d’arrêter un processus si une action franchit un contrôle antérieur.

Ces mécanismes interviennent à différents moments d’une séquence d’exécution. Empêcher une opération d’aboutir n’est pas la même chose que détecter une activité et arrêter un processus après coup. L’annonce ne fournit pas de matrice publique indiquant quels contrôles sont préventifs pour chaque système d’exploitation, cadre d’exécution et plateforme gérée pris en charge.

Les modèles de règles comprennent des correspondances avec l’OWASP Top 10 for LLM Applications, ainsi que des procédures d’exception pour les développeurs. Sysdig décrit également des relevés de session indiquant quelle règle a été appliquée, ce qui a été autorisé ou bloqué et qui a approuvé une exception. Ces relevés peuvent faciliter les enquêtes et les audits sans que les équipes aient à reconstituer une session après un incident.

Ce qu’apporte la fondation Falco

Sysdig rattache le produit à son expérience en matière de sécurité à l’exécution dans le cloud natif et à Falco, le projet open source qu’elle a créé à l’origine. La documentation de Falco explique comment observer les événements du noyau Linux et les sources d’événements fournies par des extensions, enrichir ces événements avec le contexte des conteneurs et de Kubernetes, puis appliquer des règles pour générer des alertes.

Ces fondements aident à comprendre pourquoi Sysdig met l’accent sur l’observation de l’exécution plutôt que sur le seul récit d’un système d’IA. Cela ne signifie pas que le projet open source Falco fournit à lui seul toutes les capacités de gouvernance des agents ou de blocage décrites dans AI Defense. L’architecture de détection documentée de Falco et le produit commercial de Sysdig doivent être considérés séparément.

L’annonce cite Claude Code, Codex, GitHub Copilot et Cursor parmi les environnements d’agents que le produit vise à répertorier et à relier à une personne responsable. L’indication de disponibilité pour macOS et Windows est plus précise que la description plus générale d’une couverture allant jusqu’à Linux, Kubernetes et aux plateformes d’agents gérées ; les organisations devront déterminer l’intégration applicable à chaque environnement.

La gouvernance à l’exécution complète les tests des modèles

La discussion technique de Sysdig sur la responsabilité partagée présente les contrôles à l’exécution comme une couche encadrant le travail effectué par un agent. En pratique, il s’agit de distinguer le fait de demander à un modèle de respecter une limite de celui d’imposer cette limite lorsqu’un logiciel tente d’effectuer une opération.

AI Defense est présenté comme un complément aux protections existantes des terminaux, aux tests des modèles et aux exercices d’équipe rouge. Les tests évaluent le comportement d’un modèle ou d’un flux de travail dans des conditions définies ; la gouvernance à l’exécution porte sur les actions menées au cours d’une session réelle. Aucune de ces descriptions n’établit qu’un déploiement est à l’abri d’une compromission, et l’efficacité dépend de la configuration des règles ainsi que de la couverture du chemin d’exécution.

Attribuer l’activité des agents et les dépenses liées à l’IA

Au-delà de la sécurité, Sysdig indique qu’AI Defense associe les appels aux modèles à l’agent, à l’équipe et à la personne qui en est responsable, y compris lorsque l’activité ne passe pas par une passerelle d’IA centralisée. Cela pourrait aider les organisations à distinguer l’utilisation coûteuse de modèles pour des tâches courantes des activités qui justifient le recours à un modèle plus performant.

La proposition plus générale consiste à créer une couche commune de preuves pour la sécurité, la gouvernance et la gestion des coûts. À mesure que les agents disposent de davantage d’outils et utilisent les identifiants réels des employés, leur impact dépend de ce qu’ils peuvent exécuter. Sysdig AI Defense vise à rendre cette autorité visible et à la faire respecter au moment de l’action.