Sysdig lanza AI Defense para gobernar las acciones de los agentes, del dispositivo a la nube

Sysdig ha lanzado AI Defense, un producto de seguridad y gobernanza en tiempo de ejecución diseñado para inspeccionar lo que hacen los agentes de IA e intervenir cuando sus acciones exceden las políticas de una organización. El anuncio del 4 de noviembre indica que el producto ya está disponible para macOS y Windows, con una visibilidad concebida para conectar la actividad en las estaciones de trabajo de los empleados con los recursos en la nube a los que pueden acceder sus credenciales.

El producto responde al paso de una IA que genera respuestas a otra que opera software. Un agente de programación puede leer archivos, invocar herramientas, iniciar procesos y modificar la infraestructura. Para proteger ese flujo de trabajo, es necesario comprender tanto la tarea que el agente cree estar realizando como las operaciones que se ejecutan realmente en segundo plano.

Vincular la intención del agente con las evidencias del sistema operativo

Según Sysdig, AI Defense combina la instrumentación integrada en el entorno de ejecución de un agente —el marco que lo ejecuta— con la telemetría del sistema operativo. La instrumentación del entorno de ejecución registra las llamadas a herramientas, servidores del Model Context Protocol, habilidades y complementos, incluidos sus argumentos y destinos. La observación a nivel del sistema proporciona un registro independiente de los procesos y la actividad que generan esas llamadas.

Esta distinción importa cuando el informe de un agente está incompleto o se ha visto comprometido. Una sola acción de herramienta registrada puede iniciar varios procesos, y añadir una conexión o una habilidad durante una sesión puede cambiar lo que el agente es capaz de hacer. Sysdig informa de una observación inicial de aproximadamente siete procesos subyacentes por cada acción registrada en los registros del agente; se trata de un hallazgo de la empresa, no de una proporción universal aplicable a todos los agentes.

El sistema también tiene en cuenta los permisos: una misma operación de lectura de archivos puede tener consecuencias distintas según si la credencial utilizada permite acceder a un entorno de pruebas o administrar un entorno de producción. El grafo de acciones está concebido para vincular la secuencia de eventos, la persona responsable, la actividad declarada por el agente y los recursos a su alcance.

Políticas para permitir, pausar o bloquear una acción

Las organizaciones pueden empezar usando las políticas en modo de alerta antes de activar su aplicación obligatoria. Una vez activadas, según Sysdig, las políticas pueden bloquear herramientas y conexiones no verificadas, impedir el acceso riesgoso a credenciales o retener una acción hasta que una persona la apruebe. El anuncio también describe la posibilidad de finalizar un proceso si una acción supera un control previo.

Estos mecanismos actúan en distintos puntos de una secuencia de ejecución. Impedir que una operación se complete no es lo mismo que detectar una actividad y finalizar un proceso después. El anuncio no incluye una matriz pública que indique qué controles son preventivos en cada sistema operativo, entorno de ejecución y plataforma administrada compatibles.

Las plantillas de políticas incluyen correspondencias con OWASP Top 10 for LLM Applications y vías de excepción para desarrolladores. Sysdig también describe registros de sesión que muestran qué política se aplicó, qué se permitió o bloqueó y quién aprobó una excepción. Estos registros pueden facilitar las investigaciones y las auditorías sin que los equipos tengan que reconstruir una sesión después de un incidente.

Qué aporta la Falco Foundation

Sysdig vincula el producto con su trayectoria en seguridad en tiempo de ejecución para entornos nativos de la nube y con Falco, el proyecto de código abierto que creó originalmente. La documentación de Falco describe cómo observar eventos del kernel de Linux y fuentes de eventos proporcionadas por complementos, enriquecer los eventos con contexto de contenedores y Kubernetes, y aplicar reglas para generar alertas.

Esa base ayuda a explicar por qué Sysdig hace hincapié en observar la ejecución en lugar de confiar únicamente en el relato de un sistema de IA. Esto no significa que el proyecto de código abierto Falco, por sí solo, proporcione todas las capacidades de gobernanza de agentes o de bloqueo que se describen para AI Defense. La arquitectura de detección documentada de Falco y el producto comercial de Sysdig deben entenderse por separado.

El anuncio menciona Claude Code, Codex, GitHub Copilot y Cursor entre los entornos de agentes que busca inventariar y vincular con una persona responsable. La declaración de disponibilidad para macOS y Windows es más específica que la descripción general de una cobertura que se extiende a Linux, Kubernetes y plataformas de agentes administradas; las organizaciones deberán determinar qué integración corresponde a cada entorno.

La gobernanza en tiempo de ejecución complementa las pruebas de modelos

El debate técnico sobre la responsabilidad compartida de Sysdig presenta los controles en tiempo de ejecución como una capa que protege el trabajo que realiza un agente. La diferencia práctica está entre pedirle a un modelo que respete un límite y hacer cumplir ese límite cuando el software intenta realizar una operación.

AI Defense se presenta como complemento de la protección de los dispositivos finales, las pruebas de modelos y los ejercicios de red team. Las pruebas examinan cómo se comporta un modelo o flujo de trabajo en condiciones seleccionadas; la gobernanza en tiempo de ejecución aborda las acciones durante una sesión real. Ninguna de estas descripciones demuestra que una implementación sea inmune a los ataques, y su eficacia depende de la configuración de las políticas y de la cobertura de la ruta de ejecución.

Atribuir la actividad de los agentes y el gasto en IA

Más allá de la seguridad, Sysdig afirma que AI Defense asocia las llamadas a modelos con el agente, el equipo y la persona responsable, incluida la actividad que no pasa por una puerta de enlace de IA centralizada. Esto podría ayudar a las organizaciones a distinguir el uso costoso de modelos en tareas rutinarias de la actividad que justifica el uso de un modelo más capaz.

La propuesta más amplia consiste en una capa común de evidencias para la seguridad, la gobernanza y la gestión de costos. A medida que los agentes adquieren más herramientas y operan con credenciales reales de empleados, su impacto está determinado por lo que pueden ejecutar. Sysdig AI Defense busca hacer que esa autoridad sea visible y aplicable en el momento de actuar.