Sysdig lança o AI Defense para controlar as ações de agentes do endpoint à nuvem

A Sysdig lançou o AI Defense, um produto de segurança e governança em tempo de execução desenvolvido para inspecionar o que os agentes de IA fazem e intervir quando suas ações ultrapassam as políticas de uma organização. No anúncio de 4 de novembro, a empresa informou que o produto já está disponível para macOS e Windows, com recursos de visibilidade destinados a conectar a atividade nos computadores dos funcionários aos recursos na nuvem que podem ser acessados com suas credenciais.

O produto responde à transição de uma IA que gera respostas para uma IA que opera softwares. Um agente de programação pode ler arquivos, acionar ferramentas, iniciar processos e alterar a infraestrutura. Proteger esse fluxo de trabalho exige entender tanto a tarefa que o agente acredita estar executando quanto as operações que de fato ocorrem nos bastidores.

Conectando a intenção do agente às evidências do sistema operacional

Segundo a Sysdig, o AI Defense combina instrumentação no ambiente de execução do agente — a estrutura que o executa — com telemetria do sistema operacional. A instrumentação desse ambiente captura chamadas a ferramentas, servidores do Model Context Protocol, habilidades e plug-ins, incluindo seus argumentos e destinos. A observação no nível do sistema fornece um registro independente dos processos e da atividade gerados por essas chamadas.

Essa distinção é importante quando o relato de um agente está incompleto ou foi comprometido. Uma única ação de ferramenta relatada pode iniciar vários processos, e uma conexão ou habilidade adicionada durante uma sessão pode mudar o que o agente é capaz de fazer. A Sysdig relata ter observado, em uma análise inicial, cerca de sete processos subjacentes para cada ação nos registros do agente; trata-se de uma constatação da empresa, não de uma proporção universal aplicável a todos os agentes.

O sistema também leva em conta o nível de autoridade: a mesma operação de leitura de arquivos pode ter consequências diferentes, dependendo de a credencial envolvida dar acesso a um ambiente de teste ou permitir administrar a produção. O grafo de ações visa conectar a sequência de eventos, a pessoa responsável, a atividade declarada pelo agente e os recursos ao alcance dele.

Políticas que permitem, pausam ou bloqueiam uma ação

As organizações podem começar usando as políticas em modo de alerta, antes de ativar a aplicação das regras. Quando aplicadas, segundo a Sysdig, essas políticas podem bloquear ferramentas e conexões não verificadas, impedir o acesso arriscado a credenciais ou reter uma ação até que uma pessoa a aprove. O lançamento também descreve a possibilidade de encerrar um processo se uma ação ultrapassar um controle anterior.

Esses mecanismos atuam em diferentes etapas de uma sequência de execução. Impedir que uma operação seja concluída é diferente de detectar uma atividade e encerrar um processo depois que ela ocorreu. O anúncio não apresenta uma matriz pública que indique quais controles são preventivos em cada sistema operacional, ambiente de execução e plataforma gerenciada compatíveis.

Os modelos de política incluem mapeamentos para o OWASP Top 10 for LLM Applications, com caminhos de exceção para desenvolvedores. A Sysdig também descreve registros de sessão que mostram qual política foi aplicada, o que foi permitido ou bloqueado e quem aprovou uma exceção. Esses registros podem ajudar em investigações e auditorias, sem que as equipes precisem reconstruir uma sessão após um incidente.

O que a Falco Foundation acrescenta

A Sysdig associa o produto à sua trajetória em segurança em tempo de execução nativa da nuvem e ao Falco, projeto de código aberto que criou originalmente. A documentação do Falco descreve a observação de eventos do kernel Linux e de fontes de eventos fornecidas por plug-ins, o enriquecimento de eventos com contexto de contêineres e Kubernetes e a aplicação de regras para gerar alertas.

Essa base ajuda a entender por que a Sysdig enfatiza a execução observada, em vez de confiar apenas no relato de um sistema de IA. Isso não significa que o projeto de código aberto Falco, por si só, ofereça todos os recursos de governança de agentes ou de bloqueio descritos no AI Defense. A arquitetura de detecção documentada do Falco e o produto comercial da Sysdig devem ser considerados separadamente.

O lançamento cita Claude Code, Codex, GitHub Copilot e Cursor entre os ambientes de agentes que o produto pretende inventariar e rastrear até uma pessoa responsável. A informação sobre disponibilidade para macOS e Windows é mais específica do que a descrição mais ampla de cobertura que se estende a Linux, Kubernetes e plataformas gerenciadas de agentes; as organizações precisarão determinar qual integração se aplica a cada ambiente.

A governança em tempo de execução complementa os testes de modelos

A discussão técnica da Sysdig sobre responsabilidade compartilhada apresenta os controles em tempo de execução como uma camada que envolve o trabalho realizado por um agente. A distinção prática está entre pedir a um modelo que respeite um limite e aplicar esse limite quando um software tenta realizar uma operação.

O AI Defense é apresentado como complemento à proteção de endpoints, aos testes de modelos e à equipe vermelha já existentes. Os testes avaliam o comportamento de um modelo ou fluxo de trabalho em condições selecionadas; a governança em tempo de execução trata das ações durante uma sessão real. Nenhuma das descrições garante que uma implantação esteja imune a comprometimentos, e a eficácia depende da configuração das políticas e da cobertura do caminho de execução.

Atribuindo atividades de agentes e gastos com IA

Além da segurança, a Sysdig afirma que o AI Defense associa as chamadas aos modelos ao agente, à equipe e à pessoa responsável, inclusive quando a atividade não passa por um gateway centralizado de IA. Isso pode ajudar as organizações a distinguir o uso dispendioso de modelos em tarefas rotineiras da atividade que justifica um modelo mais avançado.

A proposta mais ampla é criar uma camada comum de evidências para segurança, governança e gestão de custos. À medida que os agentes adquirem mais ferramentas e operam com credenciais reais de funcionários, seu impacto é determinado pelo que conseguem executar. O Sysdig AI Defense busca tornar essa autoridade visível e aplicável no momento da ação.