Uma política, milhares de agentes: por que a governança de IA empresarial falha em grande escala

Grande parte da discussão sobre a adoção de agentes autônomos de IA tem se concentrado na governança como um desafio determinante, e com razão. A Gartner previu recentemente que 40% das empresas rebaixarão ou desativarão seus agentes autônomos de IA até 2027 — não porque a tecnologia tenha falhado, mas porque a governança dessas empresas falhou. Segundo Shiva Varma, diretor analista sênior da Gartner, o culpado é a “governança binária”: tratar os agentes como totalmente restritos ou plenamente confiáveis, sem nada entre esses extremos.

Atualmente, muitas organizações tendem a proibir completamente as ferramentas de IA ou a implantar agentes sem salvaguardas adequadas. Nenhuma das abordagens funciona bem em grande escala. Mesmo quando a área de TI proíbe ferramentas externas de IA, a IA paralela continua existindo. É natural que os desenvolvedores queiram criar e resolver problemas; se a governança parecer excessivamente burocrática, eles contornarão os controles e usarão ferramentas não testadas para manter o trabalho em andamento. Por outro lado, salvaguardas insuficientes expõem as organizações a riscos de segurança, conformidade e operação que se multiplicam com o tempo. 

O desafio é que os agentes de IA não podem ser governados de maneira uniforme com uma abordagem estática e única para todos.  A era da governança padronizada está chegando ao fim porque esses sistemas não compartilham o mesmo perfil de risco: eles diferem quanto ao software em que se baseiam, às capacidades, aos níveis de acesso e aos graus de autonomia. Aplicar controles estáticos, próprios da era industrial, a softwares que operam na velocidade das máquinas não vai funcionar.  Uma governança eficaz dependerá de as organizações compreenderem a cadeia de suprimentos de software por trás de cada agente e alinharem os controles aos riscos que ele introduz.  

Governança dos ambientes de desenvolvimento de software agêntico

O controle efetivo exige gerenciar adequadamente todos os elementos de software que compõem o agente. Muitas equipes, por engano, consideram esses agentes “confiáveis e dignos de confiança”, ignorando os elementos padrão que influenciam sua funcionalidade e segurança. 

Todo agente autônomo de IA é composto por uma pilha reconhecível: um modelo de base, servidores MCP (Model Context Protocol) que o conectam a dados da empresa e a sistemas externos, plug-ins que ampliam suas capacidades e arquivos de habilidades que definem seu comportamento. Os responsáveis pela TI precisam ter em mente: 

• Agentes de IA são ecossistemas de software: dependem de uma configuração padrão que inclui modelos, MCPs, ferramentas, plug-ins, habilidades e software de código aberto.
• Servidores MCP podem apresentar riscos: eles conectam agentes aos dados da empresa e podem ser baixados como qualquer outro software. Se não forem verificados, podem permitir que hackers invadam seu sistema. Por exemplo, pesquisas recentes da JFrog Security destacam exatamente esses riscos na cadeia de suprimentos de software em mcp-run-python, incluindo uma falha de falsificação de solicitação do lado do servidor (SSRF) (CVE-2026-25904) e uma vulnerabilidade decorrente da falta de isolamento (CVE-2026-25905) que pode levar ao controle total do MCP.
• Plug-ins podem aumentar os riscos: agentes diferentes precisam de plug-ins diferentes (por exemplo, um plug-in da OpenAI não funciona no Microsoft Copilot), o que significa que as empresas muitas vezes precisam lidar com diversas variantes, entre as quais um único plug-in malicioso pode roubar informações confidenciais.
• As habilidades definem o comportamento dos agentes: esses arquivos de instruções dizem ao agente como trabalhar. Como os desenvolvedores os obtêm de fontes comunitárias, uma habilidade corrompida pode alterar discretamente o modo de operação de um agente.
• Riscos do software de código aberto: na base de toda a funcionalidade das soluções criadas com programação agêntica está o uso de binários de código aberto para viabilizá-la. Agentes de programação podem usar pacotes maliciosos com a mesma facilidade com que usam pacotes seguros, sem perceber o risco.
• Visibilidade é fundamental: muitas equipes desconhecem a existência desses problemas, deixando seus agentes altamente vulneráveis. As organizações ainda gerenciam as dependências de software com base na confiança, em vez de realizar verificações rigorosas.

O papel de um sistema de registro na governança eficaz da IA

Não é possível vencer a corrida para implantar agentes de IA empresariais com uma mentalidade ultrapassada. A imposição de cadeias de aprovação manuais, monolíticas e excessivamente rígidas em todos os fluxos de trabalho sufoca a inovação, enquanto deixar os agentes sem monitoramento cria riscos desnecessários.

Para expandir o uso da IA com segurança, as organizações precisam adotar uma abordagem em camadas para governar e proteger os componentes de software, incluindo pacotes, binários, MCPs, habilidades e dependências. Ao estabelecer um sistema de registro, as empresas podem selecionar todos os componentes utilizados, verificar tudo antes do uso, aplicar políticas no momento certo do ciclo de vida do desenvolvimento, e manter a capacidade de reverter as alterações instantaneamente. Assim, quando a próxima vulnerabilidade for divulgada, a resposta à pergunta “estamos expostos?” será obtida em minutos, não em dias.

No entanto, os agentes de IA ampliam significativamente a superfície de ataque e fazem com que ela evolua muito mais rápido. Como agentes com alto grau de autonomia podem tomar centenas de decisões por minuto, encadeando chamadas de ferramentas, acessando dados e executando código, os controles tradicionais de triagem não conseguem acompanhar esse ritmo. Embora as análises preliminares e os processos de aprovação continuem desempenhando um papel importante, por si sós não conseguem proteger sistemas que operam à velocidade das máquinas.

Esses agentes exigem aplicação dinâmica de controles em tempo de execução, com capacidade para detectar comportamentos anômalos assim que ocorrem e intervir antes que os danos se propaguem. Pense nisso como um disjuntor: revogar o acesso a uma habilidade comprometida, desconectar um contexto de dados não confiável ou bloquear uma chamada específica de ferramenta assim que algo der errado.

Indo além da abordagem de “tamanho único”

Uma governança uniforme e rígida é um caminho certo para o fracasso. A oportunidade de se antecipar está se fechando, e a dívida de governança se acumula à medida que a implantação de agentes acelera. Portanto, seguem quatro medidas que líderes de segurança e engenharia podem adotar agora para reforçar seus sistemas corporativos:

1. Faça um inventário do que já está em execução. A maioria das empresas não consegue contabilizar integralmente os agentes de IA em sua organização, muito menos os servidores MCP, plugins e arquivos de habilidades que os alimentam. Antes de avaliar os riscos ou governar qualquer coisa, é preciso saber o que existe.
2. Trate os componentes de IA como artefatos de software. Servidores MCP, arquivos de habilidades e plugins não são configurações: são código e apresentam os mesmos riscos de cadeia de suprimentos que qualquer dependência de código aberto. Aplique a eles os mesmos processos de avaliação, verificação e rastreamento de procedência que usaria para qualquer biblioteca de terceiros.
3. Classifique os agentes pelo nível de autonomia e ajuste os controles de acordo. Defina o que significa “alto grau de autonomia” para sua organização e construa em torno disso uma estrutura de políticas em vários níveis. Agentes com alto grau de autonomia precisam de controles aplicados em tempo de execução, não apenas de verificações na triagem inicial. Comece pelos sistemas mais sensíveis e amplie a partir daí.
4. Agilize a governança para que os desenvolvedores, humanos ou agentes, não tentem contorná-la. A IA sombra é um problema de atrito. Se a aprovação de um novo servidor MCP levar duas semanas, os desenvolvedores encontrarão outra maneira. A verificação automatizada, com aplicação clara de políticas, é o único modelo que consegue acompanhar o ritmo real do desenvolvimento de IA.

A governança se torna muito mais eficaz quando reflete os riscos reais apresentados por cada agente, em vez de tratar todos da mesma forma. As empresas que sairão na frente serão aquelas que ajustarem a governança à realidade de cada agente, com o apoio de um sistema de registro que aplique políticas em todos os pontos de controle, ofereça visibilidade de cada componente e permita que as equipes reajam assim que algo der errado.