2026 Verá a Explosão de Agentes de IA em Empresas: Estamos Preparados para os Riscos de Segurança?

As empresas estão correndo para adotar agentes de IA, mas elas carecem da infraestrutura para fazê-lo de forma segura. Os agentes são diferentes das ferramentas de IA: eles trabalham de forma autônoma, acessam dados continuamente e agem à velocidade da máquina sem necessidade de supervisão. Isso cria riscos completamente novos que devemos preparar.

As pessoas já estão usando seus próprios agentes de IA no trabalho – sem necessariamente informar seus chefes. Como podemos garantir que os bots OpenClaw não excluam arquivos importantes? Três em quatro grandes empresas terão adotado sistemas multiagentes até o final de 2026, de acordo com a Gartner. Como podemos garantir que cada um desses agentes não abra portas para hackers atacarem-nos de novas maneiras?

A infraestrutura de segurança atual é projetada para lidar com ameaças conhecidas e com ritmo humano. Isso não leva em conta agentes renegados que manipulam o código de empresa sem que saibamos. Ou para atores mal-intencionados que nos atacam por meio de injeções de prompts: instruções ocultas em código ou prompts que causam que a IA exponha informações sensíveis ou execute códigos maliciosos.

A verdade é que as empresas estão mais famintas do que preparadas para essa onda que está por vir. Apenas 29% das organizações “concordam fortemente” que têm proteções de IA seguras em vigor, de acordo com uma pesquisa da Microsoft.

Os líderes das empresas precisam fazer várias coisas.

1. Implementar medidas de segurança nativas de IA em toda a empresa.
2. Tratar os agentes de IA com as mesmas medidas de segurança que os humanos.
3. Aumentar a visibilidade do que esses agentes estão fazendo.

Ao executar esses controles, a segurança pode acompanhar a velocidade dos agentes e permitir a inovação em vez de retardá-la.

Criar segurança nativa de IA

Em fevereiro, uma pesquisadora de segurança da Meta fez uma postagem surpreendente no X: seu bot OpenClaw havia começado a excluir seus e-mails e ignorou suas ordens para parar. Até que ela conseguiu interromper o processo manualmente, o dano já havia sido feito.

Isso é uma ilustração da velocidade incrível com que a IA renegada pode agir, tornando os controles dependentes de humanos insuficientes. A segurança precisa se mover tão rápido quanto – e ao longo dos mesmos caminhos que – a IA agente.

Isso requer renovar a infraestrutura de segurança de uma empresa, não apenas atualizações simples para ferramentas existentes. Vários setores precisam estar envolvidos nessa mudança sistemática de ferramentas.

Evitar situações rápidas como a da pesquisadora da Meta requer ferramentas de IA que detectem anomalias em tempo real e respondam automaticamente. Por exemplo, agentes supervisoras podem ser implantados para revisar tarefas de alto impacto executadas por outros agentes. Ferramentas de Inteligência de Ameaças Agente (ATI) podem detectar e agir automaticamente nos estágios iniciais de um ataque potencial.

Outro mecanismo de prevenção importante é garantir a segurança do próprio modelo que está sendo implantado em seus sistemas. Plataformas como ProtectAI, TrojAI ou Aim Security podem testar perigos diretos como injeção de prompts, usando ferramentas de IA para limpar o código antes de publicá-lo.

Garantir a procedência dos dados aos quais os agentes de IA estão expostos também é crucial. Ferramentas como Databricks Unity Catalog, Collibra ou Alation permitem que as equipes governem o movimento de dados.

Também podemos prevenir a manipulação de nossos agentes de IA, garantindo a segurança dos dispositivos físicos que usamos para implantá-los. Plataformas como CrowdStrike podem ajudar a evitar o mau uso de credenciais de IA e detectar comportamento anormal.

Ter princípios que regem suas operações internas, bem como como você seleciona seus fornecedores, é essencial. Use frameworks de indústria existentes para orientação, como Google SAIF para construir uma arquitetura segura, AWS CAF-AI para governança de IA ou NIST AI RMF para conformidade. O projeto de segurança de IA da OWASP – uma iniciativa de código aberto para mitigar os riscos de IA – oferece orientação de segurança relevante para empresas que implantam IA.

Tratar a IA com as mesmas limitações que os humanos

No ano passado, um investidor estava usando um agente de IA Replit para codificar – até que, no nono dia, o agente decidiu excluir código de um banco de dados de produção ao vivo, afetando 1.200 empresas.

Porque os agentes podem agir de forma autônoma, conceder-lhes acesso não monitorado a uma ampla gama de documentos, dados e APIs pode ser desastroso. Uma razão é que as empresas muitas vezes não lhes atribuem uma “identidade” da mesma forma que faríamos com um usuário humano, o que significa que não podem rastrear, monitorar e gerenciar seu acesso a diferentes espaços.

As empresas podem agir atribuindo identidades a usuários não humanos: provedores de gerenciamento de acesso de identidade podem gerenciar de perto quais áreas os agentes têm acesso, por quanto tempo e identificar qualquer comportamento arriscado. Isso reduz o acesso excessivo a áreas que o agente não precisa acessar. Também limita o que ele pode fazer nas áreas onde opera.

Atribuir identidades de agente também reduz a ameaça de atores externos.

Quando uma equipe de pesquisadores injetou prompts maliciosos em um aplicativo de IA que gerencia contratos legais, um usuário foi capaz de recuperar dados privados pertencentes a um usuário separado. Claramente, não havia uma separação segura de dados de nível de usuário e a autorização para esses dados foi concedida à IA, mesmo quando não era relevante para o cenário em questão.

Estabelecer limites para “identidades” de IA significa que elas não terão acesso “sempre ligado”. Por exemplo, os agentes precisarão de autorização para certas funções ou terão capacidades de leitura apenas em certas áreas. Ao fazer isso, mesmo que um agente de IA seja hackeado ou manipulado por um ator mal-intencionado, o impacto permanecerá limitado em vez de catastrófico.

A liderança também deve educar suas equipes sobre a ameaça de agentes operando clandestinamente. O risco é maior quando os funcionários conectam “agentes de IA sombra” aos espaços de trabalho sem que a liderança saiba e forneça identificação e salvaguardas adequadas. Além disso, uma abordagem de Privilégios de Estação Zero (ZSP) cria uma linha de base de 0 acesso para qualquer agente. Então, se um funcionário conectar um agente de IA sombra não autorizado, ele entrará em um ambiente no qual todas as portas estão fechadas.

Ter olhos no seu agente

Embora saibamos que a “IA é uma caixa preta” é uma analogia, sua implantação em seu negócio deve ser muito observada e monitorada.

Para impor políticas de segurança estritas, cada agente deve ser governado: eles devem ter propriedade, responsabilidades e controles claramente documentados para que você possa rastrear com precisão seus caminhos. Você deve ter telemetria contínua – monitoramento remoto – rastreando o comportamento do agente e alimentando suas ferramentas de segurança existentes para que elas possam detectar anomalias e executar pontuações de confiança adaptáveis.

A liderança precisa levar essa nova fronteira de segurança a sério e garantir que diferentes equipes sejam responsáveis pelo uso de agentes de IA. Eles podem criar novos KPIs de conformidade, como “Número de conjuntos de dados com procedência verificada”, “% de agentes de IA com identidades gerenciadas” ou “Pontuação de Confiança de IA”.

Isso é crítico para a prevenção, mas também é sobre ser auditável – mesmo as IDs não humanas precisam ter um registro de auditoria para que uma organização seja compatível.

Geralmente entendemos como os humanos se comportam e quais caminhos eles tomam dentro dos espaços de trabalho. Mas a IA é uma besta completamente nova. Há muito que não sabemos sobre como ela opera. Algumas empresas estão escolhendo a solução de curto prazo de bloquear a IA do escritório – mas isso apenas adiará o problema ou fará com que os funcionários usem IA sombra. Prepare sua arquitetura de segurança proativamente para agentes que já estão se tornando onipresentes.