Líderes de pensamento

A IA nas sombras era o problema fácil: o risco real está nos agentes ocultos em software aprovado

mm
Adicione Unite.AI às suas fontes preferidas no Google

Há dois anos, a IA nas sombras significava funcionários colando dados de clientes no ChatGPT. A solução, em geral, era gerenciável: identificar as ferramentas, aprovar as adequadas, bloquear as ruins, treinar as pessoas. A maioria das organizações está em uma fase intermediária da aplicação desse plano: 61% delas já encontraram IA nas sombras em seus ambientes e o plano funciona em grande parte.

No entanto, essa descrição já não representa o problema. A IA nas sombras mudou de um problema comportamental para um problema arquitetônico. A governança tradicional não pode acompanhar o cenário moderno, incluindo agentes de inteligência artificial incorporados pelos fornecedores e agentes conectados pelos próprios funcionários, que operam dentro de sistemas aprovados com credenciais herdadas, tornando a identidade o único ponto de controle real.

As Duas Sombras que Você Não Está Observando

A pergunta interessante em 2026 não é qual ferramenta de inteligência artificial um funcionário abriu. É qual agente de inteligência artificial seu fornecedor aprovado enviou silenciosamente dentro da atualização de produto do último trimestre e quais permissões ele herdou da pessoa que o instalou.

A IA nas sombras costumava ser uma questão de comportamento. Você podia vê-la, nomeá-la e criar uma política contra ela. A versão que está se espalhando agora é estrutural. Ela chega por meio de software que você já aprovou, agindo sob credenciais que você já emitiu, em fluxos de trabalho que você já auditou. A sombra não é mais comportamental, é arquitetônica. Os funcionários continuam envolvidos, mas mudaram de usar inteligência artificial para implantá-la: conectando agentes a sistemas a que já têm acesso e fazendo isso por meio de interfaces projetadas para tornar isso simples. As políticas escritas para o primeiro comportamento não alcançam o segundo.

É por isso que “proibir” nunca foi o debate real. Os CISOs que se adiantaram à IA nas sombras, aprovando ferramentas empresariais e orientando os funcionários a alternativas sujeitas a controles, venceram essa rodada e descobriram que a próxima já estava em andamento e que tinha dois vetores, não um. O primeiro é o que os fornecedores aprovados estão enviando para produtos já em produção: modelos incorporados, modos de agente, novas integrações que chegaram em uma nota de lançamento que ninguém leu. O segundo é o que os funcionários estão conectando eles mesmos: um LLM conectado ao CRM por meio de uma automação sem código, um Custom GPT com uma chave de API para o data warehouse, uma conexão MCP de um assistente de desktop para um sistema de produção. Ambos produzem o mesmo resultado, que inclui agentes agindo sob credenciais aprovadas, sobre sistemas aprovados, em fluxos de trabalho que nunca passaram por nenhuma revisão projetada para detectá-los. A área de compras pode identificar o primeiro vetor e deixar passar completamente o segundo.

Vale reconhecer com honestidade como os resultados da primeira rodada foram desiguais. Nove em cada 10 organizações estão planejando aumentos de orçamento de TI relacionados à inteligência artificial, com muitas planejando uma expansão mais ampla em operações de TI nos próximos 6-24 meses. O gasto está fluindo em direção a capacidades inteligentes. Os controles recuperam terreno muito lentamente. Esse desequilíbrio é o problema, não um efeito colateral dele.

O perímetro sempre foi o da ação humana

O modelo mental que funcionou para a primeira onda não funciona para esta. A IA nas sombras como comportamento de funcionário supunha uma pessoa participando do processo e tomando uma decisão que a equipe de segurança podia influenciar. A IA nas sombras como arquitetura de fornecedor remove a escolha. O modelo que redigiu o e-mail, o agente que agendou a reunião, o assistente que resumiu o documento e o encaminhou. Nenhum deles exigia que um funcionário fizesse algo além de continuar usando o software cujo uso lhe havia sido indicado.

A resposta honesta é que o perímetro que a maioria dos programas de segurança ainda defende era o da ação humana. Funcionários abrindo ferramentas, funcionários concedendo acesso, funcionários tomando decisões que a equipe de segurança podia observar e moldar. Esse perímetro está se dissolvendo em duas direções ao mesmo tempo. De cima, os fornecedores estão enviando agentes para produtos aprovados mais rápido do que qualquer processo de revisão pode acompanhar. De baixo, os funcionários estão saindo do papel de usuário e entrando no papel de integrador, conectando agentes a sistemas por meio de interfaces que foram projetadas para o autosserviço e nunca receberam os recursos de monitoramento necessários à governança. O perímetro de substituição, construído em torno do que as identidades estão fazendo, independentemente de serem pessoas ou não, e independentemente de quem as implantou, exige uma infraestrutura integrada de controle que a maioria das organizações ainda não tem.

O Único Lugar Restante para Olhar

A identidade é o ponto de controle correto, mas o enquadramento tem que mudar. A formulação convencional diz “identidade é o novo perímetro” porque os usuários estão em todos os lugares e os dispositivos estão em todos os lugares e o SaaS está em todos os lugares. Isso era verdade há uma década, agora é básico. A versão que importa em 2026 é diferente: a identidade é o único lugar onde você pode ver o que a inteligência artificial está realmente fazendo, porque, no momento em que ela está fazendo, a fronteira da ferramenta já foi cruzada. O agente está agindo sob credenciais de alguém. De quem são as credenciais, qual é o escopo das permissões, sobre quais dados o agente atua e com a autorização de quem? Só essas perguntas produzem uma trilha de auditoria útil. A governança de nível de ferramenta não pode responder a essas perguntas porque a ferramenta não é mais a unidade de análise.

Quase 90% dos líderes de TI já reconhecem que a unificação tem um impacto direto em sua capacidade de implementar e dimensionar a inteligência artificial de forma segura. A pergunta mais difícil é o que a unificação realmente significa na camada de controle. Não pode ser apenas menos painéis. Significa uma infraestrutura unificada de identidade em que todos os atores — pessoas, contas de serviço, agentes ou modelos incorporados — recebem seus acessos, têm as permissões delimitadas, são monitorados e são desativados pelos mesmos mecanismos. Qualquer coisa abaixo disso lhe dá a aparência de governança consolidada quando, na verdade, é uma aplicação fragmentada dos controles.

Sua Revisão de Fornecedor Tem uma Data de Validade

Infelizmente, uma revisão de fornecedor só permanece válida por um período limitado. Isso tem implicações desconfortáveis para como os programas de segurança são estruturados. A maioria dos comitês de governança de inteligência artificial é organizada em torno da revisão de ferramentas, com fornecedores entrando e sendo avaliados, aprovados ou rejeitados, para serem adicionados ao registro. Esse processo supõe que o comportamento da ferramenta no momento da aprovação é o comportamento da ferramenta em produção. Para software com inteligência artificial incorporada, essa suposição é quebrada antes que a tinta seque. O fornecedor enviará um novo modelo, um novo modo de agente, uma nova integração, e a revisão de governança que foi aprovada seis meses atrás agora descreve um produto que não existe mais.

Da ferramenta para a identidade

Os programas que vão se manter são os que movem a governança para longe da ferramenta e para a identidade. Toda ação sobre seus dados, por qualquer ator, é rastreável para uma identidade com um proprietário conhecido, um conjunto de permissões delimitado, e um ciclo de vida definido. Seja humano ou não humano, funcionário ou agente, ferramenta aprovada ou modo incorporado, a pergunta é a mesma: quem ou o que é, o que tem permissão para fazer e como sabemos quando essas permissões devem deixar de valer? Programas que podem responder a essas perguntas não precisam ganhar a corrida de aprovação de ferramentas. Programas que não podem ficarão tentando alcançar fornecedores e funcionários que implantam soluções mais rápido do que qualquer processo de revisão consegue avançar.

A IA nas sombras como categoria não está indo embora. Especialmente com a nova era da força de trabalho baseada em agentes, 72% das organizações já têm agentes de inteligência artificial em produção. Em vez disso, está se tornando uma parte menor de um problema maior. As organizações que estão gastando o próximo ciclo de orçamento em descoberta de ferramentas e política de aprovação estão resolvendo o problema de 2024 em um cronograma de 2026. As que estão gastando em instrumentação de camada de identidade para humanos, para agentes, para o continuum confuso entre eles, estão resolvendo o problema que realmente terão.

A primeira onda de IA nas sombras ensinou as equipes de segurança que elas não podiam ultrapassar a curiosidade dos funcionários. A segunda onda vai ensinar que elas não podem ultrapassar a velocidade dos fornecedores ou a engenhosidade dos funcionários. Ambas as lições apontam para a mesma conclusão. A unidade de governança nunca foi a ferramenta. Sempre foi a identidade agindo por meio dela.

Roland Palmer é o Diretor de Segurança da Informação (CISO) e Vice-Presidente de Segurança da JumpCloud.

Um especialista reconhecido em escalonar estruturas de risco e conformidade globais, Roland supervisiona a estratégia de segurança global da JumpCloud, garantindo que a plataforma permaneça uma base resiliente para IT Inteligente e Seguro. Com mais de 20 anos de experiência, Roland tem um histórico comprovado de transformar paisagens de risco complexas em valor empresarial tangível. Antes de se juntar à JumpCloud, ele passou oito anos como VP de Segurança e Conformidade da Sumo Logic, onde construiu o Centro de Operações de Segurança Global do zero e alcançou certificações críticas, incluindo FedRAMP, ISO 27001 e HIPAA.

Roland é conhecido por seu estilo de liderança pragmático e prático - igualmente confortável em briefings para a Diretoria como em trabalhar no SOC. Ele vê a segurança não como um obstáculo, mas como uma vantagem estratégica que, quando integrada à estrutura de um produto, acelera o crescimento e fomenta a confiança profunda do cliente.