Por que a Governança de IA Continua Falhando

O problema não é que as organizações não tenham políticas de IA. É que essas políticas não fazem nada de fato.

Em algum lugar entre o PDF formatado e o modelo implantado, a intenção evapora. As equipes improvisam. As exceções se acumulam. A governança se desvia de um sistema para uma negociação — e em setores regulamentados, como saúde e ciências da vida, essa lacuna não é apenas embaraçosa. É uma responsabilidade operacional.

A solução não é mais documentação. É tratar a governança como software.

A Lacuna de Governança Já é Medida

A adoção de IA acelerou dramaticamente, enquanto a infraestrutura de governança não acompanhou o ritmo. Um estudo de setembro de 2025 da Ernst & Young descobriu que apenas 10% das empresas estão totalmente preparadas para auditorias de sistemas de IA. Ao mesmo tempo, nova pesquisa da Ponemon descobriu que 92% das organizações dizem que a IA geradora mudou a forma como os funcionários acessam e compartilham informações, mas apenas 18% integraram totalmente a governança de IA em programas de risco interno.

O padrão é consistente: a IA já está incorporada no trabalho diário. A supervisão ainda está atrasada. E quanto mais a governança permanece em forma de documento, pior fica a lacuna.

Governança que Funciona

O conceito é simplesmente enganoso: se um requisito de governança não pode falhar em uma compilação, não pode proteger a produção.

A governança real tem entradas, saídas, pontos de aplicação e resultados observáveis. Ela funciona continuamente — não trimestralmente. E criticamente, ela produz evidências como subproduto do trabalho, não como um ritual de conformidade separado acoplado posteriormente.

O modelo operacional parece assim:

Política → Controles → Evidências → Métricas

As políticas definem a intenção. Os controles impõem o comportamento. As evidências provam a execução. As métricas validam os resultados. Essa não é uma ideia nova — é exatamente como os sistemas de segurança e conformidade maduros já operam. A mudança é aplicar a mesma lógica à IA.

Os controles não são sugestões. As evidências não são documentação. E se um controle exigir esforço manual para produzir evidências, não é um controle. É uma esperança.

Níveis de Risco, Não Teatro de Risco

Não todos os sistemas de IA merecem a mesma escrutínio. Tratar uma ferramenta interna de baixo risco com o mesmo rigor que um modelo de suporte à decisão clínica é como as organizações param ou se expõem desnecessariamente.

O Quadro de Gerenciamento de Risco de IA do NIST, lançado em 2023, fornece uma estrutura fundamental para pensar sobre isso — mapeando o risco de IA em quatro funções: Governar, Mapear, Medir e Gerenciar. Um modelo de governança empresarial funcional constrói sobre essa lógica com níveis de risco práticos:

O que isso dá às equipes de engenharia é algo que elas raramente obtêm de processos de governança: clareza. Não “o que devemos fazer?” mas “qual é o nível disso, e o que isso dispara?”

Boa governança remove a ambiguidade. Ótima governança remove a discussão.

Política como Código: De Consultiva para Executável

Políticas escritas em documentos são consultivas. Políticas codificadas em pipelines são executáveis.

Da mesma forma que a infraestrutura é validada antes da implantação, os sistemas de IA podem ser bloqueados por verificações automatizadas que verificam se um caso de uso está registrado, se a documentação necessária existe, se os resultados de avaliação atendem a limites definidos e se o acesso a dados sensíveis segue o privilégio mínimo. Essas verificações são executadas em CI/CD. Elas não esperam por um comitê. Elas não dependem da memória ou da boa vontade de alguém.

Open Policy Agent — um projeto graduado da Cloud Native Computing Foundation — demonstra exatamente como as regras podem ser versionadas, revisadas e consistentemente aplicadas em ecossistemas de engenharia. O padrão é entendido. A lacuna é que as equipes de IA não estão aplicando isso.

O sistema de IA mais seguro não é aquele com as melhores políticas. É aquele que é tecnicamente incapaz de quebrá-las.

Controles Específicos de LLM: Onde as Coisas Ficam Interessantes

A IA geradora introduz uma categoria de risco que os quadros de governança tradicionais não foram projetados para — injeção de prompt, manipulação de saída, mau uso de ferramentas. Esses não são casos de bordo. São propriedades estruturais de como os LLMs funcionam, e como a cobertura da Unite.AI sobre a governança de IA agente observou, a lacuna de governança se torna ainda mais pronunciada à medida que os sistemas de IA passam de responder perguntas para tomar ações.

A governança eficaz para sistemas de GenAI exige controles construídos especificamente para o comportamento do LLM: separação estrita de instruções do sistema e entrada do usuário, acesso controlado a ferramentas e listas de permissão, validação de saída antes da execução, salvaguardas contra a extração de dados e configurações padrão seguras para falha graciosa.

Esses se mapeiam diretamente às classes de vulnerabilidade documentadas no OWASP Top 10 para Aplicativos LLM – um quadro comunitário agora abrangendo mais de 600 especialistas contribuintes em 18 países. A governança de LLM é menos sobre o que o modelo sabe e mais sobre o que o sistema permite que ele faça.

Evidências São Infraestrutura, Não Papelada

Os auditores não confiam na intenção. Eles confiam nos registros.

Em um sistema onde a governança funciona, as evidências são geradas automaticamente: cartões de modelo descrevendo o uso pretendido e as limitações, documentação de dados cobrindo a proveniência, relatórios de avaliação mostrando o desempenho e os riscos conhecidos, logs capturando decisões e alterações. Esses artefatos não existem para auditorias. Eles existem porque o sistema os requer para funcionar.

A posição de auditoria mais forte é quando as evidências já existem antes de alguém pedi-las. Isso não é teórico — os reguladores já estão se movendo nessa direção. Como a análise recente sobre a governança de IA defensável observa, as perguntas que os reguladores logo farão não são mais apenas “você manteve?” mas “você pode provar o que aconteceu, sob qual política, usando quais dados e com qual autoridade?”

O Argumento Real: Governança como Acelerador

O mito persistente é que a governança e a velocidade estão em oposição. Na prática, a governança mal projetada desacelera as equipes. A governança bem projetada remove a fricção.

Quando os controles são padronizados, as verificações são automatizadas e as expectativas são codificadas, as equipes param de negociar e começam a construir. As liberações se tornam mais previsíveis. As decisões param de exigir heroísmo de um pequeno grupo de especialistas que memorizaram os documentos de política.

A governança escala quando é infraestrutura. Ela não escala quando é “vibração”.

O objetivo nunca foi o controle por si só. É o momentum sem caos – e as organizações que estão fazendo isso corretamente não são aquelas com o PDF mais abrangente. São aquelas que tornaram o comportamento correto o caminho mais fácil.