Seu AI Sabe Demais: AI Confidencial Não É Mais Opcional

Modelos gerativos estão passando dos laboratórios de pesquisa para processos comerciais regulares — e uma fraqueza estrutural silenciosa está crescendo ao lado deles.

Considere este exemplo: o Microsoft Copilot acessou quase três milhões de registros sensíveis por organização na primeira metade de 2025. Esses números significam que há um problema sistêmico em como a IA é abordada. As empresas construíram poderosos motores para processar dados, mas não colocaram em prática proteções suficientes para os dados que usam.

Modelos de linguagem grande e ferramentas de assistente frequentemente computam documentos, mensagens e bancos de dados sem proteções baseadas em hardware. Essa lacuna, que revela “dados em uso” durante a inferência, agora ameaça diretamente os negócios que priorizam a privacidade, a conformidade e a confiança do cliente.

Aqui é onde entra a computação confidencial. O processo usa ambientes de execução confiáveis assistidos por hardware (TEEs) para manter o código e os dados seguros enquanto estão sendo usados. Esses TEEs são áreas de memória isoladas que são protegidas do sistema operacional hospedeiro e do hipervisor.

Essa proteção muda o modelo de segurança, permitindo que segredos sejam processados sem serem expostos ao resto da pilha. A Microsoft e outros provedores de nuvem agora oferecem inferência privada e máquinas virtuais (VMs) que integram a inferência dentro dos TEEs.

Por que a privacidade é importante para regras e governança

A criptografia convencional geralmente protege os dados que estão em repouso ou em trânsito, com os dados que estão sendo ativamente processados não desfrutando da mesma proteção, embora essa seja a área onde a IA gerativa interage mais com entradas privadas.

Anteriormente no ano, um estudo de pesquisadores da Universidade de Cornell sobre Unidades de Computação Confiáveis revelou como a isolamento e atestação baseados em hardware podem ajudar a reduzir a necessidade de confiança entre as partes. Além disso, no ano passado, analistas estimaram que o valor da infraestrutura de computação privada era de mais de $13 bilhões, com previsões indicando um crescimento ainda mais rápido para $350,04 bilhões até 2032.

Em resumo, mais pessoas estão usando a tecnologia, levando a reguladores e equipes de conformidade a mostrarem mais interesse nos sistemas de IA do que nunca. Como tal, um quadro que garante que dados sensíveis nunca deixem a execução protegida durante as consultas do modelo tornará as trilhas de auditoria muito mais fáceis de seguir, reduzindo o risco de problemas legais.

No entanto, se as proteções de tempo de execução não se tornarem a norma, essa diferença pode fazer com que os reguladores levem mais tempo para aceitar a IA em campos que são governados rigidamente.

Situações da vida real onde a privacidade é imprescindível

Existem vários cenários empresariais que mostram por que a IA confidencial não é um luxo, mas algo que toda organização deve ter.

Por exemplo, no setor financeiro, isso pode se aplicar a instituições que precisam executar modelos de detecção de fraude e risco contra históricos de transações de clientes sem dar acesso a operadores de modelo externos aos registros brutos.

Na saúde, pode haver situações em que os modelos diagnósticos devem operar em dados clínicos protegidos, preservando a privacidade do paciente e atendendo a obrigações regulamentares rigorosas. Além disso, governos e agências de defesa podem exigir execução atestada para executar cargas de trabalho sensíveis em nuvens de terceiros.

Existem também pipelines de pesquisa que combinam conjuntos de dados de várias fontes, notadamente pesquisa de saúde federada que só pode prosseguir se cada participante tiver certeza de que suas entradas permanecerão ilegíveis durante o cálculo.

Também há pesquisas acadêmicas e industriais que continuam a documentar abordagens de ML que preservam a privacidade para fluxos de trabalho médicos que se alinham bem com a execução confidencial.

Como a execução confidencial realmente protege os dados em uso

A execução confidencial depende de dois sistemas conectados: isolamento de hardware e atestação. O isolamento de hardware impede que o software fora do enclave seguro leia a memória do enclave.

A atestação é uma maneira verificável de verificar o código em execução dentro do enclave e que o próprio enclave é genuíno. Esses recursos permitem que o proprietário do modelo mostre que um modelo funcionará com entradas em um ambiente selado e verificado e que as saídas só sairão após as regras do enclave serem seguidas.

O resultado é um contrato entre os proprietários de dados, operadores de modelo e provedores de nuvem que torna menos provável que eles precisem de soluções legais adversárias ou recorrer a ginásticas políticas frágeis.

Limites e obstáculos realistas

É claro que adotar a IA confidencial vem com seus próprios desafios. A atestação e o hardware que podem funcionar em enclaves tornam a implantação mais complicada, dado que há uma lacuna no ecossistema entre a ferramenta de servir modelos tradicional e os tempos de execução cientes do enclave. Alguns tempos de execução do enclave impõem sobrecargas pesadas, custando até dez vezes mais para executar, e também pode haver compromissos em termos de desempenho, dependendo do volume de trabalho.

Além disso, os custos são mais altos agora do que eram para a inferência de nuvem simples, o que pode tornar difícil para pequenas empresas entender os números. Há também a questão das mudanças nos padrões de interoperabilidade, que podem deixar alguns adotantes precoces em risco de ficar presos com seus fornecedores.

No entanto, esses problemas são apenas problemas de engenharia transitórios que são passíveis de resolução. Provedores de nuvem e fabricantes de chips continuam a lançar novos produtos, e projetos de software estão criando middleware que liga as pilhas de ML atuais e os TEEs.

Se algo, as empresas que acham que a criptografia padrão e os controles de acesso são suficientes estão em maior risco, pois estarão vulneráveis quando os modelos processam grandes quantidades de registros sensíveis.

Um apelo para mudanças nas práticas empresariais

Equipes de gerenciamento de riscos precisam mudar as regras para comprar e usar a IA. A classificação de dados e a governança ainda são importantes, mas precisam ser apoiadas por garantias técnicas quando estão em uso.

Contratos com provedores de modelo de terceiros devem exigir que eles forneçam prova de atestação. Equipes de compras devem solicitar linhas de base de desempenho e opções auditadas para execução confidencial. Exercícios de equipe vermelha devem incluir testes cientes do enclave como parte de seu trabalho. Essas etapas transferem a responsabilidade de compromissos ad hoc para controles que podem ser verificados.

Além disso, grupos de política pública e padrões industriais precisam estabelecer expectativas. Auditores, oficiais de conformidade e reguladores devem exigir salvaguardas de tempo de execução verificáveis para categorias de cargas de trabalho que processam dados regulamentados.

Essas regras reduzirão o número de violações que ocorrerão posteriormente e darão ao setor a liberdade de inovar sem se preocupar com problemas legais. Isso permitirá que os fluxos de trabalho de finanças, saúde e setor público usem novos modelos sem obstáculos regulamentares.

Confidencialidade como padrão

A IA gerativa se tornou uma ferramenta útil para empresas que lidam com informações muito privadas. Essa realidade significa que a execução confidencial não é mais apenas uma opção de nicho; é uma prática padrão para qualquer sistema de IA que lida com dados regulamentados, proprietários ou pessoais.

Já existem ferramentas disponíveis, como TEEs, serviços de atestação e ofertas de VM privadas, e a economia está melhorando muito rapidamente. A outra opção é manter ativos sensíveis abertos a vazamentos de inferência, o que pode ter efeitos legais, financeiros e de reputação que as empresas não podem mais se dar ao luxo de ter. Por exemplo, de acordo com o relatório de 2025 do IBM sobre o Custo de Violação de Dados, o custo médio global de violação alcançou quase $5 milhões, com regulamentações como o GDPR impondo multas de até €20 milhões por violações graves.

As empresas que colocam a privacidade em primeiro lugar na governança da IA terão uma vantagem: elas podem executar testes mais completos e conformes e usar modelos em áreas onde a inovação externa era anteriormente proibida. Em resumo, proteger os dados enquanto os modelos são executados não é uma barreira para a adoção; é a base para a IA responsável e escalável nos negócios e no governo.