Líderes de pensamento

Por que vale a pena desenvolver IA soberana — e onde ela falha

Brian Rowe
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveConversas de usuários excluídas podem ser preservadas por um juiz em um processo…
Ver mais
  • Conversas de usuários excluídas podem ser preservadas por um juiz em um processo judicial do qual você nunca participou.
  • A IA soberana trata realmente de controle, e não de fronteiras nacionais ou bandeiras.
  • A soberania operacional é o pilar que mais empresas deixam de lado ao construir IA soberana.

Em 13 de maio de 2025, um juiz magistrado federal em Manhattan assinou uma ordem de produção de provas na disputa por direitos autorais entre The New York Times e OpenAI. A ordem determinava que a OpenAI “preservasse e isolasse todos os dados de registros de saída que, de outra forma, seriam apagados.”

Isso incluía conversas que os usuários já haviam pedido para apagar. A ordem abrangia contas do ChatGPT Free, Plus, Pro e Team, além de clientes da API sem um acordo de retenção zero de dados. A OpenAI contestou a decisão. Seu diretor de operações, Brad Lightcap, disse que era “um exagero”. A ordem ampla deixou de vigorar no fim de setembro, mas os dados das contas sinalizadas pelo Times continuam sob retenção legal.

Os clientes corporativos foram excluídos da ordem. Muitas equipes de empresas com planos Team e chaves padrão da API, porém, não foram. Nenhuma delas era parte no processo. Elas clicaram em “apagar”. Um juiz decidiu, em uma ação judicial alheia, que apagar não significava apagar.

Não estou implicando com a OpenAI. A empresa reagiu com firmeza. Esse é justamente o ponto. Quando seus dados ficam na plataforma de outra empresa, as disputas judiciais, os contratos e as políticas dessa empresa determinam o que acontece com eles.

Agora, pense na sua própria empresa. Seus contratos, seus arquivos de sinistros, seu código-fonte, os registros de saúde dos seus clientes. Cada vez mais, tudo isso passa por modelos de IA executados em uma infraestrutura que você não possui e regidos por termos que não redigiu.

É disso que a IA soberana realmente trata. Não de bandeiras e fronteiras. De controle.

Os números mostram que essa preocupação não é de nicho

No fim do ano passado, a McKinsey entrevistou 300 executivos, investidores e autoridades governamentais. Setenta e um por cento classificaram a IA soberana como uma “preocupação existencial” ou um “imperativo estratégico”. A McKinsey estima que o mercado chegará a US$ 600 bilhões até 2030, com até 40% das cargas de trabalho de IA podendo migrar para ambientes soberanos.

Os dados do setor empresarial confirmam essa tendência:

  • Quase quatro em cada cinco organizações disseram à Linux Foundation que a IA soberana é uma prioridade estratégica. Cerca de 90% afirmaram que o código aberto é essencial ou muito importante para alcançar esse objetivo.
  • 74% de mais de 900 líderes de TI da Europa, do Oriente Médio e da África disseram à Red Hat que a soberania em IA é uma prioridade para os próximos 18 meses. 92% afirmaram que o código aberto empresarial é fundamental.
  • 63% das organizações já usam modelos de IA de código aberto, segundo uma pesquisa da McKinsey e da Mozilla Foundation com mais de 700 líderes de tecnologia em 41 países. 76% esperam usar mais desses modelos.

Repare no padrão. Soberania e código aberto aparecem juntos repetidamente. Não é por acaso.

Por que estou otimista

Já disse isso antes: os modelos são bons o suficiente. Para a maior parte das tarefas cotidianas de que as empresas realmente precisam — resumir, pesquisar, seguir instruções e processar documentos —, os avanços dos modelos de ponta não fazem diferença significativa. Um modelo que vence uma olimpíada de matemática não agiliza o processamento dos seus sinistros.

Já executei modelos abertos, como o Qwen, no meu próprio equipamento e vi como eles lidam bem com tarefas reais de aplicativos. Posso ajustá-los com meus próprios dados, na minha própria máquina, sem enviar um único registro para fora. Dois anos atrás, isso não era uma opção empresarial séria. Hoje, é.

Isso muda a equação da soberania. Você não precisa desenvolver um modelo de ponta para ter controle sobre sua IA. Pode usar um modelo robusto de pesos abertos, executá-lo dentro da sua própria infraestrutura ou em uma nuvem soberana, ajustá-lo com seus dados e manter os pesos.

A oferta também está evoluindo. Em agosto, a Nvidia concordou em pagar à Poolside US$ 6 bilhões pelo licenciamento de sua plataforma de desenvolvimento de modelos e ofereceu emprego a mais de 100 de seus engenheiros, tudo voltado à família de modelos de pesos abertos Nemotron. Quando a empresa que vende as ferramentas investe tanto dinheiro em modelos abertos, esses modelos continuarão melhorando.

As ferramentas de segurança também estão acompanhando essa evolução. A inferência confidencial usa um ambiente de execução confiável dentro da CPU ou da GPU, para que os dados permaneçam criptografados até chegarem a uma área isolada do chip. Nem mesmo o provedor de nuvem consegue vê-los. Assim, você deixa de apenas torcer para que seus dados estejam seguros e passa a ter certeza disso.

Então, sim. A IA soberana pode ser realmente muito boa. Menor custo por carga de trabalho, sem aumentos inesperados de preços, sem que um modelo seja descontinuado de uma hora para outra e uma resposta clara quando o conselho de administração perguntar para onde vão os dados.

Mas eu estaria prestando um desserviço a você se parasse por aqui.

Leia as letras miúdas antes de assinar

A capacidade computacional está concentrada e não é barata. O Índice de IA Soberana do Center for a New American Security estima que cerca de 90% da capacidade computacional usada em IA de ponta está nos Estados Unidos e na China. A McKinsey observa que apenas cerca de 30 países abrigam capacidade computacional suficiente para cargas de trabalho avançadas de IA. Ter controle sobre toda a sua infraestrutura significa contar com GPUs, energia, refrigeração e pessoas que saibam operá-las. Inclua tudo isso no orçamento, não apenas os chips.

Soberania não significa autossuficiência. O CNAS acompanha 184 projetos de IA soberana apoiados por governos. Mais de três quintos deles divulgam pelo menos um parceiro estrangeiro, e a maioria desses parceiros são empresas dos EUA. Nem mesmo os países conseguem fazer isso sozinhos. O Fórum Econômico Mundial e a Bain defendem que soberania é, na verdade, “interdependência estratégica”. Concordo. Decida quais camadas você precisa controlar e quais pode alugar com segurança.

Os modelos abertos ainda ficam atrás nas tarefas mais difíceis. A McKinsey alerta que os modelos localizados podem não alcançar o desempenho dos modelos de ponta. Para algumas cargas de trabalho, essa diferença importa. A resposta não é uma escolha entre tudo ou nada. Direcione trabalhos sensíveis e de alto volume para modelos que você controla e mantenha um caminho sujeito a governança para APIs de ponta, para os problemas que realmente precisam delas.

É nas operações que a maioria dos programas fracassa. Infraestrutura, dados e controle dos modelos recebem atenção. A soberania operacional — quem pode acessar o sistema, quem pode alterar sua configuração e quem pode auditar o que ele fez — é o pilar que a maioria das empresas não leva em conta. A questão se torna séria rapidamente quando agentes de IA começam a agir em seu nome. Se um fornecedor externo detém as chaves dos seus agentes, você não tem IA soberana. Tem um serviço hospedado com um nome mais atraente.

Não se prenda a uma nova caixa. O propósito da soberania é permitir escolhas. Estruture tudo para poder trocar de modelo sem reconstruir tudo ao redor dele. Se sua pilha “soberana” só executa um modelo de um único fornecedor, você apenas transferiu a dependência.

Trate como engenharia, não como aquisição

As organizações que acertam tratam cada componente como um requisito de engenharia, com um responsável e uma métrica. Onde a inferência é executada fisicamente? Onde os prompts e as respostas são registrados, e por quanto tempo? Qual modelo tem acesso a quais dados? Quem pode desligá-lo?

As que enfrentam dificuldades tratam a IA soberana como um item a marcar em um questionário para fornecedores.

Isso está de acordo com tudo o que observo em nosso trabalho na Marlabs. O modelo raramente é mais o problema. O problema é a implementação: as pessoas, a arquitetura, a governança. A IA soberana não muda isso. Ela aumenta o que está em jogo quando se trata de acertar.

De volta àquela sala de tribunal em Manhattan

Os usuários do plano Team não fizeram nada de errado. Confiaram no contrato com o fornecedor. A decisão sobre os dados deles foi tomada em um tribunal em que nunca estiveram.

Você pode tomar essa decisão por conta própria. Quando seu conselho, seu órgão regulador ou seu maior cliente perguntar quem controla os dados e quem mais pode vê-los, uma IA soberana bem implementada permite dar uma resposta direta. Aponte exatamente onde os dados estão. Mostre quem tem as chaves.

Vale a pena construir isso. Mas faça isso de olhos bem abertos.

O que está impulsionando a discussão sobre IA soberana na sua organização? Conte para mim.

Brian Rowe é vice-presidente sênior de IA & aprendizado de máquina na Marlabs. Com 30 anos de experiência e 2.200 funcionários, a Marlabs, sediada em Nova York, é uma parceira de transformação em IA que ajuda organizações da Fortune 500 a implementar a IA em suas operações e a gerar valor contínuo e mensurável em diversos setores.