Líderes de pensamento

Por que as empresas devem adotar uma governança de IA baseada em valores

Isabella Grandi
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveUma estrutura de governança de IA baseada em valores permite que as empresas operem…
Ver mais
  • Uma estrutura de governança de IA baseada em valores permite que as empresas operem globalmente sem reconstruir sistemas para cada jurisdição.
  • A adoção de seis valores-chave, como responsabilidade e justiça, constrói a confiança do público e atende aos mais altos padrões éticos.
  • Uma governança de IA robusta gera valor comercial ao permitir entrada mais rápida no mercado e reduzir riscos em múltiplas regiões.

Em setembro de 2025, todos os Estados-membros das Nações Unidas se reuniram pela primeira vez para discutir a governança internacional da inteligência artificial. Muitos voltaram a ser representados em fevereiro no AI Impact Summit, em Delhi. O evento levou à criação de dois novos órgãos voltados à governança de IA, mas foi, na melhor das hipóteses, um sucesso simbólico.

Os novos mecanismos da ONU foram concebidos para obter consenso. Por isso, evitam áreas controversas, como os usos militares da IA, e não dispõem de fontes claras de financiamento nem de poderes para fazer cumprir decisões. Isso não deveria surpreender observadores experientes. A ONU de hoje não consegue agir rapidamente nem assegurar que todos cumpram suas decisões, o que a torna um fórum em que é difícil promover mudanças reais.

A situação segue um padrão conhecido. Apesar de anos de tentativas dispersas de construir consenso sobre a regulamentação da IA, não foram alcançados acordos internacionais significativos. Criou-se um vazio no qual países e blocos tiveram de desenvolver suas próprias regras. Ainda assim, uma governança eficaz é fundamental se quisermos que a IA seja amplamente adotada, tenha a confiança do público e produza benefícios sociais e econômicos duradouros

Improvisar e remendar

Para empresas globais que desenvolvem e operam sistemas de IA, a ausência de mecanismos de governança comuns e acordados é um problema. Elas querem implantar seus sistemas em todo o mundo, mas não há duas jurisdições que sigam exatamente as mesmas regras. Assim, precisam criar uma estrutura geral de governança para seu sistema e depois reconstruí-la do zero em cada país onde atuam, para atender às leis e aos regulamentos locais. Essa abordagem gera um enorme volume de trabalho adicional, eleva os custos e o risco de atrasos das iniciativas de IA e reduz a capacidade das empresas globais de obter economias de escala e oferecer ferramentas eficazes a usuários em toda parte.

Há, porém, uma alternativa. Para empresas que buscam simplificar sua abordagem, a melhor opção pode ser uma estrutura de governança de IA que considere princípios éticos comuns às diferentes regiões e assegure, em todos os lugares, padrões elevados de proteção da liberdade, da privacidade e da segurança das pessoas. Essa é uma maneira eficaz de fortalecer a confiança pública na tecnologia, ampliar a base de clientes e aproveitar os benefícios potenciais da IA para a sociedade.

Seis valores fundamentais para a governança de IA

A qualquer organização interessada em uma governança de IA baseada em valores, eu sugeriria os seis valores fundamentais que seguimos: responsabilização e prestação de contas, explicabilidade, transparência, justiça, segurança e possibilidade de contestar decisões.

Escolhemos esses valores porque abrangem todas as principais áreas do ciclo de vida de um sistema de IA e já foram codificados em diversas normas internacionais e nacionais, como a norma da Organização Internacional de Normalização ISO/IEC 42001 e o manual de inteligência artificial para o governo do Reino Unido.

Comecemos pela responsabilização: significa saber quem responde pelo quê em cada etapa do ciclo de vida da IA. Sem uma atribuição clara de responsabilidades, controles essenciais podem ser omitidos porque nenhuma pessoa ou equipe assume a responsabilidade final. As organizações devem designar nominalmente líderes seniores, como o diretor de IA, responsáveis pelos sistemas e pelas etapas fundamentais. Devem adotar um modelo de governança baseado em riscos e examinar ferramentas de terceiros com o mesmo rigor aplicado às desenvolvidas internamente. Isso exige compreender as condições, as limitações e as responsabilidades jurídicas dos fornecedores tão bem quanto os próprios sistemas.

A Organização para a Cooperação e Desenvolvimento Econômico, OCDE, expressa bem essa ideia em suas orientações para fortalecer a responsabilização na IA, que recomendam criar “mecanismos para integrar o processo de gestão de riscos de IA à governança organizacional mais ampla, promovendo uma cultura de gestão de riscos tanto dentro das organizações quanto em toda a cadeia de valor da IA”.

Em seguida vem a explicabilidade. As organizações devem conseguir mostrar como um sistema de IA chega a uma decisão. São necessários mecanismos para documentar e rastrear a tomada de decisões, além de registros claros sobre o projeto do sistema, os dados de treinamento e os processos decisórios. Juntos, esses elementos permitem às equipes compreender a origem e o percurso das informações, desde a concepção do sistema até sua implantação.

A justiça busca garantir que os sistemas de IA produzam resultados equitativos e não reproduzam nem amplifiquem vieses existentes. Sem verificações deliberadas, os sistemas podem causar danos por meio de resultados tendenciosos, sobretudo em áreas de alto impacto, como recrutamento, saúde e justiça criminal. Para reduzir esse problema, as organizações devem implementar medidas de detecção de vieses, avaliar regularmente os resultados para grupos relevantes e projetar estruturas de governança capazes de atender aos requisitos locais de não discriminação. Na prática, isso significa construir sistemas que cumpram os padrões jurídicos mais elevados que provavelmente encontrarão, incluindo obrigações previstas na Equality Act 2010 do Reino Unido e na Carta dos Direitos Fundamentais da UE.

A transparência oferece clareza a usuários e reguladores. As pessoas devem entender quando a IA é utilizada, seu papel na tomada de decisões e os dados em que se baseia. Um ponto de partida prático é padronizar a documentação dos sistemas de IA com o apoio de ferramentas internas, como fichas de modelos. São documentos curtos que acompanham modelos de aprendizado de máquina e explicam o contexto de uso pretendido, detalhes dos procedimentos de avaliação de desempenho e outras informações relevantes. Sem transparência, os usuários não podem contestar resultados injustos, os reguladores não podem intervir de maneira eficaz e os impactos prejudiciais podem ser escondidos.

A segurança envolve proteger sistemas de IA contra acesso não autorizado, manipulação e comportamentos não intencionais. Uma proteção fraca pode colocar organizações, usuários e seus dados em risco, expondo-os a danos financeiros e de reputação. As organizações devem definir limiares de desempenho e precisão, submeter os sistemas a testes de estresse em condições realistas e incluir testes de equipe vermelha para identificar vulnerabilidades.

Por fim, a possibilidade de contestação garante um caminho claro e acessível para questionar decisões baseadas em IA ou recorrer delas. Sem esse recurso, os usuários afetados não têm meios de reparação, e os problemas talvez nunca venham à tona ou sejam resolvidos. As organizações devem oferecer canais de comunicação no ponto de uso, designar líderes seniores para gerenciar reclamações e garantir que os sistemas possam ser pausados, revisados ou atualizados quando necessário.

Quais são os benefícios de uma estrutura baseada em valores?

Há dois motivos fortes para adotar essa abordagem de governança de IA baseada em valores. Primeiro, quem desenvolve e implanta sistemas de IA tem responsabilidade ética para com as pessoas e organizações afetadas por eles. Segundo, essa é uma forma mais eficaz de concretizar os benefícios prometidos da IA.

Os usuários de sistemas de IA, tanto empresas quanto indivíduos, confiam implicitamente que seus criadores não vão usar dados pessoais de forma abusiva nem expô-los a riscos desnecessários. Quando as organizações quebram essa confiança, fica muito difícil reter usuários. Em última análise, as pessoas não aceitarão a introdução dos sistemas sem que ambas as condições sejam atendidas: confiar nos sistemas e enxergar os benefícios claros que oferecem. Caso contrário, a divisão social e econômica aumentará, e perderemos muitas oportunidades dessa tecnologia.

Por outro lado, empresas que aplicam uma estrutura baseada em valores em todos os lugares, inclusive nas regiões com requisitos de governança mais brandos, podem mostrar a clientes, investidores e reguladores que adotam padrões superiores aos exigidos pela conformidade básica. Isso fortalece a confiança, o engajamento e, por fim, o sucesso empresarial.

Uma governança sólida de IA cria valor, em vez de ser um fardo de conformidade. Ela permite lançar novos produtos mais rapidamente, reduzir a exposição a riscos e ampliar soluções em vários mercados com confiança.

O relatório da McKinsey “O estado da IA” constatou, em seus resultados, que “a supervisão da governança de IA pelo CEO… é um dos elementos mais correlacionados a um maior impacto sobre o lucro líquido, relatado pela própria organização, decorrente de seu uso de IA generativa”, o que evidencia os benefícios comerciais dessa abordagem. Nesse sentido, integrar estruturas éticas sólidas aos sistemas de IA é uma forma de interesse próprio esclarecido.

Além de tudo isso, é simplesmente o certo a fazer. Construímos nossa política global de IA ética em torno do mesmo princípio: tecnologias avançadas devem servir às pessoas e à sociedade, e não o contrário. Isso reflete a visão mais ampla da Sociedade 5.0, um modelo de inovação centrado no ser humano que busca combinar o progresso econômico com a resolução de desafios sociais.

Para que tecnologias emergentes como a IA contribuam para uma sociedade mais feliz e harmoniosa, elas precisam se apoiar em bases éticas sólidas. Isso começa com a atenção não apenas aos padrões que as organizações devem cumprir, mas também àqueles que gostariam de alcançar.

Isabella Grandi é Diretora de Estratégia, Governança e Ética de Dados e IA na NTT DATA UK&I. Ela colabora com organizações para moldar e entregar IA responsável e governança de IA que as movem do seu estado atual para um modelo operacional mais maduro e baseado em dados.

Seu trabalho se concentra em incorporar práticas éticas e gestão robusta de riscos de IA na forma como as organizações projetam e implantam IA, garantindo que o uso responsável seja incorporado às estruturas de tomada de decisão e operações diárias.