Por que as empresas devem seguir uma abordagem baseada em valores para a governança de IA

Em setembro de 2025, pela primeira vez, todos os estados-membros das Nações Unidas se reuniram para discutir a governança internacional de IA; muitos foram representados novamente em fevereiro no AI Impact Summit em Delhi. O evento levou ao lançamento de dois novos órgãos centrados na governança de IA; mas foi, no melhor dos casos, um sucesso simbólico.

Os novos mecanismos da ONU foram projetados para garantir o consenso: eles evitam áreas controversas, como usos militares de IA, e carecem de fontes claras de financiamento e poderes de aplicação. Isso não deve ser uma surpresa para observadores experientes. A ONU de hoje carece da capacidade de agir rapidamente ou garantir a conformidade universal com suas decisões, tornando-a um fórum difícil para efetuar mudanças reais.

Isso se encaixa em um padrão bem estabelecido. Apesar de anos de tentativas esparsas de construir consenso sobre regulamentações de IA, não houve acordos internacionais significativos, criando um vazio no qual países e blocos individuais foram forçados a desenvolver suas próprias regras. No entanto, a governança eficaz de IA é crucial se desejamos vê-la adotada amplamente, confiada pelo público e usada de maneiras que entreguem benefícios sociais e econômicos duradouros.

Conserte e Remende

Para as empresas globais que constroem e operam sistemas de IA, a falta de mecanismos de governança comuns e acordados é problemática. Elas desejam implantar sistemas de IA em todo o mundo, mas nenhum país ou jurisdição segue o mesmo conjunto de regras. Portanto, elas são forçadas a criar um quadro de governança genérico em torno de seu sistema, então reconstruí-lo do zero em cada país em que operam para garantir que ele esteja em conformidade com as leis e regulamentações locais. Essa abordagem cria uma enorme quantidade de trabalho extra, torna as iniciativas de IA mais caras e propensas a atrasos, e enfraquece a capacidade das empresas globais de realizar economias de escala e compartilhar ferramentas eficazes com usuários em todos os lugares.

No entanto, há uma alternativa. Para as empresas que buscam simplificar sua abordagem, a melhor opção pode ser construir um quadro de governança de IA que leve em conta princípios éticos comuns em diferentes regiões, garantindo que eles atendam a altos padrões em todos os lugares em termos de proteger a liberdade, privacidade e segurança dos indivíduos. Essa técnica representa uma maneira poderosa para as empresas de IA aumentarem a confiança pública em sua tecnologia, fortalecerem sua base de clientes e aproveitarem os benefícios potenciais da IA para a sociedade.

Seis Valores-Chave para a Governança de IA

Para qualquer organização interessada em adotar uma abordagem baseada em valores para a governança de IA, eu sugeriria usar os seis valores-chave que seguimos: responsabilidade, explicabilidade, transparência, justiça, segurança e contestabilidade.

Nós escolhemos esses valores porque eles cobrem todas as principais áreas do ciclo de vida do sistema de IA e porque eles já foram codificados em várias normas internacionais e nacionais relacionadas à IA, como a ISO/IEC 42001 da Organização Internacional para Padronização e o Artificial Intelligence Playbook for the UK Government.

Para começar, a responsabilidade significa saber quem é responsável por quê em cada estágio do ciclo de vida da IA. Sem uma propriedade clara, controles vitais podem ser omitidos porque nenhum indivíduo ou equipe detém a responsabilidade final. As organizações devem designar proprietários seniores nomeados – como seu Diretor de IA – para sistemas de IA e estágios-chave e usar um modelo de governança baseado em risco, aplicando o mesmo escrutínio a ferramentas de terceiros quanto às desenvolvidas internamente. Isso significa entender os termos do fornecedor, limitações e responsabilidades tão bem quanto entendem seus próprios sistemas.

A Organização para a Cooperação e Desenvolvimento Econômico (OCDE) captura isso bem em sua orientação sobre avançar a responsabilidade em IA, que recomenda que as organizações criem “mecanismos para incorporar o processo de gestão de risco de IA na governança organizacional mais ampla, fomentando uma cultura de gestão de risco tanto dentro das organizações quanto em toda a cadeia de valor de IA”.

Em seguida, vem a explicabilidade. As organizações devem ser capazes de mostrar como um sistema de IA chega a uma decisão. Isso requer mecanismos para documentar e rastrear a tomada de decisões, junto com registros claros do design do sistema, dados de treinamento e processos de decisão. Tomados em conjunto, isso permite que as equipes entendam a linhagem de informações desde a concepção do sistema até a implantação.

A justiça se concentra em garantir que os sistemas de IA produzam resultados equitativos e não repliquem ou amplifiquem vieses existentes. Sem verificações deliberadas, os sistemas podem causar danos entregando resultados tendenciosos – um problema particular em áreas de alto impacto, como recrutamento, saúde e justiça criminal. Para mitigar isso, as organizações devem implementar medidas de detecção de vieses, revisar saídas regularmente em grupos relevantes e projetar quadros de governança que possam acomodar requisitos locais de não discriminação. Na prática, isso significa construir sistemas para atender ao padrão legal mais alto que eles provavelmente encontrarão, incluindo obrigações sob leis como a Lei de Igualdade de 2010 do Reino Unido e a Carta de Direitos Fundamentais da UE.

A transparência é sobre trazer clareza tanto para os usuários quanto para os reguladores. As pessoas devem entender quando a IA está sendo usada, qual é o papel que ela desempenha na tomada de decisões e quais dados a sustentam. Um ponto de partida prático é padronizar a documentação em sistemas de IA, apoiada por ferramentas internas como cartões de modelo: documentos curtos fornecidos com modelos de aprendizado de máquina que explicam o contexto em que os modelos são destinados a ser usados, detalhes dos procedimentos de avaliação de desempenho e outras informações relevantes. Sem transparência, os usuários não podem contestar resultados injustos, os reguladores não podem intervir eficazmente e impactos prejudiciais podem ser varridos para debaixo do tapete.

A segurança envolve proteger os sistemas de IA contra acesso não autorizado, manipulação ou comportamento não intencional. Se a segurança for fraca, as IAs podem colocar as organizações, os usuários e seus dados em risco, expô-los a danos financeiros e de reputação. As organizações devem definir limiares de desempenho e precisão, testar os sistemas em condições realistas e incorporar testes de equipe vermelha para identificar vulnerabilidades.

Finalmente, a contestabilidade garante que as pessoas tenham um meio claro e acessível de desafiar ou apelar decisões impulsionadas por IA. Sem isso, os usuários afetados não têm recurso e problemas podem nunca ser trazidos à tona ou resolvidos. As organizações devem fornecer canais de relatórios no ponto de uso, designar proprietários seniores para gerenciar reclamações e garantir que os sistemas possam ser pausados, revisados ou atualizados quando necessário.

Quais são os Benefícios de um Quadro Baseado em Valores?

Há duas razões poderosas para adotar essa abordagem baseada em valores para a governança de IA. Primeiro, porque aqueles que constroem e implantam sistemas de IA têm uma responsabilidade ética para com as pessoas e organizações afetadas por eles; e, segundo, porque essa é uma maneira mais eficaz de realizar os benefícios prometidos da IA na prática.

Os usuários de sistemas de IA, tanto corporativos quanto individuais, depositam confiança implícita em seus criadores para não malusar dados pessoais ou expô-los a riscos desnecessários. Quando as organizações quebram essa confiança, torna-se muito difícil para elas reter esses usuários. Em última análise, a menos que as pessoas confiem nos sistemas de IA e possam ver os benefícios claros que eles entregam, elas não irão aceitar a introdução deles. Isso causará mais divisão social e econômica, e perderemos muitas das oportunidades apresentadas por essa tecnologia.

Por outro lado, as empresas que aplicam um quadro baseado em valores em todos os lugares – incluindo em regiões com requisitos de governança mais relaxados – podem demonstrar a seus clientes, investidores e reguladores que elas estão se mantendo em um padrão mais alto do que a conformidade básica exige. Isso constrói confiança, engajamento e, em última análise, sucesso empresarial.

Uma governança de IA forte é uma criadora de valor, não um fardo de conformidade. Ela permite que os negócios lancem novos produtos no mercado mais rapidamente, reduzam sua exposição a riscos e escalonem suas soluções em vários mercados com confiança.

O relatório “O Estado da IA” da McKinsey descobriu que “a supervisão do CEO sobre a governança de IA… é um elemento mais correlacionado com um impacto de linha de fundo mais alto auto-relatado do uso de IA geral de uma organização”, sublinhando os benefícios comerciais de tal abordagem. Nesse sentido, construir quadros éticos fortes em sistemas de IA representa um interesse próprio esclarecido.

Além disso, é simplesmente a coisa certa a fazer. Nós construímos nossa política de IA ética global em torno do mesmo princípio: que as tecnologias avançadas devem servir às pessoas e à sociedade, e não o contrário. Isso reflete a visão mais ampla da Sociedade 5.0: um modelo de inovação centrado no ser humano que busca combinar o progresso econômico com a resolução de desafios sociais.

Se as tecnologias emergentes como a IA devem promover uma sociedade mais feliz e harmoniosa, elas devem ser construídas sobre fundamentos éticos sólidos. Isso começa com um foco não apenas nos padrões que as organizações são obrigadas a atender, mas também nos padrões que elas gostariam de alcançar.