A minimização é a melhor abordagem para a governança da IA?

À medida que as organizações integram a inteligência artificial (IA) às operações comerciais, precisam de maneiras claras de gerenciar os riscos associados ao desenvolvimento e ao uso dessa tecnologia. Uma governança eficaz oferece supervisão, mas procedimentos complexos podem consumir recursos e retardar a implementação. A minimização é uma possível forma de tornar a governança mais proporcional, limitando o uso desnecessário de dados e, ao mesmo tempo, preservando a responsabilização e as salvaguardas.

Por que a governança da IA é importante

A governança da IA estabelece as políticas, responsabilidades e formas de supervisão que orientam como as organizações desenvolvem, implementam e usam sistemas de IA. Ela ajuda as organizações a identificar riscos, atribuir autoridade para a tomada de decisões e estabelecer processos para monitorar o desempenho e resolver problemas.

As organizações precisam considerar diversos riscos ao adotar a IA, incluindo violações de privacidade, vulnerabilidades de segurança, resultados tendenciosos, respostas imprecisas e transparência limitada. Sem controles adequados, decisões geradas por IA podem afetar clientes, funcionários e outras partes interessadas de maneiras difíceis de corrigir. A governança também ajuda as organizações a cumprir os requisitos legais aplicáveis e a alinhar o uso da IA aos objetivos comerciais.

A International Association of Privacy Professionals informou que 77% das organizações pesquisadas estavam trabalhando na governança da IA em 2025. Essa constatação indica que o tema recebe atenção considerável das organizações, embora trabalhar na governança não signifique necessariamente que uma organização tenha concluído ou implementado integralmente sua estrutura.

Responsabilidades claras e monitoramento contínuo ajudam as organizações a identificar problemas emergentes, investigar resultados inesperados e ajustar os controles à medida que os sistemas mudam. Uma governança eficaz também pode fortalecer a confiança das partes interessadas, demonstrando que a organização considera as implicações do uso da IA e continua responsável por suas decisões.

Desafios da governança da IA

Embora a governança ajude as organizações a gerenciar os riscos da IA, estabelecer e manter uma supervisão eficaz pode ser difícil. Definir o escopo da supervisão exige que as organizações determinem quais sistemas de IA, atividades e dependências precisam ser submetidos à governança. 

Para estabelecer um escopo claro para a governança da IA, as organizações podem consultar a ISO/IEC 42001, que define requisitos para estabelecer e manter um sistema de gestão de IA. A conformidade pode melhorar o desempenho do modelo, permitindo uma IA mais rápida e segura. Ela também ajuda as organizações a determinar quais partes de suas operações estão incluídas em seu sistema de gestão de IA. Essas normas levam em conta a cobertura geográfica, as conexões com outros sistemas e o escopo das atividades de IA das organizações. 

Outros desafios importantes incluem:

• Complexidade dos sistemas de IA: As aplicações de IA podem depender de modelos interconectados, conjuntos de dados, ferramentas de terceiros e decisões automatizadas. Essas dependências podem dificultar o rastreamento dos resultados, a identificação de vulnerabilidades e a determinação de onde os controles são necessários.
• Privacidade e segurança dos dados: As organizações precisam proteger informações confidenciais durante a coleta de dados, o treinamento do modelo, a implementação e o uso contínuo. 
• Tendenciosidade e transparência limitada: Dados de treinamento não representativos podem contribuir para resultados injustos, enquanto o comportamento opaco do modelo pode dificultar a explicação, a avaliação ou a contestação das decisões.
• Regulamentações e normas em evolução: As organizações que operam em diferentes jurisdições podem estar sujeitas a requisitos legais distintos ou em constante mudança. Os processos de governança precisam atender às obrigações pertinentes sem gerar duplicação desnecessária.
• Limitações de recursos e operacionais: Competências especializadas, documentação, revisões e monitoramento contínuo exigem tempo e recursos financeiros. 
• Equilíbrio entre supervisão e inovação: Exigências excessivas de aprovação podem atrasar projetos, enquanto controles insuficientes podem deixar riscos significativos sem solução.

Esses desafios ressaltam o valor de reduzir a complexidade desnecessária. No entanto, simplificar a governança também exige estabelecer controles que protejam as pessoas e as informações e garantam a responsabilização da organização.

Por exemplo, o New York State Comptroller constatou que órgãos da cidade de Nova York adotaram abordagens inconsistentes para a supervisão da IA, e que alguns não tinham políticas para avaliar a tendenciosidade e a precisão. As constatações mostram que reduzir a complexidade exige normas de governança claras e consistentes para manter a responsabilização. 

O que significa minimização na governança da IA

A minimização na governança da IA consiste em reduzir o uso desnecessário de dados e a carga administrativa, mantendo as medidas necessárias para gerenciar os riscos. Ela tem duas dimensões principais: a minimização de dados e a minimização da governança. Ambas buscam tornar as práticas de IA mais proporcionais à sua finalidade e ao seu possível impacto.

Minimização de dados

A minimização de dados limita a coleta, a retenção, o processamento e o compartilhamento de informações ao que um sistema de IA necessita para uma finalidade definida. As organizações podem aplicar esse princípio restringindo o acesso a informações sensíveis e usando dados anonimizados ou sintéticos quando apropriado.

Reduzir dados desnecessários pode limitar a exposição da privacidade e diminuir a quantidade de informações que as organizações precisam proteger. No entanto, a minimização de dados exige um julgamento cuidadoso. Remover informações relevantes pode prejudicar a precisão do modelo, reduzir a representação de diferentes grupos ou dificultar a identificação de resultados tendenciosos. As organizações devem determinar quais dados são necessários para alcançar a finalidade pretendida e favorecer resultados confiáveis e justos.

Minimização da governança

A minimização da governança se concentra em simplificar os processos de supervisão. As organizações podem consolidar análises que se sobrepõem e reutilizar avaliações quando apropriado. Também podem esclarecer as autoridades responsáveis pela tomada de decisões e eliminar etapas de aprovação que não proporcionam uma proteção significativa contra riscos.

Essas mudanças ajudam a reduzir custos administrativos e atrasos, além de esclarecer as responsabilidades das equipes. No entanto, a minimização da governança não deve eliminar a documentação essencial, a análise independente, a supervisão humana ou os controles obrigatórios. O objetivo é tornar a supervisão mais eficiente sem comprometer a prestação de contas.

Estratégias de minimização para a governança de IA

Uma abordagem de minimização pode tornar a governança de IA mais eficiente quando as organizações ajustam as práticas de dados e os requisitos de supervisão aos riscos de cada caso de uso. Várias medidas podem reduzir a complexidade desnecessária sem comprometer a prestação de contas, o desempenho confiável e as salvaguardas adequadas.

Adote uma abordagem baseada em riscos

As organizações podem classificar os sistemas de IA de acordo com o uso pretendido, o impacto potencial e a sensibilidade dos dados. O AI Risk Management Framework do National Institute of Standards and Technology oferece uma estrutura para gerenciar os riscos de IA por meio de quatro funções, que incluem Governar, Mapear, Medir e Gerenciar. As organizações podem usar essas funções para identificar riscos, avaliar sua importância e determinar as respostas apropriadas.

Defina requisitos claros para os dados

Cada sistema de IA deve ter uma finalidade definida antes do início da coleta de dados. Em seguida, as organizações podem identificar as categorias de dados necessárias, remover campos irrelevantes, restringir o acesso e estabelecer limites adequados de retenção. Os testes devem confirmar que os conjuntos de dados reduzidos continuam permitindo resultados precisos e justos.

Otimize modelos e recursos computacionais

A otimização de modelos, os algoritmos eficientes e o hardware com eficiência energética podem ajudar a reduzir demandas computacionais desnecessárias. As empresas podem explorar o aprendizado federado, que reduz a necessidade de transferir grandes quantidades de informações. Essas práticas podem diminuir os custos computacionais e o consumo de energia, além de contribuir para a proteção da privacidade dos dados. 

Simplifique os fluxos de trabalho de governança

As organizações podem consolidar análises que se sobrepõem, reutilizar avaliações que abrangem os mesmos riscos, esclarecer responsabilidades e estabelecer etapas de aprovação de acordo com o nível de risco. Processos padronizados ajudam as equipes a lidar com eficiência com aplicações rotineiras e a encaminhar casos mais complexos aos especialistas adequados.

Preserve as salvaguardas essenciais

Uma abordagem de minimização deve manter as proteções de privacidade e segurança, as avaliações de vieses, a supervisão humana adequada, as trilhas de auditoria e os procedimentos de resposta a incidentes. As organizações também devem confirmar que os processos simplificados continuam atendendo às obrigações legais e regulatórias aplicáveis.

Monitore o desempenho e reavalie os controles

Os requisitos de governança podem mudar à medida que um sistema de IA se desenvolve, alcança novos usuários ou passa a oferecer suporte a tarefas adicionais. As organizações devem monitorar a precisão, a equidade e os riscos à privacidade após a implantação. Também devem reavaliar os requisitos relativos aos dados e os procedimentos de supervisão conforme as condições mudarem.

Como tornar a minimização eficaz na governança de IA

A minimização é mais eficaz quando integra uma estratégia de governança baseada em riscos. No entanto, o nível adequado de minimização varia de acordo com a finalidade, a complexidade e o impacto potencial de um sistema de IA. Ao equilibrar eficiência com salvaguardas adequadas, prestação de contas e avaliação contínua, as organizações podem simplificar a governança de IA e, ao mesmo tempo, manter um uso responsável e confiável da IA.