Uso Ético de IA Não é Apenas a Coisa Certa a Fazer – É Também Bom Negócio

À medida que a adoção de IA dispara e as organizações de todas as indústrias abraçam ferramentas e aplicações baseadas em IA, não deve ser surpresa que os cibercriminosos já estão encontrando maneiras de atacar e explorar essas ferramentas para seu próprio benefício. Mas, embora seja importante proteger a IA contra possíveis ciberratados, a questão do risco de IA vai muito além da segurança. Em todo o mundo, os governos estão começando a regular como a IA é desenvolvida e usada – e as empresas podem sofrer danos significativos à sua reputação se forem descobertas usando a IA de maneira inadequada. As empresas de hoje estão descobrindo que usar a IA de maneira ética e responsável não é apenas a coisa certa a fazer – é fundamental para construir confiança, manter a conformidade e até melhorar a qualidade de seus produtos.

A Realidade Regulatória em Torno da IA

A paisagem regulatória em rápida evolução deve ser uma preocupação séria para os fornecedores que oferecem soluções baseadas em IA. Por exemplo, o EU AI Act, aprovado em 2024, adota uma abordagem baseada em risco para a regulação da IA e considera sistemas que praticam atividades como pontuação social, comportamento manipulativo e outras atividades potencialmente antiéticas como “inaceitáveis”. Esses sistemas são proibidos, enquanto outros sistemas de IA de “alto risco” estão sujeitos a obrigações mais rigorosas em torno da avaliação de risco, qualidade de dados e transparência. As penalidades por não conformidade são severas: as empresas descobertas usando a IA de maneira inaceitável podem ser multadas em até €35 milhões ou 7% de seu faturamento anual.

O EU AI Act é apenas uma peça de legislação, mas ilustra claramente o alto custo de não atender a certos limiares éticos. Estados como Califórnia, Nova York, Colorado e outros promulgam suas próprias diretrizes de IA, a maioria das quais se concentra em fatores como transparência, privacidade de dados e prevenção de viés. E, embora as Nações Unidas careçam de mecanismos de aplicação desfrutados pelos governos, é digno de nota que todos os 193 membros da ONU afirmaram unanimemente que “os direitos humanos e as liberdades fundamentais devem ser respeitados, protegidos e promovidos em todo o ciclo de vida dos sistemas de inteligência artificial” em uma resolução de 2024. Em todo o mundo, os direitos humanos e as considerações éticas estão cada vez mais em mente quando se trata de IA.

O Impacto Reputacional da Má Ética de IA

Embora as preocupações com a conformidade sejam muito reais, a história não termina aí. O fato é que priorizar o comportamento ético pode fundamentalmente melhorar a qualidade das soluções de IA. Se um sistema de IA tem viés inerente, isso é ruim por razões éticas – mas também significa que o produto não está funcionando tão bem quanto deveria. Por exemplo, certas tecnologias de reconhecimento facial foram criticadas por não identificar faces de pele escura tão bem quanto faces de pele clara. Se uma solução de reconhecimento facial não consegue identificar uma parte significativa dos sujeitos, isso apresenta um sério problema ético – mas também significa que a tecnologia em si não está fornecendo o benefício esperado, e os clientes não ficarão satisfeitos. Abordar o viés mitiga as preocupações éticas e melhora a qualidade do produto em si.

Preocupações sobre viés, discriminação e equidade podem colocar os fornecedores em apuros com os órgãos reguladores, mas também erodem a confiança do cliente. É uma boa ideia ter certas “linhas vermelhas” quando se trata de como a IA é usada e quais fornecedores trabalhar. Fornecedores de IA associados a desinformação, vigilância em massa, pontuação social, governos oprimidos ou até mesmo apenas uma falta geral de responsabilidade podem deixar os clientes nervosos, e os fornecedores que fornecem soluções baseadas em IA devem ter isso em mente ao considerar com quem trabalhar. A transparência é quase sempre melhor – aqueles que se recusam a divulgar como a IA está sendo usada ou quem são seus parceiros parecem estar escondendo algo, o que geralmente não gera sentimentos positivos no mercado.

Identificando e Mitigando Sinais Vermelhos Éticos

Os clientes estão cada vez mais aprendendo a procurar sinais de comportamento antiético de IA. Fornecedores que superprometem, mas subexplicam suas capacidades de IA, provavelmente estão sendo menos que honestos sobre o que suas soluções realmente podem fazer. Más práticas de dados, como raspagem excessiva de dados ou a incapacidade de optar por não participar do treinamento do modelo de IA, também podem levantar sinais vermelhos. Hoje, os fornecedores que usam IA em seus produtos e serviços devem ter um quadro de governança claro e público, com mecanismos em vigor para responsabilidade. Aqueles que exigem arbitragem forçada – ou pior, não fornecem recurso algum – provavelmente não serão bons parceiros. O mesmo se aplica a fornecedores que não estão dispostos ou não conseguem fornecer as métricas pelas quais avaliam e abordam o viés em seus modelos de IA. Os clientes de hoje não confiam em soluções de caixa preta – eles querem saber quando e como a IA é implantada nas soluções em que confiam.

Para os fornecedores que usam IA em seus produtos, é importante transmitir aos clientes que as considerações éticas estão em mente. Aqueles que treinam seus próprios modelos de IA precisam de fortes processos de prevenção de viés e aqueles que dependem de fornecedores de IA externos devem priorizar parceiros com reputação de comportamento justo. Também é importante oferecer aos clientes uma escolha: muitos ainda estão desconfortáveis em confiar seus dados a soluções de IA e fornecer uma “opção de saída” para recursos de IA permite que eles experimentem ao seu próprio ritmo. É fundamental ser transparente sobre de onde vêm os dados de treinamento. Mais uma vez, isso é ético, mas também é bom negócio – se um cliente descobre que a solução em que confia foi treinada em dados com direitos autorais, isso os expõe a ações regulatórias ou legais. Ao colocar tudo abertamente, os fornecedores podem construir confiança com seus clientes e ajudá-los a evitar resultados negativos.

Dar Prioridade à Ética é a Decisão de Negócios Inteligente

A confiança sempre foi uma parte importante de cada relacionamento comercial. A IA não mudou isso – mas introduziu novas considerações que os fornecedores precisam abordar. As preocupações éticas nem sempre estão em mente dos líderes empresariais, mas quando se trata de IA, o comportamento antiético pode ter consequências sérias – incluindo danos à reputação e possíveis violações regulatórias e de conformidade. Pior ainda, a falta de atenção às considerações éticas, como a mitigação de viés, pode ativamente prejudicar a qualidade dos produtos e serviços do fornecedor. À medida que a adoção de IA continua a acelerar, os fornecedores estão cada vez mais reconhecendo que dar prioridade ao comportamento ético não é apenas a coisa certa a fazer – é também bom negócio.