IA: Pelo Povo, para o Povo e do Povo

Por: Balakrishna (Bali) D R, Vice-Presidente Sênior, Líder de Oferta de Serviço – ECS, IA e Automação na Infosys.

Nós somos afortunados por viver na era da tecnologia, onde a Inteligência Artificial trabalha arduamente para tornar nossas vidas mais fáceis – nossos telefones agora nos reconhecem e desbloqueiam à medida que nos “veem”, temos mapas que falam e nos ajudam a encontrar os caminhos mais curtos e menos movimentados para chegarmos aonde queremos ir, dispositivos inteligentes que aquecem e resfriam nossas casas antes mesmo de falarmos, aplicativos inteligentes que preveem e prevenem fraudes, e muito mais.

No entanto, também tivemos casos em que esses sistemas inteligentes de IA falharam conosco do ponto de vista da justiça e da ética. Por exemplo, um banco renomado que trabalha conosco suspeitou que os modelos de IA que usam para avaliar a solvência creditícia antes de conceder empréstimos possam estar viesados, e nos chamaram para ajudá-los. Em outra ocasião, um fabricante de máquinas trabalhou conosco para analisar padrões de reclamações de garantia para eliminar vieses, dos conjuntos de dados e do processo, antes de reengenharia e automação do processo de aprovação de reclamações. Modelos de IA relacionados à contratação, frequentemente encontramos, estão corrompidos por vieses de idade, gênero, raça, até mesmo códigos postais, em seus conjuntos de dados – entregando resultados injustos se não forem verificados.

Devido ao tremendo impacto que o viés de IA pode ter em toda a empresa, questões éticas ocuparam o centro das atenções em como os sistemas de IA são desenvolvidos, implementados e utilizados. Os sistemas de IA são a amalgamação de muitas decisões humanas, que, por sua vez, também são baseadas em vieses humanos. A proteção da autonomia e privacidade dos funcionários, os riscos de vieses que impactam o crescimento e oportunidades de carreira, discriminação com base na cor da pele, raça ou gênero, a falta de explicação das escolhas feitas pelas soluções de IA e, portanto, a responsabilidade da tomada de decisões de IA, estão sendo amplamente debatidas quando se trata de discutir IA e seus méritos.

Criando IA Responsável

O viés de IA pode ter um efeito em cascata em toda a organização. É pertinente que os líderes de TI garantam que estejam implantando IA de maneira ética que funcione com, e não contra, os funcionários. Para fazer isso, as organizações devem buscar incluir os seguintes em suas implantações de IA.

Governança de Dados: O uso ético de IA também depende do uso bem governado de dados, começando com a obtenção de dados de forma ética e transparente. Para fazer isso, os líderes de TI devem estabelecer um quadro de governança bem definido que garanta a segurança, integridade e privacidade dos dados, bem como prevenir a corrupção e perda de dados – são todos necessários.

Responsabilidade: Os modelos de Aprendizado de Máquina precisam ser justos, imparciais, tratar as pessoas igualmente e também compartilhar benefícios de forma equitativa (taxa de aceitação e rejeição semelhante) em todos os atributos, como raça, religião, gênero, etc. Eles precisam alcançar precisão aceitável não apenas no número geral, mas também nas classes minoritárias. Esses modelos devem ser explicáveis ao esclarecer como o resultado é alcançado. Por exemplo, ser capaz de explicar por que o modelo rejeitou um pedido de empréstimo de um solicitante A, mas aprovou o mesmo pedido de um solicitante B. Os líderes de TI que desenvolvem soluções de IA precisam tornar a lógica subjacente que impulsiona essas decisões claras para as partes interessadas comerciais, para que haja uma maior transparência dentro da empresa.

Robustez Adversária: Todo o ecossistema de IA precisa concordar com a necessidade de os modelos de IA serem testados e hackeados por simulações para estudar resultados adversos potenciais. Por exemplo, os líderes de TI podem usar os seguintes testes para verificar seus sistemas de IA e se preparar para obstáculos potenciais.

• Modificar dados: alterar diretamente o conjunto de dados usado para treinamento por injeção de dados, modificação e corrupção lógica
• Modificar modelos: testar a redução de confiança e a classificação errada
• Ferramentas auxiliares: usar ferramentas para influenciar ou corromper os resultados

Humano no Loop: Os modelos de IA precisam ser desriskados com humanos no loop para todos os pontos de decisão-chave e ter um mecanismo de backup eficaz ou um caminho alternativo se o sistema de IA precisar ser retirado.

Desenvolvendo Consentimento Social para IA

Além dessas diretrizes, precisamos promover discussões e deliberações inclusivas entre todos os líderes da empresa, sobre benefícios, interesses, custos e consequências de qualquer grande implantação de IA. Apenas esses processos inclusivos que envolvem todas as partes interessadas, para discutir e decidir resultados aceitáveis, e pesar os riscos e benefícios, é provável que dê às tecnologias de IA a licença para operar em toda a empresa, sobre os benefícios, interesses, custos e consequências de qualquer grande implantação de IA. Apenas tais processos inclusivos, envolvendo todas as partes interessadas, para discutir e decidir resultados aceitáveis, e pesar os riscos e benefícios, é provável que dê às tecnologias de IA a licença para operar em toda a empresa, sobre os benefícios, interesses, custos e consequências de qualquer grande implantação de IA. Apenas tais processos inclusivos, envolvendo todas as partes interessadas, para discutir e decidir resultados aceitáveis, e pesar os riscos e benefícios, é provável que dê às tecnologias de IA a licença para operar em toda a empresa.