Pesquisadores de IA Propõem Colocar Recompensas em Viés de IA para Tornar a IA Mais Ética

Uma equipe de pesquisadores de IA de empresas e laboratórios de desenvolvimento de IA como Intel, Google Brain e OpenAI recomendou o uso de recompensas para ajudar a garantir o uso ético da IA. A equipe de pesquisadores recentemente lançou uma série de propostas sobre o uso ético da IA, e incluíram uma sugestão de que recompensar as pessoas por descobrir viés na IA poderia ser uma forma eficaz de tornar a IA mais justa.

Como relata o VentureBeat, pesquisadores de várias empresas nos EUA e Europa se uniram para criar um conjunto de diretrizes éticas para o desenvolvimento de IA, bem como sugestões para atender a essas diretrizes. Uma das sugestões feitas pelos pesquisadores foi oferecer recompensas a desenvolvedores que encontram viés dentro de programas de IA. A sugestão foi feita em um artigo intitulado “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”.

Como exemplos dos viés que a equipe de pesquisadores espera abordar, dados e algoritmos tendenciosos foram encontrados em tudo, desde aplicações de saúde até sistemas de reconhecimento facial usados por forças de segurança. Um exemplo de tal ocorrência de viés é a ferramenta de avaliação de risco PATTERN que foi recentemente usada pelo Departamento de Justiça dos EUA para triar prisioneiros e decidir quais poderiam ser enviados para casa quando reduzir o tamanho da população carcerária em resposta à pandemia de coronavírus.

A prática de recompensar desenvolvedores por encontrar comportamentos indesejados em programas de computador é antiga, mas isso pode ser a primeira vez que um conselho de ética em IA levou a ideia a sério como uma opção para combater o viés de IA. Embora seja improvável que haja desenvolvedores de IA suficientes para encontrar viés suficientes para garantir que a IA seja ética, ainda ajudaria as empresas a reduzir o viés geral e a obter uma ideia dos tipos de viés que estão vazando para seus sistemas de IA.

Os autores do artigo explicaram que o conceito de caça a bugs pode ser estendido à IA com o uso de recompensas por viés e segurança e que o uso adequado dessa técnica pode levar a conjuntos de dados e modelos melhor documentados. A documentação refletiria melhor as limitações tanto do modelo quanto dos dados. Os pesquisadores também observam que a mesma ideia pode ser aplicada a outras propriedades de IA, como interpretabilidade, segurança e proteção de privacidade.

À medida que mais discussões ocorrem em torno dos princípios éticos da IA, muitos notaram que os princípios sozinhos não são suficientes e que ações devem ser tomadas para manter a IA ética. Os autores do artigo observam que “as regulamentações e normas existentes na indústria e academia são insuficientes para garantir o desenvolvimento responsável de IA”. O co-fundador do Google Brain e líder da indústria de IA Andrew Ng também opinou que os princípios orientadores sozinhos carecem da capacidade de garantir que a IA seja usada de forma responsável e justa, dizendo que muitos deles precisam ser mais explícitos e ter ideias passíveis de ação.

A recomendação de caça a viés da equipe de pesquisa é uma tentativa de ir além dos princípios éticos para uma área de ação ética. A equipe de pesquisa também fez uma série de outras recomendações que podem estimular a ação ética no campo da IA.

A equipe de pesquisa fez uma série de outras recomendações que as empresas podem seguir para tornar o uso de IA mais ético. Eles sugerem que um banco de dados centralizado de incidentes de IA deve ser criado e compartilhado entre a comunidade de IA mais ampla. Da mesma forma, os pesquisadores propõem que um registro de auditoria deve ser estabelecido e que esses registros devem preservar informações sobre a criação e implantação de aplicações críticas de segurança em plataformas de IA.

Para preservar a privacidade das pessoas, a equipe de pesquisa sugeriu que técnicas centradas na privacidade, como comunicações criptografadas, aprendizado federado e privacidade diferencial, devem ser empregadas. Além disso, a equipe de pesquisa sugeriu que alternativas de código aberto devem ser amplamente disponibilizadas e que modelos de IA comerciais devem ser rigorosamente examinados. Finalmente, a equipe de pesquisa sugere que o financiamento governamental deve ser aumentado para que os pesquisadores acadêmicos possam verificar as afirmações de desempenho de hardware.