Pesquisadores de IA Propõem Oferecer Recompensas por Viés de IA para Tornar a IA Mais Ética

Uma equipe de pesquisadores de IA de empresas e laboratórios de desenvolvimento de IA, como Intel (INTC ), Google (GOOGL ) Brain e OpenAI, recomendou o uso de recompensas para ajudar a garantir o uso ético da IA. A equipe de pesquisadores recentemente lançou uma série de propostas sobre o uso ético da IA e incluiu uma sugestão de que recompensar as pessoas por descobrirem vieses na IA poderia ser uma forma eficaz de tornar a IA mais justa.

Como relata o VentureBeat, pesquisadores de várias empresas nos EUA e Europa se uniram para criar um conjunto de diretrizes éticas para o desenvolvimento de IA, bem como sugestões sobre como atender a essas diretrizes. Uma das sugestões feitas pelos pesquisadores foi oferecer recompensas a desenvolvedores que encontram vieses em programas de IA. A sugestão foi feita em um artigo intitulado “Em Direção ao Desenvolvimento de IA Confiável: Mecanismos para Apoiar Alegações Verificáveis”.

Como exemplos dos vieses que a equipe de pesquisadores espera abordar, dados e algoritmos viesados foram encontrados em tudo, desde aplicações de saúde a sistemas de reconhecimento facial usados pela polícia. Um exemplo de ocorrência de viés é a ferramenta de avaliação de risco PATTERN, que foi recentemente usada pelo Departamento de Justiça dos EUA para triar prisioneiros e decidir quais poderiam ser enviados para casa quando reduzir o tamanho da população carcerária em resposta à pandemia de coronavírus.

A prática de recompensar desenvolvedores por encontrar comportamentos indesejados em programas de computador é antiga, mas essa pode ser a primeira vez que um conselho de ética em IA levou a sério a ideia como uma opção para combater o viés de IA. Embora seja improvável que haja desenvolvedores de IA suficientes para encontrar vieses suficientes para garantir que a IA seja ética, ainda assim ajudaria as empresas a reduzir o viés geral e a ter uma ideia dos tipos de vieses que estão vazando para seus sistemas de IA.

Os autores do artigo explicaram que o conceito de caça a bugs pode ser estendido à IA com o uso de recompensas por viés e segurança e que o uso adequado dessa técnica pode levar a conjuntos de dados e modelos melhor documentados. A documentação refletiria melhor as limitações tanto do modelo quanto dos dados. Os pesquisadores observam que a mesma ideia pode ser aplicada a outras propriedades de IA, como interpretabilidade, segurança e proteção de privacidade.

À medida que mais discussões ocorrem sobre os princípios éticos da IA, muitos notaram que os princípios sozinhos não são suficientes e que ações devem ser tomadas para manter a IA ética. Os autores do artigo observam que “as regulamentações e normas existentes na indústria e academia são insuficientes para garantir o desenvolvimento responsável de IA”. O co-fundador do Google Brain e líder da indústria de IA, Andrew Ng, também opinou que os princípios orientadores sozinhos carecem da capacidade de garantir que a IA seja usada de forma responsável e justa, dizendo que muitos deles precisam ser mais explícitos e ter ideias concretas.

A recomendação de caça a vieses da equipe de pesquisa é uma tentativa de ir além dos princípios éticos e entrar em uma área de ação ética. A equipe de pesquisa também fez uma série de outras recomendações que podem estimular a ação ética no campo da IA.

A equipe de pesquisa fez uma série de outras recomendações que as empresas podem seguir para tornar seu uso de IA mais ético. Eles sugerem que um banco de dados centralizado de incidentes de IA deve ser criado e compartilhado entre a comunidade de IA mais ampla. Da mesma forma, os pesquisadores propõem que um registro de auditoria deve ser estabelecido e que esses registros devem preservar informações sobre a criação e implantação de aplicações críticas de segurança em plataformas de IA.

Para preservar a privacidade das pessoas, a equipe de pesquisa sugeriu que técnicas centradas na privacidade, como comunicações criptografadas, aprendizado federado e privacidade diferencial, devem ser empregadas. Além disso, a equipe de pesquisa sugeriu que alternativas de código aberto devem ser amplamente disponibilizadas e que modelos de IA comerciais devem ser rigorosamente examinados. Finalmente, a equipe de pesquisa sugere que o financiamento governamental deve ser aumentado para que os pesquisadores acadêmicos possam verificar as alegações de desempenho de hardware.