Princípios de Ética em IA Passam por Metanálise, com Ênfase em Direitos Humanos

Em 2019, houve mais foco em ética em IA do que nunca antes. No entanto, grande parte dessa discussão parecia nebulosa, sem uma abordagem codificada. Em vez disso, diferentes empresas criaram seus próprios quadros e políticas relacionadas à ética em IA. Ter um consenso sobre questões de ética em IA é importante porque ajuda os formuladores de políticas a criar e ajustar políticas, e também informa o trabalho realizado por pesquisadores e acadêmicos. Além disso, as empresas de IA devem saber onde estão os limites éticos se esperam evitar a implementação não ética de IA. Para criar uma imagem melhor das tendências em ética em IA, conforme relata o VentureBeats, o Berkman Klein Center da Universidade de Harvard realizou uma metanálise dos vários princípios e quadros de ética em IA existentes.

De acordo com os autores da análise, os pesquisadores queriam comparar os princípios lado a lado para procurar sobreposições e divergências. Jessica Fjeld, diretora assistente do Cyberlaw Clinic da Harvard Law School, explicou que a equipe de pesquisa queria “descobrir o impulso oculto em uma conversa global fraturada sobre o futuro da IA, resultando neste white paper e na visualização de dados associada”.

Durante a análise, a equipe examinou 36 documentos de princípios de IA originários de todo o mundo e provenientes de muitos tipos diferentes de organizações. Os resultados da pesquisa encontraram que havia oito temas que continuavam aparecendo em todos os documentos.

Privacidade e responsabilidade foram dois dos temas éticos mais comuns, assim como a segurança/segurança da IA. Transparência/explicabilidade também foi um objetivo comumente citado, com muitas tentativas de tornar os algoritmos mais explicáveis ao longo de 2019. Justiça/não discriminação foi outro foco ético, refletindo as crescentes preocupações sobre viés de dados. Garantir o controle humano da tecnologia e não entregar o poder de decisão à IA foi fortemente mencionado. Responsabilidade profissional foi o sétimo tema comum encontrado pelos pesquisadores. Finalmente, os pesquisadores encontraram menções contínuas à promoção de valores humanos na documentação de ética em IA que examinaram.

A equipe de pesquisa forneceu quebras qualitativas e quantitativas de como esses temas se manifestaram dentro da documentação de ética em IA em seu artigo e em um mapa acompanhante. O mapa exibe onde cada um dos temas foi mencionado.

A equipe de pesquisa observou que grande parte da discussão sobre ética em IA girava em torno da preocupação com valores e direitos humanos. Como nota o artigo de pesquisa:

“64% de nossos documentos continham uma referência a direitos humanos, e cinco documentos [14%] tomaram direitos humanos internacionais como um quadro para seu esforço geral.”

Referências a direitos humanos e valores foram mais comuns em documentos produzidos por grupos do setor privado e da sociedade civil. Isso indica que as empresas de IA do setor privado não estão preocupadas apenas com lucros, mas também com produzir IA de forma ética. Enquanto isso, as agências governamentais parecem menos preocupadas ou cientes da ética em IA em geral, com menos da metade dos documentos relacionados à IA originários de agências governamentais se preocupando com a ética em IA.

Os pesquisadores também observaram que, se os documentos que examinaram eram mais recentes, eram mais prováveis de abordar todos os oito temas mais proeminentes em vez de apenas alguns. Esse fato implica que as ideias por trás do que constitui o uso ético de IA estão começando a se solidificar entre aqueles que lideram a discussão sobre ética em IA. Finalmente, os pesquisadores afirmam que o sucesso desses princípios em orientar o desenvolvimento de IA dependerá de quão bem integrados eles estão na comunidade de desenvolvimento de IA em geral. Os pesquisadores afirmam no artigo:

“Além disso, os princípios são um ponto de partida para a governança, não um fim. Por si só, um conjunto de princípios é improvável de ser mais do que suavemente persuasivo. Seu impacto provavelmente dependerá de como está incorporado em um ecossistema de governança maior, incluindo, por exemplo, políticas relevantes (por exemplo, planos nacionais de IA), leis, regulamentações, mas também práticas profissionais e rotinas diárias.”