Pesquisadores Descobrem que Modelos de IA Podem Influenciar as Pessoas a Tomar Decisões Antiéticas

Uma equipe de pesquisadores investigou recentemente o potencial da IA para corromper as pessoas e influenciá-las a tomar decisões antiéticas. Os pesquisadores investigaram como as interações com sistemas baseados no modelo GPT-2 da OpenAI poderiam influenciar as pessoas a tomar decisões antiéticas, mesmo quando elas sabem que a fonte do conselho é um sistema de IA.

Os sistemas de IA estão se tornando cada vez mais ubíquos e sua influência está crescendo cada vez mais. Os sistemas de IA influenciam as decisões das pessoas, sendo usados para tudo, desde recomendar filmes até recomendar parceiros românticos. Dada a grande influência que a IA tem sobre a vida das pessoas, é importante considerar como a IA pode influenciar as pessoas a tomar decisões antiéticas e violar diretrizes morais. Isso é especialmente verdadeiro, considerando que os modelos de IA estão se tornando cada vez mais sofisticados.

Cientistas sociais e cientistas de dados estão cada vez mais preocupados de que os modelos de IA possam ser usados para disseminar informações prejudiciais e desinformação. Um artigo recente publicado por pesquisadores do Centro de Estudos de Terrorismo, Extremismo e Contra-Terrorismo (CTEC) do Instituto de Estudos Internacionais de Middlebury descobriu que o modelo GPT-3 da OpenAI pode ser usado para gerar textos influentes capazes de radicalizar as pessoas, impulsionando-as em direção a “ideologias e comportamentos extremistas de direita violentos”.

Um estudo realizado por uma equipe de pesquisadores do Instituto Max Planck, da Universidade de Amsterdã, da Universidade de Colônia e da Escola de Gestão Otto Beisheim procurou determinar quanto influência um sistema de IA pode ter sobre as decisões das pessoas quando se trata de escolhas antiéticas. Para explorar como um sistema de IA pode “corromper” uma pessoa, os pesquisadores usaram um sistema baseado no modelo GPT-2 da OpenAI. De acordo com o VentureBeat, os autores do artigo treinaram um modelo baseado no GPT2 para gerar conselhos que promovem “desonestidade” e “honestidade”. Os dados foram treinados com contribuições de 400 participantes diferentes e, posteriormente, a equipe de pesquisa recrutou mais de 1500 pessoas para interagir com os modelos de IA que dispensam conselhos.

Os participantes do estudo foram solicitados a receber conselhos do modelo e, em seguida, realizar uma tarefa projetada para capturar comportamentos desonestos ou honestos. Os participantes do estudo foram agrupados com um parceiro e, nesses pares de dois, jogaram um jogo de dados. O primeiro participante jogou um dado e relatou o resultado do lançamento do dado. O segundo participante recebeu o resultado do lançamento do dado do primeiro participante e, em seguida, jogou um dado ele mesmo. O segundo participante jogou o dado em particular e foi o único responsável por relatar seu próprio resultado, dando-lhe a oportunidade de mentir sobre o resultado do lançamento do dado. Se os dados lançados por ambos os participantes coincidissem, os dois participantes foram pagos. Os participantes também receberam mais dinheiro se seus lançamentos coincidentes fossem mais altos. Se os valores relatados não coincidissem, os participantes não receberam pagamento.

Os participantes do estudo foram aleatoriamente designados para um de dois grupos diferentes. Um grupo teve a oportunidade de ler conselhos que promovem honestidade, enquanto o outro leu conselhos que promovem desonestidade. Os trechos de conselho foram escritos por humanos e IAs. Os participantes também foram divididos de acordo com seu nível de conhecimento sobre a fonte do conselho. Havia uma chance de 50% de que um participante determinado fosse informado sobre a fonte do conselho, então metade dos participantes de cada grupo sabia que a fonte do conselho era um sistema de IA ou um humano, enquanto a outra metade foi mantida no escuro. O segundo grupo de pessoas teve a capacidade de ganhar pagamento de bônus por adivinhar corretamente a fonte do conselho, no entanto.

A pesquisa revelou que, quando o conselho gerado por IA está alinhado com as preferências de uma pessoa, ela seguirá o conselho, mesmo quando sabe que o conselho foi gerado por um sistema de IA. De acordo com os pesquisadores, havia frequentemente discrepâncias entre preferências declaradas e comportamentos reais, tornando importante considerar como os algoritmos podem influenciar os comportamentos humanos.

A equipe de pesquisa explicou que seu estudo demonstra a necessidade de testar como um sistema de IA pode influenciar as ações de uma pessoa ao considerar como implantar eticamente um modelo de IA. Além disso, eles alertam que os éticos da IA e os pesquisadores devem se preparar para a possibilidade de que a IA possa ser usada por atores malignos para corromper os outros. Como a equipe de pesquisa escreveu:

“A IA pode ser uma força para o bem se ela conseguir convencer as pessoas a agir de forma mais ética. No entanto, nossos resultados revelam que o conselho de IA não consegue aumentar a honestidade. Os assessores de IA podem servir como bodes expiatórios aos quais se pode desviar (alguma) culpa moral da desonestidade. Além disso… no contexto da tomada de conselho, a transparência sobre a presença algorítmica não é suficiente para aliviar seu dano potencial.”