Nova Perspectiva sobre a Falta de Confiança na Inteligência Artificial

Pesquisas recentes estão fornecendo novas perspectivas sobre o que determina o nível de confiança das pessoas na inteligência artificial (IA). Uma equipe da Universidade de Kansas, liderada pelo psicólogo Omri Gillath, detalhou como essa relação é afetada pelo estilo de relacionamento ou apego das pessoas na vida real.

A equipe era composta por especialistas de diversas áreas, como psicologia, engenharia, negócios e medicina.

O artigo foi publicado na revista Computers in Human Behavior.

De acordo com a pesquisa, as pessoas são mais propensas a ser menos confiáveis em sistemas de IA se elas estiverem ansiosas sobre seus relacionamentos reais com humanos. O artigo também detalha como é possível aumentar a confiança na inteligência artificial lembrando as pessoas de seus relacionamentos humanos estáveis.

Ainda há um alto nível de desconfiança em relação às novas tecnologias de inteligência artificial, apesar de o mercado global de inteligência artificial estar estimado em $39,9 bilhões em 2019.

Aumentando a Confiança

A equipe de pesquisa não apenas identificou o problema da falta de confiança nos sistemas de IA, mas também encontrou maneiras de aumentar a confiança. Os estudos sobre relacionamentos humanos sugeriram algumas coisas.

Primeiro, as pessoas que têm ansiedade de apego são previsíveis para ter menos confiança na inteligência artificial. Em segundo lugar, ao aumentar a ansiedade de apego, a confiança na inteligência artificial foi reduzida. Por fim, a confiança na inteligência artificial aumenta quando a segurança do apego é aumentada.

Gillath é professor de psicologia em KU.

“A maioria das pesquisas sobre confiança na inteligência artificial se concentra em maneiras cognitivas de aumentar a confiança. Aqui, nós tomamos uma abordagem diferente, focando em uma rota ‘relacional afetiva’ para aumentar a confiança, vendo a IA como um parceiro ou membro da equipe, e não como um dispositivo”, disse Gillath.

“Encontrar associações entre o estilo de apego de uma pessoa — uma diferença individual que representa a forma como as pessoas se sentem, pensam e se comportam em relacionamentos próximos — e sua confiança na IA abre caminho para novas compreensões e possivelmente novas intervenções para induzir confiança.”

Com sua pesquisa, a equipe está trazendo uma nova perspectiva sobre a inteligência artificial e a confiança que a cerca, especificamente o que afeta essa confiança. Isso pode desempenhar um papel na facilitação da introdução da IA no local de trabalho e em novos ambientes.

“Os resultados mostram que você pode prever e aumentar os níveis de confiança das pessoas em não-humanos com base em seus relacionamentos humanos iniciais”, disse Gillath. “Isso tem o potencial de melhorar a adoção de novas tecnologias e a integração da IA no local de trabalho.”

Desconfiança da IA

A desconfiança da IA entre a população não é nada novo. Nos últimos anos, houve muito ceticismo em torno da tecnologia e sua implementação. Isso não é de forma alguma infundado, pois vários problemas surgiram ao longo dos anos para causar essa desconfiança.

Recentemente, cientistas internacionais de algumas das principais instituições do mundo criticaram a falta de transparência na pesquisa de IA. Em junho de 2019, os Estados Unidos viram seu primeiro caso de prisão indevida devido a um algoritmo ruim. Existem muitos mais exemplos, como viés na visão computacional e o uso da IA por governos para combate e vigilância.

Embora todos esses exemplos possam parecer distantes da experiência pessoal de uma pessoa com a IA, eles desempenham um papel inegável na formação da percepção geral da tecnologia. Novas pesquisas, como as que estão saindo da Universidade de Kansas, fornecem insights necessários para abordar alguns desses problemas.