Nova Pesquisa Mostra Como a IA Pode Atuar como Mediadora

Uma nova pesquisa da Universidade Cornell mostra como a inteligência artificial (IA) pode desempenhar um papel na mediação de conversas. Isso ocorre em um momento de distanciamento social e conversas remotas devido a uma pandemia.

De acordo com o novo estudo, os humanos confiaram mais nos sistemas de inteligência artificial do que nas pessoas com quem estavam conversando ao ter conversas difíceis. Os sistemas de inteligência artificial eram “respostas inteligentes” sugeridas em textos.

O novo estudo é intitulado “IA como uma Zona de Amortecimento Moral: Os Efeitos da Comunicação Mediada por IA na Atribuição e Confiança.” Foi publicado online na revista Computadores no Comportamento Humano.

Jess Hohenstein é um estudante de doutorado no campo da ciência da informação. Ele é o primeiro autor do artigo.

“Descobrimos que, quando as coisas dão errado, as pessoas tomam a responsabilidade que teria sido designada ao seu parceiro humano e designam parte disso ao sistema de inteligência artificial”, disse Hohenstein. “Isso introduz um potencial para usar a IA como mediadora em nossas conversas.”

Detectar Quando as Coisas Dão Errado

Durante uma conversa, o algoritmo pode analisar a linguagem para detectar o momento em que as coisas estão dando errado. Em seguida, pode sugerir estratégias de resolução de conflitos, de acordo com Hohenstein.

O objetivo principal do estudo foi examinar as diferentes maneiras sutis e significativas pelas quais os sistemas de IA, como respostas inteligentes, podem alterar a forma como os humanos interagem. De acordo com os pesquisadores, algo tão pequeno quanto selecionar uma resposta que não é completamente precisa pode alterar drasticamente os diferentes aspectos de uma conversa. Essa linguagem é frequentemente selecionada para economizar tempo de digitação e pode ter um efeito direto nas relações.

Malte Jung é coautor do estudo e professor assistente de ciência da informação. Ele também é diretor do laboratório Robots in Groups, que estuda como os robôs alteram a dinâmica de grupo.

“A comunicação é fundamental para como formamos percepções uns dos outros, como formamos e mantemos relacionamentos, ou como somos capazes de realizar algo trabalhando juntos”, disse Jung.

“Este estudo se encaixa na agenda mais ampla de entender como esses novos sistemas de IA afetam nossa capacidade de interagir”, continuou Jung. “Muitas vezes pensamos sobre como o design de sistemas afeta como interagimos com eles, mas menos estudos se concentram na questão de como as tecnologias que desenvolvemos afetam como as pessoas interagem entre si.”

Melhor Entendimento da Interação Humana

O estudo pode ajudar a entender as maneiras pelas quais as pessoas percebem e interagem com computadores. Também pode ajudar a melhorar a comunicação humana, por meio do uso de orientação sutil e lembretes de IA.

Hohenstein e Jung queriam descobrir se o sistema de IA poderia absorver o “choque” de uma conversa.

“Há um mecanismo físico na frente do carro projetado para absorver a força do impacto e assumir a responsabilidade por minimizar os efeitos do acidente”, disse Hohenstein. “Aqui, vemos o sistema de IA absorver parte da responsabilidade moral.”

A pesquisa foi apoiada em parte pela National Science Foundation.