Nova Pesquisa Lança Luz Sobre a Confiança Humano-Robô

Uma nova pesquisa, liderada pelo Laboratório de Pesquisa do Exército dos EUA, juntamente com o Instituto de Simulações e Treinamento da Universidade Central da Flórida, está lançando luz sobre o nível de confiança que os humanos têm nos robôs. O novo projeto se concentrou na relação entre humanos e robôs e se os humanos dão mais valor ao raciocínio de um robô ou aos seus erros.

A nova pesquisa investigou a equipe humana-agente, ou HAT, e como a confiança humana, carga de trabalho e percepções de um agente são influenciadas pela transparência desses agentes, como robôs, veículos não tripulados e agentes de software. A transparência do agente ocorre quando um humano é capaz de identificar a intenção, o processo de raciocínio e os planos futuros dos agentes.

A nova pesquisa sugere que a confiança humana nos robôs diminui sempre que o robô comete um erro. Isso ocorre independentemente de o robô ter sido transparente em relação ao seu processo de raciocínio.

A nova pesquisa foi publicada na edição de agosto da IEEE-Transactions on Human-Machine Systems. O artigo foi intitulado “Transparência do Agente e Confiabilidade na Interação Humano-Robô: A Influência na Confiança do Usuário e Confiabilidade Percebida”.

As pesquisas tradicionais que lidam com a equipe humana-agente usam agentes inteligentes completamente confiáveis que não cometem erros. No entanto, este novo estudo foi um dos poucos que explorou como a transparência do agente interage com a confiabilidade do agente. O estudo envolveu um robô que cometeu erros enquanto os humanos estavam observando, e os humanos foram então solicitados a dizer se viam o robô como menos confiável. Durante todo o processo, os humanos receberam insights sobre o processo de raciocínio do robô.

A Dra. Julia Wright é a investigadora principal do projeto e é uma pesquisadora no Laboratório de Pesquisa do Exército de Combate do Comando de Desenvolvimento de Capacidades do Exército dos EUA, ou ARL.

“Entender como o comportamento do robô influencia seus colegas de equipe humanos é crucial para o desenvolvimento de equipes humano-robô eficazes, bem como para o design de interfaces e métodos de comunicação entre os membros da equipe”, disse ela. “Esta pesquisa contribui para os esforços de Operações Multidomínio do Exército para garantir a superioridade nas capacidades habilitadas por inteligência artificial. Mas também é interdisciplinar, pois seus resultados informarão o trabalho de psicólogos, robóticos, engenheiros e designers de sistemas que estão trabalhando para facilitar uma melhor compreensão entre humanos e agentes autônomos no esforço para criar colegas de equipe autônomos em vez de apenas ferramentas”.

Este novo projeto foi parte de um projeto maior conhecido como o Projeto de Membro da Esquadra Autônoma (ASM), que é patrocinado pela Iniciativa de Pesquisa de Autonomia do Escritório do Secretário de Defesa. O ASM é um robô de solo pequeno real que é usado dentro de uma esquadra de infantaria. Ele é capaz de se comunicar e interagir com a esquadra.

O estudo envolveu participantes observando equipes de soldados humanos-agente em um ambiente simulado. O ASM fez parte da equipe e moveu-se por um curso de treinamento. A tarefa dos observadores foi monitorar a equipe e avaliar o robô. Ao longo do curso de treinamento, a equipe foi apresentada a vários eventos e obstáculos diferentes. Os soldados foram capazes de navegar por cada um corretamente, mas houve vezes em que o robô não pôde entender o obstáculo e cometeu erros. O robô então compartilhou seu raciocínio por trás de certas ações, bem como o resultado esperado.

O estudo descobriu que os participantes estavam mais preocupados com os erros do robô em comparação com a lógica e o raciocínio subjacentes. A confiabilidade do robô desempenhou um papel importante na confiança e percepções dos participantes. Sempre que o robô cometeu um erro, os observadores classificaram sua confiabilidade como mais baixa.

A confiabilidade e confiança aumentaram sempre que a transparência do agente foi aumentada, ou quando o robô compartilhou detalhes e raciocínio por trás de sua decisão. No entanto, a confiabilidade e confiança ainda eram mais baixas do que os robôs que nunca sofreram um erro. Isso sugeriu que o compartilhamento de raciocínio e lógica subjacente poderia ajudar com alguns dos problemas de confiança e confiabilidade em torno dos robôs.

“Estudos anteriores sugerem que o contexto é importante para determinar a utilidade das informações de transparência”, disse Wright. “Precisamos entender melhor quais tarefas exigem uma compreensão mais aprofundada do raciocínio do agente e como discernir o que essa profundidade envolveria. A pesquisa futura deve explorar maneiras de fornecer informações de transparência com base nos requisitos de tarefa”.

Esta nova pesquisa desempenhará um papel crítico no campo devido ao aumento da interação entre humanos e robôs. Uma das áreas que será mais importante é o militar. Como visto nesses exercícios, robôs e soldados eventualmente estarão lado a lado. Assim como um soldado precisa ter confiança em outro soldado, o mesmo se aplicará aos robôs. Se isso for alcançado e os robôs se tornarem comuns em esquadrões de infantaria, será outro exemplo de inteligência artificial penetrando na indústria de defesa.