Nueva investigación arroja luz sobre la confianza humana en los robots

Una nueva investigación, liderada por el Laboratorio de Investigación del Ejército de los Estados Unidos junto con el Instituto de Simulaciones y Capacitación de la Universidad de Florida Central, está arrojando luz sobre el nivel de confianza que los humanos tienen en los robots. El nuevo proyecto se centró en la relación entre humanos y robots, y si los humanos otorgan más valor a la lógica de un robot o a sus errores.

La nueva investigación examinó el trabajo en equipo humano-agente, o HAT, y cómo la confianza humana, la carga de trabajo y las percepciones de un agente son influenciadas por la transparencia de esos agentes, como robots, vehículos no tripulados y agentes de software. La transparencia del agente se refiere a cuando un humano puede identificar la intención, el proceso de razonamiento y los planes futuros de los agentes.

La nueva investigación sugiere que la confianza humana en los robots disminuye cada vez que el robot comete un error. Esto es independiente de si el robot ha sido transparente con su proceso de razonamiento o no.

La nueva investigación se publicó en la edición de agosto de IEEE-Transactions on Human-Machine Systems. El artículo se tituló “Transparencia y confiabilidad del agente en la interacción humano-robot: La influencia en la confianza y la confiabilidad percibida del usuario”.

La investigación tradicional que trata del trabajo en equipo humano-agente utiliza agentes inteligentes completamente confiables que no cometen errores. Sin embargo, este nuevo estudio fue uno de los pocos que exploró cómo la transparencia del agente interactúa con la confiabilidad del agente. El estudio involucró a un robot que cometió errores mientras los humanos lo observaban, y luego se les preguntó si veían al robot como menos confiable. Durante todo el proceso, a los humanos se les dio una visión del proceso de razonamiento del robot.

La Dra. Julia Wright es la investigadora principal del proyecto, y es una investigadora del Laboratorio de Investigación del Ejército de los Estados Unidos, o ARL.

“Entender cómo el comportamiento del robot influye en sus compañeros humanos es crucial para el desarrollo de equipos humano-robot efectivos, así como para el diseño de interfaces y métodos de comunicación entre los miembros del equipo”, dijo. “Esta investigación contribuye a los esfuerzos del Ejército para garantizar la superioridad en capacidades habilitadas por inteligencia artificial. Pero también es interdisciplinaria, ya que sus hallazgos informarán el trabajo de psicólogos, roboticistas, ingenieros y diseñadores de sistemas que trabajan para facilitar una mejor comprensión entre humanos y agentes autónomos con el fin de crear compañeros autónomos en lugar de simples herramientas”.

Este nuevo proyecto fue parte de un proyecto más grande conocido como el Proyecto de Miembro de Escuadra Autónomo (ASM) que es patrocinado por la Iniciativa de Investigación de Autonomía del Secretario de Defensa. El ASM es un robot terrestre pequeño real que se utiliza dentro de una escuadra de infantería. Puede comunicarse e interactuar con la escuadra.

El estudio involucró a participantes que observaron equipos de soldados humano-agente en un entorno simulado. El ASM formaba parte del equipo y se movía a través de un curso de capacitación. La tarea de los observadores era monitorear al equipo y evaluar al robot. A lo largo del curso de capacitación, al equipo se le presentaron varios eventos y obstáculos. Los soldados pudieron navegar cada uno correctamente, pero hubo veces en que el robot no pudo entender el obstáculo y cometió errores. El robot luego compartió su razonamiento detrás de ciertas acciones, así como el resultado esperado.

El estudio encontró que los participantes se preocupaban más por los errores del robot en comparación con la lógica y el razonamiento subyacentes detrás de ellos. La confiabilidad del robot jugó un papel importante en la confianza y las percepciones de los participantes. Cada vez que el robot cometió un error, los observadores calificaron su confiabilidad como más baja.

La confiabilidad y la confianza aumentaron cuando se aumentó la transparencia del agente, o cuando el robot compartió detalles y razonamiento detrás de su decisión. Sin embargo, la confiabilidad y la confianza aún eran más bajas que las de los robots que nunca sufrieron un error. Esto sugirió que el intercambio de razonamiento y lógica subyacente podría ayudar con algunos de los problemas de confianza y confiabilidad que rodean a los robots.

“Estudios anteriores sugieren que el contexto es importante para determinar la utilidad de la información de transparencia”, dijo Wright. “Necesitamos entender mejor qué tareas requieren una comprensión más profunda del razonamiento del agente y cómo discernir qué profundidad implicaría. La investigación futura debería explorar formas de entregar información de transparencia basada en los requisitos de la tarea”.

Esta nueva investigación desempeñará un papel crítico en el campo debido a la creciente interacción que está teniendo lugar entre humanos y robots. Uno de los ámbitos que será más importante es el militar. Como se ve en estos ejercicios, los robots y los soldados eventualmente estarán lado a lado. Al igual que un soldado debe tener confianza en otro soldado, lo mismo se aplicará a los robots. Si se logra esto y los robots se vuelven comunes en las escuadras de infantería, será otro ejemplo de la inteligencia artificial que penetra en la industria de la defensa.