Estudio sugiere que los robots son más persuasivos cuando pretenden ser humanos

Los avances en la inteligencia artificial han creado bots y máquinas que pueden pasar por humanos si interactúan con las personas exclusivamente a través de un medio digital. Recientemente, un equipo de investigadores de ciencias de la computación ha estudiado cómo los robots/máquinas y los humanos interactúan cuando los humanos creen que los robots también son humanos. Según ScienceDaily, los resultados del estudio encontraron que las personas consideran que los robots/chatbots son más persuasivos cuando creen que los bots son humanos.

Talal Rahwan, profesor asociado de Ciencias de la Computación en la Universidad de Nueva York en Abu Dabi, ha liderado recientemente un estudio que examinó cómo los robots y los humanos interactúan entre sí. Los resultados del experimento se publicaron en Nature Machine Intelligence en un informe llamado Transparencia-Eficiencia en la Cooperación Humano-Máquina. Durante el curso del estudio, los sujetos de prueba fueron instruidos para jugar un juego cooperativo con un compañero, y el compañero puede ser un humano o un bot.

El juego fue una variante del clásico Dilema del Prisionero, donde los participantes deben decidir si cooperar o traicionar al otro en cada ronda. En un dilema del prisionero, un lado puede elegir desertar y traicionar a su compañero para lograr un beneficio a costa del otro jugador, y solo cooperando pueden ambos lados asegurarse de obtener una ganancia.

Los investigadores manipularon a sus sujetos de prueba proporcionándoles información correcta o incorrecta sobre la identidad de su compañero. Algunos de los participantes fueron informados de que estaban jugando con un bot, aunque su compañero era en realidad un humano. Otros participantes estaban en la situación inversa. A lo largo del experimento, el equipo de investigación pudo cuantificar si las personas trataban a los compañeros de manera diferente cuando se les decía que sus compañeros eran bots. Los investigadores rastrearon el grado en que existía un prejuicio contra los bots y cómo estas actitudes impactaban en las interacciones con los bots que se identificaban a sí mismos.

Los resultados del experimento demostraron que los bots eran más efectivos para generar cooperación de sus compañeros cuando el humano creía que el bot era también un humano. Sin embargo, cuando se reveló que el bot era un bot, los niveles de cooperación disminuyeron. Rahwan explicó que, si bien muchos científicos y éticos están de acuerdo en que la IA debería ser transparente sobre cómo se toman las decisiones, es menos claro que también deberían ser transparentes sobre su naturaleza cuando se comunican con otros.

El año pasado, Google (GOOGL ) Duplex causó un gran impacto cuando una demostración en el escenario mostró que era capaz de hacer llamadas telefónicas y reservar citas en nombre de su usuario, generando un habla similar a la humana tan sofisticada que muchas personas la habrían confundido con una persona real si no se les hubiera dicho que estaban hablando con un bot. Desde el debut de Google Duplex, muchos éticos de la IA y los robots expresaron sus preocupaciones sobre la tecnología, lo que llevó a Google a decir que el agente se identificaría como un bot en el futuro. Actualmente, Google Duplex solo se utiliza en una capacidad muy limitada. Pronto verá uso en Nueva Zelanda, pero solo para comprobar los horarios de apertura de los negocios. Los éticos siguen preocupados por el grado en que la tecnología podría ser mal utilizada.

Rahawan argumenta que el estudio reciente demuestra que debemos considerar qué costos estamos dispuestos a pagar a cambio de la transparencia:

“¿Es ético desarrollar un sistema como este? ¿Debemos prohibir que los bots pasen por humanos y obligarlos a ser transparentes sobre quiénes son? Si la respuesta es ‘Sí’, entonces nuestros hallazgos resaltan la necesidad de establecer estándares para el costo de eficiencia que estamos dispuestos a pagar a cambio de tal transparencia.”