Una nueva investigación muestra cómo la IA puede actuar como mediadores

Una nueva investigación de la Universidad de Cornell muestra cómo la inteligencia artificial (IA) puede desempeñar un papel en la mediación de conversaciones. Esto ocurre en un momento de distanciamiento social y conversaciones remotas debido a una pandemia. 

Según el nuevo estudio, los humanos confiaban más en los sistemas de inteligencia artificial que en las personas reales con las que estaban hablando cuando tenían conversaciones difíciles. Los sistemas de inteligencia artificial eran sugerencias de respuesta “inteligentes” en los textos. 

El nuevo estudio se titula "La IA como una zona de deformación moral: los efectos de la comunicación de IA mediada en la atribución y la confianza". Fue publicado en línea en la revista Computadoras en el comportamiento humano.

Jess Hohenstein es estudiante de doctorado en el campo de la ciencia de la información. Es el primer autor del artículo.

“Descubrimos que cuando las cosas van mal, las personas asumen la responsabilidad que de otro modo habría sido asignada a su pareja humana y asignan parte de eso al sistema de inteligencia artificial”, dijo Hohenstein. “Esto presenta un potencial para tomar la IA y usarla como mediador en nuestras conversaciones”.

Detectar cuando las cosas van mal 

Durante una conversación, el algoritmo puede analizar el lenguaje para detectar el momento en que las cosas van mal. Luego puede sugerir ciertas estrategias de resolución de conflictos, según Hohenstein.

El objetivo principal del estudio era observar las diferentes formas sutiles y significativas en que los sistemas de IA, como las respuestas inteligentes, pueden alterar la forma en que interactúan los humanos. Según los investigadores, algo tan pequeño como seleccionar una respuesta que no sea del todo precisa puede cambiar drásticamente los diferentes aspectos de una conversación. Ese idioma a menudo se selecciona para ahorrar tiempo al escribir y puede tener un efecto directo en las relaciones. 

Malte Jung es coautor del estudio y profesor asistente de ciencias de la información. También es director del laboratorio Robots in Groups, que estudia cómo los robots cambian las dinámicas de grupo. 

“La comunicación es tan fundamental para la forma en que formamos percepciones de los demás, cómo formamos y mantenemos relaciones, o cómo podemos lograr cualquier cosa trabajando juntos”, dijo Jung.

“Este estudio se enmarca dentro de la agenda más amplia de comprender cómo estos nuevos sistemas de IA interfieren con nuestra capacidad de interactuar”, continuó Jung. “A menudo pensamos en cómo el diseño de los sistemas afecta la forma en que interactuamos con ellos, pero menos estudios se centran en la cuestión de cómo las tecnologías que desarrollamos afectan la forma en que las personas interactúan entre sí”.

Mejor comprensión de la interacción humana

El estudio puede ayudar a comprender las formas en que las personas perciben e interactúan con las computadoras. También puede ayudar a mejorar la comunicación humana mediante el uso de una guía sutil y recordatorios de IA.

Hohenstein y Jung querían averiguar si el sistema de IA podía absorber el “choque” de una conversación.

“Hay un mecanismo físico en la parte delantera del automóvil que está diseñado para absorber la fuerza del impacto y asumir la responsabilidad de minimizar los efectos del choque”, dijo Hohenstein. “Aquí vemos que el sistema de IA absorbe parte de la responsabilidad moral”.

La investigación fue apoyada en parte por la Fundación Nacional de Ciencias.