Nueva investigación muestra cómo la IA puede actuar como mediadora

Una nueva investigación de la Universidad de Cornell muestra cómo la inteligencia artificial (IA) puede desempeñar un papel en la mediación de conversaciones. Esto ocurre en un momento de distanciamiento social y conversaciones remotas debido a una pandemia.

Según el nuevo estudio, los humanos confiaron más en los sistemas de inteligencia artificial que en las personas con las que estaban hablando cuando tenían conversaciones difíciles. Los sistemas de inteligencia artificial eran “sugerencias de respuesta inteligentes” en los textos.

El nuevo estudio se titula “IA como una zona de crumple moral: Los efectos de la comunicación mediada por IA en la atribución y la confianza”. Fue publicado en línea en la revista Computers in Human Behavior.

Jess Hohenstein es un estudiante de doctorado en el campo de la ciencia de la información. Es el primer autor del documento.

“Encontramos que cuando las cosas salen mal, las personas toman la responsabilidad que de otra manera habría sido designada a su pareja humana y designan parte de esa responsabilidad al sistema de inteligencia artificial”, dijo Hohenstein. “Esto introduce una posibilidad de tomar la IA y utilizarla como mediadora en nuestras conversaciones”.

Detectar cuándo las cosas van mal

Durante una conversación, el algoritmo puede analizar el lenguaje para detectar el momento en que las cosas van mal. Luego puede sugerir ciertas estrategias de resolución de conflictos, según Hohenstein.

El objetivo principal del estudio fue examinar las diferentes formas sutiles y significativas en que los sistemas de IA, como las respuestas inteligentes, pueden alterar la forma en que los humanos interactúan. Según los investigadores, algo tan pequeño como seleccionar una respuesta que no es completamente precisa puede cambiar drásticamente los diferentes aspectos de una conversación. Ese lenguaje a menudo se selecciona para ahorrar tiempo de escritura, y puede tener un efecto directo en las relaciones.

Malte Jung es coautor del estudio y profesor asistente de ciencia de la información. También es director del laboratorio Robots in Groups, que estudia cómo los robots cambian la dinámica de los grupos.

“La comunicación es tan fundamental para cómo formamos percepciones de los demás, cómo formamos y mantenemos relaciones, o cómo somos capaces de lograr algo trabajando juntos”, dijo Jung.

“Este estudio se encuentra dentro de la agenda más amplia de comprender cómo estos nuevos sistemas de IA afectan nuestra capacidad para interactuar”, continuó Jung. “A menudo pensamos en cómo el diseño de los sistemas afecta cómo interactuamos con ellos, pero menos estudios se centran en la pregunta de cómo las tecnologías que desarrollamos afectan cómo las personas interactúan entre sí”.

Mejor comprensión de la interacción humana

El estudio puede ayudar a comprender las formas en que las personas perciben y interactúan con los ordenadores. También puede ayudar a mejorar la comunicación humana, mediante el uso de orientación sutil y recordatorios de IA.

Hohenstein y Jung querían saber si el sistema de IA podría absorber el “choque” de una conversación.

“Hay un mecanismo físico en la parte delantera del coche que está diseñado para absorber la fuerza del impacto y asumir la responsabilidad de minimizar los efectos del choque”, dijo Hohenstein. “Aquí vemos que el sistema de IA absorbe parte de la responsabilidad moral”.

La investigación fue apoyada en parte por la Fundación Nacional de Ciencia.