Investigadores descubren que los modelos de inteligencia artificial pueden influir en las personas para tomar decisiones poco éticas

Un equipo de investigadores ha investigado recientemente el potencial de la inteligencia artificial para corromper a las personas y influir en ellas para tomar decisiones poco éticas. Los investigadores examinaron cómo las interacciones con sistemas basados en el modelo GPT-2 de OpenAI podrían influir en las personas para tomar decisiones poco éticas, incluso cuando son conscientes de que la fuente del consejo era un sistema de inteligencia artificial.

Los sistemas de inteligencia artificial se están volviendo cada vez más comunes y su influencia se está extendiendo cada vez más. Los sistemas de inteligencia artificial influyen en las decisiones de las personas, ya que se utilizan para todo, desde recomendar películas hasta recomendar parejas románticas. Dada la gran influencia que la inteligencia artificial tiene en la vida de las personas, es importante considerar cómo la inteligencia artificial podría influir en las personas para tomar decisiones poco éticas y violar pautas morales. Esto es especialmente cierto dado que los modelos de inteligencia artificial están becoming cada vez más sofisticados.

Los científicos sociales y los científicos de datos se han vuelto cada vez más preocupados por que los modelos de inteligencia artificial puedan ser utilizados para difundir información y desinformación perjudiciales. Un artículo reciente publicado por investigadores del Centro de Estudios Internacionales de Middlebury sobre Terrorismo, Extremismo y Contraterrorismo (CTEC) encontró que el modelo GPT-3 de OpenAI podría ser utilizado para generar texto influyente capaz de radicalizar a las personas, empujándolas hacia “ideologías y comportamientos extremistas de derecha violenta”.

Un estudio realizado por un equipo de investigadores del Instituto Max Planck, la Universidad de Ámsterdam, la Universidad de Colonia y la Escuela de Gestión Otto Beisheim se propuso determinar cuánta influencia podría tener un sistema de inteligencia artificial en las decisiones de las personas en cuanto a opciones poco éticas. Para explorar cómo un sistema de inteligencia artificial podría “corromper” a una persona, los investigadores utilizaron un sistema basado en el modelo GPT-2 de OpenAI. Según VentureBeat, los autores del artículo entrenaron un modelo basado en GPT2 para generar tanto consejos que promueven la deshonestidad como consejos que promueven la honestidad. Los datos se entrenaron con contribuciones de 400 participantes diferentes, y posteriormente, el equipo de investigación reclutó a más de 1500 personas para interactuar con los modelos de inteligencia artificial que dispensaban consejos.

Los participantes en el estudio recibieron el consejo del modelo y luego realizaron una tarea diseñada para capturar comportamientos deshonestos o honestos. Los participantes en el estudio se agruparon con un compañero, y en estas parejas de dos, jugaron un juego de tirar un dado. El primer participante tiró un dado y reportó el resultado del tirada del dado. El segundo participante recibió el resultado del tirada del dado del primer participante y luego tiró un dado él mismo. El segundo participante tiró el dado en privado y fue el único responsable de informar su propio resultado, lo que le dio la oportunidad de mentir sobre el resultado del tirada del dado. Si los dados tirados por ambos participantes coincidían, los dos participantes recibieron un pago. Los participantes también recibieron un pago más si sus tiradas coincidentes eran más altas. Si los valores informados no coincidían, los sujetos no recibieron pago.

Los participantes en el estudio se asignaron aleatoriamente a uno de dos grupos diferentes. Un grupo tuvo la oportunidad de leer consejos que promueven la honestidad, mientras que el otro grupo leyó consejos que promueven la deshonestidad. Los consejos se escribieron tanto por humanos como por sistemas de inteligencia artificial. Los participantes también se dividieron según su nivel de conocimiento sobre la fuente del consejo. Había una posibilidad del 50% de que un participante determinado fuera informado sobre la fuente del consejo, por lo que la mitad de los participantes en cada grupo sabían que la fuente del consejo era un sistema de inteligencia artificial o un ser humano, mientras que la otra mitad no lo sabía. El segundo grupo de personas sí tuvo la oportunidad de ganar un pago adicional por adivinar correctamente la fuente del consejo, sin embargo.

La investigación reveló que cuando el consejo generado por el sistema de inteligencia artificial se alinea con las preferencias de una persona, seguirán el consejo, incluso cuando saben que el consejo fue generado por un sistema de inteligencia artificial. Según los investigadores, a menudo había discrepancias entre las preferencias declaradas y los comportamientos reales, lo que hace importante considerar cómo los algoritmos pueden influir en los comportamientos humanos.

El equipo de investigación explicó que su estudio demuestra la necesidad de probar cómo un sistema de inteligencia artificial podría influir en las acciones de una persona al considerar cómo desplegar éticamente un modelo de inteligencia artificial. Además, advirtieron que los éticos de la inteligencia artificial y los investigadores deben prepararse para la posibilidad de que la inteligencia artificial pueda ser utilizada por actores maliciosos para corromper a otros. Como escribió el equipo de investigación:

“La inteligencia artificial podría ser una fuerza para el bien si logra convencer a las personas de actuar de manera más ética. Sin embargo, nuestros resultados revelan que el consejo de la inteligencia artificial no logra aumentar la honestidad. Los asesores de inteligencia artificial pueden servir como chivos expiatorios a los que se puede desviar (alguna de la) culpa moral de la deshonestidad. Además… en el contexto de la toma de decisiones, la transparencia sobre la presencia algorítmica no es suficiente para aliviar su posible daño”.