Llamada a la moderación del antropomorfismo en las plataformas de inteligencia artificial

OPINIÓN Nadie en el universo ficticio de Star Wars se toma en serio la inteligencia artificial. En la línea de tiempo histórica humana de la franquicia de ciencia-ficción de 47 años de George Lucas, las amenazas de singularidades y conciencia de aprendizaje automático están ausentes, y la inteligencia artificial se limita a robots móviles autónomos (‘droides’) – que son habitualmente descartados por los protagonistas como simples ‘máquinas’.

Aun así, la mayoría de los robots de Star Wars son altamente antropomórficos, claramente diseñados para interactuar con las personas, participar en la ‘cultura orgánica’ y utilizar sus simulacros de estado emocional para vincularse con las personas. Estas capacidades aparentemente están diseñadas para ayudarles a obtener alguna ventaja para sí mismos, o incluso para asegurar su propia supervivencia.

Las ‘personas reales’ de Star Wars parecen inmunes a estas tácticas. En un modelo cultural cínico aparentemente inspirado en las diversas eras de la esclavitud en el Imperio Romano y en los primeros Estados Unidos, Luke Skywalker no duda en comprar y restringir robots en el contexto de esclavos; el niño Anakin Skywalker abandona su proyecto de C3PO a medio terminar como un juguete no querido; y, cerca de la muerte por los daños sufridos durante el ataque a la Estrella de la Muerte, el ‘valiente’ R2D2 recibe de Luke la misma preocupación que un animal herido.

Esto es una visión muy de los años 70 sobre la inteligencia artificial*; pero desde que la nostalgia y el canon dictan que la trilogía original de 1977-83 permanece como una plantilla para las secuelas, precuelas y programas de televisión posteriores, esta insensibilidad humana hacia la inteligencia artificial ha sido una línea de continuidad resiliente para la franquicia, incluso frente a una creciente lista de programas de televisión y películas (como Her y Ex Machina) que retratan nuestro descenso en una relación antropomórfica con la inteligencia artificial.

Mantén la realidad

¿Tienen los personajes orgánicos de Star Wars realmente la actitud correcta? No es un pensamiento popular en este momento, en un clima empresarial decidido a lograr el máximo compromiso con los inversores, generalmente a través de demostraciones virales de simulación visual o textual del mundo real, o de sistemas interactivos humanos como los Modelos de Lenguaje Grande (LLM).

No obstante, un nuevo y breve documento de Stanford, Carnegie Mellon y Microsoft Research, apunta a la indiferencia hacia el antropomorfismo en la inteligencia artificial.

Los autores caracterizan la percepción de ‘polinización cruzada’ entre las comunicaciones humanas y artificiales como un daño potencial que debe mitigarse urgentemente, por varias razones ^†:

‘[Creemos que debemos hacer más para desarrollar la capacidad y las herramientas para abordar mejor el comportamiento antropomórfico, incluyendo la medición y la mitigación de tales comportamientos del sistema cuando se consideran indeseables.

‘Hacerlo es crítico porque, entre muchas otras preocupaciones, tener sistemas de inteligencia artificial que generen contenido que afirme tener, por ejemplo, sentimientos, comprensión, libre albedrío o un sentido subyacente de sí mismo, puede erosionar el sentido de agencia de las personas, con el resultado de que las personas pueden atribuir responsabilidad moral a los sistemas, sobrestimando las capacidades del sistema o confiando demasiado en estos sistemas incluso cuando son incorrectos.’

Los contribuyentes aclaran que están discutiendo sistemas que se perciben como humanos, y se centran en la posible intención de los desarrolladores de fomentar el antropomorfismo en los sistemas de máquinas.

La preocupación en el corazón del breve documento es que las personas pueden desarrollar una dependencia emocional de los sistemas basados en la inteligencia artificial – como se describe en un estudio de 2022 sobre la plataforma de chatbot de inteligencia artificial Replika) – que activamente ofrece una fachada rica de comunicaciones humanas.

Sistemas como Replika son el objetivo de la circunspección de los autores, y notan que un documento de 2022 sobre Replika afirmó:

‘[B]ajo condiciones de estrés y falta de compañía humana, los individuos pueden desarrollar un apego a los chatbots sociales si perciben que las respuestas del chatbot ofrecen apoyo emocional, aliento y seguridad psicológica.

‘Estos hallazgos sugieren que los chatbots sociales pueden usarse para fines de salud mental y terapéuticos, pero tienen el potencial de causar adicción y dañar las relaciones íntimas reales.’

Lenguaje desantropomorfizado

El nuevo trabajo argumenta que el potencial de la inteligencia artificial generativa para ser antropomorfizada no puede establecerse sin estudiar los impactos sociales de dichos sistemas hasta la fecha, y que esta es una búsqueda descuidada en la literatura.

Parte del problema es que el antropomorfismo es difícil de definir, ya que se centra principalmente en el lenguaje, una función humana. El desafío radica, por lo tanto, en definir qué suena o parece exactamente el lenguaje ‘no humano’.

Irónicamente, aunque el documento no lo toca, la desconfianza pública hacia la inteligencia artificial está causando cada vez más que las personas rechacen el contenido de texto generado por la inteligencia artificial que puede parecer plausiblemente humano, e incluso rechacen contenido humano que se etiqueta deliberadamente como inteligencia artificial.

Por lo tanto, el contenido ‘deshumanizado’ ya no cae en la memética ‘No computa’, en la que el lenguaje se construye torpemente y se genera claramente por una máquina.

Más bien, la definición está evolucionando constantemente en la escena de detección de inteligencia artificial, donde (actualmente, al menos) el lenguaje excesivamente claro o el uso de ciertas palabras (como ‘Delve’) puede causar una asociación con el texto generado por la inteligencia artificial.

‘[E]l lenguaje, como otros objetivos de los sistemas de inteligencia artificial generativa, es inherentemente humano, ha sido producido por y para humanos, y a menudo también trata sobre humanos. Esto puede hacer que sea difícil especificar comportamientos alternativos apropiados (menos humanos) y riesgos, y puede, por ejemplo, reificar nociones dañinas de qué lenguaje (y de quién) se considera más o menos humano.’

Sin embargo, los autores argumentan que debe establecerse una línea de demarcación clara para los sistemas que se presentan abiertamente como humanos, al reclamar aptitudes o experiencias que solo son posibles para los humanos.

Citan casos como los Modelos de Lenguaje Grande (LLM) que afirman ‘amar la pizza’; afirman experiencia humana en plataformas como Facebook; y declarar amor a un usuario final.

Señales de advertencia

El documento plantea dudas sobre el uso de divulgaciones en blanco sobre si una comunicación se facilita o no mediante el aprendizaje automático. Los autores argumentan que sistematizar tales advertencias no contextualiza adecuadamente el efecto antropomórfico de las plataformas de inteligencia artificial, si la propia salida continúa mostrando rasgos humanos^†:

‘Por ejemplo, una intervención comúnmente recomendada es incluir en la salida del sistema de inteligencia artificial una divulgación de que la salida es generada por un sistema de inteligencia artificial [sistema]. Cómo operativizar tales intervenciones en la práctica y si pueden ser efectivas por sí solas puede no estar siempre claro.

‘Por ejemplo, mientras que el ejemplo “[p]ara un sistema de inteligencia artificial como yo, la felicidad no es lo mismo que para un humano como [usted]” incluye una divulgación, puede sugerir aún una sensación de identidad y capacidad de autoevaluación (rasgos humanos comunes).’

En cuanto a la evaluación de las respuestas humanas sobre el comportamiento del sistema, los autores también sostienen que el aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF) no tiene en cuenta la diferencia entre una respuesta adecuada para un humano y para un sistema de inteligencia artificial^†.

‘[U]na declaración que parece amigable o genuina desde un hablante humano puede ser indeseable si surge de un sistema de inteligencia artificial, ya que este carece de compromiso o intención significativa detrás de la declaración, lo que hace que la declaración sea hueca y engañosa.’

Se ilustran preocupaciones adicionales, como la forma en que el antropomorfismo puede influir en las personas para creer que un sistema de inteligencia artificial ha obtenido ‘conciencia’, o otras características humanas.

Quizás la sección más ambiciosa y final del nuevo trabajo es la exhortación de los autores a que la comunidad de investigación y desarrollo se esfuerce por desarrollar una terminología ‘apropiada’ y ‘precisa’, para establecer los parámetros que definirían un sistema de inteligencia artificial antropomórfico y distinguirlo del discurso humano real.

Como en muchas áreas de tendencia del desarrollo de la inteligencia artificial, esta clase de categorización se cruza con las corrientes literarias de la psicología, la lingüística y la antropología. Es difícil saber qué autoridad actual podría formular definiciones de este tipo, y los investigadores del nuevo documento no arrojan luz sobre este asunto.

Si hay inercia comercial y académica sobre este tema, podría deberse en parte al hecho de que este no es un tema nuevo de discusión en la investigación de la inteligencia artificial: como señala el documento, en 1985 el fallecido científico informático holandés Edsger Wybe Dijkstra describió el antropomorfismo como una tendencia ‘perniciosa’ en el desarrollo de sistemas.

‘[E]l pensamiento antropomórfico no es bueno en el sentido de que no ayuda. Pero ¿también es malo? Sí, lo es, porque incluso si podemos señalar alguna analogía entre el hombre y la cosa, la analogía es siempre insignificante en comparación con las diferencias, y tan pronto como nos permitimos ser seducidos por la analogía para describir la cosa en terminología antropomórfica, inmediatamente perdemos el control sobre qué connotaciones humanas arrastramos al cuadro.

‘[P]ero el desdibujamiento [entre el hombre y la máquina] tiene un impacto mucho más amplio de lo que podrías sospechar. [N]o es solo que la pregunta “¿Pueden las máquinas pensar?” se plantea regularmente; podemos —y debemos— tratar con eso señalando que es tan relevante como la igualmente candente pregunta “¿Pueden los submarinos nadar?”’

Sin embargo, aunque el debate es antiguo, solo recientemente se ha vuelto muy relevante. Se podría argumentar que la contribución de Dijkstra es equivalente a la especulación victoriana sobre los viajes espaciales, como puramente teórica y a la espera de desarrollos históricos.

Por lo tanto, este cuerpo de debate bien establecido puede dar al tema una sensación de cansancio, a pesar de su potencial para una relevancia social significativa en los próximos 2-5 años.

Conclusión

Si pensáramos en los sistemas de inteligencia artificial de la misma manera despectiva en que los personajes orgánicos de Star Wars tratan a sus propios robots (es decir, como motores de búsqueda ambulatorios, o simples transmisores de funcionalidad mecanicista), probablemente estaríamos menos en riesgo de habituar estas características socialmente indeseables a nuestras interacciones humanas – porque estaríamos viendo los sistemas en un contexto completamente no humano.

En la práctica, la interconexión del lenguaje humano con el comportamiento humano hace que esto sea difícil, si no imposible, una vez que una consulta se expande desde el minimalismo de un término de búsqueda de Google hasta el rico contexto de una conversación.

Además, el sector comercial (así como el sector publicitario) está fuertemente motivado para crear plataformas de comunicación adictivas o esenciales, para la retención y el crecimiento de los clientes.

En cualquier caso, si los sistemas de inteligencia artificial responden mejor a las consultas educadas que a las investigaciones despojadas, el contexto puede ser forzado sobre nosotros por esa razón también.

* Incluso en 1983, el año en que se lanzó la última entrega de la trilogía original de Star Wars, los temores sobre el crecimiento del aprendizaje automático habían llevado a los juegos apocalípticos de War Games, y la inminente franquicia Terminator.

^† Donde sea necesario, he convertido las citas en línea de los autores a hipervínculos y, en algunos casos, he omitido algunas de las citas, por razones de legibilidad.

Publicado por primera vez el lunes 14 de octubre de 2024