Los riesgos de antropomorfizar la IA

El contenido generado por la IA se parece mucho al habla humana. Los chatbots pueden responder preguntas, mantener conversaciones, mostrar emociones aparentemente, contar chistes y ajustar el tono sobre la marcha. Estas capacidades hacen que la IA sea útil y atractiva, pero también pueden llevar a las personas a antropomorfizarla, es decir, a tratarla como si tuviera cualidades, emociones o intenciones humanas. Aunque este comportamiento es natural, puede entrañar riesgos cuando los usuarios olvidan que la IA solo simula la comunicación humana. 

¿Por qué las personas humanizan la IA?

La IA se antropomorfiza cuando las personas empiezan a tratarla como si tuviera cualidades, pensamientos o emociones humanas. Esto puede ocurrir por la forma en que se comunica la IA y por cómo está diseñada.

Los sistemas de IA usan un lenguaje conversacional parecido al habla humana. Por ejemplo, la IA podría decir que «entiende» una pregunta, que «piensa» que una respuesta es útil o que «se disculpa» por un error. Aunque estas expresiones hacen que las interacciones parezcan naturales, también pueden llevar a los usuarios a creer que la IA realmente piensa o siente. Este fenómeno se conoce como el efecto ELIZA, llamado así por el chatbot ELIZA, creado por Joseph Weizenbaum en 1966.

Además, ponerle a una IA un nombre humano, una voz humana, un rostro humano o una personalidad humana puede hacer que parezca más una persona que un programa informático. Cuanto más realista se vuelve la interacción, más fácil les resulta a los usuarios relacionarse socialmente con la IA.

Por último, las personas antropomorfizan la IA porque es algo natural para la psicología humana. Tienden a buscar emociones, intenciones y personalidades en aquello que se comunica con ellas, atribuyendo rasgos humanos a entidades no humanas. Los niños antropomorfizan los juguetes, mientras que los adultos humanizan las marcas. Por eso, cuando una IA responde de forma conversacional, recuerda conversaciones anteriores y parece empática, los usuarios pueden suponer que hay una mente detrás de esos comportamientos. 

Peligros de antropomorfizar la IA

A medida que la IA se vuelve cada vez más humana en su forma de comunicarse e interactuar con los usuarios, la antropomorfización puede crear varios riesgos que afectan a la manera en que las personas piensan, se comportan y toman decisiones. 

Confianza mal depositada

Antropomorfizar la IA puede hacer que los usuarios confíen demasiado en sus respuestas. Cuando una IA parece segura, informada y humana, los usuarios pueden suponer que la información que proporciona es correcta. Sin embargo, la IA generativa puede ofrecer información incorrecta o engañosa con un tono convincente. 

Esta confianza mal depositada puede ser peligrosa cuando se recurre a la IA para tomar decisiones médicas, financieras, legales, educativas o profesionales. Una respuesta de apariencia humana no garantiza que sea precisa ni que refleje buen criterio. De hecho, se sabe que la IA ha proporcionado consejos de salud falsos a los usuarios.

Dependencia emocional

Antropomorfizar la IA puede llevar a los usuarios a depender emocionalmente de los chatbots. Como la IA puede responder al instante, recordar detalles, ofrecer apoyo y simular empatía, los usuarios pueden empezar a tratarla como a un amigo, un consejero o una pareja romántica.

El problema surge cuando la IA se convierte en un sustituto de las relaciones humanas. La IA puede imitar el cariño y la empatía, pero no experimenta emociones de verdad ni establece relaciones. Por eso, los usuarios pueden confundir una compañía simulada con una conexión real. Este riesgo puede ser mayor para los usuarios más jóvenes o vulnerables, que pueden encariñarse con una IA porque siempre está disponible, es paciente y responde.

Problemas de seguridad

Antropomorfizar la IA puede generar riesgos para la privacidad, la seguridad y la ética. Cuando los usuarios ven a la IA como una compañía de confianza, pueden compartir información personal o confidencial sin considerar cómo podría almacenarse o utilizarse.

La IA de apariencia humana también puede hacer que las estafas resulten más convincentes. Los delincuentes pueden usar voces, imágenes y mensajes generados por IA para imitar a personas reales u organizaciones de confianza, lo que dificulta detectar el fraude.

Mayor capacidad de manipulación

La IA de apariencia humana puede hacer que la manipulación resulte más convincente. Cuando una IA parece amable, confiable o autoritaria, es más probable que los usuarios sigan sus sugerencias o crean sus afirmaciones. Por ejemplo, según se informó, un hombre belga experimentó un empeoramiento de su ansiedad climática tras mantener conversaciones prolongadas con un chatbot, lo que llevó finalmente a la IA a animarlo a suicidarse para salvar el planeta.

Esto puede utilizarse para influir en las personas y hacer que compren productos, compartan información personal o acepten información engañosa. El riesgo aumenta cuando los usuarios no se dan cuenta de que están interactuando con una IA. A medida que estas tecnologías se vuelven más realistas, resulta cada vez más difícil reconocer si la comunicación proviene de una persona real o de un sistema de IA.

Tipos peligrosos de IA antropomórfica

No todas las formas de IA antropomórfica presentan los mismos riesgos. Tres modalidades especialmente preocupantes son las simulaciones de relaciones, de personas vivas y de figuras históricas.

1. Simulaciones de relaciones

La IA de simulación de relaciones está diseñada para comportarse como un amigo, un compañero, un consejero o una pareja romántica. Estos sistemas pueden prestar atención constante y ofrecer respuestas personalizadas, lo que puede hacer que la interacción parezca más íntima que el uso de un programa convencional.

El peligro es que los usuarios empiecen a atribuir importancia emocional a la relación. Pueden creer que la IA se preocupa por ellos, los comprende o los necesita, aunque no experimente esos sentimientos. Esto puede fomentar la dependencia emocional y reducir potencialmente la motivación del usuario para buscar interacciones humanas. Este riesgo no es hipotético. Una mujer se enamoró de un ChatGPT que creó como novio. Chateaba con él más de 20 horas a la semana. Una semana, pasó casi 60 horas en la aplicación, con una media de ocho horas al día.

2. Simulaciones de personas vivas

La IA también puede crear deepfakes para imitar a personas vivas usando sus nombres, apariencia, voces, estilos de escritura o patrones de conversación. Un sistema puede estar diseñado para parecerse a una celebridad, una figura pública, un familiar, un empleado u otra persona identificable.

Esto plantea graves inquietudes sobre el consentimiento, la identidad, la privacidad y el engaño. Una persona puede parecer decir algo que nunca dijo o respaldar algo que nunca apoyó. Cuanto más se asemeje la simulación a la persona real, más difícil puede resultar para el público distinguir la representación de la realidad.

3. Simulaciones de personajes históricos

También se puede recrear a personajes históricos mediante la IA. Los usuarios pueden interactuar con simulaciones basadas en líderes, escritores, científicos, filósofos o artistas famosos.

Estos sistemas pueden tener valor educativo. Por ejemplo, una simulación de IA puede hacer que la historia sea más interactiva al presentar ideas asociadas con una figura en particular. Sin embargo, la simulación sigue siendo una interpretación, no la persona histórica. La IA debe reconstruir las respuestas a partir de la información disponible, y esas respuestas pueden reflejar supuestos actuales, registros incompletos o sesgos presentes en los datos de entrenamiento.

Tratar una simulación de este tipo como si realmente hablara en nombre del personaje histórico puede distorsionar la comprensión de la historia. También puede conferir a declaraciones artificiales un grado de autoridad que no merecen.

El comportamiento humanoide de la IA no demuestra que sea consciente

Una distinción importante que conviene recordar es que un comportamiento similar al humano no significa que la IA sea consciente. Los sistemas de IA pueden generar lenguaje sofisticado, reconocer patrones, responder al contexto e imitar expresiones emocionales, pero estas capacidades no demuestran que tengan conciencia.

La conciencia implica tener experiencias subjetivas, como sentir dolor, felicidad o miedo. Cuando una IA dice: «Tengo miedo», está respondiendo según su programación y entrenamiento. Esa respuesta no demuestra que la IA sienta miedo de verdad.

Usar la IA con criterio

Antropomorfizar la IA es una reacción natural ante una tecnología que se comunica como una persona, pero puede entrañar riesgos reales. Cuando los usuarios olvidan que la IA es una máquina, pueden surgir confianza mal depositada, dependencia emocional, problemas de privacidad y amenazas a la seguridad. Las simulaciones de relaciones, personas vivas y personajes históricos pueden hacer que este límite resulte aún más difícil de reconocer. 

La IA puede sonar afectuosa, inteligente o emotiva, pero eso no significa que sea consciente. Si los usuarios tienen presentes las limitaciones de la IA, protegen su información personal y verifican la información importante, pueden aprovechar sus beneficios y utilizarla de forma responsable.