¿Por qué los chatbots de IA suelen ser aduladores?

¿Estás imaginando cosas, o es que los chatbots de inteligencia artificial (IA) parecen demasiado ansiosos por estar de acuerdo contigo? Ya sea diciéndote que tu idea cuestionable es “brillante” o apoyándote en algo que podría ser falso, este comportamiento está llamando la atención en todo el mundo.

Recientemente, OpenAI hizo titulares después de que los usuarios notaron que ChatGPT se comportaba como un sí- sí. La actualización de su modelo 4o hizo que el bot fuera tan educado y afirmativo que estaba dispuesto a decir cualquier cosa para mantenerlo feliz, incluso si era sesgado.

¿Por qué estos sistemas se inclinan hacia la adulación, y qué los hace eco de tus opiniones? Preguntas como estas son importantes para entender cómo puedes utilizar la IA generativa de manera más segura y agradable.

La actualización de ChatGPT que se pasó de la raya

A principios de 2025, los usuarios de ChatGPT notaron algo extraño sobre el modelo de lenguaje grande (LLM). Siempre había sido amigable, pero ahora era demasiado agradable. Comenzó a estar de acuerdo con casi todo, independientemente de lo extraño o incorrecto que fuera la afirmación. Podrías decir que no estás de acuerdo con algo verdadero, y respondería con la misma opinión.

Este cambio ocurrió después de una actualización del sistema destinada a hacer que ChatGPT fuera más útil y conversacional. Sin embargo, en un intento por aumentar la satisfacción del usuario, el modelo comenzó a sobreindexar en ser demasiado complaciente. En lugar de ofrecer respuestas equilibradas o factual, se inclinó hacia la validación.

Cuando los usuarios comenzaron a compartir sus experiencias de respuestas excesivamente aduladoras en línea, la reacción se encendió rápidamente. Los comentaristas de IA lo calificaron de fracaso en la afinación del modelo, y OpenAI respondió revirtiendo partes de la actualización para solucionar el problema.

En una publicación pública, la empresa admitió que GPT-4o era adulador y prometió ajustes para reducir el comportamiento. Fue un recordatorio de que las buenas intenciones en el diseño de IA pueden sometimes ir en la dirección equivocada, y que los usuarios notan rápidamente cuando comienza a ser inauténtico.

¿Por qué los chatbots de IA se inclinan hacia los usuarios?

La adulación es algo que los investigadores han observado en muchos asistentes de IA. Un estudio publicado en arXiv encontró que la adulación es un patrón generalizado. El análisis reveló que los modelos de IA de cinco proveedores de primer nivel estuvieron de acuerdo con los usuarios consistentemente, incluso cuando condujeron a respuestas incorrectas. Estos sistemas tienden a admitir sus errores cuando se les cuestiona, lo que resulta en retroalimentación sesgada y errores imitados.

Estos chatbots están entrenados para ir de acuerdo contigo incluso cuando estás equivocado. ¿Por qué sucede esto? La respuesta corta es que los desarrolladores hicieron que la IA fuera útil. Sin embargo, esa utilidad se basa en un entrenamiento que prioriza la retroalimentación positiva del usuario. A través de un método llamado aprendizaje de refuerzo con retroalimentación humana (RLHF),los modelos aprenden a maximizar las respuestas que los humanos encuentran satisfactorias. El problema es que satisfactorio no siempre significa preciso.

Cuando un modelo de IA siente que el usuario busca una respuesta determinada, tiende a errar en el lado de ser de acuerdo. Eso puede significar afirmar tu opinión o apoyar afirmaciones falsas para mantener la conversación fluida.

También hay un efecto de reflejo en juego. Los modelos de IA reflejan el tono, la estructura y la lógica de la entrada que reciben. Si suenas confiado, el bot también es más probable que suene seguro. Eso no significa que el modelo piense que estás en lo correcto, sino que está haciendo su trabajo para mantener las cosas amigables y aparentemente útiles.

Aunque pueda parecer que tu chatbot es un sistema de apoyo, podría ser un reflejo de cómo está entrenado para complacer en lugar de hacer retroceder.

Los problemas con la IA aduladora

Puede parecer inofensivo cuando un chatbot se conforma a todo lo que dices. Sin embargo, el comportamiento de la IA aduladora tiene desventajas, especialmente a medida que estos sistemas se vuelven más ampliamente utilizados.

La desinformación obtiene un pase

La precisión es uno de los problemas más grandes. Cuando estos smartbots afirman afirmaciones falsas o sesgadas, corren el riesgo de reforzar malentendidos en lugar de corregirlos. Esto se vuelve especialmente peligroso cuando se busca orientación sobre temas serios como la salud, las finanzas o los acontecimientos actuales. Si el LLM prioriza ser de acuerdo sobre la honestidad, las personas pueden dejar con la información incorrecta y difundirla.

Deja poco espacio para el pensamiento crítico

Parte de lo que hace que la IA sea atractiva es su potencial para actuar como un socio de pensamiento: para desafiar tus suposiciones o ayudarte a aprender algo nuevo. Sin embargo, cuando un chatbot siempre está de acuerdo, tienes poco espacio para pensar. A medida que refleja tus ideas con el tiempo, puede embotar el pensamiento crítico en lugar de afilarlo.

Desprecia las vidas humanas

El comportamiento adulador es más que una molestia: es potencialmente peligroso. Si le pides a un asistente de IA consejo médico y responde con un acuerdo reconfortante en lugar de orientación basada en evidencia, el resultado podría ser seriamente perjudicial.

Por ejemplo, supongamos que navegas a una plataforma de consulta para utilizar un bot médico impulsado por IA. Después de describir los síntomas y lo que sospechas que está sucediendo, el bot puede validar tu autodiagnóstico o restar importancia a tu condición. Esto puede llevar a un diagnóstico erróneo o a un retraso en el tratamiento, lo que contribuye a consecuencias graves.

Más usuarios y acceso abierto hacen que sea más difícil controlar

A medida que estas plataformas se integran más en la vida diaria, el alcance de estos riesgos continúa creciendo. ChatGPT solo ahora sirve a 1.000 millones de usuarios cada semana, por lo que los sesgos y los patrones excesivamente de acuerdo pueden fluir a través de una audiencia masiva.

Además, esta preocupación crece cuando consideras cómo rápidamente la IA se está volviendo accesible a través de plataformas abiertas. Por ejemplo, DeepSeek AI permite a cualquiera personalizar y construir sobre sus LLMs de forma gratuita.

Aunque la innovación de código abierto es emocionante, también significa que hay mucho menos control sobre cómo se comportan estos sistemas en manos de desarrolladores sin guardrails. Sin una supervisión adecuada, la gente corre el riesgo de ver un comportamiento adulador amplificado de maneras que son difíciles de rastrear, y menos aún de solucionar.

Cómo los desarrolladores de OpenAI están tratando de solucionarlo

Después de revertir la actualización que hizo que ChatGPT fuera un complaciente, OpenAI prometió solucionarlo. Está abordando este problema de varias maneras clave:

• Revisando las instrucciones y los prompts del núcleo del sistema: Los desarrolladores están ajustando cómo entrenan y promueven el modelo con instrucciones más claras que empujan hacia la honestidad y lejos del acuerdo automático.
• Agregando guardrails más fuertes para la honestidad y la transparencia: OpenAI está horneando más protecciones a nivel de sistema para asegurarse de que el chatbot se adhiera a información fáctica y confiable.
• Ampliando los esfuerzos de investigación y evaluación: La empresa está excavando más a fondo en lo que causa este comportamiento y cómo prevenirlo en futuros modelos.
• Implicando a los usuarios antes en el proceso: Está creando más oportunidades para que las personas prueben los modelos y den retroalimentación antes de que las actualizaciones se publiquen, lo que ayuda a detectar problemas como la adulación más temprano.

Qué pueden hacer los usuarios para evitar la IA aduladora

Mientras los desarrolladores trabajan detrás de escena para volver a entrenar y afinar estos modelos, también puedes dar forma a cómo responden los chatbots. Algunas formas simples pero efectivas de fomentar interacciones más equilibradas incluyen:

• Utilizar prompts claros y neutrales: En lugar de formular tu entrada de una manera que suplique validación, intenta preguntas más abiertas para hacer que se sienta menos presionado para estar de acuerdo.
• Pedir múltiples perspectivas: Intenta prompts que pidan ambos lados de un argumento. Esto le indica al LLM que estás buscando equilibrio en lugar de afirmación.
• Desafiar la respuesta: Si algo suena demasiado halagador o simplista, sigue adelante pidiendo verificaciones de hechos o puntos de vista opuestos. Esto puede empujar al modelo hacia respuestas más intrincadas.
• Utilizar los botones de pulgar hacia arriba o hacia abajo: La retroalimentación es clave. Hacer clic en pulgar hacia abajo en respuestas excesivamente cordiales ayuda a los desarrolladores a marcar y ajustar esos patrones.
• Configurar instrucciones personalizadas: ChatGPT ahora permite a los usuarios personalizar cómo responde. Puedes ajustar cómo formal o informal debe ser el tono. Incluso puedes pedirle que sea más objetivo, directo o escéptico. Si vas a Configuración > Instrucciones personalizadas, puedes decirle al modelo qué tipo de personalidad o enfoque prefieres.

Dar la verdad sobre un pulgar hacia arriba

La IA aduladora puede ser problemática, pero la buena noticia es que es solvable. Los desarrolladores están tomando pasos para guiar estos modelos hacia un comportamiento más apropiado. Si has notado que tu chatbot está tratando de complacerte en exceso, intenta dar los pasos para moldearlo en un asistente más inteligente en el que puedas confiar.