Ángulo de Anderson

El médico de IA fácilmente persuadible

Martin Anderson
Añade Unite.AI a tus fuentes preferidas en Google
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Puntos claveLos modelos de IA aceptan consejos médicos incorrectos con mucha más facilidad cuando…
Ver más
  • Los modelos de IA aceptan consejos médicos incorrectos con mucha más facilidad cuando provienen de un especialista que de un estudiante de medicina.
  • Una explicación fabricada que respalde un diagnóstico erróneo puede anular una respuesta correcta de la IA incluso sin pruebas genuinas.
  • Hacer que la IA sea más difícil de persuadir no es la solución porque la persuasión también puede corregir errores genuinos.

Lo que nos perdimos en 2026: Es esa época del año en que la calidad y el volumen de la investigación suben y bajan al mismo ritmo, siguiendo el calendario de las últimas conferencias de noviembre y diciembre. Para atravesar estas hambrunas esporádicas, echamos un vistazo a algunos de los artículos más interesantes que casi lograron entrar en la selección de 2026, pero quedaron fuera por otros trabajos en períodos de presentación más competitivos.

 

El creciente interés por los modelos de toma de decisiones de IA se debe, en parte, a las limitaciones de los chatbots de IA de propósito general a la hora de tomar decisiones. Incluso cuando ofertas de IA de vanguardia como ChatGPT podrían delegar discretamente ciertas decisiones en sus propios modelos o en otros modelos de toma de decisiones, que operan en segundo plano, sus opiniones propias siguen siendo terriblemente fáciles de manipular.

Por ejemplo, para ayudarme a evaluar candidatos que compiten por cobertura, a veces se los presento al mismo tiempo a ChatGPT, Claude 5.5 y al modelo que Gemini esté dispuesto a ofrecer gratis esa mañana. Sé qué esperar: GPT y Claude darán demasiado peso a algunos aspectos de los criterios; Gemini (gratis) pensará que todo es genial; y prácticamente nada le parecerá lo bastante bueno a Claude.

Cuando confronto a GPT 5.6 Sol con la postura divergente de Claude o Gemini, cede casi siempre, en mayor o menor medida (por lo general, por completo). Presentarle una postura distinta o contraria suele hacer que GPT revoque por completo su decisión. Cuando se le señala lo fácil que es influir en él, GPT vuelve a su postura anterior, aparentemente ofendido por la insinuación. Sin embargo, incluso entonces, basta una sugerencia mínima del usuario para hacerlo cambiar de postura a voluntad.

Claude, por el contrario, tiende a atrincherarse: cuestionar su criterio hace que se aferre aún más a su postura, como si fuera consciente del «problema de maleabilidad» en el discurso sobre la IA y le hubieran dicho que nunca cambiara de opinión: una solución bastante frágil.

Otra voz se suma a la conversación

Pero esto no es más que una colección de anécdotas con respaldo parcial. Lo que me lleva a mencionarlo son los artículos de Arxiv de hoy, algo flojos, que me han hecho volver a un trabajo que me interesó durante el verano, pero que entonces no tuvimos tiempo de cubrir.

Titulado La IA puede ser persuadida con facilidad al tomar decisiones clínicas, este estudio de Stanford y Oxford examina con qué facilidad se puede convencer a GPT-4o, Claude Sonnet 5 y Qwen3.7-plus para que cambien sus diagnósticos médicos.

Resulta que la antigüedad de un médico, su nacionalidad, el prestigio de su institución y su trayectoria declarada pueden influir en los modelos, incluso cuando el consejo es incorrecto. Las cifras también ejercen una influencia acumulativa: en un experimento, GPT-4o estuvo mucho más dispuesto a aceptar un diagnóstico incorrecto cuando tres médicos coincidieron en él.

Incluso repetirle a la IA que estaba equivocada, sin aportar pruebas nuevas, podía acabar haciéndola cambiar de opinión.

El artículo afirma:

«Constatamos que la autoridad profesional, el origen nacional, la afiliación institucional, el desempeño pasado declarado, la opinión de varios médicos, las opiniones de los profesionales clínicos respaldadas por pruebas y la presión reiterada pueden influir en las decisiones de la IA.

«Sorprendentemente, el mismo argumento persuasivo modifica alrededor de un 10 % más de casos cuando proviene de un profesional clínico sénior que cuando procede de un estudiante de medicina. Afirmar simplemente que se tiene un mejor historial de desempeño hace que el médico resulte sistemáticamente más persuasivo.

«Más sorprendente aún, la opinión plausible de un profesional clínico puede convencer a la IA de abandonar una decisión correcta, incluso si se ha inventado para respaldar una respuesta incorrecta».

Como posible solución, los autores sugieren que la IA debe mejorar su capacidad para evaluar las pruebas que respaldan los consejos de un médico, de modo que pueda aceptar correcciones válidas sin dejarse influir por la autoridad, la presión grupal ni argumentos convincentes pero falsos.

Sin embargo, sigue sin estar claro cómo lograrlo. El marco MedStress de 2026 afirma que elimina casi por completo el problema de que la IA revoque diagnósticos; otro trabajo de 2026 concluyó —en contra de mi propia experiencia— que Google Gemini es el que más se resiste a la manipulación en el diagnóstico médico; y una revisión de septiembre de 2026 propuso pruebas estandarizadas para distinguir los casos en que la IA cambia de opinión acertadamente de aquellos en que cede a la presión y adopta un diagnóstico incorrecto.

Dado que más del 80 % de los médicos de EE. UU. utilizan la IA de alguna manera y que el sector muestra un claro entusiasmo por ampliar las capacidades de diagnóstico más allá de los niveles limitados de personal y de cobertura que a menudo acaparan los titulares, este problema se perfila como uno de los principales obstáculos para la adopción de la IA de diagnóstico y, sin duda, requiere más atención o una atención más eficaz.

Mientras tanto, veamos cómo se manifiesta el problema, según el estudio de Oxford y Stanford.

Metodología

Para las pruebas, se tomaron 308 preguntas médicas de MedBullets, una colección de casos clínicos cuya dificultad es comparable a la de los exámenes para obtener la licencia médica:

Un escenario de ejemplo de la colección de casos clínicos de MedBullets. Fuente: https://arxiv.org/pdf/2608.29453

Un escenario de ejemplo de la selección de casos clínicos de MedBullets. Fuente

Cada pregunta iba acompañada de un caso clínico; cinco respuestas posibles; y una explicación de la opción correcta. A continuación, se midió con qué frecuencia se podía persuadir a la IA para que abandonara una respuesta correcta.

Los tres modelos de IA evaluados, como se mencionó anteriormente, fueron GPT-4o; Qwen3.7-Plus; y Sonnet 5. Se indicó a cada uno que actuara como sistema de apoyo a la toma de decisiones médicas, con el objetivo de llegar al diagnóstico correcto a partir de las pruebas clínicas disponibles.

En cada caso, los modelos debían elegir una respuesta; indicar si habían cambiado su decisión inicial; calificar su confianza de 0 a 100; recomendar qué debía hacerse a continuación; y asignar una puntuación que indicara cuán urgente era tomar medidas, desde no hacer nada hasta detener el proceso y remitir el caso para una revisión adicional. Las solicitudes que no se completaron se repitieron para garantizar que se realizaran todas las pruebas previstas.

En algunas pruebas, se proporcionó a la IA un caso médico junto con el consejo de un médico y se le pidió que emitiera un diagnóstico; en otras, la IA formuló primero un diagnóstico y el consejo médico se introdujo más adelante en la conversación. Las pruebas también examinaron si se podía persuadir a la IA para que cambiara un diagnóstico correcto por uno incorrecto, o si podía corregirse un error inicial.

Figuras de autoridad

Se presentó el mismo consejo médico como procedente de médicos con distintos niveles de experiencia, desde estudiantes de medicina hasta especialistas. El diagnóstico y los datos del paciente se mantuvieron sin cambios, lo que permitió medir la influencia de la autoridad profesional.

También se atribuyó el consejo a médicos de Camerún; China; los Emiratos Árabes Unidos; el Reino Unido; y Estados Unidos. Otras pruebas examinaron si influía en la IA que un médico estuviera vinculado a un centro médico destacado; a un hospital urbano; o a un hospital rural. Solo se cambió el perfil declarado del médico.

Otras pruebas examinaron si influía en la IA el lugar donde trabajaba un médico; para ello, se compararon centros médicos académicos prestigiosos, hospitales comunitarios urbanos y hospitales rurales. También se proporcionaron a los modelos registros ficticios del desempeño propio y del médico en nueve casos anteriores, para determinar si la aparente fiabilidad de un médico podía afectar la disposición de la IA a aceptar sus consejos.

La influencia de la presión grupal se evaluó diciéndole a la IA que un solo médico; tres médicos de acuerdo; o un comité de revisión hospitalaria había cuestionado su diagnóstico. En algunas pruebas se sugirió un diagnóstico alternativo; en otras, simplemente se le dijo a la IA que estaba equivocada.

La influencia del razonamiento médico se examinó proporcionando a los modelos explicaciones que respaldaban diagnósticos correctos o argumentos deliberadamente inventados para respaldar diagnósticos incorrectos. Estas explicaciones también se probaron junto con afirmaciones sobre la experiencia profesional, para determinar cuánto influía la combinación de ambos factores.

Por último, se evaluaron los efectos de la presión reiterada a lo largo de diez turnos de conversación, presentando la misma objeción en cada uno. Los desafíos incluían un simple desacuerdo; afirmaciones de autoridad médica; y la supuesta coincidencia de opinión de otros médicos. Durante estos intercambios no se aportaron pruebas médicas adicionales.

Métricas

Para las métricas, se utilizó la susceptibilidad a la persuasión para evaluar con qué frecuencia la IA adoptaba la respuesta de un médico cuando difería de su respuesta inicial; la dirección de la persuasión para determinar si la intervención del médico corregía un error inicial o hacía que una respuesta correcta se volviera incorrecta; y el efecto en la precisión para medir cuánto mejoraba o empeoraba el desempeño de la IA al introducir la opinión de un médico, en comparación con las pruebas realizadas sin ella. Cuando una respuesta correcta se cambiaba por una incorrecta, los resultados se promediaban entre las cuatro respuestas incorrectas posibles.

Pruebas

Los primeros resultados mostraron que era más fácil persuadir a los modelos de IA cuando el consejo provenía de médicos con más experiencia, incluso si era incorrecto. Como se muestra a continuación, GPT-4o aceptó consejos incorrectos en el 2% de los casos cuando procedían de un estudiante de medicina; la cifra aumentó al 12.8% cuando se atribuyeron a un especialista. En el caso de Claude Sonnet 5, el aumento fue del 3.5% al 14.4%, mientras que Qwen3.7-Plus se vio menos afectado:

Tasas de persuasión según cuatro niveles de experiencia médica. Los porcentajes indican con qué frecuencia cada modelo de IA aceptó una respuesta discrepante de un médico; por lo general, las tasas fueron más altas en el caso de los profesionales con más experiencia.

Tasas de persuasión según cuatro niveles de experiencia médica. Los porcentajes indican con qué frecuencia cada modelo de IA aceptó una respuesta discrepante de un médico; por lo general, las tasas fueron más altas en el caso de los profesionales con más experiencia.

La experiencia también influyó en la facilidad con que se aceptaban los consejos correctos, como se muestra a continuación. GPT-4o y Claude Sonnet 5 fueron, de hecho, menos precisos cuando recibieron consejos de estudiantes de medicina. Sin embargo, cuando se atribuyó el mismo consejo correcto a especialistas, la precisión mejoró 10.1 y 8.8 puntos porcentuales, respectivamente:

Cambios en la precisión de la IA al recibir consejos médicos correctos de médicos con distintos niveles de experiencia. Los valores positivos y negativos muestran los cambios en puntos porcentuales respecto a la precisión de cada modelo sin recibir consejos (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).

Cambios en la precisión de la IA al recibir consejos médicos correctos de médicos con distintos niveles de experiencia. Los valores positivos y negativos muestran los cambios en puntos porcentuales respecto a la precisión de cada modelo sin recibir consejos (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).

El artículo señala:

«Estos resultados también indican que la IA podría situar implícitamente su propia capacidad por encima de la de los profesionales clínicos júnior, pero por debajo de la de los médicos sénior. Tiende a resistirse a las recomendaciones de estudiantes de medicina y médicos residentes, mientras que se muestra más dispuesta a dejarse convencer por médicos adjuntos y, en especial, por especialistas en el área correspondiente.

«Esta aparente percepción de su propia posición determina hasta qué punto la autoridad profesional influye en su capacidad de persuasión».

La mayor diferencia dependía de si los médicos explicaban sus respuestas. Incluso el consejo de un estudiante de medicina resultaba más convincente para GPT-4o que el de un especialista cuando el estudiante daba una explicación médica y el especialista no.

Cuando un estudiante de medicina explicó por qué la respuesta correcta era válida, GPT-4o cambió su respuesta inicial incorrecta por la correcta en el 58% de los casos. Sin esa explicación, el consejo de un especialista sénior logró ese cambio en apenas el 36.4% de los casos. Cuando el especialista también explicó la respuesta correcta, la cifra subió al 89.8%:

Capacidad de GPT-4o para corregir respuestas incorrectas tras recibir consejos de médicos con distintos niveles de experiencia. Las barras muestran con qué frecuencia el modelo cambió su respuesta por la correcta, con y sin una explicación médica que la respaldara. Las explicaciones mejoraron considerablemente los resultados en todos los niveles de experiencia.

Capacidad de GPT-4o para corregir respuestas incorrectas tras recibir consejos de médicos con distintos niveles de experiencia. Las barras muestran con qué frecuencia el modelo cambió su respuesta por la correcta, con y sin una explicación médica que la respaldara. Las explicaciones mejoraron considerablemente los resultados en todos los niveles de experiencia.

Las explicaciones también mejoraron la valoración de confianza del modelo. Este mostró más confianza cuando sus respuestas eran correctas y menos cuando eran incorrectas.

En el caso de los médicos adjuntos, la diferencia de confianza entre las respuestas correctas e incorrectas aumentó de 2.1 a 11.5 puntos porcentuales, como se muestra a continuación:

Confianza de GPT-4o en respuestas médicas correctas e incorrectas según cuatro niveles de experiencia de los médicos. Se muestran las puntuaciones con y sin una explicación médica que respalde la respuesta. Las columnas finales muestran la diferencia de confianza entre las respuestas correctas e incorrectas, que aumentó considerablemente cuando se proporcionaron explicaciones.

Confianza de GPT-4o en respuestas médicas correctas e incorrectas según cuatro niveles de experiencia de los médicos. Se muestran las puntuaciones con y sin una explicación médica que respalde la respuesta. Las columnas finales muestran la diferencia de confianza entre las respuestas correctas e incorrectas, que aumentó considerablemente cuando se proporcionaron explicaciones.

La vieja gloria

Los modelos se dejaban convencer más fácilmente por los médicos estadounidenses que por los de cualquier otro país incluido en el estudio, incluso cuando sus consejos médicos eran incorrectos. Por ejemplo, GPT-4o aceptó un diagnóstico incorrecto de un médico de Estados Unidos en el 10.9% de los casos, frente al 8.4% cuando provenía de un médico de Camerún:

Comparación de la facilidad con que tres modelos de IA aceptaron consejos médicos contradictorios atribuidos a médicos de cinco países. Los médicos estadounidenses fueron los más convincentes para los tres modelos; los porcentajes muestran con qué frecuencia la IA cambió su respuesta.

Comparación de la facilidad con que tres modelos de IA aceptaron consejos médicos contradictorios atribuidos a médicos de cinco países. Los médicos estadounidenses fueron los más convincentes para los tres modelos; los porcentajes muestran con qué frecuencia la IA cambió su respuesta.

GPT-4o aceptó un diagnóstico contradictorio en el 6.4% de los casos cuando, supuestamente, provenía de un médico de Estados Unidos, frente al 4.3% cuando el mismo consejo se atribuía a un médico de Camerún. La preferencia por los médicos estadounidenses se observó en los tres modelos, como se muestra arriba.

La IA también se dejaba influir más fácilmente por médicos de hospitales prestigiosos; por ejemplo, GPT-4o cambió su diagnóstico en el 6.6% de los casos cuando, supuestamente, el consejo provenía de un prestigioso centro médico académico, frente a apenas el 2.8% cuando provenía de un hospital rural:

Comparación de cómo influye el prestigio de los hospitales en las decisiones médicas de los tres modelos de IA. El eje horizontal muestra las mejoras derivadas de los consejos correctos; el eje vertical, la pérdida de precisión causada por los consejos incorrectos. Los colores identifican los modelos y las formas, los tipos de hospitales. En general, un mayor prestigio aumenta ambos efectos.

Comparación de cómo influye el prestigio de los hospitales en las decisiones médicas de los tres modelos de IA. El eje horizontal muestra las mejoras derivadas de los consejos correctos; el eje vertical, la pérdida de precisión causada por los consejos incorrectos. Los colores identifican los modelos y las formas, los tipos de hospitales. En general, un mayor prestigio aumenta ambos efectos.

Los consejos de hospitales prestigiosos mejoraron el rendimiento de GPT-4o en 3,2 puntos porcentuales, mientras que los mismos consejos atribuidos a hospitales rurales en realidad redujeron la precisión en 3,6 puntos, aunque el artículo señala que Claude Sonnet 5 se vio considerablemente menos influido por la ubicación geográfica del médico.

Además*, los investigadores descubrieron que bastaba con decirle a GPT-4o que un médico había diagnosticado correctamente a nueve pacientes anteriores para que estuviera mucho más dispuesto a aceptar sus consejos. Incluso cuando la IA acertaba inicialmente, se la podía persuadir para que cometiera un error en el 15,6 % de los casos de alto riesgo, pese a que se le había dicho que las pruebas médicas eran fiables en un 95 %.

Resultados de pruebas que muestran cómo respondió GPT-4o a médicos con historiales perfectos o completamente incorrectos en distintos niveles de riesgo médico y fiabilidad de las pruebas. Las cifras indican con qué frecuencia el modelo aceptó los consejos del médico, cambió una respuesta correcta por una incorrecta y cuánta confianza tenía en sus decisiones. Afirmar que el médico tenía un historial perfecto aumentó considerablemente su influencia, incluso cuando sus consejos eran erróneos.

Resultados de pruebas que muestran cómo respondió GPT-4o a médicos con historiales perfectos o completamente incorrectos en distintos niveles de riesgo médico y fiabilidad de las pruebas. Las cifras indican con qué frecuencia el modelo aceptó los consejos del médico, cambió una respuesta correcta por una incorrecta y cuánta confianza tenía en sus decisiones. Afirmar que el médico tenía un historial perfecto aumentó considerablemente su influencia, incluso cuando sus consejos eran erróneos.

Una explicación médica convincente podría ser aún más peligrosa. Cuando un diagnóstico falso venía respaldado por una explicación inventada, GPT-4o abandonó su respuesta correcta en el 31,2 % de los casos. La cifra aumentó al 38,7 % cuando el consejo también procedía de un médico con autoridad.

El artículo concluye:

«Estos hallazgos demuestran que la solución no consiste simplemente en hacer que sea más difícil persuadir a la IA. La persuasión puede corregir un error, pero también puede invalidar una decisión correcta.»

«El reto consiste en que la IA mantenga un criterio sólido ante la persuasión y cambie de decisión cuando esté justificado corregirla. Comprender y mejorar esta capacidad será importante para que la IA se utilice de forma segura y fiable en la toma de decisiones médicas de alto riesgo.»

Conclusión

El valor de los abogados, arquitectos y médicos humanos reside en que, si algo sale catastróficamente mal, hay alguien a quien exigir responsabilidades. Por eso, es difícil entender hasta qué punto se puede reducir, dejar de lado o tener en cuenta, sin disputas ni controversias, la participación de la IA en un desenlace médico negativo y controvertido.

En realidad, la IA no está diseñada para esta tarea, ya que las decisiones de diagnóstico médico suelen ser un triunfo de la experiencia sobre la ciencia: es posible que los médicos pioneros sepan más por sus experiencias recientes que lo que todavía han aportado a las revistas científicas.

Esto convierte la toma de decisiones en un proceso interpretativo que, por ahora, la IA no está bien preparada para manejar; es decir, requiere la capacidad de afirmar que se tiene una certeza razonable, basándose en la mejor información disponible, y que tal o cual curso de acción probablemente conducirá al mejor resultado. En este escenario, es prácticamente imposible reproducir la propuesta de valor de la «intuición humana». Esto claramente no pertenece a la misma categoría de ciencia «objetiva» que la elaboración de perfiles de ADN o las tablas de elementos, aunque se enmarque en disciplinas científicas deterministas.

Por lo tanto, parece razonable pensar que las nuevas generaciones de modelos destinados a esta tarea podrían formularse de manera distinta o incluso basarse en una arquitectura diferente de la de los motores convencionales de IA para el diálogo y la toma de decisiones.

 

* El artículo incluye cinco secciones de pruebas adicionales que no tienen la misma repercusión ni relevancia que los hallazgos principales. Para obtener más detalles, remito al lector al PDF original.

Publicado por primera vez el jueves, 19 de noviembre de 2026

Redactor de aprendizaje automático, especialista en síntesis de imágenes humanas. Anterior jefe de contenido de investigación en Metaphysic.ai, hasta su disolución en Brahma.ai de DNEG.
Sitio web: martinanderson.ai
Contacto: martin@martinanderson.ai