Por qué los modelos de IA no resuelven los problemas fundamentales de la radiología

La mayoría del trabajo de IA en radiología se centra en los modelos diagnósticos. El enfoque se centra en mejorar la precisión mediante el entrenamiento con más datos y el perfeccionamiento de los modelos. Este enfoque trata a la radiología principalmente como una tarea de reconocimiento visual, donde una mejor detección se espera que mejore todo el sistema. A primera vista, esto parece razonable: si la detección mejora, la calidad diagnóstica debería mejorar también. Esta visión pasa por alto el problema principal.

El problema fundamental en la radiología es cómo se estructura el diagnóstico en sí. No es una limitación del reconocimiento de patrones, sino de cómo se organiza el trabajo y se producen las decisiones. Y mejorar los modelos no soluciona eso. A continuación, analizamos por qué sucede esto y qué cambios son necesarios más allá de la precisión del modelo.

El problema es estructural

Los modelos de visión por computadora ayudan a reconocer patrones en imágenes. En estudios controlados, pueden alcanzar un rendimiento comparable al de los radiólogos, con un AUC a menudo superior a 0,90 y, en algunos entornos de detección, igualar o superar el rendimiento de los especialistas. En muchos dominios, la capacidad de detectar hallazgos ya no es la principal limitación.

Al mismo tiempo, solo funcionan con datos de imágenes. Resaltan posibles hallazgos, pero no participan en el proceso diagnóstico en sí. No combinan diferentes entradas en un solo diagnóstico ni guían cómo se toman las decisiones. En muchos dominios, la capacidad de detectar hallazgos ya no es la principal limitación. Están diseñados para reconocer patrones, no para participar en el diagnóstico como un proceso.

En la práctica, esto significa que la estructura no cambia. Los radiólogos siguen siendo responsables de revisar los resultados y tomar decisiones finales, y los resultados de la IA a menudo requieren una verificación adicional. La responsabilidad recae en el médico. El flujo de trabajo no cambia. El cuello de botella permanece. Cada estudio todavía se asigna a un solo radiólogo que se espera revise, interprete, valide y informe. Los estudios muestran que el rendimiento del clínico todavía depende en gran medida de cómo se manejan los errores de la IA, y las salidas incorrectas pueden afectar negativamente la toma de decisiones.

Un modelo no puede revisar su propia decisión. Si comete un error, no hay forma de reconsiderar el caso con más contexto. El resultado permanece fijo, mientras que la verdadera diagnosis requiere un ajuste continuo. Sus salidas son estáticas, mientras que la razón clínica es inherentemente iterativa.

Como resultado, los cuellos de botella permanecen, la variabilidad persiste y el proceso sigue dependiendo de un solo radiólogo. A medida que crecen los volúmenes de imágenes, un sistema construido alrededor de un especialista por caso inevitablemente alcanza sus límites.

Una crisis de confianza

La IA en radiología también plantea un problema de confianza.

Un radiólogo no solo cuestiona la salida de un modelo. Cuestiona el sistema detrás de él, especialmente cuando la IA se presenta como un reemplazo en lugar de una herramienta que pueden controlar. La confianza en el modelo es inestable. Los médicos menos experimentados pueden confiar demasiado en él y perder errores. Los más experimentados, después de un solo error, pueden dejar de usarlo. Estos dos patrones — la confianza excesiva y el desenganche — introducen nuevos riesgos en lugar de reducirlos.

Después de un error, el modelo a menudo sale del proceso de toma de decisiones. Ya no se utiliza como una herramienta, sino que se ignora simplemente. Esto rompe la continuidad y limita su valor práctico. En la práctica, esto conduce a un uso inconsistente en lugar de una integración estable en el flujo de trabajo.

Esto refleja un conflicto más profundo con cómo funciona la medicina. Un radiólogo no puede pasar la responsabilidad de un diagnóstico a un sistema. La responsabilidad clínica y legal recae en el médico. Tratar a la IA como un sustituto va en contra de la estructura de la práctica médica.

Esto crea un conflicto estructural donde el modelo sugiere pero el médico debe verificar. El reconocimiento puede automatizarse. La responsabilidad no puede. Y mientras la responsabilidad no pueda transferirse, cada salida del modelo debe verificarse, limitando su capacidad para reducir la carga de trabajo.

La ilusión de la eficiencia

La IA no elimina trabajo del radiólogo. Agrega una capa de control. El médico todavía interpreta el estudio y también debe verificar la salida del modelo. Esto crea un doble trabajo en lugar de ahorrar tiempo. En lugar de eliminar el esfuerzo, la IA a menudo redistribuye el esfuerzo en pasos adicionales de validación y corrección.

El sistema puede parecer más rápido, pero en la práctica el tiempo se desplaza hacia verificaciones adicionales en lugar de reducirse. Con el tiempo, esta acumulación de herramientas aumenta la carga operativa sin mejorar fundamentalmente cómo se produce el diagnóstico.

La IA también introduce fragmentación. La mayoría de los modelos están diseñados para una tarea estrecha: una región anatómica, modalidad o patología en particular. Para cubrir las necesidades clínicas reales, una clínica tiene que utilizar varios modelos. En lugar de un sistema unificado, esto conduce a un conjunto fragmentado de herramientas.

Cada modelo trae su propia interfaz, integración y requisitos de mantenimiento. Esto aumenta la complejidad del sistema y agrega más puntos de interacción.

Como resultado, el sistema se vuelve más difícil de gestionar, mientras que el proceso diagnóstico fundamental permanece sin cambios.

Límites de la escalabilidad de la IA

Con cada nueva versión de un modelo, la confianza debe reconstruirse. El flujo de trabajo comienza a adaptarse al modelo, en lugar de apoyar al médico. Esto desplaza aún más el enfoque lejos de mejorar el sistema en sí hacia adaptarse a herramientas individuales.

Esto se ve dificultado por el enfoque estrecho de la mayoría de los modelos. Cada uno está diseñado para una tarea o región anatómica específica. En la práctica, esto significa que una clínica necesita varios modelos al mismo tiempo, cada uno con sus propias limitaciones, integraciones y costos. El sistema se vuelve más difícil de operar.

Al mismo tiempo, se hace evidente dónde tiene la IA el mayor impacto hoy en día. No en la interpretación de imágenes, sino en la mejora del sistema que los rodea — enrutando estudios, gestionando colas, asignando casos al especialista adecuado y predecir la carga de trabajo. Estas áreas se benefician de la coordinación en lugar de la predicción aislada.

Qué sucedió en la práctica

En nuestra red de clínicas, con más de un millón de estudios de MRI y CT realizados anualmente en más de 40 clínicas en tres países, implementamos varios modelos de IA, incluyendo soluciones aprobadas por la FDA. La configuración fue simple: el modelo analizó los estudios de imágenes, generó un informe y el radiólogo revisó y confirmó. El resultado esperado era un tiempo de respuesta más rápido y menos errores.

En la práctica, los radiólogos experimentados continuaron interpretando cada estudio ellos mismos antes de mirar la salida del modelo. Trabajar con texto generado a menudo tomó más esfuerzo que escribir desde cero, ya que no coincidía con su estilo de informe. El proceso no se aceleró y, en muchos casos, se volvió más lento. En algunos casos, interactuar con el modelo agregó más fricción que valor.

El comportamiento del usuario también creó riesgos. Cuando el modelo cometió un error, los radiólogos experimentados tendieron a perder la confianza y dejar de usarlo. Los médicos menos experimentados fueron más propensos a confiar en el sistema, aumentando la posibilidad de errores perdidos y exposición clínica y legal relacionada.

Estas observaciones apuntan a un problema más profundo. Mejorar las herramientas individuales no cambia cómo funciona el sistema. El cuello de botella se encuentra en un flujo de trabajo construido alrededor de un solo radiólogo que maneja un estudio desde el principio hasta el final. Estas limitaciones hacen que sea difícil mejorar el sistema solo agregando más herramientas.

En DICO, abordamos esto de manera diferente. En lugar de agregar IA al flujo de trabajo existente, nos centramos en la estructura en sí. Los casos se pueden dividir en partes, con cada parte manejada por el especialista relevante que trabaja directamente dentro de los datos de imágenes. El informe final se ensambla a partir de estas entradas, con la IA que apoya la coordinación. El diagnóstico, en este modelo, ya no está escrito por una persona — se ensambla a partir de múltiples contribuciones.

Estos no eran problemas de calidad del modelo. Eran problemas de estructura.

Reconsiderando el sistema diagnóstico

La radiología moderna se basa en una suposición única. Un estudio, un radiólogo. Esto crea cuellos de botella, variabilidad y limitaciones de escalabilidad. El problema principal no es que los modelos cometan errores. El sistema no está diseñado para trabajar con ellos. Está construido sobre una base no escalable.

Una herramienta no iterativa se coloca en un proceso que depende de la iteración. En la práctica clínica, la radiología no es una decisión de un solo paso. Los estudios muestran que la discrepancia entre las interpretaciones iniciales y las segundas ocurre en ~30% de los casos, y las discrepancias clínicamente significativas pueden afectar la gestión en ~18-20% de los casos. Las segundas opiniones no son una excepción, sino una parte rutinaria del trabajo diagnóstico.

Más ampliamente, en toda la medicina, las segundas opiniones conducen a un cambio en el diagnóstico en 10-62% de los casos, dependiendo del entorno.

Sin la capacidad de revisar, coordinar y reevaluar con contexto, las salidas del modelo permanecen estáticas, mientras que la verdadera diagnosis requiere un ajuste continuo.

El siguiente paso no es tener modelos más precisos. Es un rediseño del sistema diagnóstico.

El cambio es de herramientas de IA separadas a una forma unificada de gestionar la diagnosis — donde la diagnosis no es una decisión única, sino un proceso que se rutea e interpreta a través de múltiples pasos. La limitación no es la falta de modelos inteligentes, sino la ausencia de un sistema que pueda coordinar el trabajo diagnóstico como un proceso.