Matthew Crowson, MD, Director de Gestión de Productos de AI/GenAI en Wolters Kluwer Health – Serie de Entrevistas

Dr. Matt Crowson es un líder en tecnología sanitaria y cirujano en ejercicio que se centra en aplicar la inteligencia artificial a la práctica clínica. Es Director de Producto de AI/Generative AI en Wolters Kluwer Health, donde lidera iniciativas para mejorar la síntesis de evidencia y el análisis de datos del mundo real. Anteriormente, dirigió la práctica de AI para proveedores de atención médica de Deloitte, desarrollando soluciones de inteligencia artificial generativa para mejorar la documentación, los ciclos de ingresos y la investigación. También es profesor asistente en la Escuela de Medicina de Harvard y ha publicado más de 90 artículos revisados por pares.

Wolters Kluwer es un proveedor global de información profesional, software y servicios que apoya a clientes en atención médica, impuestos y contabilidad, derecho y regulación, cumplimiento financiero y ESG. Con sede en los Países Bajos, la empresa aprovecha su profundo conocimiento del sector y la tecnología avanzada para ofrecer herramientas que simplifiquen los flujos de trabajo, garanticen el cumplimiento y apoyen la toma de decisiones críticas. Sus operaciones abarcan más de 180 países, con ofertas organizadas en divisiones como Salud, Impuestos y Contabilidad, Derecho y Regulación, Cumplimiento Financiero y Corporativo, y Rendimiento Corporativo y ESG.

Comencemos con algo personal: ¿cómo equilibras tus dos roles como cirujano en ejercicio y líder de producto de AI?

Honestamente, comienza con una planificación del tiempo sin piedad y una máquina de café industrial. Las mañanas en la clínica mantienen mis habilidades de atención al paciente honestas, mientras que el resto del día se dedica a convertir ese dolor de frente en especificaciones de producto. Los dos roles se alimentan mutuamente: ver a un residente hacer clic en diez pantallas para pedir Tylenol es toda la investigación de mercado que necesito.

Los proyectos de inteligencia artificial (AI) fracasan cuando nadie en la sala ha sentido ese dolor. Nuestra Encuesta de Atención Médica Lista para el Futuro muestra que el 80% de los líderes dice que “optimizar los flujos de trabajo” es una prioridad principal. Sin embargo, solo el 63% cree que están preparados para hacerlo con inteligencia artificial generativa (GenAI). Esto es el clásico vacío entre estrategia y ejecución que los expertos en el sector pueden cerrar haciendo la pregunta clínica correcta antes de escribir una sola línea de código.

Mi lente clínica también mantiene la misión práctica. El personal de primera línea nos dijo que sus imperativos principales son solucionar la escasez de personal (82%), reducir la carga administrativa (77%) y combatir la quema (76%). Si un algoritmo no mueve ninguna de esas agujas, es solo teatro. Los clínicos se desentienden rápidamente.

Esta lente también me hace ser cauteloso sobre dónde la AI no debería estar. De hecho, el 57% de los profesionales se preocupa de que la dependencia excesiva de la GenAI podría erosionar el juicio clínico, y solo el 18% dice que sus organizaciones han publicado guardias. Hasta que la gobernanza mejore, el mandato es claro: automatice la documentación, no el pensamiento.

Así que, para mí, el equilibrio no es realmente entre café y calendario. Se trata de mantener un pie en la clínica, para que nunca olvide a quién se supone que la AI debe servir, y un pie en el producto, para que ese conocimiento se envíe. Hacer eso bien, y el café es solo un bonito extra.

El Informe de la Encuesta de Atención Médica Lista para el Futuro de Wolters Kluwer destaca una brecha importante entre el entusiasmo por la GenAI y la ejecución. ¿Te sorprendieron algunos de los resultados? ¿Qué te llamó la atención personalmente?

No me sorprendió en lo más mínimo. Todavía no he conocido a un clínico en contra de la automatización. Lo que ralentiza el despliegue no es el miedo a algún escenario de “Skynet en bata” sino más bien la rutina diaria de las operaciones de atención médica. La encuesta cristaliza esa realidad. Ocho de cada diez líderes clasifican la optimización del flujo de trabajo como una prioridad principal, pero apenas seis de cada diez dicen que están listos para que la GenAI lo aborde. Esa delta es exactamente lo que veo: minas de responsabilidad, datos que parecen más un cajón de juguetes que un lago de datos, y estímulos financieros que aún recompensan el volumen sobre la eficiencia. Hay otros obstáculos, incluyendo un vacío de capacitación, fatiga de TI sombra y niebla regulatoria.

Lo que más me llamó la atención fue lo mundano que son esos obstáculos. La escasez de personal, la carga administrativa y la quema dominan la lista de preocupaciones, pero solo el 18% de las organizaciones tienen políticas de GenAI formales. Si no sabes quién firma un modelo o cómo se auditan sus salidas, el entusiasmo muere en la oficina de cumplimiento. Además, el 68% de los encuestados dice que los costos laborales son su mayor presión financiera, y no es de extrañar que los ejecutivos quieran pruebas del retorno de la inversión (ROI) antes de firmar otra factura de software. El titular no es “pánico por la IA”, es “Buena idea, muéstrame el flujo de trabajo y el caso de negocio”.

Más de la mitad de los profesionales de la salud encuestados se preocupan de que la GenAI pueda erosionar las habilidades de toma de decisiones clínicas. ¿Crees que ese miedo es válido o refleja preocupaciones más profundas sobre la confianza y la transparencia en los sistemas de IA?

Alguna de la ansiedad es real, pero tiene menos que ver con los temores de ciencia ficción de una IA rebelde y más con la responsabilidad simple. Cuando una herramienta ofrece diagnósticos diferenciales en segundos, necesitas una procedencia cristalina: ¿De dónde viene la recomendación, quién la firma y cómo se audita? Hoy en día, solo una minoría de organizaciones tiene gobernanza de GenAI formal, así que los clínicos se inclinan por la precaución. Eso se manifiesta en nuestros datos como el 57% que dice “la dependencia excesiva podría erosionar el juicio”. Para mí, esto es una señal de que no quieren que una caja negra se inmiscuya en su licencia para practicar.

Ve el problema a través de una lente histórica. Cuando las hojas de cálculo llegaron a los departamentos de finanzas, algunos contadores se preocuparon de que sus músculos analíticos se atrofiaran. En cambio, el software de hojas de cálculo se convirtió en la nueva base, elevando el nivel de precisión. La atención médica está atrasada en un salto similar. Perdemos a demasiados pacientes por variaciones en la atención; el error médico sigue siendo una de las principales causas de lesiones y muertes. La superpotencia de la GenAI puede ser reducir esas barras de error al resaltar las pautas, destacar las contraindicaciones y señalarizar a los valores atípicos más rápido de lo que cualquier humano puede revisar la carta. Pero debe permanecer como asistente, no como tomador de decisiones autónomo, especialmente en la ventana de los próximos tres a cinco años.

Así que sí, el miedo es válido pero es soluble. Conjuntos de datos transparentes, registros de auditoría y controles de bucle humano convierten la “erosión de la IA” en “ampliación de la IA”. Dar a los clínicos recomendaciones trazables y líneas de responsabilidad claras, y ese 57% se desvanecerá. No se trata de reemplazar la experiencia; se trata de ampliarla con mejores herramientas.

Solo el 18% de los encuestados dice que están al tanto de políticas de GenAI claras en sus organizaciones. ¿Cuáles son los riesgos potenciales de desplegar herramientas de GenAI sin dicha gobernanza en su lugar?

Piensa en ello como lanzar un nuevo medicamento sin una etiqueta de dosificación. Los datos de atención médica son muy sensibles, y los modelos de GenAI se vuelven más inteligentes solo cuando absorben ese contexto rico en información de salud protegida (PHI). Sin políticas estrictas de gestión de datos para gobernar quién puede cargar información, cómo se registra esa información y dónde reside, una organización está a solo una instantánea de un portapapeles de una violación de privacidad que podría hacer titulares.

La responsabilidad es la siguiente mina. Cuando un algoritmo sugiere una dosis contraindicada, ¿quién come la reclamación por mala praxis? El proveedor, el hospital o el clínico que hizo clic en “aceptar”? Ahora, esa respuesta es difusa porque menos de una de cada cinco organizaciones tienen “reglas de la carretera” codificadas para GenAI. En un vacío, los abogados a menudo se inclinan por los bolsillos más profundos, y esa incertidumbre sola puede estancar la innovación.

La gobernanza también protege contra riesgos más sutiles como la deriva del modelo y el sesgo. Un bot de oncología entrenado con las pautas del último trimestre puede silenciosamente caer en desuso, empujando la atención fuera de los raíles basados en la evidencia. Las políticas que exigen control de versiones, monitoreo de resultados y desencadenadores de ocaso mantienen a los algoritmos para que no se conviertan en peligros de seguridad con el tiempo.

Finalmente, la confianza está en juego. Los clínicos se preocupan de que la dependencia excesiva de la GenAI podría embotar su juicio clínico; desplegar herramientas opacas solo confirma esos temores. La gobernanza clara, la transparencia en la procedencia de los datos, los protocolos de validación y los controles de bucle humano convierten la ansiedad de la “caja negra” en confianza de que la IA es un compañero de trabajo asistente, no un residente rebelde.

Basado en tu trabajo con Wolters Kluwer y en el quirófano, ¿cuál es el caso de uso más realista a corto plazo para la GenAI en la atención médica?

Olvida a los cirujanos robots. En los próximos tres años, la oportunidad asesina de GenAI es la aniquilación administrativa. Dos carriles ya están demostrando su valía:

1. Toma de notas de frente. Las herramientas de escucha ambiental ahora redactan la nota de progreso mientras el médico habla con su paciente, y luego la dejan directamente en el registro electrónico de salud (EHR). Nuestra encuesta muestra que el 41% de los encuestados la incluyen en su lista de deseos de GenAI, y la tecnología ya está en funcionamiento en sistemas de salud de vanguardia. Varios estudios han demostrado que los sistemas de dictado ambiental pueden reducir la carga cognitiva en un 51% y el “tiempo de pijama” después del horario en más de un 60%. Esto es un ROI duro; se puede sentir rápidamente.
2. Protección de ingresos de oficina trasera. El siguiente dominó es el de los paquetes de autorización previa, las cartas de apelación de denegación y otros residuos del ciclo de ingresos. Para referencia, el 67% de los líderes dice que la autorización previa sola está ahogando la productividad, y el 62% señala la carga administrativa del EHR. Los grandes modelos de lenguaje que leen la carta y auto completan estos formularios ya están recortando días de los reclamos y liberando al personal para un trabajo de mayor valor.

¿Por qué estos dos? Tocan el trifecta de riesgo clínico bajo, alivio de la fuerza laboral y justificación de dólares y centavos clara. En un mercado donde el 68% de los ejecutivos enumera los costos de personal como la principal presión financiera, las herramientas que devuelven horas sin cambiar el plan de atención son las más fáciles de decir “sí”. El diagnóstico autónomo vendrá más tarde; ahora, la GenAI gana su lugar al hacer que la tabla de clip desaparezca.

La encuesta señala que los datos no son el principal riesgo citado por los encuestados, lo cual es sorprendente dado lo frecuente que la privacidad de los datos domina los titulares. ¿Qué riesgos ven los clínicos y administradores como más apremiantes?

Me sorprendió. Los titulares nos harían creer que las violaciones de HIPAA mantienen despierto a cada director de TI del hospital. Sin embargo, nuestros datos muestran que solo el 56% de los profesionales cita la privacidad como un riesgo principal de GenAI, mientras que una porción aún mayor (57%) se preocupa por la “disminución del juicio clínico”. Eso me dice que el miedo de la primera línea no es el hacker, es la responsabilidad.

Aquí está lo que los clínicos y administradores están sudando:

• Roulette de responsabilidad. Si el algoritmo empuja la atención fuera de curso, ¿quién firma el cheque de mala praxis? La falta de regulaciones y estándares claros se alinea con las brechas de transparencia en el 55%, lo que indica una gran inquietud sobre el radio de acción legal.
• Latigazo regulatorio. El 76% de los líderes ya se sienten azotados por las reglas de Medicare y Medicaid en constante cambio; superponer GenAI opaco sobre eso es una venta difícil hasta que los guardias se solidifiquen.
• Deriva del modelo y sesgo. El 55% señala el sesgo de los modelos mal entrenados como un riesgo crítico, lo que recuerda que los datos estancados pueden ser tan peligrosos como los datos perdidos.

En resumen, la mayoría de las organizaciones asumen que sus cortafuegos son decentes; no tienen una cadena clara de responsabilidad cuando la salida de un modelo de lenguaje grande (LLM) termina en un plan de atención. Hasta que los marcos de gobernanza especifiquen la propiedad, los registros de auditoría y los ciclos de actualización, los despliegues de GenAI seguirán estancados, independientemente de lo sólido que sea el stack de seguridad.

¿Crees que las herramientas de GenAI eventualmente mejorarán o diluirán la autonomía del clínico? ¿Cómo diseñamos sistemas que apoyen la toma de decisiones sin sobrepasarla?

La GenAI está a punto de ampliar, no reducir, la autonomía del clínico. Ahora, mucha de esa autonomía se ve obstaculizada por la triage de la bandeja de entrada, la documentación de la carga administrativa y las gimnásticas del EHR. No es de extrañar que el personal de primera línea clasifique “optimizar los flujos de trabajo” como su principal caso de uso para GenAI (80% de prioridad) aunque apenas el 63% se sienta técnicamente listo para ejecutarlo. Los farmacéuticos y los profesionales de la salud aliados ya están apostando por el lado positivo: el 41% y el 47% esperan que la GenAI elimine suficiente grasa administrativa para reducir las necesidades de personal de apoyo. Liberar a los clínicos de la entrada de datos significa más tiempo cara a cara con los pacientes. Esa es la autonomía que todos quieren.

Aún así, la encuesta nos recuerda que la autonomía corta por ambos lados, como mencionamos anteriormente: el 57% de los encuestados se preocupa de que la dependencia excesiva de la GenAI podría embotar el juicio clínico. El antídoto es un diseño reflexivo, no un freno. Los sistemas deben mostrar su trabajo con banderas de procedencia, citas y puntajes de confianza, para que los humanos sigan siendo los árbitros finales. El control de versiones y el monitoreo después del despliegue atrapan la deriva silenciosa del modelo antes de que envenene los caminos de atención, mientras que los botones “anular siempre visible” dejan claro que el algoritmo es un asistente, no el médico de cabecera.

La gobernanza es el último kilómetro. Solo el 18% de los profesionales dice que su organización tiene una política de GenAI publicada. Sin una cadena clara de responsabilidad, incluso la mejor experiencia del usuario se estancará en el limbo legal. Las políticas sólidas necesitan especificar la gestión de datos, los registros de auditoría y la delimitación de roles que se socializan en todo el personal, incluidos médicos, enfermeras y el asistente que presiona el botón. Cuando emparejamos esas guardias con un diseño nativo del flujo de trabajo, la GenAI deja de sentirse como una amenaza a la autonomía y comienza a actuar como el copiloto que los clínicos han estado pidiendo.

¿Qué está retrasando la adopción más, ¿las limitaciones tecnológicas, la incertidumbre regulatoria, la fricción del flujo de trabajo o algo más profundo como la resistencia cultural?

Es un déficit de ejecución envuelto en incentivos heredados. La mayoría de los líderes de los sistemas de salud pueden articular una visión de GenAI elegante, pero su músculo operativo no ha alcanzado. Nuestra encuesta muestra la desconexión en una línea: el 80% de los encuestados clasifica “optimizar los flujos de trabajo” como una prioridad principal, pero solo el 63% cree que están listos para hacerlo. La visión es barata; los ingenieros de integración, las guías de gestión del cambio y los presupuestos de GPU no lo son.

La gobernanza es el siguiente sumidero. Solo el 18% de los profesionales están siquiera al tanto de una política de GenAI publicada en su hospital. Sin reglas claras de uso de datos, validación y responsabilidad, cualquier piloto prometedor risks convertirse en una granada de cumplimiento. Esa niebla legal se ve amplificada por la incertidumbre macro. De hecho, el 75% de los líderes se preocupa de que las reglas de Medicare y Medicaid en constante cambio desbaratarán cualquier solución que desplieguen.

Luego viene la fricción a nivel de trinchera: casi la mitad de los ejecutivos cita los datos sucios y las pesadillas de integración del EHR como barreras principales, y solo el 42% dice que tiene un proceso para integrar herramientas de GenAI en los flujos de trabajo existentes. Si el modelo no puede ver la carta o agrega clics, los clínicos lo abandonarán antes del almuerzo.

Finalmente, está el “purgatorio del piloto”. Numerosos estudios externos estiman que la tasa de éxito de los pilotos de IA que se gradúan a escala empresarial es de aproximadamente uno de cada diez. Las juntas celebran la demostración, emiten un comunicado de prensa y se mudan. Porque nadie financia el trabajo de fontanería posterior no glamoroso. La GenAI seguirá siendo una promesa de PowerPoint hasta que los hospitales contraten a propietarios de productos que hayan enviado software antes.

En resumen, la tecnología y la cultura no son bloqueadores separados. Están fusionados. Resolver la gobernanza, la integración real, las guardias explícitas y el apetito por la GenAI se alineará con su hype.

¿Qué consejo le darías a los líderes de la atención médica que intentan navegar el hype y identificar inversiones de IA realmente valiosas?

Comienza con un diagnóstico, no con una demostración. Antes de dejar que un martillo brillante busque clavos, cuantifica el clavo: ¿La utilización de la sala de operaciones está bajando un 8% durante dos trimestres seguidos? ¿Las apelaciones de denegación están languideciendo y sangrando ingresos? ¿La unidad de enfermeras tres está pasando dos horas por turno en “tiempo de toggle” del EHR (tiempo pasado cambiando entre pantallas y tareas)? Una vez que el dolor es explícito, la herramienta correcta tiende a presentarse. Como Sir William Osler recordó a la comunidad médica generaciones atrás, “Escucha al paciente; [ellos] te dirán el diagnóstico”.

Con el problema identificado, interroga el caso de negocio como un director financiero. Exige números duros: métricas de referencia, deltas proyectados y ventanas de retorno de la inversión que sobrevivan a una prueba de olfato de la junta. Recuerda que solo alrededor de uno de cada diez pilotos de IA se gradúan a escala empresarial; si el proveedor no puede mostrar a un cliente en vivo que movió el indicador clave de rendimiento (KPI) que te importa, sigue caminando.

Después, decide comprar, construir o asociarte. Comprar puede acelerar el tiempo de valor, pero ten cuidado con el vaporware disfrazado de buzzwords. Construir te da el control, pero solo si tienes un propietario de beneficios y pérdidas que ha enviado aprendizaje automático de producción antes. Las asociaciones híbridas a menudo equilibran: tus datos, su modelo, beneficio compartido, riesgo compartido.

Finalmente, prioriza equipos pequeños y multifuncionales con responsabilidad clara. Piensa en un equipo de dos pizzas que incluya al CMO, CIO, jefe de ingeniería de datos y un campeón de primera línea, en lugar de grandes comités de dirección. Alinea sus incentivos con metas de resultados de varios años en lugar de métricas a corto plazo, y dánles un presupuesto de infraestructura dedicado, GPUs, ingeniería de datos, operaciones de aprendizaje automático (MLOps), para que el proyecto progrese más allá de la etapa de piloto.

Finalmente, mirando hacia adelante: ¿cómo sería un sistema de GenAI completamente integrado y responsable en un entorno hospitalario dentro de cinco años? ¿Cuáles son los hitos que debemos alcanzar para llegar allí?

Imagina entrar en una clínica donde el médico nunca se gira hacia el teclado. La conversación fluye, y un agente de escucha ambiental discreto capta el diálogo, redacta una nota, sugiere órdenes basadas en pautas y genera el paquete de autorización previa antes de que la mano del médico esté en el pomo de la puerta. Los primeros pilotos ya están demostrando el concepto, y el 41% de los clínicos en nuestra encuesta dice que esta es precisamente la característica de GenAI que quieren a continuación.

Lo que hace posible esa escena no es la robótica de ciencia ficción; es una arquitectura invisible que fusiona datos limpios e interoperables con una capa de orquestación en tiempo real y “gobernanza como código”. Todavía tenemos tareas pendientes. Para cerrar las brechas, piensa en la fontanería de datos primero, luego incorpora las guardias (en lugar de soldarlas) para convertir el hype en hábito.

Los hitos se producen naturalmente una vez que se establece la base. En el primer año, recomiendo que los hospitales y sistemas de salud configuren la estructura de datos, publiquen pautas de GenAI a nivel empresarial y construyan una canalización de MLOps. En el segundo año de implementación, será importante escalar la documentación ambiental en todas las clínicas ambulatorias, medir el tiempo de documentación y el “tiempo de pijama” después del horario. En el tercer año, deja que la GenAI redacte las apelaciones de denegación y los paquetes de autorización previa (el 67% de los líderes dice que esa carga está madura para la eliminación). En el cuarto y quinto año, evoluciona hacia el apoyo a la toma de decisiones clínicas en tiempo real con procedencia y, en última instancia, la planificación de la atención basada en la conversación donde el sistema ejecuta las órdenes en el momento en que se dicen.

Gracias por la gran entrevista, los lectores que deseen obtener más información pueden visitar Wolters Kluwer o leer el Informe de la Encuesta de Atención Médica Lista para el Futuro.