Cuándo evitar el uso de la IA en la atención médica

Cada vez que una nueva tecnología avanza en una industria, puede haber una tentación de considerar que esa nueva tecnología es la solución a todos los problemas de la industria. La IA en la atención médica es un gran ejemplo. A medida que la tecnología ha seguido avanzando, se ha adoptado para casos de uso en el desarrollo de medicamentos, la coordinación de la atención y el reembolso, por nombrar algunos. Hay muchos casos de uso legítimos para la IA en la atención médica, donde la tecnología es mucho mejor que cualquier alternativa disponible actualmente.

Sin embargo, la IA, como está hoy en día, solo es excelente en ciertas tareas, como entender grandes cantidades de datos y tomar decisiones basadas en reglas bien definidas. Otras situaciones, particularmente donde se requiere contexto adicional para tomar la decisión correcta, no son adecuadas para la IA. Exploraremos algunos ejemplos.

Negar reclamaciones y atención

Ya sea para una reclamación o para la atención, las negaciones son decisiones complejas y demasiado importantes para ser manejadas por la IA sola. Al negar una reclamación o atención, hay un imperativo moral obvio para hacerlo con la mayor precaución y basado en las capacidades actuales de la IA, eso requiere la intervención humana.

Más allá del elemento moral, los planes de salud se ponen en riesgo cuando confían demasiado en la IA para tomar decisiones de negación. Los planes pueden, y están, enfrentando demandas por utilizar la IA de manera incorrecta para negar reclamaciones, con litigios que acusan a los planes de no cumplir con los requisitos mínimos para la revisión médica porque se utilizó la IA en lugar de eso.

Confianza en decisiones pasadas

Confiar en la IA para tomar decisiones basadas únicamente en cómo se tomó una decisión anterior tiene un error obvio: una mala decisión del pasado influirá en otras. Además, porque las reglas de política que informan a la IA a menudo se distribuyen en sistemas o se codifican de manera imperfecta por humanos, los sistemas de IA pueden terminar adoptando y perpetuando una comprensión inexacta de estas políticas. Para evitar esto, las organizaciones necesitan crear una fuente única de política verdadera, para que la IA pueda hacer referencia y aprender de un conjunto de datos confiable.

Construir sobre sistemas heredados

Como una tecnología relativamente nueva, la IA trae una sensación de posibilidad, y muchos equipos de ciencia de datos de planes de salud están ansiosos por aprovechar esa posibilidad rápidamente mediante la utilización de herramientas de IA ya integradas en plataformas empresariales existentes. El problema es que los procesos de reclamaciones de atención médica son extremadamente complejos, y las plataformas empresariales a menudo no entienden las complejidades. Agregar la IA sobre estas plataformas heredadas como una solución de un tamaño que se adapte a todos (que no tenga en cuenta todos los factores que afectan la adjudicación de reclamaciones) termina causando confusión e inexactitud, en lugar de crear procesos más eficientes.

Inclinarse hacia datos antiguos

Una de las mayores ventajas de la IA es que mejora cada vez más a la hora de orquestar tareas a medida que aprende, pero ese aprendizaje solo puede tener lugar si hay un bucle de retroalimentación constante que ayude a la IA a entender qué ha hecho mal para que pueda ajustarse en consecuencia. Esa retroalimentación no solo debe ser constante, sino que también debe basarse en datos limpios y precisos. Después de todo, la IA solo es tan buena como los datos de los que aprende.

Cuándo la IA en la atención médica ES beneficiosa

El uso de la IA en un sector donde las salidas son tan importantes como la atención médica ciertamente requiere precaución, pero eso no significa que no haya casos de uso donde la IA tenga sentido.

Por un lado, no hay escasez de datos en la atención médica (considera que el historial médico de una persona podría tener miles de páginas), y los patrones dentro de esos datos pueden decirnos mucho sobre el diagnóstico de enfermedades, la adjudicación correcta de reclamaciones y más. Esto es donde la IA sobresale, buscando patrones y sugiriendo acciones basadas en esos patrones que los revisores humanos pueden seguir.

Otra área donde la IA sobresale es en catalogar e ingerir políticas y reglas que gobiernan cómo se pagan las reclamaciones. La IA generativa (GenAI) se puede utilizar para transformar este contenido de política de varios formatos en código legible por máquina que se puede aplicar consistentemente en todas las reclamaciones de pacientes. La GenAI también se puede utilizar para resumir la información y mostrarla en un formato fácil de leer para que un humano la revise.

El hilo común a través de todos estos casos de uso es que la IA se utiliza como copiloto para humanos que la supervisan, no como la persona a cargo. Mientras las organizaciones puedan mantener esa idea en mente al implementar la IA, estarán en una posición para tener éxito durante esta era en la que la atención médica está siendo transformada por la IA.