Abordar el escepticismo sobre la IA en la atención médica: superar obstáculos para garantizar la comunicación segura

Los líderes de la atención médica están ansiosos por adoptar la IA, en parte para mantener el ritmo con los competidores y otras industrias, pero más importante aún, para aumentar la eficiencia y mejorar las experiencias de los pacientes. Sin embargo, solo el 77% de los líderes de la atención médica realmente confían en la IA para beneficiar a su negocio.

Mientras que los chatbots de IA excelan en la realización de tareas rutinarias, el procesamiento de datos y la resumen de información, la industria de la atención médica altamente regulada se preocupa principalmente por la confiabilidad y precisión de los datos que se alimentan y se interpretan con estas herramientas. Sin un uso y capacitación adecuados de los empleados, las violaciones de datos se convierten en amenazas adicionales.

Aun así, el 95% de los líderes de la atención médica planean aumentar los presupuestos de IA en un 30% en 2025, con modelos de lenguaje grande (LLM) emergiendo como una de las herramientas más confiables. A medida que los LLM maduran, el 53% de los líderes de la atención médica ya han implementado políticas formales para ayudar a sus equipos a adaptarse a ellos, y otro 39% planea implementar políticas pronto.

Para los proveedores de atención médica que desean simplificar los servicios de comunicación con la IA pero aún están recelosos de hacerlo, aquí hay algunas recomendaciones para superar los obstáculos más comunes.

1.   Entrenar a la IA con fuentes médicas confiables

Mientras que los líderes de la atención médica pueden no estar directamente involucrados en la capacitación de la IA, deben desempeñar un papel fundamental en la supervisión de su implementación. Deben asegurarse de que los proveedores de chatbots estén capacitando y actualizando regularmente su IA con fuentes creíbles.

Los datos estructurados ricos capturados por los registros electrónicos de salud (EHR) obligatorios ofrecen vastos repositorios de datos de salud digitales que ahora pueden servir como base para la capacitación de algoritmos de IA. Los LLM avanzados pueden comprender la investigación médica, el análisis técnico, las revisiones de la literatura y las evaluaciones críticas. Sin embargo, en lugar de capacitar a estas herramientas con todos los datos al mismo tiempo, nuevas pruebas muestran que centrarse en un número más pequeño de intersecciones maximiza el rendimiento de la IA mientras mantiene el costo de capacitación bajo.

2.   Garantizar prácticas de datos compatibles con HIPAA

La Ley de Portabilidad y Responsabilidad de Seguro de Salud (HIPAA) establece estándares para la protección de información de salud del paciente (PHI) sensible. Para cumplir con estas regulaciones, los líderes de la atención médica deben asegurarse de que los proveedores de terceros:

• Recopilen solo la cantidad mínima de PHI necesaria para cumplir con el propósito del chatbot.
• Concedan acceso a la PHI solo al personal autorizado con políticas de contraseña y autenticación sólidas.
• Empleen técnicas de cifrado robustas para proteger la PHI tanto en reposo como en tránsito.
• Almacenen los datos necesarios en servidores compatibles con HIPAA con controles de acceso sólidos.
• Aseguren que firmen acuerdos de asociados comerciales (BAAs) para cumplir con HIPAA.
• Pidan su plan de respuesta para incidentes de seguridad.

Los líderes de la atención médica que utilicen estas herramientas deben verificar regularmente los informes de acceso —un paso que también es fácil de automatizar con la IA— y enviar alertas a la administración si se produce una actividad inusual.

Además, deben obtener el consentimiento informado y claro de los pacientes antes de recopilar y utilizar su PHI. Al solicitar el consentimiento, deben comunicar cómo se utilizará y protegerá la información del paciente.

3.   Interfaces bien diseñadas que mejoran los flujos de trabajo

Uno de los obstáculos más grandes al pasar a los EHR obligatorios fue la usabilidad de la tecnología. Los médicos estaban insatisfechos con la cantidad de tiempo que pasaban en tareas administrativas mientras se adaptaban a los flujos de trabajo complicados, lo que aumentaba su riesgo de agotamiento profesional y la posibilidad de cometer errores que podrían afectar el tratamiento del paciente.

Cuando trabajen con proveedores de terceros, soliciten una demostración y una segunda opinión antes de seleccionar una plataforma o solución de software de IA. No olviden preguntar si su producto permite la personalización que se adapte a los programas actuales para que puedan integrar las características listas para usar que mejor se adapten a sus flujos de trabajo.

El diseño centrado en el usuario y los formatos de datos y protocolos estandarizados facilitarán el intercambio de información sin problemas entre la tecnología de la atención médica y las plataformas de IA. Con estos estándares en su lugar, los algoritmos de IA se pueden integrar de manera significativa en la atención clínica en varios entornos de atención médica. Los protocolos establecidos también ayudan a que estas herramientas funcionen mejor al facilitar la interoperabilidad y permitir el acceso a conjuntos de datos más grandes y diversos.

4.   Uso adecuado y capacitación de los empleados

Un estudio de 2024 encontró que el consejo médico proporcionado por ‘médicos humanos y la IA’ fue, de hecho, más completo pero menos empático que el proporcionado por ‘médicos humanos’ solos. Para cerrar la brecha, los líderes de la atención médica deben comprender las capacidades y limitaciones de la IA y asegurarse de una supervisión y intervención humanas adecuadas.

Los líderes de la atención médica pueden integrar chatbots en sus sitios web y aplicaciones de pacientes para ofrecer a los usuarios acceso instantáneo a información médica, ayudando en la autodiagnóstico y la educación para la salud. Estas herramientas pueden enviar recordatorios oportunos a los pacientes para que renueven sus recetas, ayudando a los pacientes a adherirse a los planes de tratamiento. También pueden ayudar a clasificar a los pacientes según la gravedad de su condición, ayudando a los proveedores de atención médica a priorizar los casos y asignar recursos de manera eficiente.

Sin embargo, estas herramientas aún pueden producir alucinaciones, y es fundamental que un validador humano esté involucrado en tareas complejas. Trabajen con expertos de terceros para definir su visión para las herramientas de comunicación de la IA y crear sus flujos de trabajo deseados. Una vez que acuerden sus casos de uso, los procesos de gestión del cambio operativo y cultural —como el proceso de cambio de 8 pasos de Kotter— ofrecen una hoja de ruta para la incorporación de empleados, lo que en última instancia mejora los resultados de los pacientes.

5.   Pedir al chatbot que detecte errores

Ningún líder empresarial quiere cometer errores, pero la industria de la atención médica es un entorno de alto riesgo donde incluso las pequeñas omisiones pueden tener consecuencias graves. Sin embargo, incluso los mejores clínicos no están inmunes a los errores médicos. La IA puede ser una herramienta poderosa para mejorar la atención al paciente al detectar errores y llenar los vacíos.

Una investigación de 2023 que utilizó GPT-4 para transcribir y resumir una conversación entre un paciente y un clínico más tarde empleó el chatbot para revisar la conversación en busca de errores. Durante la validación, detectó un error en el índice de masa corporal (IMC) del paciente. El chatbot también notó que las notas del paciente no mencionaban las pruebas de sangre que se ordenaron, ni la justificación para ordenarlas.

Este ejemplo indica que la IA se puede utilizar como un complemento para ayudar a los médicos a manejar las alucinaciones, omisiones y errores de la IA que se pueden utilizar para capacitar y mejorar las aplicaciones de la IA.

La IA de la atención médica existe para apoyar a los médicos y enfermeras, simplificar los flujos de trabajo, mejorar el acceso de los pacientes a la atención y minimizar las omisiones. Mientras que no pueden reemplazar completamente la empatía, la intuición y la experiencia en el mundo real que los proveedores de atención médica humanos aportan a la mesa, estas herramientas ofrecen excelentes beneficios analíticos y de ahorro de tiempo. Cuando los líderes de la atención médica se toman el tiempo para asegurarse de que se cumplan cuidadosamente las regulaciones de HIPAA, la comunicación transparente con los pacientes y la capacitación adecuada de los empleados, pueden implementar estas herramientas de manera segura y confiada.