Abordar el escepticismo sobre la IA en la atención médica: superar obstáculos para garantizar la comunicación segura

Los líderes de la atención médica están ansiosos por adoptar la IA, en parte para mantener el ritmo con los competidores y otras industrias, pero, más importante aún, para aumentar la eficiencia y mejorar las experiencias de los pacientes. Sin embargo, solo 77% de los líderes de la atención médica realmente confían en la IA para beneficiar a su negocio.

Mientras que los chatbots de IA excelan en el manejo de tareas rutinarias, el procesamiento de datos y la resumen de información, la industria de la atención médica altamente regulada se preocupa más por la confiabilidad y precisión de los datos que se alimentan y se interpretan con estas herramientas. Sin un uso y capacitación adecuados para los empleados, las violaciones de datos se convierten en amenazas adicionales apremiantes.

Aun así, el 95% de los líderes de la atención médica planean aumentar los presupuestos de IA en un 30% en 2025, con modelos de lenguaje grande (LLMs) emergiendo como una de las herramientas más confiables. A medida que los LLMs maduran, el 53% de los líderes de la atención médica ya han implementado políticas formales para ayudar a sus equipos a adaptarse a ellos, y otro 39% planea implementar políticas pronto.

Para los proveedores de atención médica que desean simplificar los servicios de comunicación con IA pero aún están recelosos de hacerlo, aquí hay algunas recomendaciones para superar los obstáculos más comunes.

1.   Entrenar a la IA con fuentes médicas confiables

Mientras que los líderes de la atención médica pueden no estar directamente involucrados en el entrenamiento de la IA, deben desempeñar un papel fundamental en la supervisión de su implementación. Deben asegurarse de que los proveedores de chatbots estén entrenando y actualizando regularmente su IA con fuentes creíbles.

Los ricos datos estructurados capturados por los registros electrónicos de salud (EHRs) obligatorios ofrecen vastos repositorios de datos de salud digitales que ahora pueden servir como base para el entrenamiento de algoritmos de IA. Los LLMs avanzados pueden comprender investigaciones médicas, análisis técnicos, revisiones de literatura y evaluaciones críticas. Sin embargo, en lugar de entrenar estas herramientas con todos los datos al mismo tiempo, nuevas evidencias muestran que centrarse en un número menor de intersecciones maximiza el rendimiento de la IA mientras mantiene el costo de entrenamiento bajo.

2.   Asegurar prácticas de datos compatibles con HIPAA

La Ley de Portabilidad y Responsabilidad de Seguros de Salud (HIPAA) describe los estándares para proteger la información de salud sensible del paciente (PHI). Para alinearse con estas regulaciones, los líderes de la atención médica deben asegurarse de que los proveedores de terceros:

• Recopilen solo la cantidad mínima de PHI necesaria para cumplir con el propósito del chatbot.
• Concedan acceso a PHI solo al personal autorizado con políticas de contraseña y autenticación sólidas.
• Empleen técnicas de cifrado robustas para proteger PHI tanto en reposo como en tránsito.
• Almacenen los datos necesarios en servidores compatibles con HIPAA con controles de acceso sólidos.
• Aseguren que firmen acuerdos de asociados comerciales (BAAs) para cumplir con HIPAA.
• Pidan su plan de respuesta para incidentes de seguridad.

Los líderes de la atención médica que utilicen estas herramientas deben verificar regularmente los informes de acceso, un paso que también es fácil de automatizar con IA, y enviar alertas a la gerencia si se produce actividad inusual.

Además, deben obtener el consentimiento claro e informado de los pacientes antes de recopilar y utilizar su PHI. Al solicitar el consentimiento, comuniquen cómo se utilizará y protegerá los datos del paciente.

3.   Interfaz bien diseñada que mejora los flujos de trabajo

Uno de los mayores obstáculos al transitar a los EHRs obligatorios fue la usabilidad de la tecnología. Los médicos estaban insatisfechos con la cantidad de tiempo dedicado a tareas administrativas a medida que se adaptaban a los flujos de trabajo complicados, aumentando su riesgo de agotamiento profesional y la posibilidad de cometer errores que pueden afectar el tratamiento del paciente.

Al trabajar con proveedores de terceros, solicite una demostración y una segunda opinión antes de seleccionar una plataforma o solución de software de IA. No olvide preguntar si su producto permite la personalización que se adapte a los programas actuales para que pueda integrar las características listas para usar que mejor se adapten a sus flujos de trabajo.

El diseño centrado en el usuario y los formatos y protocolos de datos estandarizados facilitarán el intercambio de información sin problemas entre la tecnología de la atención médica y las plataformas de IA. Con estos estándares en su lugar, los algoritmos de IA se pueden integrar de manera significativa en la atención clínica en varios entornos de atención médica. Los protocolos establecidos también ayudan a que estas herramientas funcionen mejor al facilitar la interoperabilidad y permitir el acceso a conjuntos de datos más grandes y diversos.

4.   Uso adecuado y capacitación de los empleados

Un estudio de 2024 encontró que los consejos médicos proporcionados por ‘médicos humanos y IA’ fueron, de hecho, más completos pero menos empáticos que los proporcionados por ‘médicos humanos’ solos. Para cerrar la brecha, los líderes de la atención médica deben comprender las capacidades y limitaciones de la IA y asegurarse de que haya una supervisión y intervención humanas adecuadas.

Los líderes de la atención médica pueden integrar chatbots en sus sitios web y aplicaciones de pacientes para ofrecer a los usuarios acceso instantáneo a información médica, ayudando en el autodiagnóstico y la educación para la salud. Estas herramientas pueden enviar recordatorios oportunos a los pacientes para que rellenen sus recetas, ayudando a los pacientes a adherirse a los planes de tratamiento. También pueden ayudar a clasificar a los pacientes según la gravedad de su condición, ayudando a los proveedores de atención médica a priorizar los casos y asignar recursos de manera eficiente.

Sin embargo, estas herramientas aún pueden producir alucinaciones, y es imperativo que un validador humano esté involucrado en tareas complejas. Trabajen con expertos de terceros para definir su visión para las herramientas de comunicación de IA y crear sus flujos de trabajo deseados. Una vez que acuerden sus casos de uso, los procesos de cambio cultural y operativo, como el proceso de cambio de 8 pasos de Kotter, ofrecen una hoja de ruta para la incorporación de empleados, lo que en última instancia mejora los resultados de los pacientes.

5.   Pedir al chatbot que detecte errores

Ningún líder empresarial quiere cometer errores, pero la industria de la atención médica es un entorno de alto riesgo donde incluso los errores menores pueden tener repercusiones graves. Sin embargo, incluso los mejores clínicos no están inmunes a errores médicos. La IA puede ser una herramienta poderosa para mejorar la atención al paciente al detectar errores y llenar los vacíos.

Una investigación de 2023 que utilizó GPT-4 para transcribir y resumir una conversación entre un paciente y un clínico empleó más tarde el chatbot para revisar la conversación en busca de errores. Durante la validación, detectó un error en el índice de masa corporal (IMC) del paciente. El chatbot también notó que las notas del paciente no mencionaban las pruebas de sangre que se ordenaron, ni la justificación para ordenarlas.

Este ejemplo indica que la IA se puede utilizar como un complemento para ayudar a los médicos a manejar alucinaciones, omisiones y errores de la IA que se pueden utilizar para entrenar y mejorar las aplicaciones de IA.

La IA de la atención médica existe para apoyar a los médicos y enfermeras, simplificar los flujos de trabajo, mejorar el acceso de los pacientes a la atención y minimizar los errores. Si bien no pueden reemplazar completamente la empatía, la intuición y la experiencia en el mundo real que los proveedores de atención médica humanos aportan a la mesa, estas herramientas ofrecen excelentes beneficios analíticos y de ahorro de tiempo. Cuando los líderes de la atención médica se toman el tiempo para asegurarse de que se cumplan cuidadosamente las regulaciones de HIPAA, la comunicación transparente con los pacientes y la capacitación adecuada de los empleados, pueden implementar estas herramientas de manera segura y confiada.