Inteligencia Artificial Generativa en la Industria de la Salud Necesita una Dosis de Explicabilidad

La velocidad asombrosa con la que las herramientas de inteligencia artificial generativa basadas en texto pueden completar tareas de escritura y comunicación de alto nivel ha resonado con empresas y consumidores por igual. Pero los procesos que tienen lugar detrás de escena para permitir estas capacidades impresionantes pueden hacer que sea riesgoso para industrias sensibles y reguladas por el gobierno, como los seguros, las finanzas o la salud, aprovechar la inteligencia artificial generativa sin emplear una considerable precaución.

Algunos de los ejemplos más ilustrativos de esto se pueden encontrar en la industria de la salud.

Estos problemas suelen estar relacionados con los conjuntos de datos extensos y diversos utilizados para entrenar a los Grandes Modelos de Lenguaje (LLM) – los modelos que las herramientas de inteligencia artificial generativa basadas en texto se alimentan para realizar tareas de alto nivel. Sin una intervención explícita externa de los programadores, estos LLM tienden a raspar datos indiscriminadamente de diversas fuentes en Internet para ampliar su base de conocimientos.

Este enfoque es más adecuado para casos de uso orientados al consumidor de bajo riesgo, en los que el objetivo final es dirigir a los clientes hacia ofertas deseables con precisión. Sin embargo, cada vez más, los grandes conjuntos de datos y las rutas confusas por las que los modelos de inteligencia artificial generan sus salidas están oscureciendo la explicabilidad que los hospitales y los proveedores de salud requieren para rastrear y prevenir posibles inexactitudes.

En este contexto, la explicabilidad se refiere a la capacidad de entender las rutas lógicas de cualquier LLM dado. Los profesionales de la salud que buscan adoptar herramientas de inteligencia artificial generativa asistidas deben tener los medios para entender cómo sus modelos producen resultados para que los pacientes y el personal estén equipados con total transparencia en los diversos procesos de toma de decisiones. En otras palabras, en una industria como la salud, donde las vidas están en juego, las apuestas son simplemente demasiado altas para que los profesionales malinterpreten los datos utilizados para entrenar sus herramientas de inteligencia artificial.

Afortunadamente, hay una forma de sortear el dilema de la explicabilidad de la inteligencia artificial generativa – solo requiere un poco más de control y enfoque.

Misterio y Escepticismo

En la inteligencia artificial generativa, el concepto de entender cómo un LLM llega del Punto A – la entrada – al Punto B – la salida – es mucho más complejo que con algoritmos no generativos que siguen patrones más establecidos.

Las herramientas de inteligencia artificial generativa establecen innumerables conexiones mientras viajan de la entrada a la salida, pero para el observador externo, cómo y por qué hacen cualquier serie de conexiones sigue siendo un misterio. Sin una forma de ver el “proceso de pensamiento” que sigue un algoritmo de inteligencia artificial, los operadores humanos carecen de un medio exhaustivo para investigar su razonamiento y rastrear posibles inexactitudes.

Además, los conjuntos de datos en constante expansión utilizados por los algoritmos de aprendizaje automático complican aún más la explicabilidad. Cuanto mayor sea el conjunto de datos, más probable es que el sistema aprenda de información relevante y no relevante y produzca “alucinaciones de inteligencia artificial” – falsedades que se desvían de los hechos y la lógica contextual externos, por convincentes que sean.

En la industria de la salud, este tipo de resultados defectuosos pueden provocar una serie de problemas, como diagnósticos incorrectos y recetas incorrectas. Aparte de las consecuencias éticas, legales y financieras, estos errores podrían dañar fácilmente la reputación de los proveedores de salud y las instituciones médicas que representan.

Así que, a pesar de su potencial para mejorar las intervenciones médicas, mejorar la comunicación con los pacientes y fortalecer la eficiencia operativa, la inteligencia artificial generativa en la salud sigue envuelta en escepticismo, y con razón – el 55% de los clínicos no cree que esté lista para su uso médico y el 58% la desconfía en general. Sin embargo, las organizaciones de salud están adelante, con el 98% integrando o planeando una estrategia de implementación de inteligencia artificial generativa para contrarrestar el impacto de la escasez laboral en curso del sector.

Controlar la Fuente

La industria de la salud a menudo se encuentra en desventaja en el clima de consumo actual, que valora la eficiencia y la velocidad sobre la garantía de medidas de seguridad infalibles. Las noticias recientes sobre los peligros de la extracción de datos ilimitada para entrenar a los LLM, lo que lleva a demandas por infracción de derechos de autor, han llevado estos problemas al centro de atención. Algunas empresas también enfrentan acusaciones de que se extrajeron datos personales de los ciudadanos para entrenar estos modelos de lenguaje, lo que podría violar las leyes de privacidad.

Los desarrolladores de inteligencia artificial para industrias altamente reguladas deben ejercer control sobre las fuentes de datos para limitar los errores potenciales. Es decir, priorizar la extracción de datos de fuentes confiables y verificadas por la industria, en lugar de raspar páginas web externas de manera indiscriminada y sin permiso expreso. Para la industria de la salud, esto significa limitar las entradas de datos a páginas de preguntas frecuentes, archivos CSV y bases de datos médicas – entre otras fuentes internas.

Si esto suena un poco limitante, intente buscar un servicio en el sitio web de un gran sistema de salud. Las organizaciones de salud de EE. UU. publican cientos, si no miles, de páginas informativas en sus plataformas; la mayoría están enterradas tan profundamente que los pacientes nunca pueden acceder a ellas. Las soluciones de inteligencia artificial generativa basadas en datos internos pueden entregar esta información a los pacientes de manera conveniente y sin problemas. Esto es una victoria para todas las partes, ya que el sistema de salud finalmente ve un retorno de la inversión en este contenido, y los pacientes pueden encontrar los servicios que necesitan de inmediato y sin esfuerzo.

¿Qué hay de nuevo en la Inteligencia Artificial Generativa en Industrias Reguladas?

La industria de la salud se beneficiará de la inteligencia artificial generativa de varias maneras.

Considere, por ejemplo, el agotamiento generalizado que afecta al sector de la salud de EE. UU. en los últimos tiempos – cerca del 50% de la fuerza laboral se proyecta que abandonará su cargo para 2025. Los chatbots de inteligencia artificial generativa podrían ayudar a aliviar gran parte de la carga de trabajo y preservar el acceso a los equipos de pacientes sobrecargados.

En el lado de los pacientes, la inteligencia artificial generativa tiene el potencial de mejorar los servicios de centro de llamadas de los proveedores de salud. La automatización de la inteligencia artificial tiene el poder de abordar una amplia gama de consultas a través de varios canales de contacto, incluyendo preguntas frecuentes, problemas de TI, recetas de medicamentos y referencias a médicos. Aparte de la frustración que conlleva esperar en línea, solo alrededor de la mitad de los pacientes de EE. UU. resuelven con éxito sus problemas en la primera llamada, lo que resulta en altas tasas de abandono y un acceso limitado a la atención. La baja satisfacción del cliente crea aún más presión para que la industria actúe.

Para que la industria se beneficie realmente de la implementación de la inteligencia artificial generativa, los proveedores de salud necesitan facilitar la reestructuración intencional de los datos a los que acceden sus LLM.