Examen de papel sobre cómo reducir el riesgo de usar IA en medicina

Los programas de inteligencia artificial son capaces de mejorar la atención médica de diversas maneras. Por ejemplo, las aplicaciones de IA pueden utilizar la visión por computadora para ayudar a los médicos a diagnosticar condiciones a partir de radiografías y resonancias magnéticas. Los algoritmos de aprendizaje automático también se pueden utilizar para ayudar a reducir las tasas de falsos positivos al extraer patrones sutiles de los datos que los humanos pueden no ser capaces de encontrar en los datos médicos. Sin embargo, con las posibilidades vienen nuevos desafíos, y recientemente se publicó un nuevo artículo en Science que examinó los posibles riesgos y estrategias regulatorias para las técnicas de aprendizaje automático médico con el fin de minimizar cualquier efecto secundario negativo posible de emplear IA en un contexto médico.

Expansión de aplicaciones para IA en la atención sanitaria

La IA está viendo expandirse rápidamente sus aplicaciones en el campo médico. Los desarrollos recientes en el campo de la atención sanitaria, impulsados por la IA, incluyen la creación de una nueva empresa farmacéutica que tiene como objetivo utilizar la IA para crear nuevos medicamentos, la creación de sensores de salud remotos impulsados por IA y aplicaciones de visión por computadora que analizan tomografías computarizadas y radiografías.

Para ser más precisos, Genesis Therapeutics es una startup que tiene como objetivo utilizar la IA para acelerar el proceso de descubrimiento de fármacos, con la esperanza de crear medicamentos que puedan reducir la gravedad de enfermedades debilitantes. Genesis Therapeutics es solo una de casi 170 empresas diferentes que utilizan la IA para investigar nuevas formulaciones de medicamentos. Mientras tanto, en términos de dispositivos de monitoreo de salud, iRhythm y la startup francesa de IA Cardiologs están utilizando algoritmos de IA para analizar datos de EEG y monitorear la salud de aquellos que tienen enfermedades cardíacas y están en riesgo de complicaciones. El software diseñado por las empresas puede detectar murmullos cardíacos, una condición causada por un flujo sanguíneo turbulento.

Finalmente, un estudio reciente que investigó cómo se puede aplicar la visión por computadora a las imágenes médicas encontró que los sistemas de visión por computadora funcionan al menos tan bien o mejor que los radiólogos expertos cuando examinan tomografías computarizadas para encontrar pequeñas hemorragias. Los algoritmos utilizados en el estudio pudieron renderizar predicciones después de examinar tomografías computarizadas durante solo un segundo. Los sistemas de visión por computadora también pudieron localizar la hemorragia dentro del cerebro.

Así que, mientras que los beneficios potenciales de utilizar la IA en la atención sanitaria son claros, lo que es menos claro es qué nuevos desafíos y riesgos surgirán como efecto secundario de emplear la IA dentro del campo de la atención sanitaria.

Regulación de un campo en expansión

Como informó TechXplore, para evaluar los posibles inconvenientes de utilizar la IA en la atención sanitaria, un grupo de investigadores publicó recientemente un artículo en Science, con el objetivo de derivar respuestas para anticipar posibles problemas con la IA y explorar soluciones potenciales a estos problemas. Problemas que pueden surgir del uso de la IA en el campo de la atención sanitaria incluyen la recomendación inapropiada de tratamientos que resultan en lesiones, preocupaciones sobre la privacidad y sesgo/inequidad algorítmica.

La FDA solo ha aprobado la IA médica que utiliza algoritmos “bloqueados”, algoritmos que producen el mismo resultado cada vez que se ejecutan. Sin embargo, gran parte del potencial de la IA radica en su capacidad para aprender y responder a nuevos tipos de entradas. Para permitir que los “algoritmos adaptativos” vean un uso más extendido y obtengan la aprobación de la FDA, los autores del artículo examinaron en profundidad cómo se pueden mitigar los riesgos relacionados con la actualización de algoritmos.

Los autores abogan por que los ingenieros y investigadores de aprendizaje automático se centren en el monitoreo continuo de los modelos a lo largo de la vida útil de su implementación. Entre las herramientas sugeridas para monitorear los sistemas de IA se encuentra la propia IA, que podría ayudar a proporcionar informes automatizados sobre cómo se comporta una IA. También es posible que varios dispositivos de IA puedan monitorearse mutuamente.

“Para gestionar los riesgos, los reguladores deben centrarse particularmente en el monitoreo continuo y la evaluación de riesgos, y menos en la planificación de cambios futuros en los algoritmos”, dijeron los autores del artículo.

Los autores del artículo también recomiendan que los reguladores se centren en desarrollar nuevos métodos para identificar, monitorear, evaluar y gestionar riesgos. El artículo aplica muchas de las técnicas que la FDA ha utilizado para regular otras formas de tecnología médica.

Como explicaron los autores del artículo:

“Nuestro objetivo es enfatizar los riesgos que pueden surgir de cambios no anticipados en la forma en que los sistemas de IA/ML médicos reaccionan o se adaptan a sus entornos. Actualizaciones paramétricas sutiles, a menudo no reconocidas, o nuevos tipos de datos pueden causar errores grandes y costosos”.