Artículo examina cómo reducir el riesgo de utilizar la IA en la medicina

Los programas de inteligencia artificial son capaces de mejorar la atención médica de diversas maneras. Por ejemplo, las aplicaciones de IA pueden utilizar la visión por computadora para ayudar a los médicos a diagnosticar condiciones a partir de radiografías y resonancias magnéticas. Los algoritmos de aprendizaje automático también se pueden utilizar para ayudar a reducir las tasas de falsos positivos al extraer patrones sutiles de los datos que los humanos pueden no ser capaces de encontrar en los datos médicos. Sin embargo, con las posibilidades surgen nuevos desafíos, y recientemente se publicó un nuevo artículo en Science que examinó los posibles riesgos y estrategias regulatorias para las técnicas de aprendizaje automático en la medicina con el fin de minimizar cualquier efecto negativo posible de utilizar la IA en un contexto médico.

Ampliación de las aplicaciones de la IA en la atención médica

La IA está viendo expandirse rápidamente sus aplicaciones en el campo médico. Los desarrollos recientes en el campo de la atención médica, impulsados por la IA, incluyen la creación de una nueva empresa farmacéutica que busca utilizar la IA para crear nuevos medicamentos, la creación de sensores de salud remotos impulsados por IA y aplicaciones de visión por computadora que analizan tomografías computarizadas y radiografías.

Para ser más precisos, Genesis Therapeutics es una startup que busca utilizar la IA para acelerar el proceso de descubrimiento de fármacos, con la esperanza de crear medicamentos que puedan reducir la gravedad de enfermedades debilitantes. Genesis Therapeutics es solo una de las casi 170 empresas que utilizan la IA para investigar nuevas formulaciones de fármacos. Mientras tanto, en cuanto a los dispositivos de monitoreo de la salud, iRhythm (IRTC ) y la startup francesa de IA Cardiologs están utilizando algoritmos de IA para analizar datos de electroencefalografía y monitorear la salud de aquellos que tienen condiciones cardíacas y están en riesgo de complicaciones. El software diseñado por las empresas puede detectar murmullos cardíacos, una condición causada por el flujo sanguíneo turbulento.

Finalmente, un estudio reciente que investigaba cómo se puede aplicar la visión por computadora a las imágenes médicas encontró que los sistemas de visión por computadora funcionan al menos tan bien o mejor que los radiólogos expertos al examinar tomografías computarizadas para encontrar pequeñas hemorragias. Los algoritmos utilizados en el estudio pudieron realizar predicciones después de examinar tomografías computarizadas durante solo un segundo. Los sistemas de visión por computadora también pudieron localizar la hemorragia dentro del cerebro.

Así que, mientras que los beneficios potenciales de utilizar la IA en la atención médica son claros, lo que es menos claro es qué nuevos desafíos y riesgos surgirán como consecuencia de emplear la IA en el campo de la atención médica.

Regulación de un campo en expansión

Como informó TechXplore, con el fin de evaluar los posibles inconvenientes de utilizar la IA en la atención médica, un grupo de investigadores publicó recientemente un artículo en Science, con el objetivo de derivar respuestas y anticipar posibles problemas con la IA y explorar soluciones potenciales a estos problemas. Los problemas que pueden surgir del uso de la IA en la atención médica incluyen la recomendación inapropiada de tratamientos que resultan en lesiones, preocupaciones sobre la privacidad y sesgo/inequidad algorítmica.

La FDA solo ha aprobado la IA médica que utiliza algoritmos “bloqueados”, algoritmos que producen el mismo resultado cada vez que se ejecutan. Sin embargo, gran parte del potencial de la IA radica en su capacidad para aprender y responder a nuevos tipos de entradas. Para permitir que los algoritmos “adaptativos” vean un uso más amplio y obtengan la aprobación de la FDA, los autores del artículo examinaron en profundidad cómo se pueden mitigar los riesgos relacionados con la actualización de algoritmos.

Los autores abogan por que los ingenieros y investigadores de aprendizaje automático se centren en el monitoreo continuo de los modelos a lo largo de su vida útil. Entre las herramientas sugeridas para monitorear los sistemas de IA se encontraba la propia IA, que podría ayudar a proporcionar informes automatizados sobre cómo se comporta una IA. También es posible que varios dispositivos de IA puedan monitorearse mutuamente.

“Para gestionar los riesgos, los reguladores deben centrarse particularmente en el monitoreo y la evaluación de riesgos continuos, y menos en la planificación de cambios futuros en los algoritmos”, dijeron los autores del artículo.

Los autores del artículo también recomiendan que los reguladores se centren en desarrollar nuevos métodos para identificar, monitorear, evaluar y gestionar los riesgos. El artículo aplica muchas de las técnicas que la FDA ha utilizado para regular otras formas de tecnología médica.

Como explicaron los autores del artículo:

“Nuestro objetivo es enfatizar los riesgos que pueden surgir de los cambios no anticipados en la forma en que los sistemas de IA/ML médicos reaccionan o se adaptan a sus entornos. Las actualizaciones paramétricas sutiles y a menudo no reconocidas o los nuevos tipos de datos pueden causar errores grandes y costosos.”