El AI puede ser amigo o enemigo en la mejora de la equidad en la salud. Aquí está cómo asegurarse de que ayude, no dañe

Las desigualdades en la atención médica y las disparidades en la atención son generalizadas en las divisiones socioeconómicas, raciales y de género. Como sociedad, tenemos una responsabilidad moral, ética y económica de cerrar estas brechas y asegurar un acceso constante, justo y asequible a la atención médica para todos.

La Inteligencia Artificial (IA) ayuda a abordar estas disparidades, pero también es una espada de doble filo. Ciertamente, la IA ya está ayudando a optimizar la entrega de la atención, permitir la medicina personalizada a gran escala y apoyar descubrimientos innovadores. Sin embargo, los sesgos inherentes en los datos, algoritmos y usuarios podrían empeorar el problema si no somos cuidadosos.

Esto significa que aquellos de nosotros que desarrollamos y desplegamos soluciones de atención médica impulsadas por IA debemos ser cuidadosos para evitar que la IA amplíe involuntariamente las brechas existentes, y los organismos rectores y asociaciones profesionales deben desempeñar un papel activo en el establecimiento de límites para evitar o mitigar los sesgos.

Aquí está cómo la IA puede ayudar a cerrar las brechas de desigualdad en lugar de ampliarlas.

Lograr la equidad en los ensayos clínicos

Muchos de los nuevos ensayos de medicamentos y tratamientos han sido históricamente sesgados en su diseño, ya sea intencional o no. Por ejemplo, no fue hasta 1993 que las mujeres fueron requeridas por ley para ser incluidas en la investigación clínica financiada por el NIH. Más recientemente, las vacunas contra el COVID nunca se probaron intencionalmente en mujeres embarazadas—solo porque algunos participantes en los ensayos estaban desconocidamente embarazadas en el momento de la vacunación, supimos que era seguro.

Un desafío con la investigación es que no sabemos lo que no sabemos. Sin embargo, la IA ayuda a descubrir conjuntos de datos sesgados analizando los datos de la población y señalizando la representación desproporcionada o las brechas en la cobertura demográfica. Al garantizar una representación diversa y entrenar los modelos de IA con datos que representen con precisión las poblaciones objetivo, la IA ayuda a garantizar la inclusión, reducir el daño y optimizar los resultados.

Asegurar tratamientos equitativos

Está bien establecido que las madres negras expectantes que experimentan dolor y complicaciones durante el parto a menudo son ignoradas, lo que resulta en una tasa de mortalidad materna 3 veces mayor para las mujeres negras que para las mujeres blancas no hispanas independientemente de la renta o la educación. El problema es en gran medida perpetuado por sesgos inherentes: hay una concepción generalizada entre los profesionales médicos de que las personas negras tienen una mayor tolerancia al dolor que las personas blancas.

El sesgo en los algoritmos de IA puede empeorar el problema: los investigadores de Harvard descubrieron que un algoritmo común predijo que las mujeres negras y latinas tenían menos probabilidades de tener partos vaginales exitosos después de una cesárea (VBAC), lo que puede haber llevado a los médicos a realizar más cesáreas en mujeres de color. Sin embargo, los investigadores encontraron que “la asociación no está respaldada por la plausibilidad biológica”, lo que sugiere que la raza es “un proxy para otras variables que reflejan el efecto del racismo en la salud”. El algoritmo se actualizó posteriormente para excluir la raza o la etnia al calcular el riesgo.

Esta es una aplicación perfecta para que la IA elimine los sesgos implícitos y sugiera (con evidencia) trayectorias de atención que pueden haber sido pasadas por alto anteriormente. En lugar de seguir practicando la “atención estándar”, podemos usar la IA para determinar si esas mejores prácticas se basan en la experiencia de todas las mujeres o solo de las mujeres blancas. La IA ayuda a garantizar que nuestras bases de datos incluyan a los pacientes que tienen más que ganar con los avances en la atención médica y la tecnología.

Aunque puede haber condiciones en las que la raza y la etnia podrían ser factores impactantes, debemos ser cuidadosos para saber cómo y cuándo deben considerarse y cuándo simplemente estamos recurriendo a los sesgos históricos para informar nuestras percepciones y algoritmos de IA.

Proporcionar estrategias de prevención equitativas

Las soluciones de IA pueden pasar por alto fácilmente ciertas afecciones en las comunidades marginadas sin una consideración cuidadosa del sesgo potencial. Por ejemplo, la Administración de Veteranos está trabajando en múltiples algoritmos para predecir y detectar signos de enfermedad cardíaca y ataques cardíacos. Esto tiene un tremendo potencial para salvar vidas, pero la mayoría de los estudios históricamente no han incluido a muchas mujeres, para las cuales la enfermedad cardiovascular es la principal causa de muerte. Por lo tanto, no se sabe si estos modelos son tan efectivos para las mujeres, que a menudo presentan síntomas muy diferentes a los de los hombres.

Incluir un número proporcional de mujeres en este conjunto de datos podría ayudar a prevenir algunas de las 3,2 millones de ataques cardíacos y 500.000 muertes relacionadas con la cardiopatía anualmente en las mujeres a través de la detección y la intervención temprana. De manera similar, las nuevas herramientas de IA están eliminando los algoritmos basados en la raza en la detección de la enfermedad renal, que históricamente han excluido a los negros, hispanos y nativos americanos, lo que ha resultado en retrasos en la atención y malos resultados clínicos.

En lugar de excluir a las personas marginadas, la IA puede ayudar a predecir los riesgos para la salud de las poblaciones subatendidas y permitir evaluaciones de riesgo personalizadas para intervenir mejor. Es posible que los datos ya estén allí; se trata simplemente de “ajustar” los modelos para determinar cómo la raza, el género y otros factores demográficos afectan los resultados, si es que lo hacen.

Optimizar las tareas administrativas

Además de afectar directamente los resultados de los pacientes, la IA tiene un potencial increíble para acelerar los flujos de trabajo detrás de las escenas para reducir las disparidades. Por ejemplo, las empresas y los proveedores ya están utilizando la IA para llenar los espacios en la codificación de reclamaciones y la adjudicación, validar los códigos de diagnóstico contra las notas de los médicos y automatizar los procesos de preautorización para procedimientos de diagnóstico comunes.

Al optimizar estas funciones, podemos reducir drásticamente los costos operativos, ayudar a que las oficinas de los proveedores funcionen de manera más eficiente y dar al personal más tiempo para pasar con los pacientes, lo que hace que la atención sea exponencialmente más asequible y accesible.

Cada uno de nosotros tiene un papel importante que desempeñar

El hecho de que tengamos estas herramientas increíbles a nuestra disposición hace que sea aún más imperativo que las usemos para erradicar y superar los sesgos en la atención médica. Desafortunadamente, no hay un organismo certificador en los EE. UU. que regule los esfuerzos para utilizar la IA para “desviar” la entrega de la atención médica, y incluso para aquellas organizaciones que han establecido pautas, no hay un incentivo regulatorio para cumplir con ellas.

Por lo tanto, la responsabilidad recae en nosotros como practicantes de IA, científicos de datos, creadores de algoritmos y usuarios para desarrollar una estrategia consciente para garantizar la inclusión, la diversidad de los datos y el uso equitativo de estas herramientas y conocimientos.

Para hacerlo, la integración y la interoperabilidad precisas son esenciales. Con tantas fuentes de datos, desde dispositivos portátiles y proveedores de laboratorio y de imágenes de terceros hasta registros de atención primaria, intercambios de información de salud y registros de pacientes internados, debemos integrar todos estos datos para que las piezas clave estén incluidas, independientemente del formato de nuestra fuente. La industria necesita la normalización de los datos, la estandarización y la coincidencia de identidad para asegurarse de que los datos esenciales del paciente estén incluidos, incluso con ortografías de nombres dispares o convenciones de nomenclatura basadas en diversas culturas y lenguas.

También debemos incorporar evaluaciones de diversidad en nuestro proceso de desarrollo de IA y monitorear el “desplazamiento” en nuestras métricas con el tiempo. Los practicantes de IA tienen la responsabilidad de probar el rendimiento del modelo en subgrupos demográficos, realizar auditorías de sesgo y comprender cómo el modelo toma decisiones. Es posible que debamos ir más allá de las suposiciones basadas en la raza para asegurarnos de que nuestro análisis represente la población para la que lo estamos construyendo. Por ejemplo, los miembros de la tribu india Pima que viven en la Reserva del Río Gila en Arizona tienen tasas extremadamente altas de obesidad y diabetes tipo 2, mientras que los miembros de la misma tribu que viven justo al otro lado de la frontera en las montañas de Sierra Madre en México tienen tasas mucho más bajas de obesidad y diabetes, lo que demuestra que la genética no es el único factor.

Finalmente, necesitamos que organizaciones como la Asociación Médica Estadounidense, la Oficina del Coordinador Nacional de Tecnología de Información de Salud y organizaciones especializadas como el Colegio Estadounidense de Obstetricia y Ginecología, la Academia Estadounidense de Pediatría, el Colegio Estadounidense de Cardiología y muchas otras trabajen juntas para establecer estándares y marcos para el intercambio de datos y la agudeza para proteger contra los sesgos.

Al estandarizar el intercambio de datos de salud y expandir HTI-1 y HTI-2 para requerir a los desarrolladores que trabajen con organismos acreditadores, ayudamos a asegurar el cumplimiento y corregir los errores de inequidad pasados. Además, al democratizar el acceso a los datos de los pacientes completos y precisos, podemos eliminar las limitaciones que han perpetuado los sesgos y utilizar la IA para resolver las disparidades en la atención a través de conocimientos más integrales y objetivos.