L’IA peut être une alliée ou une ennemie dans l’amélioration de l’équité en matière de santé. Voici comment garantir qu’elle aide et non qu’elle nuit

Les inégalités et les disparités en matière de soins de santé sont omniprésentes, quel que soit le niveau socioéconomique, racial ou de genre. En tant que société, nous avons la responsabilité morale, éthique et économique de combler ces écarts et de garantir un accès cohérent, équitable et abordable aux soins de santé pour tous.

L’intelligence artificielle (IA) permet de remédier à ces disparités, mais elle constitue également une arme à double tranchant. Certes, l’IA contribue déjà à rationaliser la prestation des soins, à permettre une médecine personnalisée à grande échelle et à soutenir des découvertes révolutionnaires. Cependant, les biais inhérents aux données, aux algorithmes et aux utilisateurs pourraient aggraver le problème si nous n’y prenons pas garde.

Cela signifie que ceux d’entre nous qui développent et déploient des solutions de santé basées sur l’IA doivent veiller à empêcher l’IA d’élargir involontairement les écarts existants, et les organismes directeurs et les associations professionnelles doivent jouer un rôle actif dans l’établissement de garde-fous pour éviter ou atténuer les préjugés.

Voici comment l’utilisation de l’IA peut combler les inégalités au lieu de les élargir.

Atteindre l’équité dans les essais cliniques

De nombreux essais de nouveaux médicaments et traitements ont toujours été biaisés dans leur conception, que ce soit intentionnel ou non. Par exemple, Ce n'est qu'en 1993 que les femmes ont été obligées par la loi à inclure dans la recherche clinique financée par le NIH. Plus récemment, Les vaccins contre la COVID n’ont jamais été intentionnellement testés sur des femmes enceintes— c’est seulement parce que certaines participantes à l’essai étaient enceintes sans le savoir au moment de la vaccination que nous avons su que c’était sans danger.

L’un des défis de la recherche est que nous ignorons ce que nous ignorons. Pourtant, l’IA permet de découvrir des ensembles de données biaisés en analysant les données démographiques et en signalant une représentation disproportionnée ou des lacunes dans la couverture démographique. En garantissant une représentation diversifiée et en formant des modèles d’IA sur des données qui représentent avec précision les populations ciblées, l’IA contribue à garantir l’inclusion, à réduire les préjudices et à optimiser les résultats.

Assurer des traitements équitables

Il n'est bien établie que les femmes enceintes noires qui souffrent et subissent des complications pendant l'accouchement sont souvent ignorées, ce qui entraîne un taux de mortalité maternelle élevé 3X plus élevé pour les femmes noires que les femmes blanches non hispaniques indépendamment du revenu ou de l’éducationLe problème est largement perpétué par des préjugés inhérents : il existe une idée fausse répandue parmi les professionnels de la santé selon laquelle Les personnes noires ont une tolérance à la douleur plus élevée que les Blancs.

Les biais dans les algorithmes d’IA peuvent aggraver le problème : des chercheurs de Harvard ont découvert qu’un algorithme commun prédisait que les femmes noires et latines étaient moins susceptibles d’avoir des accouchements vaginaux réussis après une césarienne (AVAC), ce qui a peut-être conduit les médecins à pratiquer davantage de césariennes sur les femmes de couleur. Pourtant, les chercheurs ont constaté que « l’association est non étayé par une plausibilité biologique”, suggérant que la race est « un proxy pour d’autres variables qui reflètent l’effet de racisme sur la santé. » L’algorithme a ensuite été mis à jour pour exclure la race ou l’origine ethnique lors du calcul du risque.

Il s’agit d’une application idéale pour l’IA, qui permettrait d’éliminer les biais implicites et de suggérer (avec des preuves) des parcours de soins qui auraient pu être négligés jusqu’à présent. Au lieu de continuer à pratiquer des « soins standard », nous pouvons utiliser l’IA pour déterminer si ces meilleures pratiques sont basées sur l’expérience de toutes les femmes ou uniquement des femmes blanches. L’IA permet de garantir que nos bases de données incluent les patients qui ont le plus à gagner des avancées en matière de soins de santé et de technologie.

Bien qu'il puisse y avoir des conditions dans lesquelles la race et l'ethnicité peuvent être des facteurs ayant un impact, nous devons veiller à savoir comment et quand elles doivent être prises en compte et quand nous nous appuyons simplement sur des biais historiques pour éclairer nos perceptions et nos algorithmes d'IA.

Offrir des stratégies de prévention équitables

Les solutions d'IA peuvent facilement négliger certaines pathologies au sein des communautés marginalisées sans tenir compte des biais potentiels. Par exemple, l'Administration des anciens combattants travaille sur plusieurs algorithmes pour prédire et détecter les signes de maladies cardiaques et de crises cardiaques. Ces algorithmes présentent un potentiel vital considérable, mais la plupart des études n'incluent généralement pas beaucoup de femmes, pour qui les maladies cardiovasculaires sont la première cause de décès. Par conséquent, on ignore si ces modèles sont aussi efficaces chez les femmes, dont les symptômes sont souvent très différents de ceux des hommes.

L’inclusion d’un nombre proportionnel de femmes dans cet ensemble de données pourrait contribuer à prévenir certains des 3.2 millions de crises cardiaques et un demi-million de décès d'origine cardiaque chaque année chez les femmes grâce à une détection et une intervention précoces. De même, de nouveaux outils d'IA éliminent algorithmes basés sur la race dans le dépistage des maladies rénales, qui ont historiquement exclu les Noirs, les Hispaniques et les Amérindiens, ce qui a entraîné des retards dans les soins et de mauvais résultats cliniques.

Au lieu d’exclure les personnes marginalisées, l’IA peut en réalité aider à prévoir les risques sanitaires pour les populations mal desservies et permettre des évaluations de risques personnalisées pour mieux cibler les interventions. Les données sont peut-être déjà là ; il s’agit simplement de « régler » les modèles pour déterminer comment la race, le sexe et d’autres facteurs démographiques affectent les résultats – si tant est qu’ils aient un impact.

Simplifiez les tâches administratives

Outre son impact direct sur les résultats des patients, l’IA a un potentiel incroyable pour accélérer les flux de travail en coulisses afin de réduire les disparités. Par exemple, les entreprises et les prestataires utilisent déjà l’IA pour combler les lacunes en matière de codage et de traitement des demandes d’indemnisation, pour valider les codes de diagnostic par rapport aux notes des médecins et pour automatiser les processus de préautorisation pour les procédures de diagnostic courantes.

En rationalisant ces fonctions, nous pouvons réduire considérablement les coûts d’exploitation, aider les cabinets des prestataires à fonctionner plus efficacement et donner au personnel plus de temps à consacrer aux patients, rendant ainsi les soins exponentiellement plus abordables et accessibles.

Nous avons chacun un rôle important à jouer

Le fait que nous ayons à notre disposition ces outils incroyables rend d’autant plus impératif leur utilisation pour éliminer et surmonter les biais dans le domaine des soins de santé. Malheureusement, il n’existe aux États-Unis aucun organisme de certification qui réglemente les efforts visant à utiliser l’IA pour « éliminer les biais » dans la prestation des soins de santé, et même pour les organisations qui ont mis en place des lignes directrices, il n’existe aucune incitation réglementaire à s’y conformer.

Il nous incombe donc, en tant que praticiens de l’IA, scientifiques des données, créateurs d’algorithmes et utilisateurs, de développer une stratégie consciente pour garantir l’inclusivité, la diversité des données et l’utilisation équitable de ces outils et de ces connaissances.

Pour y parvenir, une intégration et une interopérabilité précises sont essentielles. Avec autant de sources de données (des dispositifs portables aux fournisseurs de laboratoire et d’imagerie tiers, en passant par les soins primaires, les échanges d’informations médicales et les dossiers des patients), nous devons intégrer toutes ces données afin d’inclure les éléments clés, quel que soit le format de notre source. Le secteur a besoin de normalisation des données, de standardisation et de mise en correspondance des identités pour s’assurer que les données essentielles des patients sont incluses, même avec des orthographes de noms disparates ou des conventions de dénomination basées sur diverses cultures et langues.

Nous devons également intégrer des évaluations de diversité dans notre processus de développement de l'IA et surveiller les « dérives » de nos mesures au fil du temps. Les praticiens de l'IA ont la responsabilité de tester les performances du modèle dans les sous-groupes démographiques, de mener des audits de biais et de comprendre comment le modèle prend des décisions. Nous devrons peut-être aller au-delà des hypothèses fondées sur la race pour nous assurer que notre analyse représente la population pour laquelle nous la construisons. Par exemple, les membres de la Tribu indienne Pima Les membres de la même tribu qui vivent dans la réserve de Gila River en Arizona ont des taux extrêmement élevés d'obésité et de diabète de type 2, tandis que les membres de la même tribu qui vivent juste de l'autre côté de la frontière, dans les montagnes de la Sierra Madre au Mexique, ont des taux d'obésité et de diabète nettement inférieurs, prouvant que la génétique n'est pas le seul facteur.

Enfin, nous avons besoin que des organisations comme l’American Medical Association, le Bureau du coordinateur national des technologies de l’information sur la santé et des organisations spécialisées comme l’American College of Obstetrics and Gynecology, l’American Academy of Pediatrics, l’American College of Cardiology et bien d’autres travaillent ensemble pour établir des normes et des cadres pour l’échange de données et l’acuité afin de se prémunir contre les biais.

En normalisant le partage des données de santé et en élargissant HTI-1 ou HTI-2 En obligeant les développeurs à collaborer avec les organismes d’accréditation, nous contribuons à garantir la conformité et à corriger les erreurs d’iniquité passées. De plus, en démocratisant l’accès à des données complètes et exactes sur les patients, nous pouvons supprimer les œillères qui ont perpétué les préjugés et utiliser l’IA pour résoudre les disparités en matière de soins grâce à des informations plus complètes et objectives.