L’IA peut être un allié ou un ennemi pour améliorer l’équité en santé : voici comment s’assurer qu’elle aide, et non nuit

Les inégalités et les disparités dans les soins de santé sont généralisées à travers les divisions socio-économiques, raciales et de genre. En tant que société, nous avons une responsabilité morale, éthique et économique pour combler ces lacunes et assurer un accès constant, équitable et abordable aux soins de santé pour tous.

L’intelligence artificielle (IA) aide à résoudre ces disparités, mais c’est également une épée à double tranchant. Certes, l’IA aide déjà à rationaliser la prestation de soins, à permettre une médecine personnalisée à grande échelle et à soutenir des découvertes révolutionnaires. Cependant, les préjugés inhérents aux données, aux algorithmes et aux utilisateurs pourraient aggraver le problème si nous ne sommes pas prudents.

Cela signifie que ceux d’entre nous qui développent et déployons des solutions de soins de santé basées sur l’IA doivent être prudents pour éviter que l’IA ne creuse involontairement les écarts existants, et que les organismes de régulation et les associations professionnelles doivent jouer un rôle actif pour établir des garde-fous pour éviter ou atténuer les préjugés.

Voici comment l’utilisation de l’IA peut combler les lacunes d’inégalité au lieu de les élargir.

Assurer l’équité dans les essais cliniques

De nombreux essais de nouveaux médicaments et traitements ont historiquement été biaisés dans leur conception, que ce soit intentionnellement ou non. Par exemple, ce n’est qu’en 1993 que les femmes ont été obligées par la loi d’être incluses dans la recherche clinique financée par les NIH. Plus récemment, les vaccins contre le COVID n’ont jamais été intentionnellement testés chez les femmes enceintes — c’est seulement parce que certaines participantes aux essais étaient inconsciemment enceintes au moment de la vaccination que nous savons que c’est sûr.

Un défi avec la recherche est que nous ne savons pas ce que nous ne savons pas. Pourtant, l’IA aide à découvrir les ensembles de données biaisés en analysant les données de population et en signalant les représentations disproportionnées ou les lacunes dans la couverture démographique. En garantissant une représentation diversifiée et en formant des modèles d’IA sur des données qui représentent avec précision les populations ciblées, l’IA aide à assurer l’inclusivité, à réduire les préjudices et à optimiser les résultats.

Assurer des traitements équitables

Il est bien établi que les mères noires qui subissent des douleurs et des complications pendant l’accouchement sont souvent ignorées, ce qui entraîne un taux de mortalité maternelle 3 fois plus élevé pour les femmes noires que pour les femmes blanches non hispaniques quelle que soit la rémunération ou l’éducation. Le problème est en grande partie perpétué par des préjugés inhérents : il y a une idée fausse répandue parmi les professionnels de la santé selon laquelle les personnes noires ont une tolérance à la douleur plus élevée que les personnes blanches.

Les préjugés dans les algorithmes d’IA peuvent aggraver le problème : des chercheurs de Harvard ont découvert qu’un algorithme courant prédisait que les femmes noires et latines étaient moins susceptibles d’avoir des accouchements vaginaux réussis après une césarienne (VBAC), ce qui pourrait avoir conduit les médecins à pratiquer plus de césariennes sur les femmes de couleur. Cependant, les chercheurs ont constaté que « l’association n’est pas étayée par la plausibilité biologique », suggérant que la race est « un proxy pour d’autres variables qui reflètent l’effet du racisme sur la santé ». L’algorithme a ensuite été mis à jour pour exclure la race ou l’ethnicité lors du calcul du risque.

Ceci est une application parfaite pour que l’IA élimine les préjugés implicites et suggère (avec preuves) des parcours de soins qui pourraient avoir été précédemment négligés. Au lieu de continuer à pratiquer des « soins standard », nous pouvons utiliser l’IA pour déterminer si ces meilleures pratiques sont basées sur l’expérience de toutes les femmes ou seulement des femmes blanches. L’IA aide à garantir que nos fondements de données incluent les patients qui ont le plus à gagner des progrès dans les soins de santé et la technologie.

Même si il peut y avoir des conditions dans lesquelles la race et l’ethnicité pourraient être des facteurs impactants, nous devons être prudents pour savoir comment et quand ils devraient être pris en compte et quand nous nous contentons simplement de préjugés historiques pour éclairer nos perceptions et les algorithmes d’IA.

Fournir des stratégies de prévention équitables

Les solutions d’IA peuvent facilement négliger certaines conditions dans les communautés marginalisées sans une considération attentive pour les préjugés potentiels. Par exemple, l’Administration des anciens combattants travaille sur plusieurs algorithmes pour prédire et détecter les signes de maladie cardiaque et d’attaque cardiaque. Cela a un potentiel de sauver des vies, mais la majorité des études n’ont historiquement pas inclus de nombreuses femmes, pour lesquelles la maladie cardiaque est la première cause de décès. Par conséquent, il est inconnu si ces modèles sont aussi efficaces pour les femmes, qui présentent souvent des symptômes très différents de ceux des hommes.

L’inclusion d’un nombre proportionné de femmes dans cet ensemble de données pourrait aider à prévenir certaines des 3,2 millions d’attaques cardiaques et de 500 000 décès liés aux maladies cardiaques par an chez les femmes grâce à une détection et une intervention précoces. De même, de nouveaux outils d’IA suppriment les algorithmes basés sur la race dans le dépistage des maladies rénales, qui ont historiquement exclu les Noirs, les Hispaniques et les Amérindiens, entraînant des retards dans les soins et de mauvais résultats cliniques.

Au lieu d’exclure les individus marginalisés, l’IA peut en fait aider à prévoir les risques pour la santé des populations défavorisées et à permettre des évaluations de risque personnalisées pour mieux cibler les interventions. Les données peuvent déjà être là ; il s’agit simplement de « régler » les modèles pour déterminer comment la race, le sexe et d’autres facteurs démographiques affectent les résultats — s’ils le font.

Rationaliser les tâches administratives

En plus d’affecter directement les résultats pour les patients, l’IA a un potentiel incroyable pour accélérer les flux de travail en arrière-plan pour réduire les disparités. Par exemple, les entreprises et les prestataires utilisent déjà l’IA pour combler les lacunes dans la codification des réclamations et l’adjudication, valider les codes de diagnostic contre les notes des médecins et automatiser les processus de pré-autorisation pour les procédures de diagnostic courantes.

En rationalisant ces fonctions, nous pouvons réduire considérablement les coûts d’exploitation, aider les cabinets de médecins à fonctionner de manière plus efficace et donner au personnel plus de temps pour passer avec les patients, ce qui rend les soins de santé beaucoup plus abordables et accessibles.

Nous avons tous un rôle important à jouer

Le fait que nous ayons ces outils incroyables à notre disposition rend encore plus impératif que nous les utilisions pour éliminer et surmonter les préjugés dans les soins de santé. Malheureusement, il n’y a pas d’organisme de certification aux États-Unis qui réglemente les efforts pour utiliser l’IA pour « débarrasser » les soins de santé des préjugés, et même pour les organisations qui ont établi des lignes directrices, il n’y a pas d’incitation réglementaire pour se conformer à celles-ci.

C’est pourquoi la responsabilité nous incombe, en tant que praticiens de l’IA, scientifiques de données, créateurs d’algorithmes et utilisateurs, de développer une stratégie consciente pour assurer l’inclusivité, la diversité des données et l’utilisation équitable de ces outils et connaissances.

Pour ce faire, une intégration et une interopérabilité précises sont essentielles. Avec autant de sources de données — des wearables et des fournisseurs de laboratoire et d’imagerie tiers aux soins primaires, aux échanges d’informations de santé et aux dossiers hospitaliers — nous devons intégrer toutes ces données pour que les pièces clés soient incluses, quel que soit le format de notre source. L’industrie a besoin d’une normalisation des données, d’une standardisation et d’une correspondance d’identité pour s’assurer que les données essentielles sur les patients sont incluses, même avec des orthographes de noms ou des conventions de dénomination différentes basées sur diverses cultures et langues.

Nous devons également intégrer des évaluations de diversité dans notre processus de développement de l’IA et surveiller les « dérives » dans nos métriques au fil du temps. Les praticiens de l’IA ont la responsabilité de tester les performances des modèles sur des sous-groupes démographiques, de réaliser des audits de préjugés et de comprendre comment le modèle prend des décisions. Nous devons peut-être aller au-delà des hypothèses basées sur la race pour nous assurer que notre analyse représente la population pour laquelle nous la construisons. Par exemple, les membres de la tribu indienne de Pima qui vivent dans la réserve de la rivière Gila en Arizona ont des taux extrêmement élevés d’obésité et de diabète de type 2, tandis que les membres de la même tribu qui vivent juste de l’autre côté de la frontière dans les montagnes de Sierra Madre au Mexique ont des taux nettement plus bas d’obésité et de diabète, prouvant que la génétique n’est pas le seul facteur.

Enfin, nous avons besoin d’organisations comme l’American Medical Association, le Bureau du coordinateur national des technologies de l’information de santé, et des organisations spécialisées comme l’American College of Obstetrics and Gynecology, l’American Academy of Pediatrics, l’American College of Cardiology, et beaucoup d’autres pour travailler ensemble pour établir des normes et des cadres pour l’échange de données et l’acuité pour se prémunir contre les préjugés.

En standardisant le partage des données de santé et en élargissant les règles HTI-1 et HTI-2 pour obliger les développeurs à travailler avec les organismes d’accréditation, nous aidons à assurer la conformité et à corriger les erreurs passées d’inégalité. De plus, en démocratisant l’accès aux données de santé complètes et précises, nous pouvons supprimer les aveugles qui ont perpétué les préjugés et utiliser l’IA pour résoudre les disparités dans les soins grâce à des connaissances plus complètes et objectives.