Un algorithme pourrait résoudre les préjugés raciaux dans les soins de santé s’il est correctement formé

Une équipe de chercheurs de l’Université Stanford, de l’Université Harvard et de l’Université de Chicago a formé des algorithmes pour diagnostiquer l’arthrose sur des radiographies de genoux. Il s’avère que lorsque les rapports des patients sont utilisés comme données de formation pour l’algorithme, celui-ci est plus précis que les radiologues lors de l’analyse des dossiers de patients noirs.

Problème de biais algorithmique

L’utilisation d’algorithmes d’apprentissage automatique dans le domaine médical peut potentiellement améliorer les résultats pour les patients souffrant de toutes sortes de maladies, mais il existe également des problèmes bien documentés liés à l’utilisation d’algorithmes d’IA pour diagnostiquer les patients. Des études sur les impacts de modèles d’IA déployés ont révélé un certain nombre d’incidents notables impliquant des préjugés algorithmiques. Ceux-ci inclus des algorithmes qui donnent aux minorités moins de références aux unités de cardiologie que les patients blancs, même si tous les symptômes signalés étaient les mêmes.

L’un des auteurs de l’étude, le professeur Ziad Obermeyer de l’École de santé publique de l’Université de Californie à Berkeley, a décidé d’utiliser l’IA pour enquêter sur les disparités entre les diagnostics de radiographies par les radiologues et le niveau de douleur signalé par les patients. Bien que les patients noirs et les patients à faible revenu aient signalé des niveaux de douleur plus élevés, leurs interprétations de radiographies étaient notées de la même manière que la population générale. Les données sur les niveaux de douleur signalés provenaient des NIH, et les chercheurs voulaient enquêter pour savoir si les médecins humains manquaient quelque chose dans leur analyse des données.

Selon Wired, afin d’identifier les causes potentielles de ces différences, Obermeyer et d’autres chercheurs ont conçu un modèle de vision par ordinateur formé sur des données des NIH. Les algorithmes étaient conçus pour analyser des radiographies et prédire le niveau de douleur d’un patient en fonction des images. Le logiciel a réussi à trouver des modèles dans les images qui étaient fortement corrélés avec le niveau de douleur d’un patient.

Lorsque l’algorithme est présenté avec une image non vue, le modèle retourne des prédictions pour le niveau de douleur signalé par le patient. Les prédictions retournées par le modèle sont plus étroitement alignées sur les niveaux de douleur réellement signalés par les patients que les notes attribuées par les radiologues. C’était particulièrement vrai pour les patients noirs. Obermeyer a expliqué via Wired que l’algorithme de vision par ordinateur a pu détecter des phénomènes plus couramment liés à la douleur chez les patients noirs.

Formation correcte des systèmes

Selon les rapports, les critères utilisés pour évaluer les radiographies ont été initialement développés sur la base des résultats d’une petite étude menée dans le nord de l’Angleterre en 1957. La population initiale utilisée pour développer les critères d’évaluation de l’ostéarthrose était très différente de la population très diverse des États-Unis modernes, il n’est donc pas surprenant qu’il y ait des erreurs lors du diagnostic de ces personnes diverses.

La nouvelle étude démontre que lorsque les algorithmes d’IA sont correctement formés, ils peuvent réduire les préjugés. La formation était basée sur les commentaires des patients eux-mêmes et non sur les opinions d’experts. Obermeyer et ses collègues ont précédemment démontré qu’un algorithme d’IA couramment utilisé donnait la préférence aux patients blancs par rapport aux patients noirs, mais Obermeyer a également montré que la formation d’un système d’apprentissage automatique sur les bonnes données peut aider à prévenir les préjugés.

Une réserve notable à l’étude est une chose familière à de nombreux chercheurs en apprentissage automatique. Le modèle d’IA développé par l’équipe de recherche est une boîte noire, et l’équipe de chercheurs elle-même n’est pas sûre de quels types de fonctionnalités l’algorithme détecte dans les radiographies, ce qui signifie qu’ils ne peuvent pas dire aux médecins quels éléments ils manquent.

D’autres radiologues et chercheurs visent à creuser dans la boîte noire et à découvrir les modèles à l’intérieur, espérant ainsi aider les médecins à comprendre ce qu’ils manquent. Le radiologue et professeur à l’Université Emory, Judy Gichoya, collecte un ensemble plus vaste et plus varié de radiographies pour former le modèle d’IA. Gichoya fera créer des notes détaillées sur ces radiographies par des radiologues. Ces notes seront comparées avec la sortie du modèle pour voir si les modèles détectés par l’algorithme peuvent être découverts.