L’intelligence artificielle dans les soins de santé peut apporter des risques ainsi que des opportunités

L’IA a un potentiel énorme dans le domaine des soins de santé, capable d’améliorer les diagnostics et de trouver de nouveaux médicaments plus efficaces. Cependant, comme l’a récemment discuté un article de Scientific American, la vitesse à laquelle l’IA pénètre le domaine des soins de santé ouvre également de nombreux nouveaux défis et risques.

Au cours des cinq dernières années, la Food and Drug Administration (FDA) des États-Unis a approuvé plus de 40 différents produits d’IA. Cependant, comme le rapporte Scientific American, aucun de ces produits n’a eu ses performances évaluées dans des essais cliniques contrôlés randomisés. De nombreux outils médicaux d’IA ne nécessitent même pas l’approbation de la FDA.

Evan Topol, auteur de « Deep Medicine : Comment l’intelligence artificielle peut rendre les soins de santé plus humains », a déclaré à Scientific American que de nombreux produits d’IA qui prétendent être efficaces pour des tâches telles que le diagnostic de maladies n’ont en réalité pas été rigoureusement testés, avec le premier essai clinique randomisé important d’un outil de détection et de diagnostic d’IA réalisé le mois dernier. De plus, très peu de startups publiques publient leurs recherches dans des revues à comité de lecture, où leur travail sera analysé par des scientifiques.

Lorsqu’ils sont correctement testés et contrôlés, les systèmes d’IA peuvent être des outils puissants qui aident les professionnels de la santé à détecter des symptômes qui n’auraient pas été remarqués autrement, améliorant ainsi les résultats de santé.

Par exemple, un outil d’IA pour détecter la maladie oculaire diabétique a été testé sur des centaines de patients et s’est avéré fiable. L’entreprise responsable du test a travaillé avec la FDA pendant plus de huit ans pour affiner le produit. Le test, IDx-DR, est en cours de déploiement dans les cliniques de soins primaires, où il pourrait potentiellement aider à détecter les premiers signes de rétinopathie diabétique et à orienter les patients vers des spécialistes si des symptômes suspects sont détectés.

Si les systèmes d’IA ne sont pas testés avec soin, ils peuvent créer des dommages au lieu de les éviter.

L’article de Scientific American décrit un problème potentiel lié à la confiance accordée à l’IA pour diagnostiquer les maladies, en citant l’exemple d’un système d’IA conçu pour analyser les radiographies thoraciques et détecter lesquels des patients pourraient développer une pneumonie. Bien que le système se soit avéré précis lorsqu’il a été testé à l’hôpital Mount Sinai de New York, il a échoué lorsqu’il a été testé sur des images prises dans d’autres hôpitaux. Les chercheurs ont constaté que l’IA distinguait entre les images créées par des systèmes de radiographie portables et celles créées dans un service de radiologie. Les médecins utilisent des systèmes de radiographie thoracique portables sur des patients qui sont souvent trop malades pour quitter leur lit, et ces patients sont à un plus grand risque de développer une pneumonie.

Les fausses alarmes sont également une préoccupation. DeepMind a créé une application mobile d’IA capable de prédire l’insuffisance rénale aiguë chez les patients hospitalisés jusqu’à 48 heures à l’avance. Cependant, le système a rapporté également deux fausses alarmes pour chaque insuffisance rénale qui a été prédite avec succès. Les faux positifs peuvent être nocifs car ils peuvent inciter les médecins à consacrer du temps et des ressources inutiles à des tests supplémentaires ou à modifier les traitements prescrits.

Dans un autre incident, un système d’IA a incorrectement conclu que les patients qui avaient une pneumonie étaient plus susceptibles de survivre s’ils avaient de l’asthme, ce qui pourrait amener les médecins à modifier les traitements pour les patients asthmatiques.

Les systèmes d’IA développés pour un hôpital sous-performent souvent lorsqu’ils sont utilisés dans un autre hôpital. Il y a plusieurs raisons à cela. Tout d’abord, les systèmes d’IA sont souvent formés sur des dossiers médicaux électroniques, mais de nombreux dossiers médicaux électroniques sont incomplets ou incorrects car leur objectif principal est souvent la facturation et non les soins aux patients. Par exemple, une enquête menée par KHN a révélé qu’il y avait parfois des erreurs mortelles dans les dossiers médicaux des patients, comme des listes de médicaments contenant des médicaments incorrects. Au-delà de cela, les maladies sont souvent plus complexes, et le système de soins de santé plus complexe, que ce que les ingénieurs et les scientifiques d’IA peuvent souvent anticiper.

À mesure que l’IA devient de plus en plus prolifique, il sera important pour les développeurs d’IA de travailler aux côtés des autorités de santé pour s’assurer que leurs systèmes d’IA sont soigneusement testés et que les organismes de régulation s’assurent que des normes sont établies et suivies pour la fiabilité des outils de diagnostic d’IA.