Étude sur la réduction des risques liés à l’utilisation de l’IA en médecine

Les programmes d’intelligence artificielle sont capables d’améliorer les soins de santé de diverses manières. Par exemple, les applications d’IA peuvent utiliser la vision par ordinateur pour aider les médecins à diagnostiquer des affections à partir de radiographies et d’IRM. Les algorithmes d’apprentissage automatique peuvent également être utilisés pour aider à réduire les taux de faux positifs en extrayant des modèles subtils des données que les humains ne peuvent pas trouver dans les données médicales. Cependant, avec les possibilités, de nouveaux défis apparaissent, et récemment, un nouvel article a été publié dans Science qui a examiné les risques et stratégies réglementaires possibles pour les techniques de machine learning médical dans le but de minimiser les effets négatifs possibles de l’utilisation de l’IA dans un contexte médical.

Expansion des applications de l’IA dans les soins de santé

L’IA voit ses applications dans le domaine médical s’étendre rapidement. Les développements récents dans le domaine des soins de santé, impulsés par l’IA, incluent la création d’une nouvelle société pharmaceutique qui vise à utiliser l’IA pour créer de nouveaux médicaments, la création de capteurs de santé à distance basés sur l’IA et des applications de vision par ordinateur qui analysent les scans CT et les radiographies.

Plus précisément, Genesis Therapeutics est une startup qui vise à utiliser l’IA pour accélérer le processus de découverte de médicaments, dans l’espoir de créer des médicaments qui peuvent réduire la gravité des maladies débilitantes. Genesis Therapeutics est l’une des près de 170 entreprises qui utilisent l’IA pour rechercher de nouvelles formulations de médicaments. Pendant ce temps, en termes de dispositifs de surveillance de la santé, iRhythm (IRTC ) et la startup française Cardiologs utilisent des algorithmes d’IA pour analyser les données EEG et surveiller la santé de ceux qui ont des problèmes cardiaques et qui risquent des complications. Le logiciel conçu par les entreprises peut détecter les murmures cardiaques, une affection causée par un flux sanguin turbulent.

Enfin, une étude récente sur la façon dont la vision par ordinateur peut être appliquée aux images médicales a constaté que les systèmes de vision par ordinateur performent au moins aussi bien ou mieux que les radiologues experts lorsqu’ils examinent les scans CT pour trouver de petites hémorragies. Les algorithmes utilisés dans l’étude ont pu rendre des prédictions après avoir examiné les scans CT pendant seulement une seconde. Les systèmes de vision par ordinateur ont également pu localiser l’hémorragie dans le cerveau.

Ainsi, même si les avantages potentiels de l’utilisation de l’IA dans les soins de santé sont clairs, ce qui est moins clair, ce sont les nouveaux défis et les risques qui peuvent surgir à la suite de l’utilisation de l’IA dans le domaine des soins de santé.

Réglementation d’un domaine en expansion

Comme l’a rapporté TechXplore, afin d’évaluer les inconvénients potentiels de l’utilisation de l’IA dans les soins de santé, un groupe de chercheurs a récemment publié un article dans Science, visant à dériver des réponses pour anticiper les problèmes potentiels avec l’IA et explorer les solutions potentielles à ces problèmes. Les problèmes qui peuvent surgir de l’utilisation de l’IA dans le domaine des soins de santé incluent la recommandation inappropriée de traitements entraînant des blessures, des préoccupations en matière de confidentialité et des biais algorithmiques / inégalité.

La FDA n’a approuvé que l’IA médicale qui utilise des « algorithmes verrouillés », des algorithmes qui produisent de manière fiable le même résultat chaque fois qu’ils sont exécutés. Cependant, une grande partie du potentiel de l’IA réside dans sa capacité à apprendre et à réagir à de nouveaux types d’entrées. Afin de permettre aux « algorithmes adaptatifs » d’être utilisés plus fréquemment et d’obtenir l’approbation de la FDA, les auteurs de l’article ont examiné en profondeur la manière dont les risques liés à la mise à jour des algorithmes peuvent être atténués.

Les auteurs préconisent que les ingénieurs et les chercheurs en apprentissage automatique se concentrent sur la surveillance continue des modèles tout au long de leur déploiement. Parmi les outils suggérés pour surveiller les systèmes d’IA, il y a l’IA elle-même, qui pourrait aider à fournir des rapports automatisés sur la façon dont un système d’IA se comporte. Il est également possible que plusieurs appareils d’IA puissent se surveiller mutuellement.

« Pour gérer les risques, les régulateurs devraient se concentrer particulièrement sur la surveillance continue et l’évaluation des risques, et moins sur la planification des changements futurs d’algorithmes », ont déclaré les auteurs de l’article.

Les auteurs de l’article recommandent également que les régulateurs se concentrent sur le développement de nouvelles méthodes pour identifier, surveiller, évaluer et gérer les risques. L’article applique de nombreuses techniques que la FDA a utilisées pour réglementer d’autres formes de technologie médicale.

Comme l’ont expliqué les auteurs de l’article :

« Notre objectif est de souligner les risques qui peuvent surgir des changements imprévus dans la façon dont les systèmes d’IA / ML médicaux réagissent ou s’adaptent à leur environnement. Des mises à jour paramétriques subtiles, souvent non reconnues, ou de nouveaux types de données peuvent causer de grandes et coûteuses erreurs. »