Étude sur la réduction des risques liés à l’utilisation de l’IA en médecine

Les programmes d’intelligence artificielle sont capables d’améliorer les soins de santé de diverses manières. Par exemple, les applications d’IA peuvent utiliser la vision par ordinateur pour aider les médecins à diagnostiquer des affections à partir de radiographies et de FMRIs. Les algorithmes d’apprentissage automatique peuvent également être utilisés pour aider à réduire les taux de faux positifs en extrayant des modèles subtils à partir de données que les humains ne peuvent peut-être pas trouver dans les données médicales. Cependant, avec les possibilités viennent de nouveaux défis, et récemment, un nouvel article a été publié dans Science qui examine les risques et les stratégies réglementaires possibles pour les techniques d’apprentissage automatique médical dans le but de minimiser les effets secondaires négatifs possibles de l’utilisation de l’IA dans un contexte médical.

Expanding Applications For AI In Healthcare

L’IA voit ses applications dans le domaine médical s’étendre rapidement. Les développements récents dans le domaine des soins de santé, impulsés par l’IA, comprennent la création d’une nouvelle société pharmaceutique qui vise à utiliser l’IA pour créer de nouveaux médicaments, la création de capteurs de santé à distance à base d’IA et d’applications de vision par ordinateur qui analysent les scans CT et les radiographies.

Pour être plus précis, Genesis Therapeutics est une startup qui vise à utiliser l’IA pour accélérer le processus de découverte de médicaments, dans l’espoir de créer des médicaments qui peuvent réduire la gravité des maladies débilitantes. Genesis Therapeutics est l’une des près de 170 entreprises qui utilisent l’IA pour rechercher de nouvelles formulations de médicaments. Pendant ce temps, en termes de dispositifs de surveillance de la santé, iRhythm et la startup française d’IA Cardiologs utilisent des algorithmes d’IA pour analyser les données EEG et surveiller la santé de ceux qui ont des problèmes cardiaques et sont à risque de complications. Les logiciels conçus par les entreprises peuvent détecter les murmures cardiaques, une condition causée par un flux sanguin turbulent.

Enfin, une étude récente examinant comment la vision par ordinateur peut être appliquée à des images médicales a constaté que les systèmes de vision par ordinateur performent au moins aussi bien ou mieux que les radiologues experts lors de l’examen de scans CT pour trouver de petites hémorragies. Les algorithmes utilisés dans l’étude ont pu rendre des prédictions après avoir examiné les scans CT pendant seulement une seconde. Les systèmes de vision par ordinateur ont également pu localiser l’hémorragie dans le cerveau.

Alors que les avantages potentiels de l’utilisation de l’IA dans les soins de santé sont clairs, ce qui est moins clair, ce sont les nouveaux défis et les risques qui surgiront à titre de conséquence de l’utilisation de l’IA dans le domaine des soins de santé.

Réglementation d’un domaine en expansion

Comme l’a rapporté TechXplore, afin d’évaluer les inconvénients potentiels de l’utilisation de l’IA dans les soins de santé, un groupe de chercheurs a récemment publié un article dans Science, visant à dériver des réponses pour anticiper les problèmes potentiels avec l’IA et explorer les solutions potentielles à ces problèmes. Les problèmes qui peuvent surgir de l’utilisation de l’IA dans le domaine des soins de santé comprennent la recommandation inappropriée de traitements entraînant des blessures, des préoccupations en matière de confidentialité et des préjugés algorithmiques / inégalité.

La FDA n’a approuvé que l’IA médicale qui utilise des “algorithmes verrouillés”, des algorithmes qui produisent systématiquement le même résultat chaque fois qu’ils sont exécutés. Cependant, une grande partie du potentiel de l’IA réside dans sa capacité à apprendre et à réagir à de nouveaux types d’entrées. Afin de permettre l’utilisation d'”algorithmes adaptatifs” et d’obtenir l’approbation de la FDA, les auteurs de l’article ont examiné en profondeur la manière dont les risques liés à la mise à jour des algorithmes peuvent être atténués.

Les auteurs préconisent que les ingénieurs et les chercheurs en apprentissage automatique se concentrent sur la surveillance continue des modèles pendant la durée de leur déploiement. Parmi les outils suggérés pour surveiller les systèmes d’IA, il y a l’IA elle-même, qui pourrait aider à fournir des rapports automatisés sur la manière dont un IA se comporte. Il est également possible que plusieurs appareils d’IA se surveillent mutuellement.

“Pour gérer les risques, les régulateurs devraient se concentrer particulièrement sur la surveillance continue et l’évaluation des risques, et moins sur la planification des changements futurs d’algorithmes”, ont déclaré les auteurs de l’article.

Les auteurs de l’article recommandent également que les régulateurs se concentrent sur le développement de nouvelles méthodes d’identification, de surveillance, d’évaluation et de gestion des risques. L’article applique de nombreuses techniques que la FDA a utilisées pour réglementer d’autres formes de technologie médicale.

Comme l’ont expliqué les auteurs de l’article :

“Notre objectif est de souligner les risques qui peuvent surgir des changements imprévus dans la manière dont les systèmes d’IA / ML médicaux réagissent ou s’adaptent à leur environnement. Des mises à jour paramétriques subtiles, souvent non reconnues, ou de nouveaux types de données peuvent causer de grandes et coûteuses erreurs.”