L’intelligence artificielle générative dans l’industrie de la santé a besoin d’une dose d’explicabilité

La vitesse remarquable à laquelle les outils d’intelligence artificielle générative basés sur le texte peuvent effectuer des tâches d’écriture et de communication de haut niveau a frappé une corde sensible auprès des entreprises et des consommateurs. Mais les processus qui se déroulent en arrière-plan pour permettre ces capacités impressionnantes peuvent rendre risqué pour les industries sensibles et réglementées par le gouvernement, comme l’assurance, la finance ou la santé, d’utiliser l’intelligence artificielle générative sans employer une grande prudence.

Certaines des illustrations les plus éloquentes de cela peuvent être trouvées dans l’industrie de la santé.

Ces problèmes sont généralement liés aux jeux de données étendus et diversifiés utilisés pour former les grands modèles de langage (LLM) – les modèles que les outils d’intelligence artificielle générative basés sur le texte alimentent pour effectuer des tâches de haut niveau. Sans intervention extérieure explicite des programmeurs, ces LLM tendent à extraire des données de manière indiscriminée à partir de diverses sources sur Internet pour élargir leur base de connaissances.

Cette approche est la plus appropriée pour les cas d’utilisation à faible risque orientés vers les consommateurs, dans lesquels l’objectif ultime est de diriger les clients vers des offres désirables avec précision. Cependant, de plus en plus, les grands jeux de données et les chemins embrouillés par lesquels les modèles d’IA génèrent leurs sorties obscurcissent l’explicabilité que les hôpitaux et les prestataires de soins de santé nécessitent pour retracer et prévenir les inexactitudes potentielles.

Dans ce contexte, l’explicabilité fait référence à la capacité de comprendre les chemins logiques de tout LLM donné. Les professionnels de la santé qui cherchent à adopter des outils d’IA générative doivent avoir les moyens de comprendre comment leurs modèles produisent des résultats afin que les patients et le personnel soient dotés d’une transparence totale tout au long des divers processus de prise de décision. En d’autres termes, dans une industrie comme la santé, où les vies sont en jeu, les enjeux sont tout simplement trop élevés pour que les professionnels interprètent incorrectement les données utilisées pour former leurs outils d’IA.

Heureusement, il existe un moyen de contourner le dilemme d’explicabilité de l’IA générative – il suffit d’avoir un peu plus de contrôle et de focalisation.

Mystère et scepticisme

Dans l’IA générative, le concept de compréhension de la manière dont un LLM passe du point A – l’entrée – au point B – la sortie – est bien plus complexe que avec les algorithmes non génératifs qui suivent des modèles plus établis.

Les outils d’IA générative établissent des connexions innombrables lorsqu’ils passent de l’entrée à la sortie, mais pour l’observateur extérieur, la manière et la raison pour lesquelles ils établissent une série donnée de connexions restent un mystère. Sans moyen de voir le « processus de pensée » qu’un algorithme d’IA suit, les opérateurs humains manquent d’un moyen approfondi d’enquêter sur sa logique et de retracer les inexactitudes potentielles.

En outre, les jeux de données en constante expansion utilisés par les algorithmes d’apprentissage automatique compliquent encore l’explicabilité. Plus le jeu de données est grand, plus le système est susceptible d’apprendre à la fois à partir d’informations pertinentes et non pertinentes et de produire des « hallucinations d’IA » – des faussetés qui s’écartent des faits externes et de la logique contextuelle, même de manière convaincante.

Dans l’industrie de la santé, ces types de résultats erronés peuvent déclencher une multitude de problèmes, tels que des diagnostics erronés et des prescriptions incorrectes. À côté des conséquences éthiques, juridiques et financières, de telles erreurs pourraient facilement nuire à la réputation des prestataires de soins de santé et des institutions médicales qu’ils représentent.

Par conséquent, malgré son potentiel pour améliorer les interventions médicales, améliorer la communication avec les patients et renforcer l’efficacité opérationnelle, l’IA générative dans la santé reste enveloppée de scepticisme, et à juste titre – 55 % des cliniciens ne croient pas qu’elle est prête pour une utilisation médicale et 58 % ne lui font pas confiance du tout. Pourtant, les organisations de soins de santé poursuivent, avec 98 % intégrant ou planifiant une stratégie de déploiement d’IA générative dans le but de compenser l’impact de la pénurie de main-d’œuvre en cours dans le secteur.

Contrôler la source

L’industrie de la santé est souvent prise au dépourvu dans le climat actuel des consommateurs, qui valorise l’efficacité et la rapidité par rapport à la garantie de mesures de sécurité infaillibles. Les récentes nouvelles concernant les pièges de la collecte de données quasi illimitée pour former les LLM, aboutissant à des poursuites pour violation de droits d’auteur, ont mis ces questions au premier plan. Certaines entreprises font également face à des allégations selon lesquelles les données personnelles des citoyens ont été extraites pour former ces modèles de langage, violant potentiellement les lois sur la protection de la vie privée.

Les développeurs d’IA pour les industries hautement réglementées devraient donc exercer un contrôle sur les sources de données pour limiter les erreurs potentielles. C’est-à-dire donner la priorité à l’extraction de données à partir de sources fiables et validées par l’industrie, plutôt qu’à la collecte de pages Web externes de manière aléatoire et sans autorisation explicite. Pour l’industrie de la santé, cela signifie limiter les entrées de données aux pages de questions fréquentes, aux fichiers CSV et aux bases de données médicales – parmi d’autres sources internes.

Si cela semble un peu limitatif, essayez de rechercher un service sur le site Web d’un grand système de santé. Les organisations de soins de santé aux États-Unis publient des centaines, voire des milliers de pages d’information sur leurs plateformes ; la plupart sont enfouies si profondément que les patients ne peuvent jamais y accéder. Les solutions d’IA générative basées sur des données internes peuvent fournir ces informations aux patients de manière pratique et transparente. C’est un avantage pour toutes les parties, car le système de santé voit enfin un retour sur investissement de ce contenu, et les patients peuvent trouver les services dont ils ont besoin instantanément et sans effort.

Quel est l’avenir de l’IA générative dans les industries réglementées ?

L’industrie de la santé est susceptible de bénéficier de l’IA générative de plusieurs manières.

Considérez, par exemple, l’épuisement généralisé qui affecte le secteur de la santé aux États-Unis – près de 50% de la main-d’œuvre est susceptible de quitter son poste d’ici 2025. Les chatbots alimentés par l’IA générative pourraient aider à alléger une grande partie de la charge de travail et à préserver les équipes d’accès aux patients surmenées.

Du côté des patients, l’IA générative a le potentiel d’améliorer les services de centre d’appel des prestataires de soins de santé. L’automatisation de l’IA a le pouvoir de répondre à une large gamme de demandes via divers canaux de contact, y compris les questions fréquentes, les problèmes informatiques, les renouvellements de médicaments et les références de médecins. Outre la frustration qui accompagne l’attente en ligne, seulement environ la moitié des patients américains parvient à résoudre leurs problèmes lors de leur premier appel, aboutissant à des taux d’abandon élevés et à un accès limité aux soins. Le faible niveau de satisfaction client qui en résulte crée une pression supplémentaire pour que l’industrie agisse.

Pour que l’industrie bénéficie vraiment de la mise en œuvre de l’IA générative, les prestataires de soins de santé doivent faciliter une réorganisation intentionnelle des données auxquelles leurs LLM ont accès.