L’intelligence artificielle générative dans l’industrie des soins de santé a besoin d’une dose d’explicabilité

La vitesse remarquable à laquelle les outils d’intelligence artificielle générative basés sur le texte peuvent effectuer des tâches d’écriture et de communication de haut niveau a frappé une corde sensible chez les entreprises et les consommateurs. Mais les processus qui se déroulent dans les coulisses pour permettre ces capacités impressionnantes peuvent rendre risqué pour les industries sensibles et réglementées par le gouvernement, comme l’assurance, la finance ou les soins de santé, d’utiliser l’intelligence artificielle générative sans employer une grande prudence.

Certains des exemples les plus illustratifs de cela peuvent être trouvés dans l’industrie des soins de santé.

Ces problèmes sont généralement liés aux jeux de données étendus et diversifiés utilisés pour former les Modèles de Langage à Grande Échelle (LLM) – les modèles que les outils d’intelligence artificielle générative basés sur le texte utilisent pour effectuer des tâches de haut niveau. Sans intervention explicite de la part des programmeurs, ces LLM tendent à extraire des données de manière indiscriminée à partir de diverses sources sur Internet pour élargir leur base de connaissances.

Cette approche est la plus appropriée pour les cas d’utilisation à faible risque orientés consommateurs, dans lesquels l’objectif ultime est de diriger les clients vers des offres désirables avec précision. Cependant, les grands jeux de données et les chemins embrouillés par lesquels les modèles d’IA génèrent leurs sorties obscurcissent l’explicabilité que les hôpitaux et les fournisseurs de soins de santé nécessitent pour retracer et prévenir les inexactitudes potentielles.

Dans ce contexte, l’explicabilité fait référence à la capacité de comprendre les chemins logiques de tout LLM donné. Les professionnels de la santé qui cherchent à adopter des outils d’IA générative d’assistance doivent avoir les moyens de comprendre comment leurs modèles produisent des résultats afin que les patients et le personnel soient équipés d’une transparence totale tout au long des divers processus de prise de décision. En d’autres termes, dans une industrie comme les soins de santé, où des vies sont en jeu, les enjeux sont simplement trop élevés pour que les professionnels interprètent incorrectement les données utilisées pour former leurs outils d’IA.

Heureusement, il existe un moyen de contourner le dilemme d’explicabilité de l’IA générative – cela nécessite simplement un peu plus de contrôle et de focalisation.

Mystère et scepticisme

Dans l’IA générative, le concept de compréhension de la façon dont un LLM va du point A – l’entrée – au point B – la sortie – est beaucoup plus complexe que avec les algorithmes non génératifs qui suivent des modèles plus établis.

Les outils d’IA générative établissent des connexions innombrables tout en parcourant l’entrée et la sortie, mais pour l’observateur extérieur, la façon dont et pourquoi ils effectuent une série donnée de connexions reste un mystère. Sans moyen de voir le « processus de pensée » qu’un algorithme d’IA suit, les opérateurs humains manquent d’un moyen approfondi d’enquêter sur sa logique et de retracer les inexactitudes potentielles.

De plus, les jeux de données en constante expansion utilisés par les algorithmes d’apprentissage automatique compliquent encore l’explicabilité. Plus le jeu de données est grand, plus le système est susceptible d’apprendre à partir d’informations pertinentes et non pertinentes et de produire des « hallucinations d’IA » – des faussetés qui s’écartent des faits externes et de la logique contextuelle, même de manière convaincante.

Dans l’industrie des soins de santé, ces types de résultats erronés peuvent provoquer une multitude de problèmes, tels que des diagnostics erronés et des prescriptions incorrectes. À part les conséquences éthiques, juridiques et financières, de telles erreurs pourraient facilement nuire à la réputation des fournisseurs de soins de santé et des établissements médicaux qu’ils représentent.

Ainsi, malgré son potentiel pour améliorer les interventions médicales, améliorer la communication avec les patients et renforcer l’efficacité opérationnelle, l’IA générative dans les soins de santé reste enveloppée de scepticisme, et à juste titre – 55 % des cliniciens ne croient pas qu’elle est prête pour une utilisation médicale et 58 % ne lui font pas confiance. Pourtant, les organisations de soins de santé poussent devant, avec 98 % intégrant ou planifiant une stratégie de déploiement d’IA générative dans le but de compenser l’impact de la pénurie de main-d’œuvre en cours dans le secteur.

Contrôler la source

L’industrie des soins de santé est souvent prise au dépourvu dans le climat actuel des consommateurs, qui valorise l’efficacité et la rapidité par rapport à l’assurance de mesures de sécurité infaillibles. Les récentes nouvelles entourant les pièges de la collecte de données quasi illimitée pour former les LLM, conduisant à des poursuites pour violation de droits d’auteur, ont mis ces problèmes au premier plan. Certaines entreprises font face à des allégations selon lesquelles les données personnelles des citoyens ont été exploitées pour former ces modèles de langage, violant potentiellement les lois sur la protection de la vie privée.

Les développeurs d’IA pour les industries hautement réglementées devraient donc exercer un contrôle sur les sources de données pour limiter les erreurs potentielles. C’est-à-dire donner la priorité à l’extraction de données à partir de sources fiables et validées par l’industrie, plutôt que de collecter des pages Web externes de manière hasardeuse et sans autorisation explicite. Pour l’industrie des soins de santé, cela signifie limiter les entrées de données aux pages de questions fréquentes, aux fichiers CSV et aux bases de données médicales – parmi d’autres sources internes.

Si cela semble un peu limitatif, essayez de rechercher un service sur le site Web d’un grand système de soins de santé. Les organisations de soins de santé des États-Unis publient des centaines, voire des milliers de pages d’information sur leurs plateformes ; la plupart sont enfouies si profondément que les patients ne peuvent jamais y accéder. Les solutions d’IA générative basées sur les données internes peuvent fournir ces informations aux patients de manière pratique et transparente. C’est un avantage pour toutes les parties, car le système de soins de santé voit enfin un rendement sur cet investissement, et les patients peuvent trouver les services dont ils ont besoin instantanément et sans effort.

Quel est l’avenir de l’IA générative dans les industries réglementées ?

L’industrie des soins de santé est susceptible de bénéficier de l’IA générative de plusieurs manières.

Considérez, par exemple, l’épuisement généralisé qui affecte actuellement le secteur des soins de santé aux États-Unis – près de 50 % de la main-d’œuvre est susceptible de quitter son poste d’ici 2025. Les chatbots alimentés par l’IA générative pourraient aider à alléger une grande partie de la charge de travail et préserver les équipes d’accès aux patients surchargées.

Du côté des patients, l’IA générative a le potentiel d’améliorer les services de centre d’appels des fournisseurs de soins de santé. L’automatisation de l’IA a le pouvoir de répondre à une large gamme de demandes via divers canaux de contact, notamment les questions fréquentes, les problèmes informatiques, les renouvellements de médicaments et les références de médecins. Outre la frustration qui découle d’attendre en ligne, seulement environ la moitié des patients américains parvient à résoudre leurs problèmes lors de leur premier appel, ce qui entraîne des taux d’abandon élevés et un accès restreint aux soins. La faible satisfaction des clients qui en résulte crée une pression supplémentaire pour que l’industrie agisse.

Pour que l’industrie tire vraiment profit de la mise en œuvre de l’IA générative, les fournisseurs de soins de santé doivent faciliter une restructuration intentionnelle des données auxquelles leurs LLM ont accès.