Répondre au scepticisme de l’IA dans les soins de santé : surmonter les obstacles pour une communication sécurisée

Les dirigeants des soins de santé sont impatients d’adopter l’IA, en partie pour suivre le rythme de la concurrence et d’autres industries, mais plus importantly, pour accroître l’efficacité et améliorer les expériences des patients. Cependant, seuls 77% des dirigeants des soins de santé font vraiment confiance à l’IA pour bénéficier à leur entreprise.

Alors que les chatbots IA excellent dans la gestion des tâches routinières, le traitement des données et la synthèse des informations, l’industrie des soins de santé réglementée s’inquiète le plus de la fiabilité et de l’exactitude des données qui sont introduites et interprétées par ces outils. Sans une utilisation et une formation appropriées des employés, les violations de données deviennent des menaces pressantes supplémentaires.

Néanmoins, 95% des dirigeants des soins de santé prévoient d’augmenter les budgets d’IA de jusqu’à 30% en 2025, avec les grands modèles de langage (LLM) émergeant comme l’un des outils les plus fiables. À mesure que les LLM matures, 53% des dirigeants des soins de santé ont déjà mis en place des politiques formelles pour aider leurs équipes à s’adapter, et 39% prévoient de mettre en place des politiques bientôt.

Pour les fournisseurs de soins de santé qui veulent rationaliser les services de communication avec l’IA mais sont encore prudents à ce sujet, voici quelques recommandations pour surmonter les obstacles les plus courants.

1.   Former l’IA avec des sources médicales fiables

Alors que les dirigeants des soins de santé peuvent ne pas être directement impliqués dans la formation de l’IA, ils doivent jouer un rôle essentiel dans la surveillance de sa mise en œuvre. Ils doivent s’assurer que les fournisseurs de chatbots forment et mettent régulièrement à jour leur IA avec des sources crédibles.

Les données structurées riches capturées par les dossiers médicaux électroniques (DME) obligatoires offrent des répertoires vastes de données de santé numériques qui peuvent maintenant servir de fondement pour former les algorithmes d’IA. Les LLM avancés peuvent comprendre la recherche médicale, l’analyse technique, les revues de littérature et les évaluations critiques. Cependant, plutôt que de former ces outils avec toutes les données à la fois, de nouvelles preuves montrent que se concentrer sur un petit nombre d’intersections maximise les performances de l’IA tout en gardant le coût de formation faible.

2.   Assurer des pratiques de données conformes à la loi HIPAA

La loi sur la portabilité et la responsabilité des assurances de santé (HIPAA) définit des normes pour la protection des informations de santé sensibles des patients (PHI). Pour se conformer à ces réglementations, les dirigeants des soins de santé doivent s’assurer que les fournisseurs tiers :

• Ne collectent que le minimum d’informations de santé nécessaires pour remplir l’objectif du chatbot.
• Accordent l’accès aux informations de santé uniquement au personnel autorisé avec des politiques de mot de passe et d’authentification solides.
• Emploient des techniques de cryptage robustes pour protéger les informations de santé à la fois au repos et en transit.
• Stockent les données nécessaires sur des serveurs conformes à la loi HIPAA avec des contrôles d’accès solides.
• Signent des accords d’associés commerciaux (BAAs) pour se conformer à la loi HIPAA.
• Demandent leur plan de réponse en cas d’incident de sécurité.

Les dirigeants des soins de santé qui utilisent ces outils doivent régulièrement vérifier les rapports d’accès – une étape qui peut également être automatisée avec l’IA – et envoyer des alertes à la direction si une activité inhabituelle se produit.

De plus, ils doivent obtenir le consentement éclairé des patients avant de collecter et d’utiliser leurs informations de santé. Lorsqu’ils demandent le consentement, ils doivent communiquer la manière dont les données des patients seront utilisées et protégées.

3.   Interfaces bien conçues qui améliorent les flux de travail

L’un des plus grands obstacles lors de la transition vers les DME obligatoires était la convivialité de la technologie. Les médecins étaient insatisfaits du temps passé sur les tâches administratives lorsqu’ils s’adaptaient aux flux de travail compliqués, augmentant leur risque de burn-out professionnel et la probabilité de commettre des erreurs qui peuvent affecter le traitement des patients.

Lorsque vous travaillez avec des fournisseurs tiers, demandez une démonstration et un deuxième avis avant de sélectionner une plateforme ou une solution logicielle d’IA. N’oubliez pas de demander si leur produit permet une personnalisation qui s’adapte aux programmes actuels afin que vous puissiez intégrer les fonctionnalités prêtes à l’emploi qui conviennent le mieux à vos flux de travail.

La conception centrée sur l’utilisateur et les formats de données standardisés ainsi que les protocoles faciliteront l’échange d’informations sans faille entre les technologies de soins de santé et les plateformes d’IA. Avec ces normes en place, les algorithmes d’IA peuvent être intégrés de manière significative dans les soins cliniques dans divers contextes de soins de santé. Les protocoles établis aident également ces outils à fonctionner mieux en facilitant l’interopérabilité et en permettant l’accès à des ensembles de données plus grands et plus diversifiés.

4.   Utilisation et formation appropriées des employés

Une étude de 2024 a constaté que les conseils médicaux fournis par des « médecins humains et l’IA » étaient, en fait, plus complets mais moins empathiques que ceux fournis par des « médecins humains » seuls. Pour combler ce fossé, les dirigeants des soins de santé doivent comprendre les capacités et les limites de l’IA et s’assurer d’une surveillance humaine et d’une intervention appropriées.

Les dirigeants des soins de santé peuvent intégrer des chatbots dans leurs sites Web et applications de patients pour offrir aux utilisateurs un accès instantané à des informations médicales, aidant ainsi à l’auto-diagnostic et à l’éducation en matière de santé. Ces outils peuvent envoyer des rappels opportuns aux patients pour renouveler leurs ordonnances, aidant les patients à adhérer aux plans de traitement. Ils peuvent également aider à classer les patients en fonction de la gravité de leur état, aidant les fournisseurs de soins de santé à donner la priorité aux cas et à allouer les ressources de manière efficace.

Cependant, ces outils peuvent toujours « halluciner », et il est impératif qu’un validateur humain soit impliqué dans les tâches complexes. Travaillez avec des experts tiers pour définir votre vision des outils de communication d’IA et créer vos flux de travail souhaités. Une fois que vous avez convenu de vos cas d’utilisation, les processus de gestion du changement opérationnel et culturel – comme le modèle de changement de Kotter en 8 étapes – offrent une feuille de route pour former les employés, améliorant ainsi les résultats pour les patients.

5.   Demander au chatbot de détecter les erreurs

Aucun dirigeant d’entreprise ne veut commettre d’erreurs, mais l’industrie des soins de santé est un environnement à haut risque où même les petites erreurs peuvent avoir de graves conséquences. Pourtant, même les meilleurs cliniciens ne sont pas immunisés contre les erreurs médicales. L’IA peut être un outil puissant pour améliorer les soins aux patients en détectant les erreurs et en comblant les lacunes.

Une enquête de 2023 a utilisé le GPT-4 pour transcrire et résumer une conversation entre un patient et un clinicien, puis a employé le chatbot pour examiner la conversation à la recherche d’erreurs. Lors de la validation, il a détecté une erreur dans l’indice de masse corporelle (IMC) du patient. Le chatbot a également remarqué que les notes du patient ne mentionnaient pas les tests sanguins qui avaient été commandés, ni la raison pour lesquels ils avaient été commandés.

Cet exemple indique que l’IA peut être utilisée comme un complément pour aider les médecins à gérer les « hallucinations » de l’IA, les omissions et les erreurs qui peuvent être utilisées pour former et améliorer les applications d’IA.

L’IA des soins de santé existe pour soutenir les médecins et les infirmières, rationaliser les flux de travail, améliorer l’accessibilité des patients aux soins et minimiser les erreurs. Alors qu’ils ne peuvent pas remplacer complètement l’empathie, l’intuition et l’expérience du monde réel que les fournisseurs de soins de santé humains apportent à la table, ces outils offrent d’excellents avantages analytiques et de gain de temps. Lorsque les dirigeants des soins de santé prennent le temps de s’assurer d’une adhésion soigneuse aux réglementations de la loi HIPAA, d’une communication transparente avec les patients et d’une formation appropriée des employés, ils peuvent mettre en œuvre ces outils en toute sécurité et confiance.