Aborder le scepticisme envers l’IA dans les soins de santé : surmonter les obstacles pour une communication sécurisée

Les dirigeants des soins de santé sont impatients d’adopter l’IA, en partie pour suivre le rythme des concurrents et d’autres industries, mais plus importantly, pour accroître l’efficacité et améliorer les expériences des patients. Cependant, seulement 77% des dirigeants des soins de santé font vraiment confiance à l’IA pour bénéficier à leur entreprise.

Alors que les chatbots IA excellent dans la gestion des tâches routinières, le traitement des données et la synthèse d’informations, l’industrie des soins de santé très réglementée s’inquiète le plus de la fiabilité et de l’exactitude des données qui sont alimentées dans ces outils et interprétées par ceux-ci. Sans une utilisation et une formation des employés appropriées, les failles de sécurité deviennent des menaces supplémentaires pressantes.

Même ainsi, 95% des dirigeants des soins de santé prévoient d’augmenter les budgets d’IA de jusqu’à 30% en 2025, avec les grands modèles de langage (LLM) émergeant comme l’un des outils les plus fiables. À mesure que les LLM mûrissent, 53% des dirigeants des soins de santé ont déjà mis en place des politiques formelles pour aider leurs équipes à s’adapter à ceux-ci, et 39% prévoient de mettre en place des politiques bientôt.

Pour les fournisseurs de soins de santé qui veulent rationaliser les services de communication avec l’IA mais qui sont encore méfiants de le faire, voici des recommandations pour surmonter les obstacles les plus courants.

1.   Former l’IA avec des sources médicales fiables

Alors que les dirigeants des soins de santé peuvent ne pas être directement impliqués dans la formation de l’IA, ils doivent jouer un rôle pivot dans la surveillance de sa mise en œuvre. Ils doivent s’assurer que les fournisseurs de chatbots forment et mettent régulièrement à jour leur IA avec des sources crédibles.

Les données riches et structurées capturées par les dossiers médicaux électroniques (DME) obligatoires offrent d’immenses référentiels de données de santé numériques qui peuvent maintenant servir de fondement pour la formation des algorithmes d’IA. Les LLM avancés peuvent comprendre les recherches médicales, les analyses techniques, les revues de littérature et les évaluations critiques. Cependant, plutôt que de former ces outils avec toutes les données à la fois, de nouvelles preuves montrent que se concentrer sur un petit nombre d’intersections maximise les performances de l’IA tout en gardant le coût de formation faible.

2.   Assurer des pratiques de données conformes à la HIPAA

La Loi sur la portabilité et la responsabilité des assurances de santé (HIPAA) définit les normes pour la protection des informations de santé sensibles des patients (PHI). Pour s’aligner sur ces réglementations, les dirigeants des soins de santé doivent s’assurer que les fournisseurs tiers :

• Rassemblent uniquement la quantité minimale de PHI requise pour remplir l’objectif du chatbot.
• Accordent l’accès à la PHI uniquement au personnel autorisé avec des politiques de mot de passe et d’authentification solides.
• Emploient des techniques de cryptage robustes pour protéger la PHI à la fois au repos et en transit.
• Stockent les données nécessaires sur des serveurs conformes à la HIPAA avec des contrôles d’accès solides.
• S’assurent qu’ils signent des accords d’associés commerciaux (BAAs) pour se conformer à la HIPAA.
• Demandent leur plan de réponse en cas d’incident de sécurité.

Les dirigeants des soins de santé utilisant ces outils doivent régulièrement vérifier les rapports d’accès – une étape qui est également facile à automatiser avec l’IA – et envoyer des alertes à la direction si une activité inhabituelle se produit.

De plus, ils doivent obtenir un consentement clair et éclairé des patients avant de collecter et d’utiliser leurs PHI. Lorsque vous demandez le consentement, communiquez comment les données des patients seront utilisées et protégées.

3.   Interfaces bien conçues qui améliorent les flux de travail

L’un des plus grands obstacles lors de la transition vers les DME obligatoires était la convivialité de la technologie. Les médecins étaient insatisfaits du temps passé sur les tâches administratives à mesure qu’ils s’adaptaient aux flux de travail compliqués, augmentant leur risque de burn-out professionnel et la chance de faire des erreurs qui peuvent affecter le traitement des patients.

Lorsque vous travaillez avec des fournisseurs tiers, demandez une démonstration et un deuxième avis avant de sélectionner une plate-forme ou une solution logicielle d’IA. N’oubliez pas de demander si leur produit permet une personnalisation qui s’adapte aux programmes actuels afin que vous puissiez intégrer les fonctionnalités prêtes à l’emploi qui conviennent le mieux à vos flux de travail.

La conception centrée sur l’utilisateur et les formats de données standardisés et les protocoles aideront à faciliter un échange d’informations sans faille entre les technologies de soins de santé et les plateformes d’IA. Avec ces normes en place, les algorithmes d’IA peuvent être intégrés de manière significative dans les soins cliniques dans divers contextes de soins de santé. Les protocoles établis aident également ces outils à fonctionner mieux en facilitant l’interopérabilité et en permettant l’accès à des ensembles de données plus importants et plus diversifiés.

4.   Utilisation et formation des employés appropriées

Une étude de 2024 a trouvé que les conseils médicaux fournis par des « médecins humains et l’IA » étaient, en fait, plus complets mais moins empathiques que ceux fournis par des « médecins humains » seuls. Pour combler le fossé, les dirigeants des soins de santé doivent comprendre les capacités et les limites de l’IA et s’assurer d’une surveillance et d’une intervention humaines appropriées.

Les dirigeants des soins de santé peuvent intégrer des chatbots dans leurs sites Web et applications de patients pour offrir aux utilisateurs un accès instantané à des informations médicales, aidant à l’auto-diagnostic et à l’éducation en matière de santé. Ces outils peuvent envoyer des rappels opportuns aux patients pour renouveler leurs ordonnances, aidant les patients à adhérer aux plans de traitement. Ils peuvent également aider à classer les patients en fonction de la gravité de leur état, aidant les fournisseurs de soins de santé à donner la priorité aux cas et à allouer des ressources de manière efficace.

Cependant, ces outils peuvent toujours « halluciner », et il est impératif qu’un validateur humain soit impliqué dans les tâches complexes. Travaillez avec des experts tiers pour définir votre vision pour les outils de communication d’IA et créer vos flux de travail souhaités. Une fois que vous vous êtes mis d’accord sur vos cas d’utilisation, les processus de changement culturel et opérationnel – comme le modèle de changement en 8 étapes de Kotter – offrent une feuille de route pour la formation des employés, améliorant en fin de compte les résultats pour les patients.

5.   Demander au chatbot de détecter les erreurs

Aucun dirigeant d’entreprise ne veut faire d’erreurs, mais l’industrie des soins de santé est un environnement à haut risque où même les petites erreurs peuvent avoir des conséquences graves. Pourtant, même les meilleurs cliniciens ne sont pas à l’abri des erreurs médicales. L’IA peut être un outil puissant pour améliorer les soins aux patients en détectant les erreurs et en comblant les lacunes.

Une enquête de 2023 utilisant GPT-4 pour transcrire et résumer une conversation entre un patient et un clinicien a ensuite employé le chatbot pour examiner la conversation pour les erreurs. Lors de la validation, il a détecté une erreur dans l’indice de masse corporelle (IMC) du patient. Le chatbot a également remarqué que les notes du patient ne mentionnaient pas les tests sanguins qui avaient été prescrits, ni la raison pour lesquels ils avaient été prescrits.

Cet exemple indique que l’IA peut être utilisée comme un complément pour aider les médecins à gérer les « hallucinations » de l’IA, les omissions et les erreurs qui peuvent être utilisées pour former et améliorer les applications d’IA.

L’IA des soins de santé existe pour soutenir les médecins et les infirmières, rationaliser les flux de travail, améliorer l’accessibilité des patients aux soins et minimiser les erreurs. Alors que ces outils ne peuvent pas remplacer complètement l’empathie, l’intuition et l’expérience du monde réel que les prestataires de soins de santé humains apportent à la table, ces outils offrent d’excellentes capacités d’analyse et d’économie de temps. Lorsque les dirigeants des soins de santé prennent le temps de s’assurer d’une adhésion soigneuse aux réglementations de la HIPAA, d’une communication transparente avec les patients et d’une formation appropriée des employés, ils peuvent mettre en œuvre ces outils en toute sécurité et avec confiance.