Matthew Crowson, MD, Directeur de la gestion de produits d’IA/GenAI chez Wolters Kluwer Health – Série d’entretiens

Dr. Matt Crowson est un leader dans le domaine des technologies de santé et un chirurgien praticien axé sur l’application de l’IA dans la pratique clinique. Il est Directeur de la gestion de produits d’IA/GenAI chez Wolters Kluwer (WKL.SW ) Health, où il dirige des initiatives pour améliorer la synthèse des preuves et l’analyse des données du monde réel. Auparavant, il a dirigé la pratique d’IA des fournisseurs de soins de santé de Deloitte, en développant des solutions d’IA générative pour améliorer la documentation, les cycles de revenus et la recherche. Il est également professeur adjoint à la Harvard Medical School et auteur de plus de 90 publications révisées par des pairs.

Wolters Kluwer est un fournisseur mondial d’informations professionnelles, de logiciels et de services, qui soutient les clients dans les domaines des soins de santé, de la fiscalité et de la comptabilité, du droit et de la réglementation, de la conformité financière et de l’ESG. Basé aux Pays-Bas, l’entreprise utilise son expertise approfondie du secteur et la technologie avancée pour fournir des outils qui rationalisent les flux de travail, assurent la conformité et soutiennent la prise de décision critique. Ses opérations s’étendent à plus de 180 pays, avec des offres organisées dans des divisions telles que la Santé, la Fiscalité et la Comptabilité, le Droit et la Réglementation, la Conformité financière et corporative, et la Performance corporative et l’ESG.

Commençons par une question personnelle – comment équilibrez-vous vos rôles de chirurgien praticien et de leader de produit d’IA ? Votre travail clinique a-t-il influencé votre vision de ce que l’IA devrait ou ne devrait pas être dans les soins de santé ?

Honnêtement ? Cela commence par une gestion du temps sans pitié et une machine à café industrielle. Les matinées en clinique maintiennent mes compétences en soins aux patients, tandis que le reste de la journée est consacré à transformer les douleurs de première ligne en spécifications de produit. Les deux rôles se nourrissent mutuellement : voir un résident cliquer sur dix écrans pour commander du Tylenol, c’est tout le marketing dont j’ai besoin.

Les projets d’IA échouent lorsque personne dans la salle n’a ressenti cette douleur. Notre enquête Future Ready Healthcare Survey montre que 80 % des dirigeants estiment que « l’optimisation des flux de travail » est une priorité absolue. Cependant, seuls 63 % pensent qu’ils sont prêts à le faire avec l’IA générative (GenAI). C’est le classique écart entre stratégie et exécution que les experts du domaine peuvent combler en posant la bonne question clinique « pourquoi » avant d’écrire une seule ligne de code.

Mon objectif clinique me maintient également dans le concret. Le personnel de première ligne nous a dit que leurs principales priorités sont la résolution des pénuries de personnel (82 %), la réduction de la charge administrative (77 %) et la lutte contre l’épuisement professionnel (76 %). Si un algorithme ne déplace pas l’une de ces aiguilles, c’est juste du théâtre. Les cliniciens s’ennuient rapidement.

Cet objectif me rend également prudent quant aux endroits où l’IA ne devrait pas aller. En fait, 57 % des professionnels s’inquiètent du fait que la surestimation de l’IA générative pourrait éroder le jugement clinique, mais seulement 18 % disent que leurs organisations ont publié des garde-fous. Jusqu’à ce que la gouvernance rattrape son retard, le mandat est clair : automatiser la paperasse, pas la réflexion.

Donc, pour moi, l’équilibre n’est pas vraiment entre le café et le calendrier. C’est à propos de garder un pied en clinique – pour que je n’oublie jamais qui l’IA est censée servir – et un pied dans le produit, pour que cette connaissance soit livrée. Faites-le bien, et le café est juste un joli bonus.

L’enquête Future Ready Healthcare Survey de Wolters Kluwer met en évidence un écart important entre l’enthousiasme pour l’IA générative et sa mise en œuvre. Étiez-vous surpris par certains des résultats ? Qu’est-ce qui vous a le plus frappé personnellement ?

Je n’ai pas été surpris le moins du monde. Je n’ai encore jamais rencontré de clinicien anti-automatisation. Ce qui ralentit le déploiement, ce n’est pas la peur d’un scénario « Skynet en blouse » mais plutôt la routine quotidienne des opérations de santé. L’enquête cristallise cette réalité. Huit dirigeants sur dix classent l’optimisation des flux de travail comme une priorité absolue, mais à peine six sur dix disent qu’ils sont prêts à laisser l’IA générative s’en charger. Cet écart est exactement ce que je vois : des mines de responsabilité, des données qui ressemblent plus à un tiroir à désordre qu’à un lac de données, et des incitations financières qui récompensent toujours le volume plutôt que l’efficacité. Il y a d’autres obstacles, notamment un vide de formation, une fatigue de l’informatique parallèle et un brouillard réglementaire.

Ce qui m’a le plus frappé, c’est à quel point ces obstacles sont ordinaires. Les pénuries de personnel, la charge administrative et l’épuisement professionnel dominent la liste des préoccupations, mais seulement 18 % des organisations ont des politiques formelles d’IA générative. Si vous ne savez pas qui approuve un modèle ou comment ses sorties sont auditées, l’enthousiasme meurt dans le bureau de conformité. De plus, 68 % des répondants disent que les coûts de main-d’œuvre sont leur plus grande pression financière, et il n’est pas étonnant que les dirigeants veuillent des preuves de retour sur investissement (RSI) avant de signer une autre facture de logiciel. Le titre n’est pas « panique de l’IA », c’est « Excellente idée – montrez-moi le flux de travail et le cas d’affaires ».

Plus de la moitié des professionnels de la santé interrogés s’inquiètent du fait que l’IA générative pourrait éroder les compétences de prise de décision clinique. Pensez-vous que cette peur est valable – ou reflète-t-elle des préoccupations plus profondes quant à la confiance et à la transparence dans les systèmes d’IA ?

Une partie de l’anxiété est réelle, mais elle a moins à voir avec les peurs de science-fiction d’un IA rogue et plus à voir avec la responsabilité ordinaire. Lorsqu’un outil propose des diagnostics différentiels en quelques secondes, vous avez besoin d’une provenance cristalline : D’où vient la recommandation, qui l’approuve et comment est-elle audité ? Aujourd’hui, seule une petite minorité d’organisations a des directives formelles d’IA générative, les cliniciens font donc preuve de prudence. Cela se traduit dans nos données par 57 % qui disent que « la surestimation pourrait éroder le jugement ». Pour moi, cela signifie qu’ils ne veulent pas d’une boîte noire qui s’immisce dans leur licence de pratique.

Je vois le problème à travers une lentille historique. Lorsque les tableurs sont arrivés dans les départements financiers, certains comptables se sont inquiétés que leurs muscles analytiques s’atrophient. Au lieu de cela, les logiciels de tableur sont devenus la nouvelle base, augmentant le plancher de précision. Les soins de santé sont en retard sur un tel bond. Nous perdons trop de patients en raison de variations dans les soins ; l’erreur médicale reste une des principales causes de blessures et de décès. Le superpouvoir de l’IA générative peut être de réduire ces barres d’erreur en mettant en évidence les directives, en soulignant les contre-indications et en signalant les outliers plus rapidement qu’aucun humain ne peut le faire. Mais il doit rester un assistant, pas un décideur autonome, en particulier dans la fenêtre de trois à cinq ans à venir.

Donc, oui, la peur est valable mais elle est soluble. Des ensembles de données transparents, des traces d’audit et des points de contrôle humains dans la boucle transforment « l’érosion de l’IA » en « augmentation de l’IA ». Donnez aux cliniciens des recommandations traçables et des lignes de responsabilité claires, et ce 57 % disparaîtra. Ce n’est pas à propos de remplacer l’expertise ; c’est à propos de l’augmenter avec de meilleurs outils.

Seuls 18 % des répondants disent être conscients de politiques d’IA générative claires au sein de leurs organisations. Quels sont les risques potentiels de déployer des outils d’IA générative sans une telle gouvernance en place ?

Pensez-y comme lancer un nouveau médicament sans étiquette de dosage. Les données de santé sont très sensibles, et les modèles d’IA générative ne deviennent intelligents que lorsqu’ils absorbent ce contexte riche en informations de santé protégées (PHI). Sans des politiques de gestion des données strictes pour régir qui peut télécharger des informations, comment ces données sont enregistrées et où elles résident, une organisation est à un seul cliché de clipboard d’une violation de la vie privée qui pourrait faire les gros titres.

La responsabilité est la prochaine mine. Lorsqu’un algorithme hallucine une dose contrindiquée, qui paie la facture de responsabilité ? Le fournisseur, l’hôpital ou le clinicien qui a cliqué sur « accepter » ? Actuellement, la réponse est floue car moins d’une organisation sur cinq a des « règles de la route » codifiées pour l’IA générative. Dans un vide, les avocats ont souvent recours aux poches les plus profondes, et cette incertitude seule peut bloquer l’innovation.

La gouvernance protège également contre des risques plus subtils tels que la dérive des modèles et les préjugés silencieux. Un bot d’oncologie formé sur les directives du dernier trimestre peut tranquillement sortir de la voie des soins fondés sur des preuves. Les politiques qui obligent le contrôle de version, la surveillance des résultats et les déclencheurs de fin de vie maintiennent les algorithmes pour qu’ils ne deviennent pas des dangers pour la sécurité.

Enfin, la confiance est en jeu. Les cliniciens s’inquiètent que la surestimation de l’IA générative pourrait émousser leur jugement clinique ; le déploiement d’outils opaques ne confirme que ces craintes. Une gouvernance claire, une transparence sur la lignée des données, des protocoles de validation et des points de contrôle humains dans la boucle transforment l’anxiété de la « boîte noire » en confiance que l’IA est un coéquipier d’assistance, et non un résident rogue.

Sur la base de votre travail avec Wolters Kluwer et dans le bloc opératoire, quel est le cas d’utilisation le plus réaliste de l’IA générative dans les soins de santé à court terme ?

Oubliez les chirurgiens robots. Dans les trois prochaines années, l’opportunité géniale de l’IA générative est l’annihilation administrative. Deux voies se prouvent déjà :

1. La prise de notes en amont. Les outils d’écoute ambiante rédigent désormais la note de progression tandis qu’un médecin parle à son patient, puis la déposent directement dans le dossier électronique de santé (DES). Notre enquête montre que 41 % des répondants la placent sur leur liste de vœux d’IA générative, et la technologie est déjà en place dans les premiers systèmes de santé. Plusieurs études ont montré que les systèmes de dictée ambiante peuvent réduire la charge cognitive de 51 % et le temps de « pyjama » après les heures de 60 % ou plus. C’est un ROI dur ; vous pouvez le sentir rapidement.
2. La protection des revenus en back-office. Le prochain domino est les paquets d’autorisation préalable, les lettres d’appel de refus et d’autres déchets de cycle de revenus. Pour référence, 67 % des dirigeants disent que l’autorisation préalable seule étouffe la productivité, et 62 % soulignent la charge administrative du DES. Les grands modèles de langage qui lisent le graphique et remplissent automatiquement ces formulaires sont déjà en train de rogner des jours sur les réclamations et de libérer le personnel pour un travail à plus forte valeur.

Pourquoi ces deux-là ? Ils frappent la trifecta de risque clinique faible, soulagement important du personnel et justification claire en dollars et en centimes. Dans un marché où 68 % des dirigeants classent les coûts de personnel comme la principale pression financière, les outils qui rendent des heures sans modifier le plan de soins sont les plus faciles à dire « oui ». Le diagnostic autonome viendra plus tard ; maintenant, l’IA générative gagne sa vie en faisant disparaître le clipboard.

L’enquête note que les données ne sont pas le principal risque cité par les répondants – ce qui est surprenant étant donné à quel point la confidentialité des données domine les gros titres. Quels sont les risques que les cliniciens et les administrateurs considèrent comme plus pressants ?Je suis également surpris. Les gros titres nous feraient croire que les violations de la HIPAA gardent chaque CIO d’hôpital éveillé la nuit. Pourtant, nos données montrent que seulement 56 % des professionnels citent la confidentialité comme un risque majeur pour l’IA générative, tandis qu’une tranche encore plus grande (57 % !) s’inquiètent de « l’érosion du jugement clinique ». Cela me dit que la peur de première ligne n’est pas les pirates, c’est la responsabilité.

Voici ce que les cliniciens et les administrateurs craignent :

• La roulette de la responsabilité. Si l’algorithme dévie les soins de leur trajectoire, qui signe la facture de responsabilité ? Le manque de réglementations et de normes claires se classe aux côtés des lacunes de transparence à 55 %, signalant une véritable inquiétude quant à la portée juridique.
• Le coup de fouet réglementaire. Soixante-seize pour cent des dirigeants se sentent déjà déstabilisés par les règles de Medicare et de Medicaid changeantes ; superposer une IA générative opaque à cela est un dur vente jusqu’à ce que les garde-fous se solidifient.
• La dérive des modèles et les préjugés. Cinquante-cinq pour cent signalent les préjugés provenant de modèles sous-formés comme un risque critique, rappelant que les données obsolètes peuvent être aussi dangereuses que les données manquantes.

En bref, la plupart des organisations supposent que leurs pare-feu sont décents ; elles ne possèdent pas de chaîne claire de responsabilité lorsque la sortie d’un grand modèle de langage (LLM) se retrouve dans un plan de soins. Jusqu’à ce que les cadres de gouvernance épellent la propriété, les traces d’audit et les cadences de mise à jour, les déploiements d’IA générative continueront à stagner, quel que soit le niveau de sécurité du stack.

Pensez-vous que les outils d’IA générative amélioreront ou dilueront à long terme l’autonomie des cliniciens ? Comment concevoir des systèmes qui soutiennent la prise de décision sans la dépasser ?

L’IA générative est sur le point de étendre, et non de réduire, l’autonomie clinique. Actuellement, une grande partie de cette autonomie est entravée par la gestion des courriels, la paperasse administrative et les acrobaties du DES. Pas étonnant, alors, que le personnel de première ligne classe « l’optimisation des flux de travail » comme leur première utilisation de l’IA générative (80 % de priorité) même si à peine 63 % se sentent techniquement prêts à l’exécuter. Les pharmaciens et les professionnels de la santé auxiliaires parient déjà sur le pourcentage : 41 % et 47 % s’attendent à ce que l’IA générative réduise suffisamment la charge administrative pour réduire les besoins en personnel de soutien. Libérer les cliniciens de la saisie de données signifie plus de temps de face à face avec les patients. C’est l’autonomie que tout le monde veut.

Cependant, l’enquête nous rappelle que l’autonomie coupe les deux sens, comme nous l’avons touché plus tôt : 57 % des répondants s’inquiètent que la surestimation de l’IA générative pourrait émousser le jugement clinique. L’antidote est une conception réfléchie, et non un frein. Les systèmes doivent montrer leur travail avec des drapeaux de provenance, des citations et des scores de confiance, de sorte que les humains restent les arbitres finals. Le contrôle de version et la surveillance post-déploiement attrapent la dérive silencieuse des modèles avant qu’elle n’empoisonne les parcours de soins, tandis que les boutons « toujours visible de contournement » rendent clair que l’algorithme est un assistant, et non le médecin traitant.

La gouvernance est le dernier mile. Seuls 18 % des professionnels disent que leur organisation a une politique d’IA générative publiée. Sans une chaîne claire de responsabilité, même la meilleure expérience utilisateur stagnera dans un limbe juridique. Des politiques solides doivent écrire la gestion des données, les traces d’audit et la délimitation des rôles qui sont socialisés à travers les médecins, les infirmières et l’assistant médical qui appuie sur le bouton. Lorsque nous associons ces garde-fous à une conception native du flux de travail, l’IA générative cesse de ressembler à une menace pour l’autonomie et commence à agir comme le co-pilote que les cliniciens réclament.

Qu’est-ce qui freine le plus l’adoption – les limites technologiques, l’incertitude réglementaire, la friction des flux de travail ou quelque chose de plus profond comme la résistance culturelle ?

C’est un déficit d’exécution enveloppé dans des incitations héritées. La plupart des dirigeants de systèmes de santé peuvent articuler une vision d’IA générative astucieuse, mais leur muscle opérationnel n’a pas rattrapé son retard. Notre enquête montre le décalage dans une ligne : 80 % des répondants classent « l’optimisation des flux de travail » comme une priorité absolue, mais seulement 63 % pensent qu’ils sont prêts à le faire. La vision est bon marché ; les ingénieurs d’intégration, les livres de jeu de gestion du changement et les budgets de processeur graphique (GPU) ne le sont pas.

La gouvernance est le prochain gouffre. Seuls 18 % des professionnels sont même conscients d’une politique d’IA générative publiée à leur hôpital. Sans des règles claires d’utilisation des données, de validation et de responsabilité, chaque pilote prometteur risque de devenir une grenade de conformité. Ce brouillard juridique est amplifié par l’incertitude macro. En fait, 75 % des dirigeants s’inquiètent que les règles de Medicare et de Medicaid changeantes rapidement détruiront toute solution qu’ils déployeront.

Ensuite, il y a la friction de tranchée : près de la moitié des dirigeants citent les données sales et les cauchemars d’intégration du DES comme principaux obstacles, et seulement 42 % disent qu’ils ont un processus pour connecter les outils d’IA générative à leurs flux de travail existants. Si le modèle ne peut pas voir le graphique ou ajoute des clics, les cliniciens l’abandonneront avant le déjeuner.

Enfin, il y a « le purgatoire des pilotes ». De nombreuses études externes estiment que le taux de réussite des pilotes d’IA qui passent à l’échelle de l’entreprise à environ un sur dix. Les conseils d’administration célèbrent la démo, publient un communiqué de presse et passent à autre chose. Parce que personne ne finance les travaux de plomberie sans gloire qui suivent. L’IA générative restera une promesse PowerPoint jusqu’à ce que les hôpitaux embauchent des propriétaires de produits qui ont déjà livré des logiciels.

En bref, la technologie et la culture ne sont pas des bloqueurs distincts. Ils sont fusionnés. Résolvez pour un leadership responsable, de véritables budgets d’intégration, des garde-fous explicites et l’appétit pour l’IA générative correspondra à son hype.

Vous avez construit des systèmes d’IA axés sur des résultats pragmatiques et fondés sur des preuves. Quels conseils donneriez-vous aux dirigeants de la santé qui tentent de naviguer dans l’hype et d’identifier les investissements d’IA vraiment précieux ?

Commencez par un diagnostic, et non par une démo. Avant de laisser un marteau brillant chercher des clous, quantifiez le clou : l’utilisation de la salle d’opération est-elle en baisse de 8 % pendant deux trimestres consécutifs ? Les appels de refus sont-ils en train de stagner et de saigner des revenus ? L’infirmière de l’unité trois passe-t-elle deux heures par quart sur le « temps de basculement » du DES (le temps passé à basculer entre les écrans et les tâches) ? Une fois que la douleur est explicite, l’outil approprié a tendance à se présenter. Comme Sir William Osler a rappelé à la communauté médicale il y a des générations, « Écoutez le patient ; [il] vous dira le diagnostic ».

Avec le problème épinglé, interrogez le cas d’affaires comme un directeur financier. Exigez des chiffres durs : des métriques de base, des deltas projetés et des fenêtres de remboursement qui survivent à un test de sniff du conseil d’administration. Rappelez-vous qu’environ un pilote d’IA sur dix passe à l’échelle de l’entreprise ; si le fournisseur ne peut pas montrer un client en direct qui a déplacé l’indicateur de performance clé (IPC) qui vous intéresse, continuez à marcher.

Ensuite, décidez d’acheter, de construire ou de faire un partenariat. L’achat peut accélérer le temps de valorisation, mais surveillez les logiciels de fumée habillés de buzzwords. La construction donne le contrôle, mais seulement si vous avez un propriétaire de profit et de perte de tigre qui a déjà livré une intelligence artificielle de production. Les partenariats hybrides frappent souvent l’équilibre : vos données, leur modèle, partage des avantages, partage des risques.

Enfin, donnez la priorité à de petites équipes transversales avec une responsabilité claire. Pensez à une équipe de deux pizzas comprenant le CMO, le CIO, le chef de l’ingénierie des données et un champion de première ligne, plutôt qu’à de grands comités de direction. Alignez leurs incitations sur des objectifs de résultats à long terme plutôt que sur des métriques à court terme, et donnez-leur un budget d’infrastructure dédié – GPU, ingénierie de données, opérations de machine learning (MLOps) – afin que le projet progresse au-delà du stade du pilote.

Enfin, en regardant vers l’avenir : à quoi ressemblerait un système d’IA générative pleinement intégré et responsable dans un environnement hospitalier dans cinq ans ? Quels sont les jalons que nous devons atteindre pour y arriver ?

Imaginez que vous entrez dans une clinique où le médecin n’a jamais besoin de se tourner vers le clavier. La conversation s’écoule, et un agent d’écoute ambiante discret capture le dialogue, rédige une note, déclenche des ordres basés sur les directives et génère le paquet d’autorisation préalable avant que la main du médecin ne soit sur la poignée de la porte. Les premiers pilotes prouvent déjà le concept, et 41 % des cliniciens dans notre enquête disent que c’est exactement la fonctionnalité d’IA générative qu’ils veulent ensuite.

Ce qui rend cette scène possible n’est pas la robotique de science-fiction ; c’est une architecture invisible qui fusionne des données propres et interopérables avec une couche d’orchestration en temps réel et une « gouvernance en tant que code ». Nous avons encore des devoirs à faire. Pour combler les lacunes, pensez d’abord à la plomberie des données, puis intégrez les garde-fous (plutôt que de les ajouter) pour transformer l’hype en habitude.

Les jalons tombent naturellement une fois que les fondations sont posées. Dans la première année, je recommande que les hôpitaux et les systèmes de santé mettent en place le tissu de données, publient des directives d’IA générative à l’échelle de l’entreprise et construisent une canalisation MLOps. Dans la deuxième année de mise en œuvre, il sera important de mettre à l’échelle la documentation ambiante dans les cliniques ambulatoires, de mesurer le temps de documentation et le temps de « pyjama » après les heures de travail. Dans la troisième année, laissez l’IA générative rédiger les appels de refus et les paquets d’autorisation préalable (67 % des dirigeants ont dit que cette charge est prête à être éliminée). Dans les quatrième et cinquième années, évoluez vers un soutien décisionnel clinique en temps réel avec une provenance et, en fin de compte, une planification des soins basée sur la conversation où le système exécute les ordres au moment où ils sont prononcés.

Merci pour cette grande interview. Les lecteurs qui souhaitent en savoir plus peuvent visiter Wolters Kluwer ou lire le Rapport de l’enquête Future Ready Healthcare.