Vivek Desai, Directeur des technologies, Amérique du Nord chez RLDatix – Série d’entretiens

Vivek Desai est le Directeur des technologies d’Amérique du Nord chez RLDatix, une entreprise de logiciels et de services de gestion des opérations de soins de santé connectés. RLDatix est sur une mission pour changer les soins de santé. Ils aident les organisations à améliorer la sécurité et l’efficacité des soins en fournissant des outils de gouvernance, de risque et de conformité qui améliorent la sécurité et la qualité globales.

Qu’est-ce qui vous a initialement attiré vers l’informatique et la cybersécurité ?

J’ai été attiré par la complexité de ce que l’informatique et la cybersécurité tentent de résoudre – il y a toujours un défi émergent à explorer. Un excellent exemple de cela est lorsque le cloud a commencé à gagner en importance. Il offrait une grande promesse, mais également des questions autour de la sécurité des charges de travail. Il était très clair dès le début que les méthodes traditionnelles étaient temporaires et que les organisations devraient développer de nouvelles procédures pour sécuriser efficacement les charges de travail dans le cloud. Naviguer dans ces nouvelles méthodes a été un voyage très excitant pour moi et pour beaucoup d’autres qui travaillent dans ce domaine. C’est un secteur dynamique et en évolution, donc chaque jour apporte quelque chose de nouveau et d’excitant.

Pouvez-vous partager certaines de vos responsabilités actuelles en tant que Directeur des technologies de RLDatix ?

Actuellement, je me concentre sur la direction de notre stratégie de données et sur la recherche de moyens pour créer des synergies entre nos produits et les données qu’ils contiennent, afin de mieux comprendre les tendances. Beaucoup de nos produits contiennent des types de données similaires, donc mon rôle est de trouver des moyens de briser ces silos et de rendre plus facile pour nos clients, les hôpitaux et les systèmes de santé, d’accéder aux données. Avec cela, je travaille également sur notre stratégie d’intelligence artificielle (IA) mondiale pour informer l’accès et l’utilisation des données à travers l’écosystème.

Restez à jour sur les tendances émergentes dans les différents secteurs est un autre aspect crucial de mon rôle, pour nous assurer que nous allons dans la bonne direction stratégique. Je garde un œil sur les grands modèles de langage (LLM). En tant qu’entreprise, nous travaillons à trouver des moyens d’intégrer les LLM dans notre technologie, pour permettre aux humains, en particulier aux prestataires de soins de santé, de réduire leur charge cognitive et de se concentrer sur les soins aux patients.

Dans votre billet de blog LinkedIn intitulé “Une réflexion sur mon 1er année en tant que Directeur des technologies“, vous avez écrit, “Les Directeurs des technologies ne travaillent pas seuls. Ils font partie d’une équipe.” Pouvez-vous élaborer sur certains des défis que vous avez rencontrés et sur la façon dont vous avez abordé la délégation et le travail d’équipe sur des projets qui sont techniquement complexes ?

Le rôle du Directeur des technologies a fondamentalement changé au cours de la dernière décennie. Les jours où l’on travaillait dans une salle de serveurs sont révolus. Maintenant, le travail est beaucoup plus collaboratif. Ensemble, à travers les unités commerciales, nous alignons les priorités organisationnelles et les transformons en exigences techniques qui nous permettent d’avancer. Les hôpitaux et les systèmes de santé naviguent actuellement dans de nombreux défis quotidiens, de la gestion de la main-d’œuvre aux contraintes financières, et l’adoption de nouvelles technologies ne constitue pas toujours une priorité. Notre objectif principal est de montrer comment la technologie peut aider à atténuer ces défis, plutôt que de les aggraver, et la valeur globale qu’elle apporte à leur entreprise, à leurs employés et à leurs patients. Cet effort ne peut pas être réalisé seul ou même au sein de mon équipe, donc la collaboration s’étend à des unités multidisciplinaires pour développer une stratégie cohérente qui montrera cette valeur, que ce soit en donnant aux clients l’accès à des insights de données déverrouillés ou en activant des processus qu’ils ne peuvent actuellement pas effectuer.

Quel est le rôle de l’intelligence artificielle dans l’avenir des opérations de soins de santé connectés ?

À mesure que les données intégrées deviennent plus disponibles avec l’IA, elles peuvent être utilisées pour relier des systèmes disparates et améliorer la sécurité et la précision à travers la continuité des soins. Ce concept d’opérations de soins de santé connectés est une catégorie sur laquelle nous nous concentrons chez RLDatix, car il débloque des données et des insights actionnables pour les décideurs en matière de soins de santé – et l’IA est essentielle pour rendre cela possible.

Un aspect incontournable de cette intégration est de garantir que l’utilisation des données est sécurisée et conforme, et que les risques sont compris. Nous sommes les leaders du marché en matière de politique, de risque et de sécurité, ce qui signifie que nous avons une grande quantité de données pour former des LLM fondamentaux avec plus de précision et de fiabilité. Pour atteindre de véritables opérations de soins de santé connectés, la première étape consiste à fusionner les solutions disparates, et la deuxième à extraire les données et à les normaliser à travers ces solutions. Les hôpitaux bénéficieront grandement d’un ensemble de solutions interconnectées qui peuvent combiner des ensembles de données et fournir une valeur actionnable aux utilisateurs, plutôt que de maintenir des ensembles de données distincts provenant de solutions ponctuelles.

Lors d’une conférence récente, la Directrice des produits Barbara Staruk a partagé comment RLDatix utilise l’intelligence artificielle générative et les grands modèles de langage pour rationaliser et automatiser les rapports d’incidents de sécurité des patients. Pouvez-vous élaborer sur la façon dont cela fonctionne ?

Ceci est une initiative très significative pour RLDatix et un excellent exemple de la manière dont nous maximisons le potentiel des LLM. Lorsque les hôpitaux et les systèmes de santé complètent des rapports d’incidents, il existe actuellement trois formats standard pour déterminer le niveau de préjudice indiqué dans le rapport : les formats communs de l’Agency for Healthcare Research and Quality, le National Coordinating Council for Medication Error Reporting and Prevention et la classification des événements de sécurité de Healthcare Performance Improvement (HPI). Actuellement, nous pouvons facilement former un LLM pour lire le texte d’un rapport d’incident. Si un patient décède, par exemple, le LLM peut facilement identifier ces informations. Le défi réside cependant dans la formation du LLM pour déterminer le contexte et distinguer entre des catégories plus complexes, telles que le préjudice permanent grave, une taxonomie incluse dans la classification des événements de sécurité de HPI, par exemple, par rapport au préjudice temporaire grave. Si la personne qui signale ne fournit pas suffisamment de contexte, le LLM ne pourra pas déterminer le niveau de catégorie de préjudice pour cet incident de sécurité des patients.

RLDatix vise à mettre en œuvre une taxonomie plus simple, à l’échelle mondiale, sur l’ensemble de notre portefeuille, avec des catégories concrètes qui peuvent être facilement distinguées par le LLM. Au fil du temps, les utilisateurs pourront simplement écrire ce qui s’est passé et le LLM gérera le reste en extrayant toutes les informations importantes et en préremplissant les formulaires d’incident. Non seulement cela constitue-t-il un gain de temps important pour une main-d’œuvre déjà tendue, mais à mesure que le modèle deviendra encore plus avancé, nous serons également en mesure d’identifier des tendances critiques qui permettront aux organisations de soins de santé de prendre des décisions plus sûres à l’échelle générale.

Quelles sont les autres manières dont RLDatix a commencé à intégrer les LLM dans ses opérations ?

Une autre façon dont nous utilisons les LLM en interne est pour rationaliser le processus d’agrément. Les informations d’agrément de chaque prestataire sont formatées différemment et contiennent des informations uniques. Pour mettre cela en perspective, pensez à la façon dont le CV de chacun est différent – polices, expérience professionnelle, éducation et mise en page globale. L’agrément est similaire. Où le prestataire a-t-il suivi ses études ? Quel est son certificat ? Quels articles a-t-il publiés ? Chaque professionnel de la santé fournira ces informations à sa manière.

Chez RLDatix, les LLM nous permettent de lire ces informations d’agrément et d’extraire toutes ces données dans un format standardisé, de sorte que ceux qui travaillent dans la saisie de données n’aient pas à les rechercher extensivement, leur permettant de passer moins de temps sur la composante administrative et de se concentrer sur des tâches qui ajoutent de la valeur.

La cybersécurité a toujours été un défi, en particulier avec le passage aux technologies basées sur le cloud, pouvez-vous discuter de certains de ces défis ?

La cybersécurité est un défi, c’est pourquoi il est important de travailler avec le bon partenaire. Garantir que les LLM restent sécurisés et conformes est la considération la plus importante lors de l’utilisation de cette technologie. Si votre organisation n’a pas le personnel dédié en interne pour le faire, cela peut être incroyablement difficile et chronophage. C’est pourquoi nous travaillons avec Amazon Web Services (AWS) sur la plupart de nos initiatives en matière de cybersécurité. AWS nous aide à instaurer la sécurité et la conformité comme principes fondamentaux au sein de notre technologie, de sorte que RLDatix puisse se concentrer sur ce que nous faisons vraiment bien – construire de grands produits pour nos clients dans tous nos secteurs respectifs.

Quels sont les nouveaux menaces de sécurité que vous avez vus avec l’adoption récente et rapide des LLM ?

Depuis le point de vue de RLDatix, il y a plusieurs considérations que nous travaillons à résoudre pendant que nous développons et formons les LLM. Un point de focalisation important pour nous est d’atténuer les préjugés et les inégalités. Les LLM ne sont que aussi bons que les données sur lesquelles ils sont formés. Les facteurs tels que le sexe, la race et d’autres démographiques peuvent inclure de nombreux préjugés inhérents parce que l’ensemble de données lui-même est biaisé. Par exemple, pensez à la façon dont le sud-est des États-Unis utilise le mot “y’all” dans le langage quotidien. Il s’agit d’un biais de langage unique inhérent à une population de patients spécifique que les chercheurs doivent prendre en compte lors de la formation du LLM pour distinguer avec précision les nuances de langage par rapport à d’autres régions. Ces types de préjugés doivent être traités à grande échelle lors de l’utilisation des LLM dans les soins de santé, car former un modèle dans une population de patients ne signifie pas nécessairement que le modèle fonctionnera dans une autre.

Maintenir la sécurité, la transparence et la responsabilité sont également des points de focalisation importants pour notre organisation, ainsi que d’atténuer toute occasion d’hallucinations et de désinformation. Garantir que nous abordons activement les préoccupations en matière de confidentialité, que nous comprenons comment un modèle a atteint une certaine réponse et que nous avons un cycle de développement sécurisé en place sont tous des éléments importants d’une mise en œuvre et d’une maintenance efficaces.

Quels sont les autres algorithmes d’apprentissage automatique utilisés chez RLDatix ?

L’utilisation de l’apprentissage automatique (ML) pour découvrir des insights critiques de planification a été un cas d’utilisation intéressant pour notre organisation. Au Royaume-Uni en particulier, nous avons exploré la façon dont nous pourrions utiliser le ML pour mieux comprendre comment la planification, ou la planification des infirmières et des médecins, se déroule. RLDatix a accès à une grande quantité de données de planification au cours de la dernière décennie, mais que pouvons-nous faire avec toutes ces informations ? C’est là que le ML entre en jeu. Nous utilisons un modèle ML pour analyser ces données historiques et fournir des insights sur la façon dont une situation de dotation en personnel pourrait se présenter deux semaines plus tard, dans un hôpital ou une région spécifique.

Ce cas d’utilisation spécifique est un modèle ML très réalisable, mais nous poussons encore plus loin en le reliant à des événements de la vie réelle. Qu’est-ce qui se passerait si nous examinions tous les calendriers de football dans la région ? Nous savons d’expérience que les événements sportifs mènent généralement à plus de blessures et qu’un hôpital local aura probablement plus de patients hospitalisés le jour de l’événement par rapport à un jour typique. Nous travaillons avec AWS et d’autres partenaires pour explorer quels ensembles de données publics nous pouvons utiliser pour rendre la planification encore plus fluide. Nous avons déjà des données qui suggèrent que nous allons voir une augmentation des patients autour des grands événements sportifs ou même des conditions météorologiques défavorables, mais le modèle ML peut aller plus loin en prenant ces données et en identifiant des tendances critiques qui aideront à garantir que les hôpitaux sont dotés en personnel de manière adéquate, réduisant ainsi la pression sur notre main-d’œuvre et faisant progresser notre industrie vers des soins plus sûrs pour tous.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus peuvent visiter RLDatix.