Vivek Desai, Chief Technology Officer, North America at RLDatix – Interview Series

Vivek Desai is de Chief Technology Officer van Noord-Amerika bij RLDatix, een verbonden gezondheidszorgoperatiesoftware- en dienstverleningsbedrijf. RLDatix heeft als missie de gezondheidszorg te veranderen. Zij helpen organisaties veiligere, efficiëntere zorg te bieden door governance-, risico- en compliance-instrumenten te bieden die de algehele verbetering en veiligheid stimuleren.

Wat trok je aanvankelijk aan tot informatica en cybersecurity?

Ik werd aangetrokken door de complexiteit van wat informatica en cybersecurity proberen op te lossen – er is altijd een opkomende uitdaging om te verkennen. Een goed voorbeeld hiervan is toen de cloud voor het eerst aan populariteit begon te winnen. Het bood grote beloften, maar zette ook enkele vragen omtrent de beveiliging van workloads aan de orde. Het was vanaf het begin duidelijk dat traditionele methoden een tijdelijke oplossing waren en dat organisaties over de hele linie nieuwe processen moesten ontwikkelen om workloads in de cloud effectief te beveiligen. Het navigeren door deze nieuwe methoden was een bijzonder spannende reis voor mij en velen die in dit veld werkten. Het is een dynamische en evoluerende industrie, dus elke dag brengt iets nieuws en spannends.

Kunt u enkele van de huidige verantwoordelijkheden delen die u heeft als CTO van RLDatix?

Momenteel ben ik gefocust op het leiden van onze datastrategie en het vinden van manieren om synergies tussen onze producten en de gegevens die ze bevatten te creëren, om trends beter te begrijpen. Veel van onze producten bevatten soortgelijke soorten gegevens, dus mijn taak is om manieren te vinden om die silo’s af te breken en het voor onze klanten, zowel ziekenhuizen als gezondheidsstelsels, gemakkelijker te maken om toegang te krijgen tot de gegevens. Ik werk ook aan onze mondiale kunstmatige intelligentie (AI)-strategie om deze toegang tot en het gebruik van gegevens over het hele ecosysteem te informeren.

Het bijhouden van opkomende trends in verschillende industrieën is een ander cruciaal aspect van mijn rol, om ervoor te zorgen dat we de juiste strategische richting inslaan. Ik hou momenteel een nauw oog op grote taalmodellen (LLM’s). Als bedrijf werken we aan het vinden van manieren om LLM’s in onze technologie te integreren, om mensen, met name zorgverleners, te empoweren en te versterken, hun cognitieve belasting te verminderen en hen in staat te stellen zich te concentreren op het verplegen van patiënten.

In uw LinkedIn-blogpost met de titel “A Reflection on My 1st Year as a CTO,” schreef u: “CTO’s werken niet alleen. Ze maken deel uit van een team.” Kunt u enkele van de uitdagingen uiteenzetten die u hebt ondervonden en hoe u heeft omgegaan met delegeren en teamwork op projecten die inherent technisch uitdagend zijn?

De rol van een CTO is fundamenteel veranderd in de afgelopen decennium. De dagen van werken in een serverruimte zijn voorbij. Nu is de baan veel meer een samenwerking. Samen, over de hele linie van bedrijfseenheden, stellen we de prioriteiten van de organisatie vast en vertalen we die aspiraties in technische vereisten die ons vooruit helpen. Ziekenhuizen en gezondheidsstelsels navigeren momenteel door zo veel dagelijkse uitdagingen, van werkgelegenheidsbeheer tot financiële beperkingen, en de adoptie van nieuwe technologie kan niet altijd een topprioriteit zijn. Ons grootste doel is om te laten zien hoe technologie kan helpen om deze uitdagingen te mitigeren, in plaats van ze te verergeren, en de totale waarde die het voor hun bedrijf, werknemers en patiënten met zich meebrengt. Deze inspanning kan niet alleen of zelfs binnen mijn team worden gedaan, dus de samenwerking omvat multidisciplinaire eenheden om een samenhangende strategie te ontwikkelen die die waarde zal laten zien, of dat nu voortkomt uit het geven van klanten toegang tot ontsloten gegevensinzichten of het activeren van processen die ze momenteel niet kunnen uitvoeren.

Wat is de rol van kunstmatige intelligentie in de toekomst van verbonden gezondheidszorgoperaties?

Als geïntegreerde gegevens beschikbaarder worden met AI, kunnen ze worden gebruikt om afgelegen systemen te verbinden en veiligheid en nauwkeurigheid over de hele zorgketen te verbeteren. Dit concept van verbonden gezondheidszorgoperaties is een categorie waarop we ons bij RLDatix richten, omdat het actiegegevens en inzichten voor gezondheidszorgbeslissers ontgrendelt – en AI is essentieel om dat tot stand te brengen.

Een niet-onderhandelbaar aspect van deze integratie is ervoor zorgen dat het gebruik van gegevens veilig en conform is en dat risico’s worden begrepen. Wij zijn de marktleider in beleid, risico en veiligheid, wat betekent dat we een ruime hoeveelheid gegevens hebben om basis-LLM’s met meer nauwkeurigheid en betrouwbaarheid te trainen. Om echte verbonden gezondheidszorgoperaties te bereiken, is de eerste stap het samenvoegen van de afgelegen oplossingen en de tweede het extraheren en normaliseren van gegevens over die oplossingen. Ziekenhuizen zullen veel baat hebben bij een groep verbonden oplossingen die gegevenssets kunnen combineren en actiewaarde bieden aan gebruikers, in plaats van afzonderlijke gegevenssets van individuele puntoplossingen te onderhouden.

In een recente keynote deelde Chief Product Officer Barbara Staruk mee hoe RLDatix generatieve AI en grote taalmodellen gebruikt om patiëntveiligheidsincidentenrapportage te stroomlijnen en te automatiseren. Kunt u uitleggen hoe dit werkt?

Dit is een zeer belangrijke initiatief voor RLDatix en een goed voorbeeld van hoe we het potentieel van LLM’s maximaliseren. Wanneer ziekenhuizen en gezondheidsstelsels incidentenrapporten voltooien, zijn er momenteel drie standaardformaten voor het bepalen van het niveau van schade dat in het rapport wordt aangegeven: de Common Formats van de Agency for Healthcare Research and Quality, de National Coordinating Council for Medication Error Reporting and Prevention en de Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). Op dit moment kunnen we gemakkelijk een LLM trainen om door de tekst in een incidentenrapport te lezen. Als een patiënt bijvoorbeeld overlijdt, kan de LLM naadloos die informatie oppikken. De uitdaging ligt echter in het trainen van de LLM om context te bepalen en complexe categorieën te onderscheiden, zoals ernstige permanente schade, een taxonomie die is opgenomen in de HPI SEC, versus ernstige tijdelijke schade. Als de persoon die rapporteert niet genoeg context biedt, kan de LLM het juiste niveau van schade voor dat specifieke patiëntveiligheidsincident niet bepalen.

RLDatix streeft ernaar om een eenvoudigere taxonomie te implementeren, wereldwijd, over onze hele portefeuille, met concrete categorieën die gemakkelijk door de LLM kunnen worden onderscheiden. Na verloop van tijd zullen gebruikers eenvoudigweg kunnen schrijven wat er is gebeurd en de LLM zal het van daaruit afhandelen door alle belangrijke informatie te extraheren en incidentenformulieren voor te vullen. Dit is niet alleen een aanzienlijke tijdsbesparing voor een reeds belaste werkkracht, maar naarmate het model geavanceerder wordt, zullen we ook in staat zijn om kritieke trends te identificeren die gezondheidsorganisaties in staat zullen stellen om veiligere beslissingen te nemen over de hele linie.

Op welke andere manieren is RLDatix begonnen met het integreren van LLM’s in zijn operaties?

Een andere manier waarop we LLM’s intern gebruiken, is om het credentialingproces te stroomlijnen. Elk providers’ credentials zijn anders en bevatten unieke informatie. Om het in perspectief te plaatsen, denk aan hoe ieders cv eruitziet – van lettertypen tot werkervaring, onderwijs en algehele opmaak. Credentialing is soortgelijk. Waar heeft de provider college bezocht? Wat is zijn certificering? In welke artikelen is hij gepubliceerd? Elke gezondheidsprofessional zal die informatie op zijn eigen manier verstrekken.

Bij RLDatix maken LLM’s het mogelijk om door deze credentials te lezen en alle gegevens in een gestandaardiseerd formaat te extraheren, zodat zij die in de gegevensinvoer werken niet uitgebreid naar die informatie hoeven te zoeken, waardoor ze minder tijd aan de administratieve component besteden en hun tijd aan zinvolle taken kunnen besteden die waarde toevoegen.

Cybersecurity is altijd een uitdaging geweest, vooral met de overstap naar cloud-gebaseerde technologieën, kunt u enkele van deze uitdagingen bespreken?

Cybersecurity is een uitdaging, en dat is waarom het belangrijk is om met de juiste partner te werken. Ervoor zorgen dat LLM’s veilig en conform blijven, is het belangrijkste overweging bij het gebruik van deze technologie. Als uw organisatie niet de toegewijde staf in huis heeft om dit te doen, kan het enorm uitdagend en tijdrovend zijn. Daarom werken we met Amazon Web Services (AWS) aan de meeste van onze cybersecurity-initiatieven. AWS helpt ons om beveiliging en conformiteit als kernbeginselen binnen onze technologie te verankeren, zodat RLDatix zich kan concentreren op waar we echt goed in zijn – het bouwen van geweldige producten voor onze klanten in al onze respectieve verticale markten.

Wat zijn enkele van de nieuwe beveiligingsbedreigingen die u heeft gezien met de recente snelle adoptie van LLM’s?

Vanuit het perspectief van RLDatix zijn er verschillende overwegingen die we doorwerken terwijl we LLM’s ontwikkelen en trainen. Een belangrijke focus voor ons is het mitigeren van vooroordelen en oneerlijkheid. LLM’s zijn alleen zo goed als de gegevens waarop ze zijn getraind. Factoren zoals geslacht, ras en andere demografische gegevens kunnen inherente vooroordelen bevatten omdat de dataset zelf bevooroordeeld is. Denk bijvoorbeeld aan hoe het zuidoosten van de Verenigde Staten de uitdrukking “y’all” in de alledaagse taal gebruikt. Dit is een uniek taalvooroordeel dat inherent is aan een specifieke patiëntpopulatie die onderzoekers moeten overwegen bij het trainen van de LLM om taalnuances nauwkeurig te onderscheiden in vergelijking met andere regio’s. Deze soorten vooroordelen moeten op grote schaal worden aangepakt bij het gebruik van LLM’s binnen de gezondheidszorg, omdat het trainen van een model binnen een patiëntpopulatie niet noodzakelijkerwijs betekent dat het model zal werken in een andere.

Het handhaven van beveiliging, transparantie en verantwoordelijkheid zijn ook belangrijke aandachtspunten voor onze organisatie, evenals het mitigeren van hallucinaties en desinformatie. Ervoor zorgen dat we actief omgaan met eventuele privacyproblemen, dat we begrijpen hoe een model tot een bepaald antwoord is gekomen en dat we een veilige ontwikkelingscyclus hebben, zijn allemaal belangrijke componenten van effectieve implementatie en onderhoud.

Wat zijn enkele andere machine learning-algoritmen die bij RLDatix worden gebruikt?

Het gebruik van machine learning (ML) om kritieke planningsinzichten te ontdekken is een interessant use case voor onze organisatie geweest. In het VK hebben we onderzocht hoe we ML kunnen gebruiken om beter te begrijpen hoe rostering, of het plannen van verpleegkundigen en artsen, plaatsvindt. RLDatix heeft toegang tot een enorme hoeveelheid planningsgegevens van de afgelopen decennium, maar wat kunnen we met al die informatie doen? Daar komt ML om de hoek kijken. We gebruiken een ML-model om die historische gegevens te analyseren en inzicht te geven in hoe een personeelssituatie er over twee weken uit kan zien, in een specifiek ziekenhuis of een bepaalde regio.

Dat specifieke use case is een zeer haalbaar ML-model, maar we duwen de grens nog verder door het te koppelen aan echte gebeurtenissen. Wat als we bijvoorbeeld naar elke voetbalschema in het gebied kijken? We weten uit ervaring dat sportevenementen meestal tot meer verwondingen leiden en dat een lokaal ziekenhuis waarschijnlijk meer patiënten op de dag van een evenement heeft dan op een typische dag. We werken met AWS en andere partners om te onderzoeken welke openbare datasets we kunnen gebruiken om plannen nog verder te stroomlijnen. We hebben al gegevens die suggereren dat we een toename van patiënten rond grote sportevenementen of zelfs slecht weer zullen zien, maar het ML-model kan het nog een stap verder zetten door die gegevens te nemen en kritieke trends te identificeren die ziekenhuizen in staat zullen stellen om adequaat te zijn bemand, uiteindelijk de druk op onze werkkracht te verminderen en onze industrie een stap verder te brengen in het bereiken van veiligere zorg voor iedereen.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten RLDatix bezoeken.