Vivek Desai, Chief Technology Officer, Noord-Amerika bij RLDatix – Interviewreeks

Vivek Desai is de Chief Technology Officer van Noord-Amerika bij RLDatix, een bedrijf voor verbonden zorgoperaties software en diensten. RLDatix heeft als missie de zorg te veranderen. Zij helpen organisaties veiligere, efficiëntere zorg te bieden door governance-, risico- en compliance-instrumenten te bieden die de algehele verbetering en veiligheid stimuleren.

Wat trok je aanvankelijk aan tot informatica en cybersecurity?

Ik werd aangetrokken door de complexiteit van wat informatica en cybersecurity proberen op te lossen – er is altijd een opkomende uitdaging om te onderzoeken. Een goed voorbeeld hiervan is toen de cloud voor het eerst aan populariteit begon te winnen. Het bood veelbelovende mogelijkheden, maar ook enkele vragen over workloadbeveiliging. Het was vanaf het begin duidelijk dat traditionele methoden een tijdelijke oplossing waren en dat organisaties overal moesten nieuwe processen ontwikkelen om workloads in de cloud effectief te beveiligen. Het navigeren door deze nieuwe methoden was een bijzonder spannende reis voor mij en veel anderen die in dit veld werkten. Het is een dynamische en evoluerende industrie, dus elke dag brengt iets nieuws en spannends.

Kunt u enkele van de huidige verantwoordelijkheden delen die u heeft als CTO van RLDatix?  

Op dit moment richt ik me op het leiden van onze datastrategie en het vinden van manieren om synergieën te creëren tussen onze producten en de gegevens die ze bevatten, om trends beter te begrijpen. Veel van onze producten bevatten soortgelijke soorten gegevens, dus mijn taak is om manieren te vinden om deze silo’s af te breken en het voor onze klanten, zowel ziekenhuizen als gezondheidsstelsels, gemakkelijker te maken om toegang te krijgen tot de gegevens. Daarnaast werk ik aan onze mondiale kunstmatige intelligentie (AI)-strategie om deze datatoegang en -gebruik over het hele ecosysteem te informeren.

Up-to-date blijven over opkomende trends in verschillende industrieën is een andere cruciale aspect van mijn rol, om ervoor te zorgen dat we de juiste strategische richting inslaan. Ik houd op dit moment een nauw oog op grote taalmodellen (LLM’s). Als bedrijf werken we aan het vinden van manieren om LLM’s in onze technologie te integreren, om mensen, met name zorgverleners, te empoweren en te versterken, hun cognitieve belasting te verminderen en hen in staat te stellen zich te concentreren op het verplegen van patiënten.

In uw LinkedIn-blogpost met de titel “A Reflection on My 1st Year as a CTO,” schreef u, “CTO’s werken niet alleen. Ze zijn onderdeel van een team.” Kunt u enkele van de uitdagingen uiteenzetten die u hebt ondervonden en hoe u delegeren en teamwork hebt aangepakt bij projecten die inherent technisch moeilijk zijn?

De rol van een CTO is de afgelopen decennium fundamenteel veranderd. De dagen van werken in een serverruimte zijn voorbij. Nu is de baan veel meer samenwerkingsgericht. Samen, over bedrijfseenheden heen, stellen we organisatorische prioriteiten vast en vertalen we die in technische vereisten die ons vooruit helpen. Ziekenhuizen en gezondheidsstelsels navigeren op dit moment door veel dagelijkse uitdagingen, van workforcebeheer tot financiële beperkingen, en de adoptie van nieuwe technologie kan niet altijd een topprioriteit zijn. Ons grootste doel is om te laten zien hoe technologie deze uitdagingen kan helpen mitigeren, in plaats van eraan toe te voegen, en de totale waarde die het voor hun bedrijf, werknemers en patiënten brengt. Deze inspanning kan niet alleen of zelfs binnen mijn team worden gedaan, dus de samenwerking omvat multidisciplinaire eenheden om een samenhangende strategie te ontwikkelen die deze waarde zal laten zien, of dat nu voortkomt uit het geven van klanten toegang tot ontsloten datainsichten of het activeren van processen die ze momenteel niet kunnen uitvoeren.

Wat is de rol van kunstmatige intelligentie in de toekomst van verbonden zorgoperaties?

Als geïntegreerde gegevens beschikbaar komen met AI, kunnen ze worden gebruikt om afgelegen systemen te verbinden en veiligheid en nauwkeurigheid over de zorgcontinuüm te verbeteren. Dit concept van verbonden zorgoperaties is een categorie waarop we ons bij RLDatix richten, omdat het actiegerichte gegevens en inzichten voor zorgbeslissers ontgrendelt – en AI is essentieel om dat te realiseren.

Een niet-onderhandelbaar aspect van deze integratie is ervoor zorgen dat het gegevensgebruik veilig en conform is en dat risico’s worden begrepen. We zijn de marktleider in beleid, risico en veiligheid, wat betekent dat we een overvloed aan gegevens hebben om fundamentelere LLM’s met meer nauwkeurigheid en betrouwbaarheid te trainen. Om echte verbonden zorgoperaties te bereiken, is de eerste stap het samenvoegen van de afgelegen oplossingen en de tweede is het extraheren van gegevens en normaliseren over die oplossingen. Ziekenhuizen zullen veel profijt hebben van een groep verbonden oplossingen die gegevenssets kunnen combineren en actiewaarde bieden aan gebruikers, in plaats van afzonderlijke gegevenssets van individuele puntoplossingen te onderhouden.

In een recente keynote deelde Chief Product Officer Barbara Staruk mee hoe RLDatix generatieve AI en grote taalmodellen gebruikt om patiëntveiligheidsincidentenrapportage te stroomlijnen en te automatiseren. Kunt u uitleggen hoe dit werkt?

Dit is een zeer significatief initiatief voor RLDatix en een goed voorbeeld van hoe we het potentieel van LLM’s maximaliseren. Wanneer ziekenhuizen en gezondheidsstelsels incidentenrapporten voltooien, zijn er momenteel drie standaardformaten voor het bepalen van het niveau van schade dat in het rapport wordt aangegeven: de Common Formats van de Agency for Healthcare Research and Quality, de National Coordinating Council for Medication Error Reporting and Prevention en de Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). Op dit moment kunnen we gemakkelijk een LLM trainen om door tekst in een incidentenrapport te lezen. Als een patiënt bijvoorbeeld overlijdt, kan de LLM deze informatie naadloos oppikken. De uitdaging ligt echter in het trainen van de LLM om context te begrijpen en te onderscheiden tussen meer complexe categorieën, zoals ernstige permanente schade, een taxonomie die is opgenomen in de HPI SEC, versus ernstige tijdelijke schade. Als de persoon die rapporteert niet genoeg context verstrekt, kan de LLM het juiste niveau van schade voor dat specifieke patiëntveiligheidsincident niet bepalen.

RLDatix streeft ernaar om een eenvoudigere taxonomie te implementeren, wereldwijd, over onze portefeuille, met concrete categorieën die gemakkelijk door de LLM kunnen worden onderscheiden. Na verloop van tijd kunnen gebruikers eenvoudigweg schrijven wat er is gebeurd en de LLM zal het vanaf dat moment afhandelen door alle belangrijke informatie te extraheren en incidentenformulieren vooraf in te vullen. Dit is niet alleen een aanzienlijke tijdsbesparing voor een reeds belaste workforce, maar naarmate het model geavanceerder wordt, zullen we ook in staat zijn om kritieke trends te identificeren die zorgorganisaties in staat zullen stellen om veiligere beslissingen te nemen.

Op welke andere manieren heeft RLDatix LLM’s in zijn operaties geïntegreerd?

Een andere manier waarop we LLM’s intern gebruiken, is om het credentialingproces te stroomlijnen. Elk providers’ credentials zijn anders en bevatten unieke informatie. Om het in perspectief te plaatsen, denk aan hoe ieders cv eruitziet – van lettertypen tot werkervaring, onderwijs en algemene opmaak. Credentialing is vergelijkbaar. Waar is de provider naar college gegaan? Wat is zijn certificering? In welke artikelen is hij gepubliceerd? Elke zorgprofessional zal die informatie op zijn eigen manier verstrekken.

Bij RLDatix maken LLM’s het mogelijk om door deze credentials te lezen en alle gegevens in een gestandaardiseerd formaat te extraheren, zodat degenen die in datatoegang werken niet uitgebreid naar die informatie hoeven te zoeken, waardoor ze minder tijd aan de administratieve component kunnen besteden en hun tijd kunnen besteden aan waardevolle taken die waarde toevoegen.

Cybersecurity is altijd een uitdaging geweest, vooral met de overgang naar cloudgebaseerde technologieën, kunt u enkele van deze uitdagingen bespreken?

Cybersecurity is uitdagend, en dat is waarom het belangrijk is om met de juiste partner te werken. Het waarborgen dat LLM’s veilig en conform zijn, is de belangrijkste overweging bij het gebruik van deze technologie. Als uw organisatie niet de gewijd personeel in huis heeft om dit te doen, kan het enorm uitdagend en tijdrovend zijn. Daarom werken we met Amazon Web Services (AWS) aan de meeste van onze cybersecurity-initiatieven. AWS helpt ons om veiligheid en conformiteit als kernbeginselen binnen onze technologie te verankeren, zodat RLDatix zich kan concentreren op wat we echt goed doen – het bouwen van geweldige producten voor onze klanten in al onze respectieve verticale markten.

Wat zijn enkele van de nieuwe beveiligingsbedreigingen die u hebt gezien met de recente snelle adoptie van LLM’s?

Vanuit het perspectief van RLDatix zijn er verschillende overwegingen die we doorwerken terwijl we LLM’s ontwikkelen en trainen. Een belangrijke focus voor ons is het mitigeren van vooroordelen en oneerlijkheid. LLM’s zijn alleen zo goed als de gegevens waarop ze zijn getraind. Factoren zoals geslacht, ras en andere demografische gegevens kunnen inherente vooroordelen bevatten omdat de dataset zelf bevooroordeeld is. Denk bijvoorbeeld aan hoe het zuidoosten van de Verenigde Staten het woord “y’all” in de alledaagse taal gebruikt. Dit is een unieke taalvooroordeel dat inherent is aan een specifieke patiëntpopulatie die onderzoekers moeten overwegen bij het trainen van de LLM om taalnuances nauwkeurig te onderscheiden in vergelijking met andere regio’s. Deze soorten vooroordelen moeten op grote schaal worden aangepakt bij het gebruik van LLM’s in de zorg, omdat het trainen van een model binnen een patiëntpopulatie niet noodzakelijkerwijs betekent dat het model in een andere populatie zal werken.

Het handhaven van veiligheid, transparantie en verantwoordelijkheid zijn ook belangrijke aandachtspunten voor onze organisatie, evenals het mitigeren van hallucinaties en desinformatie. Het waarborgen dat we actief omgaan met eventuele privacyproblemen, dat we begrijpen hoe een model tot een bepaald antwoord is gekomen en dat we een veilige ontwikkelingscyclus hebben, zijn allemaal belangrijke componenten van een effectieve implementatie en onderhoud.

Wat zijn enkele andere machine learning-algoritmen die bij RLDatix worden gebruikt?

Het gebruik van machine learning (ML) om kritieke inzichten in planning te ontdekken, is een interessant gebruiksscenario voor onze organisatie. In het VK in het bijzonder hebben we onderzocht hoe we ML kunnen gebruiken om beter te begrijpen hoe rostering, of het plannen van verpleegkundigen en artsen, plaatsvindt. RLDatix heeft toegang tot een enorme hoeveelheid planningsgegevens uit het afgelopen decennium, maar wat kunnen we met al die informatie doen? Daar komt ML om de hoek kijken. We gebruiken een ML-model om die historische gegevens te analyseren en inzicht te geven in hoe een personeelssituatie er over twee weken uit kan zien, in een specifiek ziekenhuis of een bepaalde regio.

Dat specifieke gebruiksscenario is een zeer haalbaar ML-model, maar we duwen de grens nog verder door het te verbinden met echte gebeurtenissen. Wat als we bijvoorbeeld naar elke voetbalschema in het gebied kijken? We weten uit eigen ervaring dat sportevenementen meestal tot meer verwondingen leiden en dat een lokaal ziekenhuis waarschijnlijk meer patiënten op de dag van een evenement zal hebben dan op een typische dag. We werken met AWS en andere partners om te onderzoeken welke openbare datasets we kunnen gebruiken om planning nog verder te stroomlijnen. We hebben al gegevens die aangeven dat we een toename van patiënten rondom grote sportevenementen of zelfs slecht weer zullen zien, maar het ML-model kan het nog een stap verder zetten door die gegevens te nemen en kritieke trends te identificeren die zullen helpen ervoor te zorgen dat ziekenhuizen adequaat zijn bemand, uiteindelijk de druk op onze workforce verminderen en onze industrie een stap verder brengen in het bereiken van veiligere zorg voor iedereen.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen RLDatix bezoeken.