Vivek Desai, Chief Technology Officer, North America at RLDatix – Intervjuserie

Vivek Desai är Chief Technology Officer för Nordamerika på RLDatix, ett företag som erbjuder sammanlänkad hälso- och sjukvårdstjänst och programvara. RLDatix har som mål att förändra hälso- och sjukvården. De hjälper organisationer att driva en säkrare och mer effektiv vård genom att tillhandahålla styrning, riskhantering och regelefterlevnad som driver förbättring och säkerhet.

Vad var det som initialt drog dig till datavetenskap och cybersäkerhet?

Jag drogs till de komplexa problem som datavetenskap och cybersäkerhet försöker lösa – det finns alltid en ny utmaning att utforska. Ett bra exempel på detta är när molnet började bli alltmer populärt. Det hade stor potential, men också vissa frågetecken kring arbetsbelastningssäkerhet. Det var tydligt tidigt att traditionella metoder var en tillfällig lösning, och att organisationer över hela världen skulle behöva utveckla nya processer för att effektivt säkra arbetsbelastningar i molnet. Att navigera i dessa nya metoder var en särskilt spännande resa för mig och många andra som arbetar inom detta område. Det är ett dynamiskt och utvecklande område, så varje dag bringar något nytt och spännande.

Kan du dela några av dina nuvarande ansvarsområden som CTO på RLDatix?

För närvarande fokuserar jag på att leda vår datastrategi och hitta sätt att skapa synergier mellan våra produkter och den data de innehåller, för att bättre förstå trender. Många av våra produkter innehåller liknande typer av data, så min uppgift är att hitta sätt att bryta ner dessa silos och göra det lättare för våra kunder, både sjukhus och hälso- och sjukvårdssystem, att få tillgång till data. Jag arbetar också med vår globala AI-strategi för att informera om denna dataåtkomst och -användning över hela ekosystemet.

Att hålla mig uppdaterad om nya trender inom olika branscher är ett annat viktigt område i min roll, för att säkerställa att vi är på rätt strategisk väg. Jag håller för närvarande ett öga på stora språkmodeller (LLM). Som företag arbetar vi med att hitta sätt att integrera LLM i vår teknik, för att stärka och förbättra människor, särskilt hälso- och sjukvårdspersonal, minska deras kognitiva belastning och möjliggöra för dem att fokusera på att ta hand om patienter.

I din LinkedIn-inlägg med titeln “En reflektion över mitt första år som CTO” skrev du, “CTO:er arbetar inte ensamma. De är en del av ett team.” Kan du förklara några av de utmaningar du har mött och hur du har hanterat delegering och samarbete i projekt som är tekniskt utmanande?

Rollen som CTO har förändrats fundamentalt under det senaste decenniet. Det är inte längre fråga om att arbeta i ett serverrum. Nu är jobbet mycket mer samarbetsinriktat. Tillsammans, över affärsenheter, samordnar vi organisatoriska prioriteringar och omvandlar dem till tekniska krav som driver oss framåt. Sjukhus och hälso- och sjukvårdssystem möter för närvarande många dagliga utmaningar, från personalhantering till ekonomiska begränsningar, och införandet av ny teknik kanske inte alltid är en topprioritet. Vårt största mål är att visa hur teknik kan hjälpa till att mildra dessa utmaningar, snarare än att lägga till dem, och den övergripande värde det bringar till deras verksamhet, anställda och patienter i stort. Detta arbete kan inte utföras ensamt eller ens inom mitt team, så samarbetet spänner över multidisciplinära enheter för att utveckla en sammanhållen strategi som kommer att visa på detta värde, antingen det kommer från att ge kunderna tillgång till olåsta datainsikter eller aktivera processer som de för närvarande inte kan utföra.

Vad är rollen för artificiell intelligens i framtiden för sammanlänkad hälso- och sjukvård?

Som integrerad data blir mer tillgänglig med AI, kan den användas för att sammanlänka olika system och förbättra säkerhet och noggrannhet över hela vårdförloppet. Detta koncept om sammanlänkad hälso- och sjukvård är en kategori vi fokuserar på på RLDatix, eftersom det låser upp handlingsbara data och insikter för hälso- och sjukvårdsbeslutsfattare – och AI är en integrerad del av att göra detta till verklighet.

En oeftergivlig aspekt av denna integration är att säkerställa att dataanvändningen är säker och regelefterlevnad, och att risker förstås. Vi är marknadsledande inom policy, risk och säkerhet, vilket innebär att vi har en stor mängd data för att träna grundläggande LLM med större noggrannhet och tillförlitlighet. För att uppnå verklig sammanlänkad hälso- och sjukvård är det första steget att slå samman de olika lösningarna, och det andra är att extrahera data och normalisera den över dessa lösningar. Sjukhus kommer att dra nytta av en grupp sammanlänkade lösningar som kan kombinera datamängder och ge handlingsvärde till användare, snarare än att upprätthålla separata datamängder från enskilda punktlösningar.

I en nylig keynote delade Chief Product Officer Barbara Staruk hur RLDatix använder generativ AI och stora språkmodeller för att strömlinjeforma och automatisera patientincidentrapportering. Kan du förklara hur detta fungerar?

Detta är ett mycket viktigt initiativ för RLDatix och ett bra exempel på hur vi maximalt utnyttjar potentialen i LLM. När sjukhus och hälso- och sjukvårdssystem slutför incidentrapporter finns det för närvarande tre standardformat för att bestämma skadenivån i rapporten: Agency for Healthcare Research and Qualitys Common Formats, National Coordinating Council for Medication Error Reporting and Prevention och Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). Just nu kan vi enkelt träna en LLM för att läsa igenom texten i en incidentrapport. Om en patient avlider, till exempel, kan LLM smidigt plocka ut den informationen. Utmaningen ligger dock i att träna LLM att bestämma sammanhang och skilja mellan mer komplexa kategorier, som allvarlig permanent skada, en taxonomi som ingår i HPI SEC, till exempel, jämfört med allvarlig tillfällig skada. Om den som rapporterar inte inkluderar tillräckligt med sammanhang, kommer LLM inte att kunna bestämma lämplig kategori för den specifika patientincidenten.

RLDatix syftar till att implementera en enklare taxonomi, globalt, över hela vår portfölj, med konkreta kategorier som kan enkelt särskiljas av LLM. Med tiden kommer användare att kunna skriva vad som har hänt och LLM kommer att hantera resten genom att extrahera all viktig information och förifylla incidentformulär. Detta är inte bara en betydande tidsbesparing för en redan ansträngd personalstyrka, utan när modellen blir ännu mer avancerad, kommer vi också att kunna identifiera kritiska trender som kommer att möjliggöra för hälso- och sjukvårdsorganisationer att fatta säkrare beslut över hela linjen.

Vilka är några andra sätt som RLDatix har börjat införliva LLM i sina verksamheter?

En annan väg som vi använder LLM internt är för att strömlinjeforma legitimeringsprocessen. Varje läkares legitimation är formaterad annorlunda och innehåller unik information. För att sätta det i perspektiv, tänk på hur var och ens CV ser ut – från teckensnitt till arbetslivserfarenhet, utbildning och allmän formatering. Legitimering är liknande. Var gick läkaren på college? Vilken certifiering har de? Vilka artiklar är de publicerade i? Varje hälso- och sjukvårdspersonal kommer att tillhandahålla den informationen på sitt eget sätt.

På RLDatix möjliggör LLM för oss att läsa igenom dessa legitimationer och extrahera all data till ett standardiserat format, så att de som arbetar med datainmatning inte behöver leta efter det, vilket möjliggör för dem att spendera mindre tid på det administrativa och fokusera sin tid på meningsfulla uppgifter som tillför värde.

Cybersäkerhet har alltid varit utmanande, särskilt med övergången till molnbaserad teknik, kan du diskutera några av dessa utmaningar?

Cybersäkerhet är utmanande, vilket är varför det är viktigt att arbeta med rätt partner. Att säkerställa att LLM förblir säkra och regelefterlevnad är den viktigaste övervägningen när man använder denna teknik. Om din organisation inte har dedikerad personal internt för att göra detta, kan det vara otroligt utmanande och tidskrävande. Det är därför vi arbetar med Amazon Web Services (AWS) på de flesta av våra cybersäkerhetsinitiativ. AWS hjälper oss att införa säkerhet och regelefterlevnad som kärnprinciper inom vår teknik, så att RLDatix kan fokusera på vad vi verkligen gör bra – vilket är att bygga bra produkter för våra kunder i alla våra respektive vertikaler.

Vilka är några av de nya säkerhetshot som du har sett med den senaste snabba antagandet av LLM?

Från RLDatix perspektiv finns det flera överväganden som vi arbetar med när vi utvecklar och tränar LLM. En viktig fokus för oss är att mildra bias och orättvisa. LLM är bara så bra som de data de tränas på. Faktorer som kön, ras och andra demografiska faktorer kan innehålla många inbyggda bias, eftersom datamängden i sig är biased. Till exempel, tänk på hur den sydöstra delen av USA använder uttrycket “y’all” i vardagligt språk. Detta är en unik språklig bias som är inneboende i en specifik patientpopulation som forskare måste överväga när de tränar LLM för att korrekt särskilja språkliga nyanser jämfört med andra regioner. Dessa typer av bias måste hanteras i stor skala när det gäller att utnyttja LLM inom hälso- och sjukvården, eftersom att träna en modell inom en patientpopulation inte nödvändigtvis betyder att modellen kommer att fungera i en annan.

Att upprätthålla säkerhet, transparens och ansvar är också stora fokusområden för vår organisation, liksom att mildra eventuella hallucinationer och missinformation. Att säkerställa att vi aktivt hanterar alla integritetsproblem, att vi förstår hur en modell nådde ett visst svar och att vi har en säker utvecklingscykel på plats är alla viktiga komponenter i effektiv implementering och underhåll.

Vilka är några andra maskinlärningsalgoritmer som används på RLDatix?

Att använda maskinlärning för att avslöja kritiska schemaläggningsinsikter har varit ett intressant användningsfall för vår organisation. I Storbritannien specifikt har vi undersökt hur man kan utnyttja maskinlärning för att bättre förstå hur rostering, eller schemaläggning av sjuksköterskor och läkare, sker. RLDatix har tillgång till en enorm mängd schemaläggningsdata från det senaste decenniet, men vad kan vi göra med all den informationen? Det är där maskinlärning kommer in. Vi använder en maskinlärningsmodell för att analysera den historiska data och ge insikt i hur en personalSituation kan se ut två veckor framåt, i ett specifikt sjukhus eller en viss region.

Det specifika användningsfallet är en mycket uppnåelig maskinlärningsmodell, men vi trycker på gränsen ännu längre genom att koppla det till verkliga händelser. Till exempel, vad om vi tittade på varje fotbollsschema inom området? Vi vet förstahands att sportevenemang vanligtvis leder till fler skador och att ett lokalt sjukhus sannolikt kommer att ha fler inpatienter på dagen för evenemanget jämfört med en vanlig dag. Vi arbetar med AWS och andra partner för att utforska vilka offentliga datamängder vi kan så för att göra schemaläggning ännu mer strömlinjeformad. Vi har redan data som tyder på att vi kommer att se en ökning av patienter runt stora sportevenemang eller till och med ogynnsamt väder, men maskinlärningsmodellen kan ta det ett steg längre genom att ta den datan och identifiera kritiska trender som kommer att hjälpa till att säkerställa att sjukhusen är tillräckligt bemannade, vilket i sin tur kommer att minska belastningen på vår personalstyrka och ta vår bransch ett steg längre i att uppnå säkrare vård för alla.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka RLDatix.