Vivek Desai, Chief Technology Officer, North America at RLDatix – Intervju-serie

Vivek Desai är Chief Technology Officer för Nordamerika på RLDatix, ett företag som erbjuder mjukvara och tjänster för anslutna hälso- och sjukvårdsoperationer. RLDatix har som mål att förändra hälso- och sjukvården. De hjälper organisationer att driva en säkrare och mer effektiv vård genom att tillhandahålla verktyg för styrning, risk och efterlevnad som driver förbättring och säkerhet.

Vad var det som initialt drog dig till datavetenskap och cybersäkerhet?

Jag drogs till komplexiteten i vad datavetenskap och cybersäkerhet försöker lösa – det finns alltid en ny utmaning att utforska. Ett bra exempel på detta är när molnet började vinna mark. Det höll stora löften, men också väckte vissa frågor kring arbetsbelastningssäkerhet. Det var mycket tydligt tidigt att traditionella metoder var en tillfällig lösning, och att organisationer över hela linjen skulle behöva utveckla nya processer för att effektivt säkra arbetsbelastningar i molnet. Att navigera i dessa nya metoder var en särskilt spännande resa för mig och många andra som arbetar inom detta område. Det är en dynamisk och utvecklande bransch, så varje dag bringar något nytt och spännande.

Kan du dela några av dina nuvarande ansvarsområden som CTO på RLDatix?

För närvarande fokuserar jag på att leda vår datastrategi och hitta sätt att skapa synergier mellan våra produkter och den data de innehåller, för att bättre förstå trender. Många av våra produkter innehåller liknande typer av data, så mitt jobb är att hitta sätt att bryta ner dessa silos och göra det lättare för våra kunder, både sjukhus och hälso- och sjukvårdssystem, att komma åt data. Jag arbetar också med vår globala AI-strategi för att informera om denna dataåtkomst och användning över hela ekosystemet.

Att hålla sig uppdaterad om nya trender inom olika branscher är ett annat viktigt aspekt av min roll, för att säkerställa att vi är på rätt strategisk väg. Jag håller för närvarande ett nära öga på stora språkmodeller (LLM). Som företag arbetar vi med att hitta sätt att integrera LLM i vår teknik, för att ge makt åt och förbättra människor, särskilt hälso- och sjukvårdspersonal, minska deras kognitiva belastning och möjliggöra för dem att fokusera på att ta hand om patienter.

I din LinkedIn-inlägg med titeln “En reflektion över mitt första år som CTO” skrev du, “CTO:er arbetar inte ensamma. De är en del av ett team.” Kan du utveckla några av de utmaningar du har mött och hur du har hanterat delegering och samarbete i projekt som är inneboende tekniskt utmanande?

Rollen som CTO har förändrats fundamentalt under det senaste decenniet. Borta är dagarna när man arbetade i ett serverrum. Nu är jobbet mycket mer samarbetsinriktat. Tillsammans, över affärsenheter, samordnar vi organisatoriska prioriteringar och omvandlar dessa aspirationer till tekniska krav som driver oss framåt. Sjukhus och hälso- och sjukvårdssystem navigerar för närvarande många dagliga utmaningar, från personalhantering till ekonomiska begränsningar, och antagandet av ny teknik kanske inte alltid är en topprioritet. Vårt största mål är att visa hur teknik kan hjälpa till att mildra dessa utmaningar, snarare än att lägga till dem, och den övergripande värde det bringar till deras verksamhet, anställda och patienter i stort. Detta arbete kan inte göras ensamt eller ens inom mitt team, så samarbetet spänner över multidisciplinära enheter för att utveckla en sammanhållen strategi som kommer att visa på detta värde, antingen det kommer från att ge kunderna tillgång till olåsta datainsikter eller aktivera processer som de för närvarande inte kan utföra.

Vad är rollen för artificiell intelligens i framtiden för anslutna hälso- och sjukvårdsoperationer?

När integrerad data blir mer tillgänglig med AI, kan den användas för att ansluta disparata system och förbättra säkerhet och noggrannhet över hela vårdkontinuumet. Detta koncept med anslutna hälso- och sjukvårdsoperationer är en kategori vi fokuserar på på RLDatix, eftersom det låser upp handlingsbara data och insikter för hälso- och sjukvårdsbeslutsfattare – och AI är en integrerad del i att göra detta till verklighet.

En oeftergivlig aspekt av denna integration är att säkerställa att dataanvändningen är säker och förenlig, och att risker förstås. Vi är marknadsledande inom policy, risk och säkerhet, vilket innebär att vi har en stor mängd data för att träna grundläggande LLM med större noggrannhet och tillförlitlighet. För att uppnå verkliga anslutna hälso- och sjukvårdsoperationer är det första steget att slå samman de disparata lösningarna, och det andra är att extrahera data och normalisera den över dessa lösningar. Sjukhus kommer att dra nytta av en grupp av sammanlänkade lösningar som kan kombinera datamängder och tillhandahålla handlingsvärde för användare, snarare än att upprätthålla separata datamängder från enskilda punktlösningar.

I en nylig keynote delade Chief Product Officer Barbara Staruk hur RLDatix använder generativ AI och stora språkmodeller för att strömlinjeforma och automatisera patient-säkerhetsincidentrapportering. Kan du utveckla hur detta fungerar?

Detta är ett mycket viktigt initiativ för RLDatix och ett bra exempel på hur vi maximalt utnyttjar potentialen i LLM. När sjukhus och hälso- och sjukvårdssystem slutför incidentrapporter finns det för närvarande tre standardformat för att bestämma skadenivån i rapporten: Agency for Healthcare Research and Qualitys Common Formats, National Coordinating Council for Medication Error Reporting and Prevention och Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). Just nu kan vi enkelt träna en LLM för att läsa igenom texten i en incidentrapport. Om en patient avlider, till exempel, kan LLM smidigt plocka ut den informationen. Utmaningen ligger dock i att träna LLM för att bestämma sammanhang och skilja mellan mer komplexa kategorier, som svår permanent skada, en taxonomi som ingår i HPI SEC, till exempel, jämfört med svår tillfällig skada. Om den som rapporterar inte inkluderar tillräckligt med sammanhang, kommer LLM inte att kunna bestämma den lämpliga skadenivån för den specifika patient-säkerhetsincidenten.

RLDatix syftar till att implementera en enklare taxonomi, globalt, över hela vår portfölj, med konkreta kategorier som kan lätt skiljas av LLM. Med tiden kommer användare att kunna skriva vad som hände och LLM kommer att hantera det från där, genom att extrahera all viktig information och förifylla incidentformulär. Detta är inte bara en betydande tidsbesparing för en redan ansträngd arbetskraft, utan när modellen blir ännu mer avancerad, kommer vi också att kunna identifiera kritiska trender som kommer att möjliggöra för hälso- och sjukvårdsorganisationer att fatta säkrare beslut över hela linjen.

Vilka är några andra sätt som RLDatix har börjat införliva LLM i sina operationer?

Ett annat sätt som vi använder LLM internt är för att strömlinjeforma processen för legitimation. Varje läkares legitimation är formaterad på ett annat sätt och innehåller unik information. För att sätta det i perspektiv, tänk på hur var och ens CV ser ut – från teckensnitt, till arbetslivserfarenhet, till utbildning och allmän formatering. Legitimation är liknande. Var gick läkaren på college? Vad är deras certifikat? I vilka artiklar är de publicerade? Varje hälso- och sjukvårdspersonal kommer att tillhandahålla den informationen på sitt eget sätt.

På RLDatix möjliggör LLM för oss att läsa igenom dessa legitimationer och extrahera all data till ett standardformat, så att de som arbetar med datainmatning inte behöver leta efter det, och möjliggör för dem att spendera mindre tid på den administrativa komponenten och fokusera sin tid på meningsfulla uppgifter som lägger till värde.

Cybersäkerhet har alltid varit utmanande, särskilt med övergången till molnbaserad teknik, kan du diskutera några av dessa utmaningar?

Cybersäkerhet är utmanande, vilket är varför det är viktigt att arbeta med rätt partner. Att säkerställa att LLM förblir säkra och förenliga är den viktigaste övervägningen när man använder denna teknik. Om din organisation inte har dedikerad personal internt för att göra detta, kan det vara otroligt utmanande och tidskrävande. Det är därför vi arbetar med Amazon Web Services (AWS) på de flesta av våra cybersäkerhetsinitiativ. AWS hjälper oss att införa säkerhet och efterlevnad som kärnprinciper inom vår teknik, så att RLDatix kan fokusera på det vi verkligen gör bra – att bygga bra produkter för våra kunder i alla våra respektive vertikaler.

Vilka är några av de nya säkerhetshoten som du har sett med den senaste snabba antagandet av LLM?

Från ett RLDatix-perspektiv finns det flera överväganden som vi arbetar med när vi utvecklar och tränar LLM. En viktig fokus för oss är att mildra bias och orättvisa. LLM är bara så bra som de data de tränas på. Faktorer som kön, ras och andra demografiska faktorer kan innehålla många inbyggda bias, eftersom datamängden i sig är biased. Till exempel, tänk på hur den sydöstra delen av USA använder ordet “y’all” i vardagligt språk. Detta är en unik språkbias som är inneboende i en specifik patientpopulation som forskare måste överväga när de tränar LLM för att korrekt skilja språknyanser jämfört med andra regioner. Dessa typer av bias måste hanteras i skala när det gäller att utnyttja LLM inom hälso- och sjukvården, eftersom att träna en modell inom en patientpopulation inte nödvändigtvis betyder att modellen kommer att fungera i en annan.

Att upprätthålla säkerhet, transparens och ansvar är också stora fokusområden för vår organisation, liksom att mildra eventuella möjligheter för hallucinationer och desinformation. Att säkerställa att vi aktivt hanterar alla sekretessproblem, att vi förstår hur en modell nådde ett visst svar och att vi har en säker utvecklingscykel på plats är alla viktiga komponenter i effektiv implementering och underhåll.

Vilka är några andra maskinlärningsalgoritmer som används på RLDatix?

Att använda maskinlärning (ML) för att avslöja kritiska schemaläggningsinsikter har varit ett intressant användningsfall för vår organisation. I Storbritannien specifikt har vi undersökt hur vi kan utnyttja ML för att bättre förstå hur rostering, eller schemaläggning av sjuksköterskor och läkare, sker. RLDatix har tillgång till en enorm mängd schemaläggningsdata från det senaste decenniet, men vad kan vi göra med all den informationen? Det är där ML kommer in. Vi använder en ML-modell för att analysera den historiska data och ge insikt i hur en personalSituation kan se ut två veckor från nu, i ett specifikt sjukhus eller en viss region.

Det specifika användningsfallet är en mycket uppnåelig ML-modell, men vi trycker på gränsen ännu längre genom att koppla det till verkliga händelser. Till exempel, vad om vi tittade på varje fotbollsschema inom området? Vi vet förstahands att sportevenemang vanligtvis leder till fler skador och att ett lokalt sjukhus sannolikt kommer att ha fler inpatienter på dagen för evenemanget jämfört med en vanlig dag. Vi arbetar med AWS och andra partners för att undersöka vilka offentliga datamängder vi kan så för att göra schemaläggning ännu mer strömlinjeformad. Vi har redan data som tyder på att vi kommer att se en ökning av patienter runt stora sportevenemang eller till och med ogynnsamt väder, men ML-modellen kan ta det ett steg längre genom att ta den data och identifiera kritiska trender som kommer att hjälpa till att säkerställa att sjukhusen är tillräckligt bemannade, i slutändan minska belastningen på vår arbetskraft och ta vår bransch ett steg närmare att uppnå säkrare vård för alla.

Tack för den utmärkta intervjun, läsare som vill lära sig mer bör besöka RLDatix.