Vivek Desai, Chief Technology Officer, North America at RLDatix – Intervieuserie

Vivek Desai er Chief Technology Officer i Nordamerika hos RLDatix, et selskab, der tilbyder software og services til sundhedsoperationer. RLDatix har til formål at ændre sundhedssektoren. De hjælper organisationer med at levere sikrere og mere effektive sundhedsydelser ved at tilbyde værktøjer til styring, risikostyring og overholdelse, der driver forbedring og sikkerhed.

Hvad var det, der oprindeligt tiltrak dig til datalogi og cybersikkerhed?

Jeg blev tiltrukket af kompleksiteten i, hvad datalogi og cybersikkerhed forsøger at løse – der er altid en ny udfordring at udforske. Et godt eksempel på dette er, da cloud computing først begyndte at vinde indpas. Det havde stor potentiale, men rejste også nogle spørgsmål omkring arbeidsbelastningssikkerhed. Det var meget klart tidligt, at traditionelle metoder var en midlertidig løsning, og at organisationer på tværs af branche skulle udvikle nye processer for at sikre arbeidsbelastninger i cloud computing. At navigere i disse nye metoder var en særlig spændende rejse for mig og mange andre, der arbejder på dette område. Det er en dynamisk og udviklende branche, så hver dag bringer noget nyt og spændende.

Kan du dele nogle af dine nuværende ansvarsområder som CTO i RLDatix?  

For tiden er jeg fokuseret på at lede vores datastrategi og finde måder at skabe synergier mellem vores produkter og de data, de indeholder, for bedre at forstå trends. Mange af vores produkter indeholder lignende typer data, så mit job er at finde måder at bryde disse siloer ned og gøre det lettere for vores kunder, både hospitaler og sundhedsorganisationer, at få adgang til dataene. Dertil arbejder jeg på vores globale kunstig intelligensstrategi for at informere denne dataadgang og -anvendelse på tværs af økosystemet.

At holde sig ajour med nye trends i forskellige brancher er en anden afgørende del af min rolle for at sikre, at vi er på rette strategisk kurs. For tiden holder jeg et vågent øje på store sprogmodeller (LLM’er). Som selskab arbejder vi på at finde måder at integrere LLM’er i vores teknologi for at styrke og udvikle mennesker, specielt sundhedsudbydere, reducere deres kognitive belastning og enable dem til at fokusere på at tage sig af patienter.

I din LinkedIn-blogindlæg med titlen “En refleksion over mit første år som CTO,” skrev du, “CTO’er arbejder ikke alene. De er en del af et team.” Kan du uddybe nogle af de udfordringer, du har mødt, og hvordan du har tacklet delegation og samarbejde på projekter, der er indholdsmæssigt teknisk komplekse?

Rollen som CTO har fundamentalt ændret sig over de sidste ti år. De dage, hvor man arbejdede alene i et serverrum, er forbi. I dag er jobbet langt mere samarbejdsorienteret. Sammen, på tværs af forretningsenheder, afstemmer vi os om organisatoriske prioriteringer og omdanner disse aspiratoner til tekniske krav, der driver os fremad. Hospitaler og sundhedsorganisationer navigerer i dag i mange daglige udfordringer, fra arbejdsstyrkeledelse til finansielle begrænsninger, og adoption af ny teknologi kan ikke altid være en top-prioritet. Vores største mål er at vise, hvordan teknologi kan hjælpe med at afhjælpe disse udfordringer, snarere end at tilføje dem, og den samlede værdi, det bringer til deres forretning, medarbejdere og patienter i bredere forstand. Dette kræver ikke kun samarbejde mellem vores egne teams, men også på tværs af multidisciplinære enheder for at udvikle en samlet strategi, der kan vise denne værdi, enten det kommer fra at give kunder adgang til låste dataindsigter eller aktivere processer, de i øjeblikket ikke kan udføre.

Hvad er rollen af kunstig intelligens i fremtidens sammenhængende sundhedsoperationer?

Som integreret data bliver mere tilgængelig med kunstig intelligens, kan det anvendes til at sammenkoble forskellige systemer og forbedre sikkerhed og nøjagtighed på tværs af sundhedspleje. Dette begreb om sammenhængende sundhedsoperationer er en kategori, vi fokuserer på i RLDatix, da det låser op for handlebare data og indsigt for sundhedsbeslutningstagerne – og kunstig intelligens er afgørende for at gøre det til virkelighed.

En uafviselig del af denne integration er at sikre, at dataanvendelsen er sikker og overholdt, og at risici er forstået. Vi er markedets førende inden for politik, risiko og sikkerhed, hvilket betyder, at vi har en betydelig mængde data til at træne grundlæggende LLM’er med større nøjagtighed og pålidelighed. For at opnå sande sammenhængende sundhedsoperationer er det første skridt at sammenføje de forskellige løsninger, og det andet er at udtrække data og normalisere det på tværs af disse løsninger. Hospitaler vil have stor gavn af en gruppe af sammenhængende løsninger, der kan kombinere datasæt og give handlebar værdi til brugerne, snarere end at opretholde separate datasæt fra enkeltstående punktløsninger.

I en recent keynote delte Chief Product Officer Barbara Staruk, hvordan RLDatix udnytter generativ kunstig intelligens og store sprogmodeller til at strømline og automatisere patientssikkerhedsrapportering. Kan du uddybe, hvordan dette fungerer?

Dette er en meget betydningsfuld initiativ for RLDatix og et godt eksempel på, hvordan vi maksimerer potentialet i LLM’er. Når hospitaler og sundhedsorganisationer udfylder rapporter om patientssikkerhedsincidenter, findes der i øjeblikket tre standardformater for at bestemme skadeniveauet i rapporten: Agency for Healthcare Research and Quality’s Common Formats, National Coordinating Council for Medication Error Reporting and Prevention og Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). For tiden kan vi let træne en LLM til at læse gennem tekst i en rapport om patientssikkerhedsincidenter. Hvis en patient dør, for eksempel, kan LLM’en let finde denne information. Udfordringen ligger dog i at træne LLM’en til at bestemme kontekst og skelne mellem mere komplekse kategorier, såsom alvorlig permanent skade, en taksonomi, der er inkluderet i HPI SEC, for eksempel, versus alvorlig midlertidig skade. Hvis den person, der rapporterer, ikke inkluderer tilstrækkelig kontekst, kan LLM’en ikke bestemme det korrekte niveau for skadeniveau for den pågældende patientssikkerhedsincident.

RLDatix sigter mod at implementere en simplere taksonomi globalt på tværs af vores portefølje, med konkrete kategorier, der kan let skelnes af LLM’en. Over tid vil brugerne kunne skrive, hvad der skete, og LLM’en vil derefter håndtere det ved at udtrække alle vigtige oplysninger og forhåndssætte rapporter om patientssikkerhedsincidenter. Dette er ikke kun en betydelig tidssparelse for en allerede belastet arbejdsstyrke, men når modellen bliver endnu mere avanceret, vil vi også kunne identificere kritiske trends, der kan hjælpe sundhedsorganisationer med at træffe sikrere beslutninger på tværs af branche.

Hvad er nogle andre måder, hvorpå RLDatix er begyndt at inkorporere LLM’er i sine operationer?

En anden måde, vi udnytter LLM’er internt, er til at strømline godkendelsesprocessen. Hver enkelt udbyders godkendelse er formateret forskelligt og indeholder unikke oplysninger. For at sætte det i perspektiv, tænk på, hvordan alle resumes ser forskellige ud – fra fonte, til arbejdserfaring, uddannelse og samlet formatering. Godkendelse er ligesådan. Hvor gik udbyderen på college? Hvad er deres certificering? Hvile artikler er de publiceret i? Hver enkelt sundhedsprofessionel vil give disse oplysninger på deres egen måde.

Hos RLDatix giver LLM’er os mulighed for at læse gennem disse godkendelser og udtrække alle disse data i et standardiseret format, så de, der arbejder med dataindtastning, ikke behøver at søge efter det omfattende, men i stedet kan bruge deres tid på meningsfulde opgaver, der tilføjer værdi.

Cybersikkerhed har altid været udfordrende, især med skiftet til cloud-baserede teknologier, kunne du diskutere nogle af disse udfordringer?

Cybersikkerhed er udfordrende, hvilket er, hvorfor det er vigtigt at samarbejde med den rette partner. At sikre, at LLM’er forbliver sikre og overholdt, er den vigtigste overvejelser, når man udnytter denne teknologi. Hvis din organisation ikke har dedikeret personale internt til at gøre dette, kan det være utrolig udfordrende og tidskrævende. Det er derfor, vi samarbejder med Amazon Web Services (AWS) på de fleste af vores cybersikkerhedsinitiativer. AWS hjælper os med at indstille sikkerhed og overholdelse som kerneprincipper i vores teknologi, så RLDatix kan fokusere på, hvad vi virkelig er gode til – hvilket er at bygge fantastiske produkter til vores kunder i alle vores respektive vertikaler.

Hvad er nogle af de nye sikkerhedsrisici, du har set med den seneste hurtige adoption af LLM’er?

Set fra RLDatix’ synspunkt er der flere overvejelser, vi arbejder igennem, mens vi udvikler og træner LLM’er. En vigtig fokus for os er at afhjælpe bias og uretfærdighed. LLM’er er kun så gode, som de data, de er trænet på. Faktorer som køn, race og andre demografiske faktorer kan indeholde mange indbyggede bias, fordi datasættet i sig selv er bias. For eksempel tænk på, hvordan det sydøstlige USA bruger ordet “y’all” i daglig tale. Dette er en unik sprog-bias, der er indbygget i en bestemt patientpopulation, som forskere må tage i betragtning, når de træner LLM’en til at nøjagtigt skelne sprog-nuancer i forhold til andre regioner. Disse typer bias må håndteres i stor målestok, når det kommer til at udnytte LLM’er inden for sundhedssektoren, da træning af en model inden for en patientpopulation ikke nødvendigvis betyder, at modellen vil fungere i en anden.

At opretholde sikkerhed, gennemsigtighed og ansvarlighed er også store fokusområder for vores organisation, samt at afhjælpe enhver mulighed for hallucinationer og misinformation. At sikre, at vi aktivt håndterer enhver bekymring omkring privatliv, at vi forstår, hvordan en model nåede en bestemt beslutning, og at vi har en sikker udviklingscyklus på plads, er alle vigtige komponenter i effektiv implementering og vedligeholdelse.

Hvad er nogle andre maskinlæringsalgoritmer, der anvendes i RLDatix?

At anvende maskinlæring til at afsløre kritiske indsigt i planlægning har været en interessant anvendelse for vores organisation. I Storbritannien specifikt har vi undersøgt, hvordan vi kan udnytte maskinlæring til bedre at forstå, hvordan vagtplanlægning, eller planlægning af sygeplejersker og læger, sker. RLDatix har adgang til en enorm mængde planlægningsdata fra det sidste årti, men hvad kan vi gøre med al denne information? Det er her, maskinlæring kommer ind i billedet. Vi anvender en maskinlæringsmodel til at analysere denne historiske data og give indsigt i, hvordan en personalesituation kan se ud to uger frem, i et bestemt hospital eller en bestemt region.

Denne specifikke anvendelse er en meget gennemførbar maskinlæringsmodel, men vi skyder endnu længere ved at tilknytte det til rigtige begivenheder. For eksempel, hvad hvis vi så på hver enkelt fodboldkamp i området? Vi ved fra før, at sportsbegivenheder typisk fører til flere skader, og at et lokalt hospital sandsynligvis vil have flere indlagte patienter på dagen for en begivenhed sammenlignet med en typisk dag. Vi arbejder med AWS og andre partnere for at undersøge, hvilke offentlige datasæt vi kan sæde for at gøre planlægning endnu mere strømlinet. Vi har allerede data, der antyder, at vi vil se en stigning i patienter omkring store sportsbegivenheder eller endda dårligt vejr, men maskinlæringsmodellen kan tage det et skridt videre ved at tage denne data og identificere kritiske trends, der kan hjælpe hospitaler med at være bedre forberedt og reducere belastningen på vores arbejdsstyrke og tage vores branche et skridt videre i at opnå sikrere sundhedsydelser for alle.

Tak for det fantastiske interview, læsere, der ønsker at lære mere, skal besøge RLDatix.