Vivek Desai, teknologidirektør, Nord-Amerika i RLDatix – Intervju-serie

Vivek Desai er teknologidirektør for Nord-Amerika i RLDatix, et selskap som tilbyr sammenknyttede helsetjenester og programvare. RLDatix arbeider for å endre helsetjenesten. De hjelper organisasjoner med å drive tryggere og mer effektive tjenester ved å tilby styring, risiko og compliance-verktøy som bidrar til å forbedre og sikre kvaliteten.

Hva var det som først tiltalte deg til datavitenskap og cybersikkerhet?

Jeg ble trukket til kompleksiteten i hva datavitenskap og cybersikkerhet prøver å løse – det er alltid en ny utfordring å utforske. Et godt eksempel på dette er når skytjenestene først begynte å vinne terreng. De hadde stor potensiale, men også noen spørsmål omkring arbeidsbelastningssikkerhet. Det var ganske tydelig tidlig at tradisjonelle metoder var midlertidige løsninger, og at organisasjoner over hele verden ville trenge å utvikle nye prosesser for å effektivt sikre arbeidsbelastninger i skyen. Å navigere disse nye metodene var en spesielt spennende reise for meg og mange andre som arbeider i dette feltet. Det er et dynamisk og utviklende industri, så hver dag bringer noe nytt og spennende.

Kan du dele noen av dine nåværende ansvarsområder som teknologidirektør i RLDatix?  

For tiden fokuserer jeg på å lede vår datastrategi og finne måter å skape synergier mellom våre produkter og dataene de inneholder, for å bedre forstå trender. Mange av våre produkter inneholder lignende typer data, så min jobb er å finne måter å bryte ned disse siloene og gjøre det enklere for våre kunder, både sykehus og helsetjenester, å få tilgang til dataene. Med dette arbeider jeg også med vår globale kunstig intelligensstrategi for å informere denne data tilgangen og bruken over hele økosystemet.

Å holde seg oppdatert på nye trender i ulike industrier er en annen kritisk del av min rolle, for å sikre at vi går i riktig strategisk retning. Jeg holder nå et nøye øye på store språkmodeller (LLM). Som selskap arbeider vi med å finne måter å integrere LLM i vår teknologi, for å styrke og forbedre mennesker, spesielt helsetjenesteytere, redusere deres kognitive belastning og enable dem til å fokusere på å ta vare på pasienter.

I din LinkedIn-blogginnlegg med tittelen “En refleksjon over mitt første år som teknologidirektør,” skrev du, “Teknologidirektører arbeider ikke alene. De er en del av et team.” Kan du utdype på noen av utfordringene du har møtt og hvordan du har taklet delegasjon og samarbeid på prosjekter som er innebygd teknisk utfordrende?

Rollen som teknologidirektør har fundamentalt endret seg over de siste ti årene. Det er ikke lenger bare å arbeide i et serverrom. Nå er jobben mye mer samarbeidsorientert. Sammen, over hele bedriftsenheten, samarbeider vi om å prioritere organisatoriske mål og omdanne disse aspirasjonene til tekniske krav som driver oss fremover. Sykehus og helsetjenester møter nå mange daglige utfordringer, fra arbeidsstyrkeledelse til finansielle begrensninger, og innføringen av ny teknologi kan ikke alltid være en topprioritet. Vårt største mål er å vise hvordan teknologi kan hjelpe med å mildne disse utfordringene, snarere enn å legge til dem, og den totale verdien det bringer til deres forretning, ansatte og pasienter.

Hva er rollen til kunstig intelligens i fremtiden for sammenknyttede helsetjenester?

Som integrert data blir mer tilgjengelig med kunstig intelligens, kan det brukes til å koble sammen ulike systemer og forbedre sikkerheten og nøyaktigheten over hele helsetjenesten. Dette konseptet med sammenknyttede helsetjenester er en kategori vi fokuserer på i RLDatix, siden det låser opp handlebare data og innsikt for helsetjenestebeslutningstakere – og kunstig intelligens er avgjørende for å gjøre dette til virkelighet.

En uforhandelbar del av denne integreringen er å sikre at data bruken er sikker og samsvarer med reglene, og at risikoene er forstått. Vi er markedets ledende selskap innen politikk, risiko og sikkerhet, hvilket betyr at vi har en stor mengde data til å trene grunnleggende LLM med større nøyaktighet og pålitelighet. For å oppnå sammenknyttede helsetjenester, er det første skrittet å slå sammen de ulike løsningene, og det andre er å trekke ut data og normalisere det over disse løsningene. Sykehus vil få stor nytte av en gruppe sammenknyttede løsninger som kan kombinere datasamlinger og gi handlebare verdier til brukerne, snarere enn å vedlikeholde separate datasamlinger fra enkeltstående punktløsninger.

I en nylig hovedtale delte sjefproduktansvarlig Barbara Staruk hvordan RLDatix utnytter generativ kunstig intelligens og store språkmodeller for å strømlinje og automatisere pasientsikkerhetsrapportering. Kan du utdype på hvordan dette fungerer?

Dette er en veldig viktig initiativ for RLDatix og et godt eksempel på hvordan vi maksimerer potensialet til LLM. Når sykehus og helsetjenester fullfører hendelsesrapporter, finnes det nå tre standardformater for å bestemme skade nivået i rapporten: Agency for Healthcare Research and Qualitys Common Formats, National Coordinating Council for Medication Error Reporting and Prevention og Healthcare Performance Improvement (HPI) Safety Event Classification (SEC). Nå kan vi lett trene en LLM til å lese gjennom tekst i en hendelsesrapport. Hvis en pasient dør, for eksempel, kan LLM enkelt plukke ut denne informasjonen. Utfordringen ligger i å trene LLM til å bestemme kontekst og skille mellom mer komplekse kategorier, som alvorlig varig skade, en taksonomi inkludert i HPI SEC, for eksempel, versus alvorlig midlertidig skade. Hvis personen som rapporterer ikke inkluderer nok kontekst, vil LLM ikke kunne bestemme den riktige kategorien for den bestemte pasientsikkerhets hendelsen.

RLDatix arbeider med å implementere en enklere taksonomi, globalt, over hele vårt portefølje, med konkrete kategorier som kan lett skilles fra LLM. Over tid vil brukerne kunne enkelt skrive hva som skjedde, og LLM vil håndtere det fra der og trekke ut all viktig informasjon og forhåndsfylle hendelsesrapporter. Dette er ikke bare en betydelig tidssparende for en allerede belastet arbeidsstyrke, men også et skritt mot å identifisere kritiske trender som vil enable helsetjenesteytere til å ta tryggere beslutninger over hele helsetjenesten.

Hva er noen andre måter RLDatix har begynt å inkorporere LLM i sine operasjoner?

En annen måte vi utnytter LLM internt er å strømlinje godkjenningprosessen. Hver enkelt providers godkjenninger er formatert forskjellig og inneholder unik informasjon. For å sette det i perspektiv, tenk på hvordan hver enkelt CV ser ut – fra fonter, arbeidserfaring, utdanning og generell formatering. Godkjenning er lignende. Hvor gikk provideren på college? Hva er deres sertifisering? Hva er de publisert i? Hver enkelt helsetjenesteyter vil gi denne informasjonen på sin egen måte.

RLDatix muliggjør LLM å lese gjennom disse godkjenningene og trekke ut all denne informasjonen i en standardisert format, så de som arbeider med datainnsamling ikke trenger å søke ekstensivt etter det, og enable dem til å bruke mindre tid på administrative komponenter og fokusere på meningsfulle oppgaver som legger til verdi.

Cybersikkerhet har alltid vært utfordrende, spesielt med skiftet til skybaserte teknologier, kan du diskutere noen av disse utfordringene?

Cybersikkerhet er utfordrende, hvilket gjør det viktig å arbeide med riktige partnere. Å sikre at LLM forblir sikre og samsvarer med reglene, og at risikoene er forstått, er den viktigste considerasjonen når man utnytter denne teknologien. Hvis din organisasjon ikke har dedikert personale internt til å gjøre dette, kan det være ekstremt utfordrende og tidskrevende. Dette er hvorfor vi arbeider med Amazon Web Services (AWS) på de fleste av våre cybersikkerhetsinitiativer. AWS hjelper oss med å innføre sikkerhet og samsvar som grunnleggende prinsipper i vår teknologi, så RLDatix kan fokusere på hva vi gjør best – å bygge gode produkter for våre kunder i alle våre respektive vertikaler.

Hva er noen av de nye sikkerhetstruslene du har sett med den nylige raske adopsjonen av LLM?

Fra en RLDatix-perspektiv, finnes det flere considerasjoner vi arbeider gjennom mens vi utvikler og trener LLM. En viktig fokus for oss er å mildne bias og urettferdighet. LLM er bare like gode som dataene de er trenet på. Faktorer som kjønn, rase og andre demografiske faktorer kan inkludere mange innebygde bias fordi datasamlingen i seg selv er bias. For eksempel, tenk på hvordan sørøstlige USA bruker ordet “y’all” i daglig språk. Dette er en unik språklig bias innebygd i en bestemt pasientpopulasjon som forskerne må vurdere når de trener LLM for å nøyaktig skille språklig nuanser i forhold til andre regioner. Disse typene bias må håndteres i stor skala når det gjelder å utnytte LLM innen helsetjenesten, ettersom å trene en modell innen en pasientpopulasjon ikke nødvendigvis betyr at modellen vil fungere i en annen.

Å opprettholde sikkerhet, transparens og ansvarlighet er også store fokusområder for vår organisasjon, samt å mildne muligheter for hallucinasjoner og feilinformasjon. Å sikre at vi aktivt håndterer alle bekymringer om personvern, at vi forstår hvordan en modell nådde en bestemt konklusjon og at vi har en sikker utviklingscyklus på plass, er alle viktige komponenter i effektiv implementering og vedlikehold.

Hva er noen andre maskinlæringsalgoritmer som brukes i RLDatix?

Å bruke maskinlæring til å avdekke kritiske planleggingsinnsikter har vært en interessant bruksfall for vår organisasjon. I Storbritannia spesifikt, har vi vært med å utforske hvordan å utnytte maskinlæring til å bedre forstå hvordan rostering, eller planlegging av sykepleiere og leger, skjer. RLDatix har tilgang til en stor mengde planleggingsdata fra de siste ti årene, men hva kan vi gjøre med all denne informasjonen? Det er her maskinlæring kommer inn. Vi utnytter en maskinlæringsmodell til å analysere denne historiske dataen og gi innsikt i hvordan en bemanningsituasjon kan se ut to uker frem i tid, i et bestemt sykehus eller en bestemt region.

Denne bestemte bruksfall er en ganske enkel maskinlæringsmodell, men vi presser grensene enda lenger ved å koble det til virkelige hendelser. For eksempel, hva hvis vi så på hver enkelt fotballsammenstilling i området? Vi vet fra før at idrettsarrangementer vanligvis fører til flere skader og at et lokalt sykehus sannsynligvis vil ha flere innlagte pasienter på dagen for arrangementet sammenlignet med en typisk dag. Vi arbeider med AWS og andre partnere for å utforske hva slags offentlige datasamlinger vi kan bruke til å gjøre planleggingen enda mer strømlinjeformet. Vi har allerede data som tyder på at vi vil se en økning i pasienter rundt store idrettsarrangementer eller dårlig vær, men maskinlæringsmodellen kan gå et skritt lenger ved å ta denne dataen og identifisere kritiske trender som vil hjelpe med å sikre at sykehusene er adekvat bemannet, og på den måten redusere belastningen på vår arbeidsstyrke og bringe vår industri et skritt nærmere å oppnå tryggere omsorg for alle.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke RLDatix.