Vivekas Desai, „RLDatix“ interviu serijos Šiaurės Amerikos technologijų vadovas

Vivekas Desai yra Vyriausiasis technologijų pareigūnas Šiaurės Amerikoje RLDatix, prijungta sveikatos priežiūros operacijų programinės įrangos ir paslaugų įmonė. RLDatix misija yra pakeisti sveikatos priežiūrą. Jie padeda organizacijoms užtikrinti saugesnę ir efektyvesnę priežiūrą, teikdami valdymo, rizikos ir atitikties priemones, kurios skatina bendrą tobulėjimą ir saugumą.

Kuo jus iš pradžių patraukė informatika ir kibernetinis saugumas?

Mane patraukė kompiuterių mokslo ir kibernetinio saugumo problemos – visada kyla iššūkių, kuriuos reikia ištirti. Puikus to pavyzdys yra tada, kai debesis pirmą kartą pradėjo trauktis. Tai davė daug pažadų, bet taip pat iškėlė keletą klausimų dėl darbo krūvio saugumo. Anksti buvo labai aišku, kad tradiciniai metodai yra sustojimas ir kad visos organizacijos turės kurti naujus procesus, kad efektyviai apsaugotų darbo krūvius debesyje. Naršymas šiais naujais metodais buvo ypač jaudinanti kelionė man ir daugeliui kitų šioje srityje dirbančių žmonių. Tai dinamiška ir besivystanti pramonė, todėl kiekviena diena atneša kažką naujo ir įdomaus.

Ar galėtumėte pasidalinti kai kuriomis dabartinėmis pareigomis, kurias turite kaip RLDatix CTO?  

Šiuo metu aš sutelkiu dėmesį į mūsų duomenų strategijos vadovavimą ir būdų, kaip sukurti sinergiją tarp mūsų produktų ir juose esančių duomenų, kad geriau suprasčiau tendencijas. Daugelyje mūsų gaminių saugomi panašaus tipo duomenys, todėl mano darbas yra rasti būdų, kaip tuos silosus išardyti ir palengvinti mūsų klientams, tiek ligoninėms, tiek sveikatos sistemoms, prieigą prie duomenų. Taip pat dirbu su mūsų pasauline dirbtinio intelekto (AI) strategija, kad informuotume apie prieigą prie duomenų ir apie naudojimą visoje ekosistemoje.

Dar vienas esminis mano vaidmens aspektas, siekiant užtikrinti, kad einame teisinga strategine kryptimi, yra neatsilikti nuo naujų tendencijų įvairiose pramonės šakose. Šiuo metu atidžiai stebiu didelių kalbų modelius (LLM). Kaip įmonė, mes stengiamės rasti būdų, kaip integruoti LLM į mūsų technologijas, suteikti daugiau galimybių žmonėms, ypač sveikatos priežiūros paslaugų teikėjams, sumažinti jų pažinimo krūvį ir suteikti jiems galimybę sutelkti dėmesį į pacientų priežiūrą.

„LinkedIn“ tinklaraščio įraše pavadinimu „Apmąstymas apie mano pirmuosius metus kaip CTO“, – rašėte: „CTO nedirba vieni. Jie yra komandos dalis“. Ar galėtumėte plačiau papasakoti apie kai kuriuos iššūkius, su kuriais susidūrėte, ir kaip sprendėte delegavimą ir komandinį darbą įgyvendinant projektus, kurie iš esmės yra techniškai sudėtingi?

CTO vaidmuo per pastarąjį dešimtmetį iš esmės pasikeitė. Praėjo darbo serverių patalpoje laikai. Dabar darbas daug labiau bendradarbiaujantis. Kartu visuose verslo padaliniuose suderiname organizacinius prioritetus ir paverčiame tuos siekius techniniais reikalavimais, kurie mus veda į priekį. Ligoninės ir sveikatos sistemos šiuo metu susiduria su daugybe kasdienių iššūkių – nuo ​​darbo jėgos valdymo iki finansinių suvaržymų, o naujų technologijų diegimas ne visada gali būti svarbiausias prioritetas. Mūsų didžiausias tikslas – parodyti, kaip technologijos gali padėti sušvelninti šiuos iššūkius, o ne juos padidinti, ir bendrą vertę, kurią jos suteikia jų verslui, darbuotojams ir pacientams apskritai. Šios pastangos negali būti atliekamos vienas ar net mano komandoje, todėl bendradarbiavimas apima daugiadisciplininius padalinius, siekiant sukurti darnią strategiją, kuri parodytų šią vertę, nesvarbu, ar tai kyla dėl to, kad klientams suteikiama prieiga prie neužrakintų duomenų įžvalgų, ar suaktyvinami procesai, kurių jie šiuo metu negali atlikti. .

Koks yra dirbtinio intelekto vaidmuo susijusių sveikatos priežiūros operacijų ateityje?

Kai integruoti duomenys tampa prieinamesni naudojant AI, juos galima panaudoti skirtingoms sistemoms sujungti ir užtikrinti saugumą bei tikslumą per visą priežiūros tęstinumą. Ši susietų sveikatos priežiūros operacijų koncepcija yra kategorija, į kurią mes sutelkiame dėmesį RLDatix, nes ji atrakina tinkamus duomenis ir įžvalgas sveikatos priežiūros sprendimus priimantiems asmenims, o dirbtinis intelektas yra neatsiejama nuo to, kad tai taptų realybe.

Neabejotinas šios integracijos aspektas yra užtikrinti, kad duomenų naudojimas būtų saugus ir atitiktų reikalavimus, o rizika būtų suprantama. Esame rinkos lyderiai politikos, rizikos ir saugos srityse, o tai reiškia, kad turime daug duomenų, kad galėtume tiksliau ir patikimiau mokyti pagrindinius LLM. Norint pasiekti tikrai susietas sveikatos priežiūros operacijas, pirmiausia reikia sujungti skirtingus sprendimus, o antrasis – išgauti duomenis ir juos normalizuoti tuose sprendimuose. Ligoninės gaus daug naudos iš tarpusavyje sujungtų sprendimų, kurie gali sujungti duomenų rinkinius ir suteikti vartotojams naudingos naudos, o ne išlaikyti atskirus duomenų rinkinius iš atskirų taškų sprendimų.

Neseniai vykusiame pagrindiniame pranešime vyriausioji produktų pareigūnė Barbara Staruk pasidalijo, kaip RLDatix naudoja generatyvius dirbtinio intelekto ir didelių kalbų modelius, siekdama supaprastinti ir automatizuoti pacientų saugos incidentų pranešimus. Ar galėtumėte paaiškinti, kaip tai veikia?

Tai tikrai reikšminga iniciatyva RLDatix ir puikus pavyzdys, kaip maksimaliai išnaudojame LLM potencialą. Kai ligoninės ir sveikatos sistemos pildo incidentų ataskaitas, šiuo metu yra trys standartiniai ataskaitoje nurodytos žalos lygio nustatymo formatai: Sveikatos priežiūros tyrimų ir kokybės agentūros bendri formatai, Nacionalinė vaistų klaidų pranešimo ir prevencijos koordinacinė taryba bei Sveikatos priežiūros veiklos rezultatai. Tobulinimo (HPI) saugos įvykių klasifikacija (SEC). Šiuo metu galime lengvai išmokyti LLM perskaityti įvykio ataskaitos tekstą. Pavyzdžiui, jei pacientas miršta, LLM gali sklandžiai atrinkti šią informaciją. Tačiau iššūkis yra mokyti LLM nustatyti kontekstą ir atskirti sudėtingesnes kategorijas, tokias kaip sunki nuolatinė žala, pvz., į HPI SEC įtraukta taksonomija, nuo didelės laikinos žalos. Jei pranešantis asmuo nepateiks pakankamai konteksto, LLM negalės nustatyti atitinkamos kategorijos žalos tam konkrečiam pacientų saugos incidentui.

RLDatix siekia įdiegti paprastesnę taksonomiją visame pasaulyje visame mūsų portfelyje su konkrečiomis kategorijomis, kurias LLM gali lengvai atskirti. Laikui bėgant vartotojai galės tiesiog parašyti, kas atsitiko, o LLM iš ten išskirs visą svarbią informaciją ir iš anksto užpildys incidentų formas. Tai ne tik sutaupo daug laiko jau įtemptai darbo jėgai, bet modeliui dar labiau tobulėjant, taip pat galėsime nustatyti kritines tendencijas, kurios leis sveikatos priežiūros organizacijoms priimti saugesnius sprendimus.

Kokiais kitais būdais RLDatix pradėjo įtraukti LLM į savo veiklą?

Kitas būdas, kuriuo mes naudojame LLM viduje, yra supaprastinti įgaliojimų suteikimo procesą. Kiekvieno teikėjo kredencialai yra suformatuoti skirtingai ir juose yra unikalios informacijos. Norėdami suprasti, kaip skiriasi kiekvieno gyvenimo aprašymas – nuo ​​šriftų, darbo patirties iki išsilavinimo ir bendro formatavimo. Įgaliojimai yra panašūs. Kur teikėjas mokėsi koledže? Koks jų sertifikatas? Kokiuose straipsniuose jie publikuojami? Kiekvienas sveikatos priežiūros specialistas tą informaciją pateiks savaip.

„RLDatix“ LLM leidžia mums perskaityti šiuos kredencialus ir išgauti visus tuos duomenis į standartizuotą formatą, kad dirbantiesiems duomenų įvedimo srityje nereikėtų jų ilgai ieškoti, todėl jie mažiau laiko praleis administraciniam komponentui ir sutelks savo dėmesį. laiko prasmingoms užduotims, kurios prideda vertę.

Kibernetinis saugumas visada buvo sudėtingas, ypač pereinant prie debesų technologijų, ar galėtumėte aptarti kai kuriuos iš šių iššūkių?

Kibernetinė sauga is sudėtinga, todėl svarbu dirbti su tinkamu partneriu. Naudojant šią technologiją svarbiausia užtikrinti, kad LLM išliktų saugūs ir atitiktų reikalavimus. Jei jūsų organizacija neturi tam skirtų darbuotojų, tai gali būti neįtikėtinai sudėtinga ir atimti daug laiko. Štai kodėl daugumoje kibernetinio saugumo iniciatyvų dirbame su „Amazon Web Services“ (AWS). AWS padeda mums įdiegti saugumą ir atitiktį kaip pagrindinius mūsų technologijos principus, kad RLDatix galėtų sutelkti dėmesį į tai, ką iš tikrųjų darome gerai, t.

Kokios yra naujos grėsmės saugumui, kurias pastebėjote pastaruoju metu greitai pritaikius LLM?

Žvelgiant iš RLDatix perspektyvos, yra keletas svarstymų, į kuriuos atsižvelgiame kurdami ir mokydami LLM. Mums svarbus dėmesys yra šališkumo ir nesąžiningumo mažinimas. LLM yra tiek geri, kiek jie yra apmokyti. Tokie veiksniai kaip lytis, rasė ir kiti demografiniai rodikliai gali apimti daug būdingų paklaidų, nes pats duomenų rinkinys yra šališkas. Pavyzdžiui, pagalvokite, kaip pietryčių JAV kasdienėje kalboje vartoja žodį „y'all“. Tai yra unikalus kalbos šališkumas, būdingas konkrečiai pacientų grupei, į kurį tyrėjai turi atsižvelgti mokydami LLM, kad tiksliai atskirtų kalbos niuansus, palyginti su kitais regionais. Tokio tipo šališkumas turi būti sprendžiamas plačiu mastu, kai kalbama apie LLMS panaudojimą sveikatos priežiūros srityje, nes modelio mokymas vienoje pacientų grupėje nebūtinai reiškia, kad modelis veiks kitoje.

Saugumo, skaidrumo ir atskaitomybės palaikymas taip pat yra svarbūs mūsų organizacijos akcentai, taip pat sumažinama haliucinacijų ir dezinformacijos tikimybė. Užtikrinimas, kad aktyviai sprendžiame bet kokias privatumo problemas, kad suprantame, kaip modelis pasiekė tam tikrą atsakymą ir kad turime saugų kūrimo ciklą, yra svarbūs veiksmingo diegimo ir priežiūros komponentai.

Kokie kiti mašininio mokymosi algoritmai naudojami RLDatix?

Mašininio mokymosi (ML) naudojimas siekiant atskleisti svarbias planavimo įžvalgas buvo įdomus mūsų organizacijos naudojimo atvejis. Konkrečiai JK tyrinėjome, kaip panaudoti ML, kad geriau suprastume, kaip vyksta slaugytojų ir gydytojų darbo grafikų sudarymas arba planavimas. RLDatix turi prieigą prie didžiulio kiekio planavimo duomenų iš pastarojo dešimtmečio, bet ką galime padaryti su visa ta informacija? Štai čia ir atsiranda ML. Naudojame ML modelį, kad analizuotume tuos istorinius duomenis ir pateiktume įžvalgą, kaip po dviejų savaičių gali atrodyti personalo padėtis konkrečioje ligoninėje ar tam tikrame regione.

Šis konkretus naudojimo atvejis yra labai pasiekiamas ML modelis, tačiau mes dar labiau stumiame adatą, prijungdami ją prie realaus gyvenimo įvykių. Pavyzdžiui, kas būtų, jei pažiūrėtume kiekvieną futbolo tvarkaraštį rajone? Iš pirmų lūpų žinome, kad sporto renginiai paprastai sukelia daugiau traumų ir kad vietinėje ligoninėje įvykio dieną greičiausiai bus daugiau stacionarių pacientų, palyginti su įprasta diena. Bendradarbiaujame su AWS ir kitais partneriais, kad išsiaiškintume, kokius viešųjų duomenų rinkinius galime paimti, kad planavimas būtų dar supaprastintas. Jau turime duomenų, leidžiančių manyti, kad per didelius sporto renginius ar net esant nepalankiam orui padaugės pacientų, tačiau ML modelis gali žengti žingsnį toliau, pasinaudodamas šiais duomenimis ir nustatydamas kritines tendencijas, padėsiančias užtikrinti tinkamą ligoninių būklę. darbuotojų, galiausiai sumažinant įtampą mūsų darbo jėgai ir žengiant žingsnį į priekį mūsų pramonėje siekiant saugesnės priežiūros visiems.

Dėkojame už puikų interviu, skaitytojai, norintys sužinoti daugiau, turėtų apsilankyti RLDatix.