Vivek Desai, glavni tehnološki direktor, Sjeverna Amerika u RLDatixu – serija intervjua

Vivek Desai je Šef tehnološkog odjela Sjeverne Amerike na RLDatixA tvrtka za softver i usluge povezanih zdravstvenih operacija. RLDatix je na misiji da promijeni zdravstvo. Pomažu organizacijama osigurati sigurniju i učinkovitiju skrb pružajući alate za upravljanje, rizik i usklađenost koji pokreću opće poboljšanje i sigurnost.

Što vas je na početku privuklo informatici i kibernetičkoj sigurnosti?

Privukla me složenost onoga što računalna znanost i kibernetička sigurnost pokušavaju riješiti – uvijek postoji izazov za istraživanje. Sjajan primjer za to je kada je oblak počeo dobivati ​​na snazi. Imao je velika obećanja, ali je također pokrenuo neka pitanja u vezi sa sigurnošću radnog opterećenja. Rano je bilo vrlo jasno da su tradicionalne metode zaustavna praznina i da će organizacije u svim segmentima morati razviti nove procese za učinkovito osiguranje radnih opterećenja u oblaku. Upoznavanje s ovim novim metodama bilo je posebno uzbudljivo putovanje za mene i mnoge druge koji rade u ovom području. To je dinamična industrija koja se razvija pa svaki dan donosi nešto novo i uzbudljivo.

Možete li podijeliti neke od trenutnih odgovornosti koje imate kao tehnički direktor tvrtke RLDatix?  

Trenutačno sam usredotočen na vođenje naše podatkovne strategije i pronalaženje načina za stvaranje sinergije između naših proizvoda i podataka koje oni drže, kako bismo bolje razumjeli trendove. Mnogi naši proizvodi sadrže slične vrste podataka, pa je moj posao pronaći načine za uklanjanje tih silosa i olakšati pristup podacima našim korisnicima, kako bolnicama tako i zdravstvenim sustavima. Uz to, također radim na našoj globalnoj strategiji umjetne inteligencije (AI) kako bih informirao ovaj pristup podacima i njihovo korištenje u cijelom ekosustavu.

Ostati u tijeku s novonastalim trendovima u raznim industrijama još je jedan ključni aspekt moje uloge kako bih osigurao da idemo u pravom strateškom smjeru. Trenutno pomno pratim modele velikih jezika (LLM). Kao tvrtka, radimo na pronalaženju načina za integraciju LLM-a u našu tehnologiju, kako bismo osnažili i unaprijedili ljude, posebno pružatelje zdravstvenih usluga, smanjili njihovo kognitivno opterećenje i omogućili im da se usredotoče na brigu o pacijentima.

U svom postu na blogu LinkedIn pod naslovom "Osvrt na moju prvu godinu kao CTO”, napisali ste, “tehnički direktori ne rade sami. Oni su dio tima.” Možete li razraditi neke od izazova s ​​kojima ste se suočili i kako ste se nosili s delegiranjem i timskim radom na projektima koji su sami po sebi tehnički zahtjevni?

Uloga tehničkog direktora iz temelja se promijenila tijekom posljednjeg desetljeća. Prošli su dani rada u server sobi. Sada je posao puno više suradnički. Zajedno, preko poslovnih jedinica, usklađujemo organizacijske prioritete i pretvaramo te težnje u tehničke zahtjeve koji nas tjeraju naprijed. Bolnice i zdravstveni sustavi trenutno se suočavaju s toliko svakodnevnih izazova, od upravljanja radnom snagom do financijskih ograničenja, a usvajanje nove tehnologije možda nije uvijek glavni prioritet. Naš je najveći cilj prikazati kako tehnologija može pomoći u ublažavanju ovih izazova, umjesto da ih povećava, te ukupnu vrijednost koju donosi njihovom poslovanju, zaposlenicima i pacijentima općenito. Ovaj se napor ne može učiniti sam ili čak unutar mog tima, tako da se suradnja proteže kroz multidisciplinarne jedinice kako bi se razvila kohezivna strategija koja će prikazati tu vrijednost, bilo da ona proizlazi iz davanja korisnicima pristupa otključanim uvidima u podatke ili aktiviranja procesa koje trenutačno ne mogu izvesti .

Koja je uloga umjetne inteligencije u budućnosti povezanih zdravstvenih operacija?

Kako integrirani podaci postaju dostupniji s umjetnom inteligencijom, mogu se koristiti za povezivanje različitih sustava i poboljšanje sigurnosti i točnosti u cijelom kontinuumu skrbi. Ovaj koncept povezanih zdravstvenih operacija kategorija je na koju smo usredotočeni u RLDatixu budući da otvara korisne podatke i uvide za donositelje odluka u zdravstvu – a AI je sastavni dio da to postane stvarnost.

Aspekt ove integracije o kojem se ne može pregovarati je osiguravanje da je upotreba podataka sigurna i usklađena, te da se razumiju rizici. Mi smo vodeći na tržištu u politici, riziku i sigurnosti, što znači da imamo dovoljno podataka za obuku temeljnih LLM-a s više točnosti i pouzdanosti. Da bi se postiglo istinsko povezano zdravstveno poslovanje, prvi korak je spajanje različitih rješenja, a drugi je izdvajanje podataka i njihova normalizacija u tim rješenjima. Bolnice će imati velike koristi od grupe međusobno povezanih rješenja koja mogu kombinirati skupove podataka i pružiti korisnu vrijednost korisnicima, umjesto da održavaju odvojene skupove podataka iz individualnih točaka rješenja.

U nedavnom uvodnom izlaganju, voditeljica proizvoda Barbara Staruk podijelila je kako RLDatix koristi generativnu umjetnu inteligenciju i velike jezične modele za pojednostavljenje i automatiziranje izvješćivanja o incidentima u vezi sa sigurnošću pacijenata. Možete li pojasniti kako to funkcionira?

Ovo je doista značajna inicijativa za RLDatix i izvrstan primjer kako maksimiziramo potencijal LLM-a. Kada bolnice i zdravstveni sustavi popune izvješća o incidentima, trenutno postoje tri standardna formata za određivanje razine štete navedene u izvješću: zajednički formati Agencije za zdravstvena istraživanja i kvalitetu, Nacionalno koordinacijsko vijeće za izvješćivanje i prevenciju pogrešaka u liječenju i učinkovitost zdravstvene skrbi Poboljšanje (HPI) Klasifikacija sigurnosnih događaja (SEC). Upravo sada možemo lako obučiti LLM da čita tekst u izvješću o incidentu. Ako pacijent premine, na primjer, LLM može neprimjetno odabrati tu informaciju. Izazov, međutim, leži u osposobljavanju LLM-a za određivanje konteksta i razlikovanje između složenijih kategorija, kao što je ozbiljna trajna šteta, taksonomija uključena u HPI SEC na primjer, u odnosu na ozbiljnu privremenu štetu. Ako osoba koja prijavljuje ne uključuje dovoljno konteksta, LLM neće moći odrediti odgovarajuću kategoriju razine štete za taj određeni incident u vezi sa sigurnošću pacijenta.

RLDatix ima za cilj implementirati jednostavniju taksonomiju, globalno, u našem portfelju, s konkretnim kategorijama koje LLM može lako razlikovati. S vremenom će korisnici moći jednostavno napisati što se dogodilo, a LLM će to riješiti odatle izdvajanjem svih važnih informacija i popunjavanjem obrazaca za incidente. Ne samo da je ovo značajna ušteda vremena za ionako napetu radnu snagu, već kako model postaje još napredniji, također ćemo moći identificirati kritične trendove koji će omogućiti zdravstvenim organizacijama donošenje sigurnijih odluka u svim segmentima.

Koji su drugi načini na koje je RLDatix počeo uključivati ​​LLM u svoje operacije?

Još jedan način na koji interno iskorištavamo LLM je pojednostavljenje procesa dobivanja vjerodajnica. Vjerodajnice svakog davatelja drugačije su formatirane i sadrže jedinstvene informacije. Da biste to stavili u perspektivu, zamislite kako svačiji životopis izgleda drugačije – od fontova, preko radnog iskustva, do obrazovanja i cjelokupnog oblikovanja. Credentialing je sličan. Gdje je pružatelj pohađao fakultet? Koji je njihov certifikat? U kojim su člancima objavljeni? Svaki zdravstveni djelatnik tu će informaciju dati na svoj način.

U RLDatixu, LLM-ovi nam omogućuju čitanje ovih vjerodajnica i izvlačenje svih tih podataka u standardizirani format tako da ih oni koji rade na unosu podataka ne moraju opsežno tražiti, što im omogućuje da potroše manje vremena na administrativnu komponentu i usredotoče svoje vremena na značajnim zadacima koji dodaju vrijednost.

Kibernetička sigurnost uvijek je bila izazovna, posebno s prelaskom na tehnologije temeljene na oblaku, možete li govoriti o nekim od tih izazova?

Cybersecurity is izazovno, zbog čega je važno raditi s pravim partnerom. Osigurati da LLM-ovi ostanu sigurni i usklađeni najvažniji je faktor pri korištenju ove tehnologije. Ako vaša organizacija nema angažirano osoblje za to, može biti nevjerojatno zahtjevno i dugotrajno. Zbog toga surađujemo s Amazon Web Services (AWS) na većini naših inicijativa za kibernetičku sigurnost. AWS nam pomaže da u našu tehnologiju ugradimo sigurnost i usklađenost kao temeljna načela kako bi se RLDatix mogao usredotočiti na ono što stvarno dobro radimo – a to je izrada sjajnih proizvoda za naše klijente u svim našim vertikalama.

Koje su neke od novih sigurnosnih prijetnji koje ste vidjeli s nedavnim brzim usvajanjem LLM-ova?

Iz perspektive RLDatixa, postoji nekoliko razmatranja na kojima radimo dok razvijamo i obučavamo LLM. Važan fokus za nas je ublažavanje pristranosti i nepoštenosti. LLM-ovi su dobri onoliko koliko su dobri podaci na kojima se obučavaju. Čimbenici kao što su spol, rasa i drugi demografski podaci mogu uključivati ​​mnoge inherentne pristranosti jer je sam skup podataka pristran. Na primjer, zamislite kako se na jugoistoku Sjedinjenih Država koristi riječ "y'all" u svakodnevnom jeziku. Ovo je jedinstvena jezična pristranost svojstvena određenoj populaciji pacijenata koju istraživači moraju uzeti u obzir kada obučavaju LLM da točno razlikuju jezične nijanse u usporedbi s drugim regijama. S ovim se vrstama pristranosti mora pozabaviti na širokoj razini kada se radi o iskorištavanju LLMS-a unutar zdravstvene skrbi, budući da obuka modela unutar jedne populacije pacijenata ne znači nužno da će taj model funkcionirati u drugoj.

Održavanje sigurnosti, transparentnosti i odgovornosti također su velike fokusne točke za našu organizaciju, kao i ublažavanje svih prilika za halucinacije i dezinformacije. Osiguravanje da aktivno rješavamo sva pitanja vezana uz privatnost, da razumijemo kako je model došao do određenog odgovora i da imamo siguran razvojni ciklus, sve su to važne komponente učinkovite implementacije i održavanja.

Koji su neki drugi algoritmi strojnog učenja koji se koriste u RLDatixu?

Korištenje strojnog učenja (ML) za otkrivanje kritičnih uvida u raspored bio je zanimljiv slučaj za našu organizaciju. Konkretno u Ujedinjenom Kraljevstvu, istraživali smo kako iskoristiti ML kako bismo bolje razumjeli kako dolazi do rasporeda ili rasporeda medicinskih sestara i liječnika. RLDatix ima pristup ogromnoj količini podataka o rasporedu iz prošlog desetljeća, ali što možemo učiniti sa svim tim informacijama? Tu na scenu dolazi ML. Koristimo ML model za analizu povijesnih podataka i pružanje uvida u to kako bi situacija s osobljem mogla izgledati za dva tjedna od sada, u određenoj bolnici ili određenoj regiji.

Taj specifični slučaj upotrebe vrlo je ostvariv ML model, ali mi guramo iglu još dalje povezujući ga s događajima iz stvarnog života. Na primjer, što ako pogledamo svaki nogometni raspored unutar tog područja? Iz prve ruke znamo da sportski događaji obično dovode do više ozljeda i da će lokalna bolnica vjerojatno imati više pacijenata na dan događaja u usporedbi s uobičajenim danom. Radimo s AWS-om i drugim partnerima kako bismo istražili koje javne skupove podataka možemo postaviti kako bismo zakazivanje učinili još jednostavnijim. Već imamo podatke koji sugeriraju da ćemo vidjeti porast pacijenata oko velikih sportskih događaja ili čak lošeg vremena, ali model ML može učiniti korak dalje uzimajući te podatke i identificirajući kritične trendove koji će pomoći osigurati da bolnice budu adekvatno osoblja, u konačnici smanjujući pritisak na našu radnu snagu i vodeći našu industriju korak dalje u postizanju sigurnije skrbi za sve.

Hvala vam na sjajnom intervjuu, čitatelji koji žele saznati više neka ga posjete RLDatix.