Vivek Desai, Director Tehnologic, America de Nord la RLDatix – Seria de interviuri

Vivek Desai este Director Tehnologic al RLDatix, o companie de software și servicii pentru operațiunile de îngrijire a sănătății conectate, cu sediul în America de Nord. RLDatix are misiunea de a schimba îngrijirea sănătății. Ei ajută organizațiile să conducă o îngrijire mai sigură și mai eficientă, oferind instrumente de guvernanță, risc și conformitate care conduc la îmbunătățirea generală și siguranță.

Ce v-a atras inițial la informatică și securitate cibernetică?

M-am simțit atras de complexitățile pe care informatica și securitatea cibernetică încearcă să le rezolve – există întotdeauna o nouă provocare care apare. Un exemplu bun este atunci când cloud-ul a început să câștige teren. A promis mult, dar a și ridicat unele întrebări cu privire la securitatea sarcinilor de lucru. A fost foarte clar de la început că metodele tradiționale erau doar o soluție temporară, iar organizațiile de pe tot globul aveau nevoie să dezvolte noi procese pentru a securiza eficient sarcinile de lucru în cloud. A fost o călătorie foarte interesantă pentru mine și pentru mulți alți oameni care lucrează în acest domeniu. Este un domeniu dinamic și în evoluție, așa că fiecare zi aduce ceva nou și interesant.

Ne puteți împărtăși unele dintre responsabilitățile actuale pe care le aveți ca Director Tehnologic al RLDatix?  

În prezent, mă concentrez pe conducerea strategiei noastre de date și pe găsirea de modalități de a crea sinergii între produsele noastre și datele pe care le conțin, pentru a înțelege mai bine tendințele. Multe dintre produsele noastre conțin tipuri similare de date, așa că sarcina mea este să găsesc modalități de a rupe aceste bariere și de a face mai ușor pentru clienții noștri, atât spitalele, cât și sistemele de sănătate, să aibă acces la date. În același timp, lucrez și la strategia noastră globală de inteligență artificială (IA) pentru a informa această accesare și utilizare a datelor în întregul ecosistem.

Menținerea la curent cu tendințele emergente din diverse industrii este un alt aspect crucial al rolului meu, pentru a ne asigura că mergem în direcția strategică corectă. În prezent, urmăresc cu atenție modelele de limbaj mare (LLM). Ca companie, lucrăm pentru a găsi modalități de a integra LLM în tehnologia noastră, pentru a împuternici și a îmbunătăți oamenii, în special furnizorii de îngrijire a sănătății, pentru a reduce încărcătura lor cognitivă și a le permite să se concentreze pe îngrijirea pacienților.

În postarea dvs. de blog de pe LinkedIn, intitulată “O reflecție asupra primului meu an ca Director Tehnologic,” ați scris, “Directorii Tehnici nu lucrează singuri. Ei fac parte dintr-o echipă.” Ne puteți explica unele dintre provocările pe care le-ați întâmpinat și cum ați abordat delegarea și munca în echipă pe proiecte care sunt în mod inerent tehnice?

Rolul unui Director Tehnologic s-a schimbat fundamental în ultimul deceniu. Zilele în care lucram într-o cameră de servere au dispărut. Acum, jobul este mult mai colaborativ. Împreună, pe întregul departament, ne aliniem pe prioritățile organizației și transformăm aceste aspirații în cerințe tehnice care ne conduc înainte. Spitalele și sistemele de sănătate se confruntă în prezent cu multe provocări zilnice, de la gestionarea personalului la constrângerile financiare, iar adoptarea noilor tehnologii poate să nu fie întotdeauna o prioritate de top. Cel mai mare obiectiv al nostru este să demonstrăm cum tehnologia poate ajuta la mitigarea acestor provocări, în loc să le adauge, și ce valoare aduce aceasta pentru afaceri, angajați și pacienți în general. Acest efort nu poate fi realizat singur sau nici măcar în cadrul echipei mele, așa că colaborarea se extinde pe unități multidisciplinare pentru a dezvolta o strategie coerentă care va demonstra această valoare, indiferent dacă provine din oferirea clienților acces la insight-uri de date deblocate sau activarea proceselor pe care aceștia nu le pot realiza în prezent.

Care este rolul inteligenței artificiale în viitorul operațiunilor de îngrijire a sănătății conectate?

Pe măsură ce datele integrate devin mai disponibile cu IA, acestea pot fi utilizate pentru a conecta sisteme disparate și a îmbunătăți siguranța și acuratețea de-a lungul continuumului de îngrijire. Acest concept de operațiuni de îngrijire a sănătății conectate este o categorie pe care ne concentrăm la RLDatix, deoarece deblochează date și insight-uri actionabile pentru decidenții din domeniul sănătății – și IA este esențială pentru a face acest lucru realitate.

Un aspect nelipsit al acestei integrări este asigurarea că utilizarea datelor este securizată și conformă, iar riscurile sunt înțelese. Suntem lideri de piață în politica de risc și siguranță, ceea ce înseamnă că avem o cantitate considerabilă de date pentru a antrena LLM-uri fundamentale cu mai multă acuratețe și fiabilitate. Pentru a atinge operațiunile de îngrijire a sănătății conectate, primul pas este unirea soluțiilor disparate, iar al doilea este extragerea și normalizarea datelor pe aceste soluții. Spitalele vor beneficia în mod semnificativ de un grup de soluții interconectate care pot combina seturi de date și oferi valoare actionabilă utilizatorilor, în loc să mențină seturi de date separate de la soluții punctuale.

Într-o conferință recentă, Directorul de Produs Barbara Staruk a explicat cum RLDatix folosește inteligența generativă și modelele de limbaj mare pentru a simplifica și automatiza raportarea incidentelor de siguranță a pacienților. Ne puteți explica cum funcționează acest lucru?

Acesta este un proiect foarte important pentru RLDatix și un exemplu excelent al modului în care maximizăm potențialul LLM-urilor. Atunci când spitalele și sistemele de sănătate completează rapoarte de incidente, există în prezent trei formate standard pentru determinarea nivelului de prejudiciu indicat în raport: Formatele Comune ale Agenției pentru Cercetare și Calitate în Sănătate, Consiliul Național de Coordonare pentru Raportarea Erorilor de Medicament și Clasificarea Evenimentelor de Siguranță a Performanței (HPI). În prezent, putem antrena ușor un LLM să citească prin textul unui raport de incident. Dacă, de exemplu, un pacient decedează, LLM-ul poate identifica cu ușurință această informație. Provocarea constă în antrenarea LLM-ului să determine contextul și să distingă între categorii mai complexe, cum ar fi prejudiciul permanent sever, o taxonomie inclusă în Clasificarea Evenimentelor de Siguranță a Performanței (HPI), față de prejudiciul temporar sever. Dacă persoana care raportează nu include suficient context, LLM-ul nu va putea determina nivelul corespunzător de prejudiciu pentru acel incident de siguranță a pacientului.

RLDatix își propune să implementeze o taxonomie mai simplă, la nivel global, pe întregul nostru portofoliu, cu categorii concrete care pot fi ușor deosebite de LLM. În timp, utilizatorii vor putea pur și simplu să scrie ce s-a întâmplat, iar LLM-ul se va ocupa de restul, extrăgând toate informațiile importante și precompletând formularele de incident. Nu numai că acest lucru este un economisitor semnificativ de timp pentru o forță de muncă deja suprasolicitată, dar pe măsură ce modelul devine și mai avansat, vom putea identifica tendințe critice care vor permite organizațiilor de sănătate să ia decizii mai sigure în general.

Care sunt alte modalități prin care RLDatix a început să incorporeze LLM-urile în operațiunile sale?

O altă modalitate prin care utilizăm LLM-urile în interior este de a simplifica procesul de acreditare. Fiecare furnizor de servicii medicale are un format diferit de acreditare și conține informații unice. Pentru a pune lucrurile în perspectivă, gândiți-vă la modul în care arată fiecare CV – de la fonturi la experiență de muncă, la educație și la formatul general. Acreditarea este similară. Unde a studiat furnizorul de servicii medicale? Care este certificarea sa? În ce articole a fost publicat? Fiecare profesionist din domeniul sănătății va prezenta aceste informații în modul său propriu.

La RLDatix, LLM-urile ne permit să citim prin aceste acreditări și să extragem toate datele într-un format standardizat, astfel încât cei care lucrează în introducerea datelor să nu fie nevoiți să caute extensiv informațiile, permițându-le să petreacă mai puțin timp pe componenta administrativă și să se concentreze pe sarcini care aduc valoare.

Securitatea cibernetică a fost întotdeauna o provocare, mai ales cu trecerea la tehnologiile bazate pe cloud, puteți discuta despre unele dintre aceste provocări?

Securitatea cibernetică este o provocare, ceea ce face ca este important să lucrați cu partenerul potrivit. Asigurarea că LLM-urile rămân securizate și conforme este cea mai importantă considerație atunci când se utilizează această tehnologie. Dacă organizația dvs. nu are personalul dedicat intern pentru a face acest lucru, poate fi incredibil de provocator și de consumator de timp. De aceea, lucrăm cu Amazon Web Services (AWS) pentru majoritatea inițiativelor noastre de securitate cibernetică. AWS ne ajută să instaurăm securitatea și conformitatea ca principii de bază în tehnologia noastră, astfel încât RLDatix să se poată concentra pe ceea ce facem cu adevărat bine – și anume, construirea unor produse excelente pentru clienții noștri în toate verticalele noastre.

Care sunt unele dintre noile amenințări de securitate pe care le-ați văzut odată cu adoptarea rapidă recentă a LLM-urilor?

Din perspectiva RLDatix, există mai multe aspecte pe care le abordăm în timp ce dezvoltăm și antrenăm LLM-urile. Un aspect important pentru noi este atenuarea prejudecăților și a inechităților. LLM-urile sunt la fel de bune ca datele cu care sunt antrenate. Factori precum sexul, rasa și alte caracteristici demografice pot include multe prejudecăți inerente, deoarece setul de date însuși este biasat. De exemplu, gândiți-vă la modul în care sud-estul Statelor Unite utilizează cuvântul “y’all” în limbajul de zi cu zi. Acesta este un bias lingvistic unic inerent unei anumite populații de pacienți pe care cercetătorii trebuie să îl ia în considerare atunci când antrenează LLM-ul pentru a distinge cu acuratețe nuanțele limbajului în comparație cu alte regiuni. Aceste tipuri de prejudecăți trebuie abordate la scară largă atunci când se utilizează LLM-uri în domeniul sănătății, deoarece antrenarea unui model în cadrul unei populații de pacienți nu înseamnă neapărat că modelul va funcționa și în altă parte.

Menținerea securității, transparenței și responsabilității sunt, de asemenea, puncte importante de focalizare pentru organizația noastră, precum și atenuarea oricăror oportunități pentru halucinații și informații false. Asigurarea că abordăm activ orice preocupări legate de confidențialitate, că înțelegem cum a ajuns un model la un anumit răspuns și că avem un ciclu de dezvoltare securizat în loc sunt toate componente importante ale implementării și întreținerii eficiente.

Care sunt alte algoritmi de învățare automată utilizați la RLDatix?

Utilizarea învățării automate (ML) pentru a descoperi insight-uri critice de programare a fost un caz de utilizare interesant pentru organizația noastră. În special în Regatul Unit, am explorat moduri de a utiliza ML pentru a înțelege mai bine cum are loc programarea personalului medical, sau programarea medicilor și asistenților medicali. RLDatix are acces la o cantitate imensă de date de programare din ultimul deceniu, dar ce putem face cu toate aceste informații? Aici intervine ML. Utilizăm un model ML pentru a analiza aceste date istorice și a oferi insight-uri cu privire la modul în care o situație de personal ar putea arăta după două săptămâni, într-un anumit spital sau într-o anumită regiune.

Acest caz de utilizare specific este un model ML foarte realizabil, dar împingem limitele și mai departe prin conectarea lui la evenimente din viața reală. De exemplu, ce se întâmplă dacă am urmări fiecare program de fotbal din zonă? Știm din experiență că evenimentele sportive duc de obicei la mai multe răni și că un spital local va avea probabil mai mulți pacienți internați în ziua evenimentului decât într-o zi obișnuită. Lucrăm cu AWS și alți parteneri pentru a explora ce seturi de date publice putem utiliza pentru a face programarea și mai eficientă. Deja avem date care sugerează că vom vedea o creștere a numărului de pacienți în jurul evenimentelor sportive majore sau chiar a condițiilor meteorologice nefavorabile, dar modelul ML poate merge mai departe prin luarea acestor date și identificarea tendințelor critice care vor ajuta la asigurarea faptului că spitalele sunt adecvat personalizate, reducând astfel presiunea asupra forței noastre de muncă și ducând industria noastră un pas mai departe în direcția îngrijirii mai sigure pentru toți.

Mulțumim pentru acest interviu excelent; cititorii care doresc să afle mai multe despre RLDatix ar trebui să viziteze RLDatix.