Vivek Desai, Zyrtar Kryesor i Teknologjisë, Amerika e Veriut në RLDatix – Seria e Intervistave

Vivek Desai është Shefi i Teknologjisë të Amerikës së Veriut në RLDatix, Një kompani e lidhur me softuerët dhe shërbimet e operacioneve të kujdesit shëndetësor. RLDatix është në një mision për të ndryshuar kujdesin shëndetësor. Ato ndihmojnë organizatat të drejtojnë kujdes më të sigurt dhe më efikas duke ofruar mjete të qeverisjes, rrezikut dhe pajtueshmërisë që nxisin përmirësimin dhe sigurinë e përgjithshme.

Çfarë ju tërhoqi fillimisht nga shkenca kompjuterike dhe siguria kibernetike?

Më tërhoqi kompleksiteti i asaj që shkenca kompjuterike dhe siguria kibernetike po përpiqen të zgjidhin – ka gjithmonë një sfidë në zhvillim për të eksploruar. Një shembull i shkëlqyeshëm i kësaj është kur reja fillimisht filloi të fitonte tërheqje. Ai premtoi shumë, por gjithashtu ngriti disa pyetje rreth sigurisë së ngarkesës së punës. Ishte shumë e qartë që në fillim se metodat tradicionale ishin një pengesë dhe se organizatat në të gjithë bordin do të duhej të zhvillonin procese të reja për të siguruar në mënyrë efektive ngarkesat e punës në cloud. Lundrimi në këto metoda të reja ishte një udhëtim veçanërisht emocionues për mua dhe shumë të tjerë që punoja në këtë fushë. Është një industri dinamike dhe në zhvillim, kështu që çdo ditë sjell diçka të re dhe emocionuese.

A mund të ndani disa nga përgjegjësitë aktuale që keni si CTO i RLDatix?  

Aktualisht, unë jam i fokusuar në udhëheqjen e strategjisë sonë të të dhënave dhe gjetjen e mënyrave për të krijuar sinergji midis produkteve tona dhe të dhënave që ato mbajnë, për të kuptuar më mirë tendencat. Shumë nga produktet tona përmbajnë lloje të ngjashme të dhënash, kështu që detyra ime është të gjej mënyra për t'i prishur ato kapanone dhe t'ua bëj më të lehtë aksesin e të dhënave për klientët tanë, si spitalet ashtu edhe sistemet shëndetësore. Me këtë, unë jam duke punuar gjithashtu në strategjinë tonë globale të inteligjencës artificiale (AI) për të informuar këtë akses të të dhënave dhe përdorimin në të gjithë ekosistemin.

Qëndrimi aktual në tendencat në zhvillim në industri të ndryshme është një aspekt tjetër thelbësor i rolit tim, për t'u siguruar që po shkojmë në drejtimin e duhur strategjik. Aktualisht jam duke i vëzhguar modelet e mëdha të gjuhëve (LLM). Si kompani, ne po punojmë për të gjetur mënyra për të integruar LLM-të në teknologjinë tonë, për të fuqizuar dhe përmirësuar njerëzit, veçanërisht ofruesit e kujdesit shëndetësor, për të reduktuar ngarkesën e tyre njohëse dhe për t'u mundësuar atyre të fokusohen në kujdesin për pacientët.

Në postimin tuaj në blogun LinkedIn me titull "Një reflektim për vitin tim të parë si CTO, "shkruat ju, "CTO nuk punojnë vetëm. Ata janë pjesë e një ekipi.” A mund të elaboroni disa nga sfidat me të cilat jeni përballur dhe si e keni trajtuar delegimin dhe punën ekipore në projekte që janë në thelb sfidues teknikisht?

Roli i një CTO ka ndryshuar rrënjësisht gjatë dekadës së fundit. Kanë ikur ditët e punës në një dhomë serveri. Tani, puna është shumë më bashkëpunuese. Së bashku, në të gjithë njësitë e biznesit, ne përputhemi me prioritetet organizative dhe i kthejmë ato aspirata në kërkesa teknike që na çojnë përpara. Spitalet dhe sistemet shëndetësore aktualisht lundrojnë në kaq shumë sfida të përditshme, nga menaxhimi i fuqisë punëtore te kufizimet financiare, dhe adoptimi i teknologjisë së re mund të mos jetë gjithmonë një prioritet kryesor. Qëllimi ynë më i madh është të tregojmë se si teknologjia mund të ndihmojë në zbutjen e këtyre sfidave, në vend që t'i shtojë ato dhe vlerën e përgjithshme që ajo sjell për biznesin e tyre, punonjësit dhe pacientët në përgjithësi. Kjo përpjekje nuk mund të bëhet vetëm apo edhe brenda ekipit tim, kështu që bashkëpunimi shtrihet në njësitë multidisiplinare për të zhvilluar një strategji kohezive që do të shfaqë atë vlerë, qoftë kjo rrjedh nga dhënia e klientëve akses në njohuritë e të dhënave të zhbllokuara ose nga aktivizimi i proceseve që aktualisht nuk janë në gjendje t'i kryejnë .

Cili është roli i inteligjencës artificiale në të ardhmen e operacioneve të lidhura të kujdesit shëndetësor?

Ndërsa të dhënat e integruara bëhen më të disponueshme me AI, ato mund të përdoren për të lidhur sisteme të ndryshme dhe për të përmirësuar sigurinë dhe saktësinë në të gjithë vazhdimësinë e kujdesit. Ky koncept i operacioneve të lidhura të kujdesit shëndetësor është një kategori në të cilën jemi fokusuar në RLDatix pasi zhbllokon të dhëna vepruese dhe njohuri për vendimmarrësit e kujdesit shëndetësor – dhe AI ​​është integrale për ta bërë këtë realitet.

Një aspekt i panegociueshëm i këtij integrimi është të sigurohet që përdorimi i të dhënave të jetë i sigurt dhe në përputhje, si dhe të kuptohen rreziqet. Ne jemi lider në treg në politika, rrezik dhe siguri, që do të thotë se kemi një sasi të mjaftueshme të dhënash për të trajnuar LLM-të themelore me më shumë saktësi dhe besueshmëri. Për të arritur operacione të vërteta të lidhura të kujdesit shëndetësor, hapi i parë është bashkimi i zgjidhjeve të ndryshme dhe i dyti është nxjerrja e të dhënave dhe normalizimi i tyre në ato zgjidhje. Spitalet do të përfitojnë shumë nga një grup zgjidhjesh të ndërlidhura që mund të kombinojnë grupe të dhënash dhe t'u ofrojnë përdoruesve vlerë vepruese, në vend që të mbajnë grupe të veçanta të dhënash nga zgjidhjet individuale të pikave.

Në një fjalim të fundit, Shefja e Produktit Barbara Staruk tregoi se si RLDatix po përdor AI gjeneruese dhe modele të mëdha gjuhësore për të thjeshtuar dhe automatizuar raportimin e incidenteve të sigurisë së pacientit. A mund të elaboroni se si funksionon kjo?

Kjo është një iniciativë vërtet domethënëse për RLDatix dhe një shembull i shkëlqyer se si po maksimizojmë potencialin e LLM-ve. Kur spitalet dhe sistemet shëndetësore plotësojnë raportet e incidenteve, aktualisht ekzistojnë tre formate standarde për përcaktimin e nivelit të dëmtimit të treguar në raport: Agjencia për Kërkimin e Kujdesit Shëndetësor dhe Formatet e Përbashkëta të Cilësisë, Këshilli Koordinues Kombëtar për Raportimin dhe Parandalimin e Gabimeve të Medikamenteve dhe Performanca e Kujdesit Shëndetësor Klasifikimi i ngjarjeve të sigurisë për përmirësim (HPI) (SEC). Tani për tani, ne mund ta trajnojmë lehtësisht një LLM për të lexuar tekstin në një raport incidenti. Nëse një pacient vdes, për shembull, LLM mund ta zgjedhë pa probleme atë informacion. Sfida, megjithatë, qëndron në trajnimin e LLM-së për të përcaktuar kontekstin dhe për të bërë dallimin midis kategorive më komplekse, të tilla si dëmtimi i përhershëm i rëndë, një taksonomi e përfshirë në HPI SEC për shembull, kundrejt dëmit të rëndë të përkohshëm. Nëse personi që raporton nuk përfshin kontekst të mjaftueshëm, LLM nuk do të jetë në gjendje të përcaktojë nivelin e duhur të kategorisë së dëmit për atë incident të veçantë të sigurisë së pacientit.

RLDatix synon të zbatojë një taksonomi më të thjeshtë, globalisht, në të gjithë portofolin tonë, me kategori konkrete që mund të dallohen lehtësisht nga LLM. Me kalimin e kohës, përdoruesit do të jenë në gjendje të shkruajnë thjesht atë që ka ndodhur dhe LLM do ta trajtojë atë nga atje duke nxjerrë të gjithë informacionin e rëndësishëm dhe duke parapopulluar format e incidentit. Jo vetëm që është një kursim i konsiderueshëm i kohës për një fuqi punëtore tashmë të sforcuar, por ndërsa modeli bëhet edhe më i avancuar, ne gjithashtu do të jemi në gjendje të identifikojmë tendencat kritike që do t'u mundësojnë organizatave të kujdesit shëndetësor të marrin vendime më të sigurta në të gjithë bordin.

Cilat janë disa mënyra të tjera që RLDatix ka filluar të përfshijë LLM-të në operacionet e saj?

Një mënyrë tjetër për të përdorur LLM-të nga brenda është të thjeshtojmë procesin e kredencializimit. Kredencialet e çdo ofruesi janë të formatuara ndryshe dhe përmbajnë informacion unik. Për ta vënë atë në perspektivë, mendoni se si rezymeja e secilit duket e ndryshme – nga fontet, tek përvoja e punës, tek arsimimi dhe formatimi i përgjithshëm. Kredencializimi është i ngjashëm. Ku ndoqi kolegj ofruesi? Cili është certifikimi i tyre? Në çfarë artikujsh janë publikuar? Çdo profesionist i kujdesit shëndetësor do ta japë atë informacion në mënyrën e vet.

Në RLDatix, LLM-të na mundësojnë të lexojmë këto kredenciale dhe të nxjerrim të gjitha ato të dhëna në një format të standardizuar, në mënyrë që ata që punojnë në futjen e të dhënave të mos kenë nevojë të kërkojnë shumë për to, duke u mundësuar atyre të shpenzojnë më pak kohë në komponentin administrativ dhe të fokusojnë kohë për detyra domethënëse që shtojnë vlerë.

Siguria kibernetike ka qenë gjithmonë sfiduese, veçanërisht me kalimin në teknologjitë e bazuara në cloud, a mund të diskutoni disa nga këto sfida?

kibernetike is sfiduese, prandaj është e rëndësishme të punosh me partnerin e duhur. Sigurimi i LLM-ve të mbeten të sigurta dhe të pajtueshme është konsiderata më e rëndësishme kur përdorni këtë teknologji. Nëse organizata juaj nuk ka staf të përkushtuar në shtëpi për ta bërë këtë, mund të jetë tepër sfiduese dhe kërkon kohë. Kjo është arsyeja pse ne punojmë me Shërbimet e Uebit të Amazon (AWS) në shumicën e iniciativave tona të sigurisë kibernetike. AWS na ndihmon të futim sigurinë dhe pajtueshmërinë si parime thelbësore brenda teknologjisë sonë, në mënyrë që RLDatix të mund të përqendrohet në atë që ne e bëjmë me të vërtetë mirë – që është duke ndërtuar produkte të shkëlqyera për klientët tanë në të gjitha vertikalet tona përkatëse.

Cilat janë disa nga kërcënimet e reja të sigurisë që keni parë me miratimin e shpejtë të kohëve të fundit të LLM-ve?

Nga perspektiva e RLDatix, ka disa konsiderata me të cilat po punojmë ndërsa jemi duke zhvilluar dhe trajnuar LLM. Një fokus i rëndësishëm për ne është zbutja e paragjykimeve dhe padrejtësisë. LLM-të janë po aq të mira sa të dhënat mbi të cilat janë trajnuar. Faktorë të tillë si gjinia, raca dhe demografia e tjera mund të përfshijnë shumë paragjykime të qenësishme sepse vetë grupi i të dhënave është i njëanshëm. Për shembull, mendoni se si Shtetet e Bashkuara juglindore përdorin fjalën "y'all" në gjuhën e përditshme. Ky është një paragjykim unik gjuhësor i natyrshëm për një popullatë specifike pacientësh që studiuesit duhet ta marrin parasysh kur trajnojnë LLM-në për të dalluar me saktësi nuancat gjuhësore në krahasim me rajonet e tjera. Këto lloj paragjykimesh duhet të trajtohen në shkallë kur bëhet fjalë për përdorimin e LLMS brenda kujdesit shëndetësor, pasi trajnimi i një modeli brenda një popullate pacientësh nuk do të thotë domosdoshmërisht se ai model do të funksionojë në një tjetër.

Ruajtja e sigurisë, transparencës dhe llogaridhënies janë gjithashtu pika kryesore të fokusit për organizatën tonë, si dhe zbutja e çdo mundësie për halucinacione dhe dezinformata. Sigurimi që po trajtojmë në mënyrë aktive çdo shqetësim për privatësinë, se kuptojmë se si një model arriti një përgjigje të caktuar dhe se kemi një cikël të sigurt zhvillimi janë të gjithë komponentë të rëndësishëm të zbatimit dhe mirëmbajtjes efektive.

Cilat janë disa algoritme të tjera të mësimit të makinerive që përdoren në RLDatix?

Përdorimi i mësimit të makinerive (ML) për të zbuluar njohuri kritike të planifikimit ka qenë një rast interesant përdorimi për organizatën tonë. Në mënyrë specifike në MB, ne kemi eksploruar se si të shfrytëzojmë ML për të kuptuar më mirë se si ndodh renditja, ose planifikimi i infermierëve dhe mjekëve. RLDatix ka akses në një sasi masive të të dhënave të planifikimit nga dekada e kaluar, por çfarë mund të bëjmë me gjithë atë informacion? Këtu hyn ML. Ne po përdorim një model të ML për të analizuar ato të dhëna historike dhe për të ofruar një pasqyrë se si një situatë e personelit mund të duket dy javë nga tani, në një spital specifik ose një rajon të caktuar.

Ky rast specifik përdorimi është një model ML shumë i arritshëm, por ne po e shtyjmë gjilpërën edhe më tej duke e lidhur atë me ngjarjet e jetës reale. Për shembull, po sikur të shikonim çdo program futbolli brenda zonës? Ne e dimë vetë se ngjarjet sportive zakonisht çojnë në më shumë lëndime dhe se një spital lokal ka të ngjarë të ketë më shumë pacientë të shtruar në ditën e një ngjarjeje në krahasim me një ditë të zakonshme. Ne po punojmë me AWS dhe partnerë të tjerë për të eksploruar se cilat grupe të dhënash publike mund të përdorim për ta bërë planifikimin edhe më të efektshëm. Ne kemi tashmë të dhëna që sugjerojnë se do të shohim një rritje të pacientëve rreth ngjarjeve të mëdha sportive apo edhe motit të keq, por modeli ML mund ta bëjë atë një hap më tej duke i çuar ato të dhëna dhe duke identifikuar tendencat kritike që do të ndihmojnë në sigurimin e duhur të spitaleve. me staf, duke reduktuar në fund ngarkesën mbi fuqinë tonë punëtore dhe duke e çuar industrinë tonë një hap më tej në arritjen e kujdesit më të sigurt për të gjithë.

Faleminderit për intervistën e mrekullueshme, lexuesit që dëshirojnë të mësojnë më shumë duhet ta vizitojnë RLDatix.