Vivek Desai, Chief Technology Officer, Severní Amerika v RLDatix – série rozhovorů

Vivek Desai je Chief Technology Officer Severní Ameriky at RLDatix, je propojená společnost zabývající se operačním softwarem a službami ve zdravotnictví. RLDatix je na misi změnit zdravotnictví. Pomáhají organizacím zajišťovat bezpečnější a efektivnější péči tím, že poskytují nástroje pro správu, řízení rizik a dodržování předpisů, které řídí celkové zlepšení a bezpečnost.

Co vás zpočátku přitahovalo k informatice a kybernetické bezpečnosti?

Byl jsem přitahován ke složitosti toho, co se informatika a kybernetická bezpečnost snaží vyřešit – vždy se objeví nová výzva, kterou je třeba prozkoumat. Skvělým příkladem toho je, když mrak poprvé začal získávat trakci. Bylo to velmi slibné, ale také vyvolalo některé otázky týkající se zabezpečení pracovní zátěže. Již brzy bylo jasné, že tradiční metody jsou brzdou a že organizace ve všech oblastech budou muset vyvinout nové procesy, aby efektivně zabezpečily pracovní zátěž v cloudu. Navigace v těchto nových metodách byla pro mě a mnoho dalších pracujících v této oblasti obzvláště vzrušující cestou. Je to dynamické a vyvíjející se odvětví, takže každý den přináší něco nového a vzrušujícího.

Mohl byste se podělit o některé ze současných povinností, které máte jako CTO společnosti RLDatix?  

V současné době se soustředím na vedení naší datové strategie a hledání způsobů, jak vytvářet synergie mezi našimi produkty a daty, které uchovávají, abychom lépe porozuměli trendům. Mnoho našich produktů obsahuje podobné typy dat, takže mým úkolem je najít způsoby, jak tato sila prolomit a usnadnit našim zákazníkům, jak nemocnicím, tak zdravotnickým systémům, přístup k datům. S tím také pracuji na naší globální strategii umělé inteligence (AI), abychom informovali o přístupu k těmto datům a jejich využití v celém ekosystému.

Zůstat aktuální v nových trendech v různých odvětvích je dalším zásadním aspektem mé role, abychom zajistili, že jdeme správným strategickým směrem. V současné době bedlivě sleduji velké jazykové modely (LLM). Jako společnost pracujeme na tom, abychom našli způsoby, jak integrovat LLM do naší technologie, jak posílit a posílit lidi, konkrétně poskytovatele zdravotní péče, snížit jejich kognitivní zátěž a umožnit jim soustředit se na péči o pacienty.

Ve vašem příspěvku na blogu LinkedIn s názvem „Zamyšlení nad mým prvním rokem ve funkci CTO“, napsal jste, „CTO nepracují sami. Jsou součástí týmu." Mohl byste přiblížit některé z výzev, kterým jste čelili, a jak jste se vypořádali s delegováním a týmovou prací na projektech, které jsou ze své podstaty technicky náročné?

Role CTO se za poslední desetiletí zásadně změnila. Pryč jsou dny práce v serverovně. Nyní je práce mnohem více spolupracující. Společně napříč obchodními jednotkami se přizpůsobujeme organizačním prioritám a přeměňujeme tyto aspirace na technické požadavky, které nás ženou vpřed. Nemocnice a zdravotnické systémy se v současnosti potýkají s tolika každodenními problémy, od řízení pracovní síly po finanční omezení, a přijetí nových technologií nemusí být vždy nejvyšší prioritou. Naším největším cílem je ukázat, jak může technologie pomoci tyto výzvy zmírnit, spíše než k nim přidat, a celkovou hodnotu, kterou přináší jejich podnikání, zaměstnancům a pacientům obecně. Toto úsilí nelze vykonat sami nebo dokonce v rámci mého týmu, takže spolupráce zahrnuje napříč multidisciplinárními jednotkami s cílem vyvinout soudržnou strategii, která tuto hodnotu ukáže, ať už pramení z poskytování přístupu zákazníkům k odemknutým datovým náhledům nebo z aktivace procesů, které momentálně nejsou schopni provádět. .

Jaká je role umělé inteligence v budoucnosti propojených zdravotnických operací?

Jak jsou integrovaná data s AI dostupnější, lze je využít k propojení různých systémů a zlepšit bezpečnost a přesnost v rámci celého kontinua péče. Tento koncept propojených zdravotnických operací je kategorií, na kterou se v RLDatix zaměřujeme, protože odemyká použitelná data a poznatky pro osoby s rozhodovací pravomocí ve zdravotnictví – a umělá inteligence je nedílnou součástí toho, aby se to stalo realitou.

Nesporným aspektem této integrace je zajištění toho, že používání dat je bezpečné a v souladu s předpisy a že jsou pochopena rizika. Jsme lídrem na trhu v oblasti politiky, rizik a bezpečnosti, což znamená, že máme k dispozici dostatek dat pro školení základních LLM s větší přesností a spolehlivostí. K dosažení skutečně propojených zdravotnických operací je prvním krokem sloučení různých řešení a druhým je extrahování dat a jejich normalizace napříč těmito řešeními. Nemocnice budou mít velký užitek ze skupiny vzájemně propojených řešení, která mohou kombinovat datové sady a poskytovat uživatelům užitečnou hodnotu, spíše než udržovat samostatné datové sady z jednotlivých bodových řešení.

V nedávné keynote se produktová ředitelka Barbara Staruk podělila o to, jak RLDatix využívá generativní AI a velké jazykové modely ke zefektivnění a automatizaci hlášení incidentů v oblasti bezpečnosti pacientů. Mohl byste upřesnit, jak to funguje?

Toto je skutečně významná iniciativa pro RLDatix a skvělý příklad toho, jak maximalizujeme potenciál LLM. Když nemocnice a zdravotnické systémy vypracovávají zprávy o incidentech, v současné době existují tři standardní formáty pro určení úrovně poškození uvedené ve zprávě: společné formáty Agentury pro výzkum a kvalitu zdravotní péče, Národní koordinační rada pro hlášení a prevenci chyb v medikaci a výkon ve zdravotnictví. Zlepšení (HPI) Safety Event Classification (SEC). Právě teď můžeme snadno vycvičit LLM, aby četl text ve zprávě o incidentu. Pokud například pacient zemře, LLM může tyto informace bez problémů vybrat. Výzva však spočívá ve školení LLM, aby určoval kontext a rozlišoval mezi složitějšími kategoriemi, jako je vážné trvalé poškození, taxonomie zahrnutá například v HPI SEC, versus závažné dočasné poškození. Pokud hlásící osoba nezahrnuje dostatek kontextu, LLM nebude schopen určit vhodnou kategorii úrovně poškození pro daný konkrétní incident v oblasti bezpečnosti pacienta.

RLDatix si klade za cíl implementovat jednodušší taxonomii, globálně, napříč naším portfoliem, s konkrétními kategoriemi, které lze LLM snadno rozlišit. Postupem času budou uživatelé moci jednoduše napsat, co se stalo, a LLM to odtud vyřídí extrahováním všech důležitých informací a předvyplněním formulářů incidentů. Nejen, že se jedná o významnou úsporu času pro již tak napjatou pracovní sílu, ale jak bude model ještě pokročilejší, budeme také schopni identifikovat kritické trendy, které umožní zdravotnickým organizacím přijímat bezpečnější rozhodnutí ve všech oblastech.

Jaké jsou další způsoby, jak RLDatix začal začleňovat LLM do svých operací?

Dalším způsobem, jak interně využíváme LLM, je zefektivnění procesu pověření. Pověření každého poskytovatele jsou formátována jinak a obsahují jedinečné informace. Abyste to uvedli na pravou míru, zamyslete se nad tím, jak každý životopis vypadá jinak – od písem, přes pracovní zkušenosti až po vzdělání a celkové formátování. Pověření je podobné. Kde poskytovatel studoval vysokou školu? Jaká je jejich certifikace? V jakých článcích jsou publikovány? Každý zdravotnický pracovník poskytne tyto informace svým vlastním způsobem.

V RLDatix nám LLM umožňují číst tato pověření a extrahovat všechna tato data do standardizovaného formátu, aby je ti, kdo pracují se zadáváním dat, nemuseli složitě hledat, což jim umožňuje trávit méně času administrativou a soustředit se na čas na smysluplné úkoly, které přidávají hodnotu.

Kybernetická bezpečnost byla vždy náročná, zejména s přechodem ke cloudovým technologiím, mohl byste probrat některé z těchto výzev?

Kybernetická bezpečnost is náročné, a proto je důležité spolupracovat se správným partnerem. Při využívání této technologie je nejdůležitější zajistit, aby LLM zůstaly bezpečné a kompatibilní. Pokud vaše organizace nemá vlastní zaměstnance, aby to udělali, může to být neuvěřitelně náročné a časově náročné. To je důvod, proč spolupracujeme s Amazon Web Services (AWS) na většině našich iniciativ v oblasti kybernetické bezpečnosti. AWS nám pomáhá vštípit zabezpečení a shodu jako základní principy naší technologie, aby se RLDatix mohl soustředit na to, co opravdu děláme dobře – což je vytváření skvělých produktů pro naše zákazníky ve všech našich příslušných vertikálách.

Jaké jsou některé z nových bezpečnostních hrozeb, které jste viděli při nedávném rychlém přijetí LLM?

Z pohledu RLDatix existuje několik aspektů, kterými se zabýváme při vývoji a školení LLM. Důležitým cílem pro nás je zmírnění předsudků a nespravedlnosti. LLM jsou pouze tak dobré, jak dobrá jsou data, na kterých jsou školeni. Faktory, jako je pohlaví, rasa a další demografické údaje, mohou zahrnovat mnoho inherentních zkreslení, protože samotný soubor dat je zkreslený. Představte si například, jak jihovýchodní Spojené státy používají slovo „y'all“ v běžném jazyce. Toto je jedinečná jazyková zaujatost vlastní specifické populaci pacientů, kterou musí výzkumníci vzít v úvahu při školení LLM, aby přesně rozlišili jazykové nuance ve srovnání s jinými regiony. Tyto typy předsudků je třeba řešit ve velkém měřítku, pokud jde o využití LLMS v rámci zdravotní péče, protože školení modelu v rámci jedné populace pacientů nutně neznamená, že model bude fungovat v jiné.

Zachování bezpečnosti, transparentnosti a odpovědnosti jsou také hlavními body naší organizace, stejně jako zmírnění jakýchkoli příležitostí pro halucinace a dezinformace. Zajištění toho, že aktivně řešíme jakékoli problémy s ochranou soukromí, že rozumíme tomu, jak model dosáhl určité odpovědi, a že máme zaveden bezpečný vývojový cyklus, to vše jsou důležité součásti efektivní implementace a údržby.

Jaké jsou některé další algoritmy strojového učení, které se používají v RLDatix?

Použití strojového učení (ML) k odhalení kritických postřehů o plánování bylo pro naši organizaci zajímavým případem použití. Konkrétně ve Spojeném království jsme zkoumali, jak využít ML, abychom lépe porozuměli tomu, jak dochází k vytváření rozpisů nebo plánování sester a lékařů. RLDatix má přístup k obrovskému množství plánovacích dat za poslední desetiletí, ale co můžeme dělat se všemi těmito informacemi? To je místo, kde přichází na řadu ML. Používáme model ML k analýze historických dat a poskytujeme pohled na to, jak může vypadat personální situace za dva týdny v konkrétní nemocnici nebo v určitém regionu.

Tento konkrétní případ použití je velmi dosažitelný model ML, ale my posouváme jehlu ještě dále tím, že jej propojujeme se skutečnými událostmi. Co kdybychom se například podívali na každý fotbalový plán v oblasti? Z první ruky víme, že sportovní akce obvykle vedou k většímu počtu zranění a že místní nemocnice bude mít pravděpodobně více hospitalizovaných pacientů v den akce ve srovnání s typickým dnem. Spolupracujeme s AWS a dalšími partnery, abychom prozkoumali, jaké veřejné datové sady můžeme nasadit, aby bylo plánování ještě efektivnější. Již máme data, která naznačují, že budeme svědky nárůstu pacientů při velkých sportovních akcích nebo dokonce v nepříznivém počasí, ale model ML to může posunout o krok dále tím, že vezme tato data a identifikuje kritické trendy, které pomohou zajistit, aby nemocnice byly adekvátně personálně, což v konečném důsledku snižuje zátěž na naši pracovní sílu a posouvá naše odvětví o krok dále v dosahování bezpečnější péče pro všechny.

Děkuji za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit RLDatix.