Vivek Desai, Chief Technology Officer, North America at RLDatix – Interview Series

Vivek Desai je Chief Technology Officer severní Ameriky ve společnosti RLDatix, která je společností pro propojené softwarové a servisní operace ve zdravotnictví. RLDatix má za cíl změnit zdravotnictví. Pomáhají organizacím poskytovat bezpečnější a efektivnější péči poskytováním nástrojů pro řízení, rizika a dodržování předpisů, které povedou ke zlepšení a bezpečnosti.

Co vás původně přitáhlo k informatice a kybernetické bezpečnosti?

Byl jsem přitahován složitostmi toho, co informatika a kybernetická bezpečnost snaží řešit – vždy existuje nová výzva, kterou lze prozkoumat. Velkým příkladem toho je, když se začaly rozšiřovat cloudové technologie. Tyto technologie slibovaly velké možnosti, ale také vyvolávaly otázky ohledně zabezpečení úloh. Bylo zřejmé, že tradiční metody jsou dočasným řešením a že organizace budou muset vyvinout nové postupy, aby účinně zabezpečily úlohy v cloudu. Procházet tyto nové metody bylo pro mě a mnoho dalších, kteří pracují v tomto oboru, velmi zajímavé. Jedná se o dynamický a neustále se vyvíjející obor, takže každý den přináší něco nového a zajímavého.

Můžete sdílet některé ze svých současných odpovědností jako CTO ve společnosti RLDatix?  

V současné době se zaměřuji na vedení naší datové strategie a na nalezení způsobů, jak vytvořit synergii mezi našimi produkty a daty, které obsahují, aby lépe rozuměli trendům. Mnoho našich produktů obsahuje podobné typy dat, takže mojí úlohou je najít způsoby, jak rozbité datové sila rozložit a usnadnit našim zákazníkům, ať už se jedná o nemocnice nebo zdravotnické systémy, přístup k těmto datům. Kromě toho pracuji na naší globální strategii umělé inteligence (AI), aby informovala přístup a využití dat napříč ekosystémem.

Dalším důležitým aspektem mé role je zůstat aktuální s novými trendy v různých odvětvích, aby byla zajištěna správná strategická směr. V současné době sleduji velké jazykové modely (LLM). Jako společnost pracujeme na způsobech, jak integrovat LLM do našich technologií, aby se mohly využít k posílení a zlepšení lidského potenciálu, zejména zdravotnických pracovníků, snížení jejich kognitivní zátěže a umožnění jim soustředit se na péči o pacienty.

V jednom ze svých článků na LinkedIn s názvem “A Reflection on My 1st Year as a CTO” jste napsal, “CTO nepracují sami. Jsou součástí týmu.” Můžete vysvětlit některé z výzev, kterým jste čelil, a jak jste řešil delegování a týmovou práci na projektech, které jsou svou povahou technicky náročné?

Role CTO se za posledních deset let fundamentálně změnila. Dny, kdy se pracovalo v serverové místnosti, jsou pryč. Nyní je práce mnohem více spoluprací. Společně, napříč obchodními jednotkami, se shodneme na prioritách organizace a tyto priority proměníme v technické požadavky, které nás budou hnát kupředu. Nemocnice a zdravotnické systémy目前 čelí mnoha denním výzvám, od řízení pracovních sil až po finanční omezení, a přijetí nové technologie nemusí být vždy na prvním místě. Naším největším cílem je ukázat, jak technologie může pomoci zmírnit tyto výzvy, spíše než je přidat, a celkovou hodnotu, kterou přináší jejich podnikání, zaměstnancům a pacientům.

Jaká je role umělé inteligence v budoucnosti propojených operací ve zdravotnictví?

S integrovanými daty, která se stávají dostupnějšími díky AI, lze tato data využít k propojení rozdílných systémů a zlepšení bezpečnosti a přesnosti napříč kontinuem péče. Tento koncept propojených operací ve zdravotnictví je kategorií, na kterou se ve společnosti RLDatix zaměřujeme, protože odemyká akční data a přehledy pro rozhodování ve zdravotnictví – a AI je integrální pro realizaci tohoto konceptu.

V recentním keynote, Chief Product Officer Barbara Staruk sdílela, jak RLDatix využívá generativní AI a velké jazykové modely ke streamlinování a automatizaci reportování incidentů týkajících se bezpečnosti pacientů. Můžete vysvětlit, jak to funguje?

Tato iniciativa je pro RLDatix velmi významná a je skvělým příkladem toho, jak využíváme potenciál LLM. Když nemocnice a zdravotnické systémy vyplňují zprávy o incidentech, existují目前 tři standardní formáty pro určení úrovně poškození uvedené ve zprávě: Formáty Agentury pro výzkum a kvalitu ve zdravotnictví, Rady pro koordinaci zpráv o chybách ve farmacii a Klasifikace bezpečnostních událostí (SEC) ve zdravotnickém výkonu. V současné době můžeme snadno vyškolit LLM, aby přečetl text ve zprávě o incidentu. Pokud pacient zemře, například, LLM může snadno rozpoznat tuto informaci. Výzvou však je, aby LLM rozpoznal kontext a rozlišil mezi složitějšími kategoriemi, jako je vážné trvalé poškození, taxonomie zahrnutá v SEC, například, versus vážné dočasné poškození. Pokud osoba, která báoří, nezahrne dostatečný kontext, LLM nebude moci určit odpovídající kategorii úrovně poškození pro konkrétní incident bezpečnosti pacienta.

RLDatix má za cíl implementovat jednodušší taxonomii, globálně, napříč našim portfoliem, s konkrétními kategoriemi, které lze snadno rozlišit LLM. V průběhu času budou uživatelé moci jednoduše napsat, co se stalo, a LLM se postará o zbytek, extrahující všechny důležité informace a předvyplňující formuláře o incidentech. To není pouze významná úspora času pro již tak zatíženou pracovní sílu, ale jak se model stane ještě pokročilejším, budeme také moci identifikovat kritické trendy, které umožní zdravotnickým organizacím učinit bezpečnější rozhodnutí napříč celou škálou.

Jaké jsou další způsoby, kterými RLDatix začíná využívat LLM ve svých operacích?

Dalším způsobem, jak využíváme LLM interně, je streamlinování procesu akreditace. Každý poskytovatel zdravotní péče má své akreditační údaje formátované jinak a obsahuje jedinečné informace. Abyste si to představili, každý lékař má svůj životopis formátovaný jinak – od písem, pracovních zkušeností, vzdělání až po celkové formátování. Akreditace je podobná. Kde poskytovatel absolvoval vysokou školu? Jaké má certifikace? V jakých článcích je publikován? Každý zdravotnický odborník bude poskytovat tyto informace svým vlastním způsobem.

Ve společnosti RLDatix LLM umožňuje číst tyto akreditační údaje a extrahovat všechny tyto údaje do standardizovaného formátu, aby ti, kteří pracují v datové vstupě, nemuseli tyto informace vyhledávat, a mohli se soustředit na smysluplné úkoly, které přidávají hodnotu.

Kybernetická bezpečnost byla vždy výzvou, zejména s přechodem na cloudové technologie, můžete diskutovat některé z těchto výzev?

Kybernetická bezpečnost je výzvou, a proto je důležité spolupracovat s pravým partnerem. Zajištění toho, aby LLM zůstaly zabezpečené a dodržovaly předpisy, je nejdůležitějším úvahám, když se využívají tyto technologie. Pokud vaše organizace nemá dostatečný personál, aby to zvládla, může to být neuvěřitelně náročné a časově náročné. Proto spolupracujeme s Amazon Web Services (AWS) na většině našich kybernetických bezpečnostních iniciativ. AWS nám pomáhá vštěpovat bezpečnost a dodržování předpisů jako základní principy do našich technologií, aby se RLDatix mohla soustředit na to, co opravdu děláme dobře – stavět skvělé produkty pro naše zákazníky ve všech našich vertikálách.

Jaké jsou některé z nových bezpečnostních hrozeb, kterým jste čelil v souvislosti s rychlým přijetím LLM?

Z pohledu RLDatix existuje několik úvah, kterými procházíme, když vyvíjíme a školení LLM. Důležitým zaměřením pro nás je zmírnit předpojatost a nespravedlnost. LLM jsou pouze tak dobré, jako jsou data, na kterých jsou školeny. Faktory, jako je pohlaví, rasa a další demografické údaje, mohou zahrnovat mnoho vrozených předpojatostí, protože samotný dataset je předpojatý. Například, pokud se jedná o jihovýchod Spojených států, který používá slovo “y’all” v každodenním jazyce, jedná se o jedinečnou jazykovou předpojatost, která je inherentní pro konkrétní populaci pacientů, kterou musí výzkumníci zohlednit, když školení LLM, aby přesně rozlišovaly jazykové nuance ve srovnání s jinými regiony. Tyto typy předpojatostí musí být řešeny ve velkém měřítku, když se jedná o využití LLM ve zdravotnictví, protože školení modelu v rámci jedné populace pacientů neznamená, že model bude fungovat v jiné.

Zajištění bezpečnosti, transparentnosti a odpovědnosti jsou také velkým zaměřením naší organizace, stejně jako zmírnění příležitostí pro halucinace a dezinformace. Zajištění toho, abychom aktivně řešili jakékoli obavy o soukromí, že rozumíme, jak model dosáhl určité odpovědi, a že máme zabezpečený vývojový cyklus, jsou všechny důležité součásti efektivní implementace a údržby.

Jaké jsou další algoritmy strojového učení, které se ve společnosti RLDatix využívají?

Používání strojového učení k odhalení kritických přehledů o plánování bylo zajímavým případem užití pro naši organizaci. V UK jsme se zaměřili na to, jak využít strojové učení, abychom lépe porozuměli, jak se provádí plánování (rostering) zdravotnických pracovníků. RLDatix má přístup k obrovskému množství dat o plánování z posledních deseti let, ale co s těmito informacemi můžeme udělat? To je místo, kde přichází strojové učení. Používáme model strojového učení k analýze historických dat a poskytování přehledů o tom, jak by mohla vypadat personální situace za dva týdny v konkrétní nemocnici nebo regionu.

Tento konkrétní případ je velmi dosažitelným modelem strojového učení, ale tlačíme hranice ještě dále tím, že ho propojujeme s reálnými událostmi. Například, co když se podíváme na všechny fotbalové zápasy v oblasti? Vědíme z první ruky, že sportovní události obvykle vedou k více zraněním a že místní nemocnice bude mít pravděpodobně více pacientů v den zápasu ve srovnání s běžným dnem. Pracujeme s AWS a dalšími partnery, abychom prozkoumali, jaké veřejné datové sady můžeme využít, aby se plánování stalo ještě efektivnějším. Už máme data, která naznačují, že uvidíme nárůst pacientů kolem velkých sportovních událostí nebo dokonce nepříznivého počasí, ale model strojového učení může jít ještě dále tím, že vezme tato data a identifikuje kritické trendy, které pomohou zajišťovat, aby nemocnice byly dostatečně personálně zajištěny, a tím snížíme tlak na naši pracovní sílu a posuneme náš obor směrem k bezpečnější péči pro všechny.

Děkuji za skvělý rozhovor, čtenáři, kteří si chtějí dozvědět více, by měli navštívit RLDatix.