Vivek Desai, Chief Technology Officer, North America at RLDatix – Wywiad

Vivek Desai jest Chief Technology Officerem w Ameryce Północnej w RLDatix, firmą zajmującą się oprogramowaniem i usługami dla połączonych operacji opieki zdrowotnej. RLDatix ma na celu zmianę opieki zdrowotnej. Pomagają organizacjom w prowadzeniu bezpieczniejszej i bardziej efektywnej opieki, dostarczając narzędzia do zarządzania, ryzyka i zgodności, które przynoszą ogólne poprawy i bezpieczeństwo.

Czym pierwotnie zainteresował się pan informatyką i cyberbezpieczeństwem?

Zostałem przyciągnięty przez złożoność problemów, które informatyka i cyberbezpieczeństwo starają się rozwiązać – zawsze pojawia się nowe wyzwanie do eksploracji. Dobrym przykładem jest to, gdy chmura zaczęła zyskiwać na popularności. Obiecywała wiele, ale również podnosiła pewne pytania dotyczące bezpieczeństwa obciążeń. Było bardzo jasne od samego początku, że tradycyjne metody były tymczasowym rozwiązaniem, a organizacje na całym świecie będą musiały opracować nowe procesy, aby skutecznie zabezpieczyć obciążenia w chmurze. Nawigowanie w tych nowych metodach było dla mnie i wielu innych osób pracujących w tej dziedzinie bardzo ekscytującą przygodą. Jest to dynamiczna i ewoluująca branża, więc każdy dzień przynosi coś nowego i ekscytującego.

Czy mógłby pan podzielić się niektórymi z bieżących odpowiedzialności, które ma pan jako CTO w RLDatix?  

Obecnie koncentruję się na prowadzeniu naszej strategii danych i na znalezieniu sposobów tworzenia synergii między naszymi produktami a danymi, które przechowują, aby lepiej zrozumieć trendy. Wiele z naszych produktów przechowuje podobne typy danych, więc moim zadaniem jest znalezienie sposobów, aby złamać te bariery i ułatwić naszym klientom, zarówno szpitalom, jak i systemom opieki zdrowotnej, dostęp do tych danych. Wraz z tym pracuję również nad naszą globalną strategią sztucznej inteligencji (AI), aby poinformować ten dostęp do danych i ich wykorzystanie w całym ekosystemie.

Utrzymywanie bieżącej wiedzy na temat pojawiających się trendów w różnych branżach jest kolejnym kluczowym aspektem mojej roli, aby upewnić się, że idziemy w odpowiednim strategicznym kierunku. Obecnie uważnie obserwuję duże modele językowe (LLM). Jako firma pracujemy nad znalezieniem sposobów integracji LLM z naszą technologią, aby umożliwić i wzmocnić ludzi, szczególnie pracowników opieki zdrowotnej, zmniejszyć ich obciążenie poznawcze i umożliwić im skoncentrowanie się na opiece nad pacjentami.

W swoim poście na LinkedIn zatytułowanym “A Reflection on My 1st Year as a CTO,” pan napisał, “CTO nie pracują samotnie. Są częścią zespołu.” Czy mógłby pan wyjaśnić niektóre z wyzwań, z którymi pan się zetknął i jak pan radził sobie z delegowaniem i pracą zespołową w projektach, które są wewnętrznie technicznie wymagające?

Rola CTO zmieniła się fundamentalnie w ciągu ostatniej dekady. Minęły czasy, kiedy pracowaliśmy w pomieszczeniu serwerowym. Teraz praca jest znacznie bardziej współpracująca. Razem, przez jednostki biznesowe, ustalamy priorytety organizacyjne i zmieniamy te aspiracje w wymagania techniczne, które nas napędzają do przodu. Szpitale i systemy opieki zdrowotnej obecnie nawigują przez wiele codziennych wyzwań, od zarządzania personelem do ograniczeń finansowych, a przyjęcie nowej technologii może nie zawsze być priorytetem. Naszym największym celem jest pokazanie, jak technologia może pomóc złagodzić te wyzwania, a nie dodać do nich, i jaka jest ogólna wartość, którą przynosi ona ich firmie, pracownikom i pacjentom. To wysiłek nie może być wykonany samotnie lub nawet w ramach mojego zespołu, więc współpraca rozciąga się na wielodyscyplinarne jednostki, aby opracować spójną strategię, która pokaże tę wartość, czy to poprzez dostarczanie klientom dostępu do odblokowanych danych, czy aktywowanie procesów, których obecnie nie są w stanie wykonać.

Jaka jest rola sztucznej inteligencji w przyszłości połączonych operacji opieki zdrowotnej?

Połączone dane mogą być wykorzystane do połączenia rozproszonych systemów i poprawy bezpieczeństwa i dokładności w całym łańcuchu opieki. Ten koncept połączonych operacji opieki zdrowotnej jest kategorią, na którą się koncentrujemy w RLDatix, ponieważ odblokowuje działania danych i wglądy dla decydentów opieki zdrowotnej – a sztuczna inteligencja jest niezbędna do uczynienia tego rzeczywistością.

Negocjowalnym aspektem tej integracji jest zapewnienie, że wykorzystanie danych jest bezpieczne i zgodne, a ryzyko jest zrozumiałe. Jesteśmy liderem rynku w polityce, ryzyku i bezpieczeństwie, co oznacza, że mamy wiele danych do szkolenia podstawowych LLM z większą dokładnością i niezawodnością. Aby osiągnąć prawdziwe połączone operacje opieki zdrowotnej, pierwszym krokiem jest scalenie rozproszonych rozwiązań, a drugim jest wyodrębnienie danych i ich normalizacja w tych rozwiązaniach. Szpitale będą korzystać znacznie z grupy połączonych rozwiązań, które mogą łączyć zestawy danych i zapewniać wartość użytkownikom, zamiast utrzymywać oddzielne zestawy danych z indywidualnych punktowych rozwiązań.

W niedawnym wykładzie, Chief Product Officer Barbara Staruk opowiedziała, jak RLDatix wykorzystuje generatywną sztuczną inteligencję i duże modele językowe do uproszczenia i automatyzacji raportowania incydentów dotyczących bezpieczeństwa pacjentów. Czy mógłby pan wyjaśnić, jak to działa?

To jest bardzo istotna inicjatywa dla RLDatix i doskonały przykład tego, jak maksymalizujemy potencjał LLM. Gdy szpitale i systemy opieki zdrowotnej składają raporty incydentów, istnieją obecnie trzy standardowe formaty określania poziomu szkody wskazanego w raporcie: Formaty Wspólne Agencji ds. Badań i Jakości Opieki Zdrowotnej, Narodowa Rada Koordynująca ds. Raportowania Błędów Medycznych i Klasyfikacja Zdarzeń Bezpieczeństwa (SEC) Rady ds. Poprawy Wydajności Opieki Zdrowotnej. Obecnie możemy łatwo przeszkolić LLM do odczytania tekstu w raporcie incydentu. Jeśli pacjent umiera, na przykład, LLM może łatwo wyodrębnić tę informację. Wyzwaniem jest jednak przeszkolenie LLM do określenia kontekstu i odróżnienia między bardziej złożonymi kategoriach, takimi jak ciężka stała szkoda, taksonomia zawarta w SEC, a ciężka tymczasowa szkoda. Jeśli osoba składająca raport nie zawiera wystarczającego kontekstu, LLM nie będzie w stanie określić odpowiedniego poziomu kategoryzacji szkody dla tego konkretnego incydentu dotyczącego bezpieczeństwa pacjentów.

RLDatix ma na celu wdrożenie prostszej taksonomii na całym świecie, w całym naszym portfolio, z konkretnymi kategoriami, które mogą być łatwo odróżnione przez LLM. Z czasem użytkownicy będą mogli po prostu napisać, co się wydarzyło, a LLM zajmie się tym dalej, wyodrębniając wszystkie ważne informacje i wstępnie wypełniając formularze incydentów. Nie tylko jest to znaczne oszczędność czasu dla już obciążonej siły roboczej, ale także, gdy model stanie się jeszcze bardziej zaawansowany, będziemy w stanie zidentyfikować krytyczne trendy, które umożliwią organizacjom opieki zdrowotnej podejmowanie bezpieczniejszych decyzji na całym świecie.

Jakie są inne sposoby, w jakie RLDatix zaczął włączać LLM do swoich operacji?

Innym sposobem, w jaki wykorzystujemy LLM wewnętrznie, jest uproszczenie procesu akredytacji. Każde poświadczenie dostawcy jest sformatowane inaczej i zawiera unikalne informacje. Aby to uwzględnić, pomyśl, jak każdy CV wygląda inaczej – od czcionek, doświadczenia zawodowego, edukacji i ogólnego formatowania. Akredytacja jest podobna. Gdzie dostawca ukończył college? Jaki jest jego certyfikat? W jakich artykułach został opublikowany? Każdy pracownik opieki zdrowotnej będzie dostarczał te informacje na swój sposób.

W RLDatix LLM umożliwiają nam odczytanie tych poświadczeń i wyodrębnienie wszystkich danych w standardowym formacie, tak aby osoby pracujące w danych wejściowych nie musiały ich rozglądać, umożliwiając im spędzanie mniej czasu na składniku administracyjnym i koncentrowanie się na znaczących zadaniach, które dodają wartość.

Cyberbezpieczeństwo zawsze było wyzwaniem, szczególnie ze względu na przejście na technologie oparte na chmurze, czy mógłby pan omówić niektóre z tych wyzwań?

Cyberbezpieczeństwo jest wyzwaniem, dlatego ważne jest współpracowanie z odpowiednim partnerem. Zapewnienie, że LLM pozostają bezpieczne i zgodne, jest najważniejszym rozważaniem przy korzystaniu z tej technologii. Jeśli Twoja organizacja nie ma dedykowanego personelu wewnętrznego, aby to zrobić, może to być niezwykle trudne i czasochłonne. Dlatego współpracujemy z Amazon Web Services (AWS) w większości naszych inicjatyw związanych z cyberbezpieczeństwem. AWS pomaga nam wpajać bezpieczeństwo i zgodność jako podstawowe zasady w naszej technologii, aby RLDatix mogła się skoncentrować na tym, co robimy naprawdę dobrze – budowaniu wielkich produktów dla naszych klientów we wszystkich naszych odpowiednich pionach.

Jakie są niektóre nowe zagrożenia bezpieczeństwa, które pan zobaczył wraz z niedawnym szybkim przyjęciem LLM?

Ze strony RLDatix istnieje kilka kwestii, które rozważamy podczas opracowywania i szkolenia LLM. Ważnym punktem dla nas jest złagodzenie biasu i niesprawiedliwości. LLM są tak dobre, jak dane, na których są szkolone. Czynniki takie jak płeć, rasa i inne demograficzne mogą zawierać wiele wewnętrznych biasów, ponieważ sam zestaw danych jest tendencyjny. Na przykład, pomyśl, jak południowo-wschodnie Stany Zjednoczone używają słowa „y’all” w codziennym języku. Jest to unikalny językowy bias właściwy dla określonej populacji pacjentów, których badacze muszą brać pod uwagę przy szkoleniu LLM, aby dokładnie odróżnić nuans języka w porównaniu z innymi regionami. Te rodzaje biasów muszą być rozwiązane w skali, jeśli chodzi o wykorzystanie LLM w opiece zdrowotnej, ponieważ szkolenie modelu w ramach jednej populacji pacjentów niekoniecznie oznacza, że model będzie działał w innej.

Utrzymywanie bezpieczeństwa, przejrzystości i odpowiedzialności są również dużymi punktami koncentracji dla naszej organizacji, a także złagodzenie wszelkich możliwości halucynacji i dezinformacji. Zapewnienie, że aktywnie rozwiązujemy wszelkie obawy dotyczące prywatności, że rozumiemy, w jaki sposób model doszedł do pewnej odpowiedzi, i że mamy bezpieczny cykl rozwoju w miejscu, są wszystkie ważne składniki skutecznej implementacji i utrzymania.

Jakie są inne algorytmy uczenia maszynowego, które są wykorzystywane w RLDatix?

Wykorzystanie uczenia maszynowego do odkrycia krytycznych wglądów w planowaniu jest interesującym przypadkiem użycia dla naszej organizacji. W Wielkiej Brytanii konkretnie eksplorujemy, w jaki sposób wykorzystać uczenie maszynowe, aby lepiej zrozumieć, jak rostering, czyli planowanie personelu pielęgniarskiego i lekarskiego, występuje. RLDatix ma dostęp do ogromnej ilości danych planistycznych z minionego dziesięciolecia, ale co możemy z tymi danymi zrobić? To tam uczenie maszynowe przychodzi do gry. Wykorzystujemy model uczenia maszynowego do analizy tych historycznych danych i dostarczania wglądów w to, jak sytuacja kadrowa może wyglądać dwa tygodnie od teraz, w określonym szpitalu lub regionie.

Ten konkretny przypadek użycia jest bardzo osiągalnym modelem uczenia maszynowego, ale pchamy granice jeszcze dalej, łącząc go z realnymi zdarzeniami. Na przykład, co by było, gdybyśmy spojrzeli na każdy harmonogram piłkarski w okolicy? Wiemy z pierwszej ręki, że imprezy sportowe prowadzą zwykle do więcej urazów i że lokalny szpital będzie miał prawdopodobnie więcej pacjentów w dniu imprezy w porównaniu z typowym dniem. Pracujemy z AWS i innymi partnerami, aby zbadać, jakie publiczne zestawy danych możemy zasiali, aby uczynić planowanie jeszcze bardziej uporządkowanym. Już mamy dane, które sugerują, że zobaczymy wzrost pacjentów wokół dużych imprez sportowych lub nawet niekorzystnych warunków pogodowych, ale model uczenia maszynowego może pójść o krok dalej, biorąc te dane i identyfikując krytyczne trendy, które pomogą zapewnić, że szpitale są odpowiednio obsadzone, ostatecznie zmniejszając obciążenie naszej siły roboczej i prowadząc naszą branżę o krok dalej w kierunku bezpieczniejszej opieki dla wszystkich.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić RLDatix.