Vivek Desai, Chief Technology Officer, North America at RLDatix – Wywiad z serii

Vivek Desai jest Chief Technology Officer w Ameryce Północnej w RLDatix, firmy zajmującej się oprogramowaniem i usługami dla połączonych operacji opieki zdrowotnej. RLDatix ma na celu zmienić opiekę zdrowotną. Pomagają organizacjom zapewnić bezpieczniejszą, bardziej efektywną opiekę, dostarczając narzędzia do zarządzania, ryzyka i zgodności, które przyczyniają się do ogólnej poprawy i bezpieczeństwa.

Co początkowo skłoniło Cię do zainteresowania się informatyką i cyberbezpieczeństwem?

Zostałem przyciągnięty złożonością tego, co informatyka i cyberbezpieczeństwo starają się rozwiązać – zawsze pojawia się nowe wyzwanie do eksploracji. Dobrym przykładem jest to, gdy chmura zaczęła zyskiwać na popularności. Zapowiadała się obiecująco, ale również rodziła pewne pytania dotyczące bezpieczeństwa obciążeń. Było bardzo jasne od samego początku, że tradycyjne metody były rozwiązaniem tymczasowym, a organizacje na całym świecie będą musiały opracować nowe procesy, aby skutecznie zabezpieczyć obciążenia w chmurze. Nawigowanie w tych nowych metodach było bardzo ekscytującą podróżą dla mnie i wielu innych pracujących w tej dziedzinie. Jest to dynamicznie rozwijający się przemysł, więc każdy dzień przynosi coś nowego i ekscytującego.

Czy mógłbyś podzielić się niektórymi z bieżących odpowiedzialności, które masz jako CTO w RLDatix?

Obecnie koncentruję się na prowadzeniu naszej strategii danych i na znalezieniu sposobów tworzenia synergii między naszymi produktami a danymi, które przechowują, aby lepiej zrozumieć trendy. Wiele z naszych produktów przechowuje podobne rodzaje danych, więc moim zadaniem jest znalezienie sposobów, aby złamać te bariery i ułatwić naszym klientom, zarówno szpitalom, jak i systemom opieki zdrowotnej, dostęp do danych. Pracuję również nad naszą globalną strategią sztucznej inteligencji (AI), aby poinformować ten dostęp do danych i ich wykorzystanie w całym ekosystemie.

Kolejnym ważnym aspektem mojej roli jest pozostawanie na bieżącym z nowymi trendami w różnych branżach, aby upewnić się, że idziemy w odpowiednim strategicznym kierunku. Obecnie uważnie obserwuję duże modele językowe (LLM). Jako firma pracujemy nad znalezieniem sposobów integracji LLM z naszą technologią, aby umocnić i wesprzeć ludzi, szczególnie pracowników opieki zdrowotnej, zmniejszyć ich obciążenie poznawcze i umożliwić im skoncentrowanie się na opiece nad pacjentami.

W Twoim poście na LinkedIn zatytułowanym “A Reflection on My 1st Year as a CTO” napisałeś, “CTO nie pracują samotnie. Są częścią zespołu.” Czy mógłbyś wyjaśnić niektóre z wyzwań, z którymi się zetknąłeś, i jak radzisz sobie z delegowaniem i pracą zespołową w projektach, które są wewnętrznie trudne technicznie?

Rola CTO zmieniła się fundamentalnie w ciągu ostatniej dekady. Minęły już czasy pracy w pomieszczeniu serwerowni. Teraz praca jest znacznie bardziej współpracująca. Razem, we wszystkich jednostkach biznesowych, ustalamy priorytety organizacyjne i zmieniamy te aspiracje w wymagania techniczne, które nas napędzają do przodu. Szpitale i systemy opieki zdrowotnej obecnie nawigują przez wiele codziennych wyzwań, od zarządzania zasobami ludzkimi po ograniczenia finansowe, a przyjęcie nowej technologii nie zawsze jest priorytetem. Naszym największym celem jest pokazanie, jak technologia może pomóc złagodzić te wyzwania, a nie dodać do nich, oraz jaka jest ogólna wartość, którą przynosi ona ich firmie, pracownikom i pacjentom. To wysiłek nie może być wykonany samodzielnie lub nawet w ramach mojego zespołu, więc współpraca obejmuje jednostki międzydyscyplinarne, aby opracować spójną strategię, która pokaże tę wartość, niezależnie od tego, czy wynika ona z udostępnienia klientom dostępu do odblokowanych wglądów danych, czy aktywowania procesów, których obecnie nie są w stanie wykonać.

Jaka jest rola sztucznej inteligencji w przyszłości połączonych operacji opieki zdrowotnej?

Gdy dane połączone stają się bardziej dostępne dzięki AI, mogą być wykorzystywane do połączenia rozproszonych systemów i poprawy bezpieczeństwa oraz dokładności w całym ciągu opieki. Ten concept połączonych operacji opieki zdrowotnej jest kategorią, na którą się koncentrujemy w RLDatix, ponieważ odblokowuje działające dane i wglądy dla decydentów opieki zdrowotnej – a AI jest integralna dla uczynienia tego rzeczywistością.

Niewątpliwym aspektem tej integracji jest zapewnienie, że wykorzystanie danych jest bezpieczne i zgodne, a ryzyka są zrozumiałe. Jesteśmy liderem rynkowym w polityce, ryzyku i bezpieczeństwie, co oznacza, że mamy ogromną ilość danych do szkolenia podstawowych LLM z większą dokładnością i niezawodnością. Aby osiągnąć prawdziwe połączone operacje opieki zdrowotnej, pierwszym krokiem jest scalenie rozproszonych rozwiązań, a drugim jest wyodrębnienie danych i ich ujednolicenie w tych rozwiązaniach. Szpitale będą korzystać znacznie z grupy połączonych rozwiązań, które mogą łączyć zestawy danych i dostarczać wartość użytkową użytkownikom, zamiast utrzymywać oddzielne zestawy danych z indywidualnych rozwiązań punktowych.

W niedawnym wykładzie, Chief Product Officer Barbara Staruk wyjaśniła, jak RLDatix wykorzystuje generatywną AI i duże modele językowe do uproszczenia i automatyzacji raportowania incydentów dotyczących bezpieczeństwa pacjentów. Czy mógłbyś wyjaśnić, jak to działa?

To jest bardzo istotna inicjatywa dla RLDatix i doskonały przykład tego, jak maksymalizujemy potencjał LLM. Gdy szpitale i systemy opieki zdrowotnej wypełniają raporty incydentów, istnieją obecnie trzy standardowe formaty ustalania poziomu szkody wskazanego w raporcie: Formaty Wspólne Agencji ds. Badań i Jakości Opieki Zdrowotnej, Narodowej Rady Koordynującej ds. Raportowania Błędów Lekarskich i Poprawy Wydajności oraz Klasyfikacja Zdarzeń Bezpieczeństwa (SEC) Healthcare Performance Improvement (HPI). Obecnie możemy łatwo przeszkolić LLM do odczytania tekstu w raporcie incydentu. Jeśli pacjent umiera, na przykład, LLM może bezproblemowo wskazać tę informację. Wyzwaniem jest jednak przeszkolenie LLM do określenia kontekstu i rozróżnienia między bardziej złożonymi kategoriach, takimi jak ciężka, stała szkoda, taksonomia zawarta w HPI SEC, na przykład, a ciężka, tymczasowa szkoda. Jeśli osoba składająca raport nie zawrze wystarczającego kontekstu, LLM nie będzie w stanie określić odpowiedniego poziomu szkody dla danego incydentu dotyczącego bezpieczeństwa pacjenta.

RLDatix ma na celu wdrożenie prostszej taksonomii na całym świecie, w całym naszym portfolio, z konkretnymi kategoriami, które mogą być łatwo rozróżnione przez LLM. Z biegiem czasu użytkownicy będą mogli po prostu napisać, co się wydarzyło, a LLM zajmie się tym dalej, wyodrębniając wszystkie ważne informacje i wstępnie wypełniając formularze incydentów. Nie tylko jest to znaczne oszczędność czasu dla już obciążonej siły roboczej, ale gdy model stanie się jeszcze bardziej zaawansowany, będziemy również w stanie zidentyfikować krytyczne trendy, które umożliwią organizacjom opieki zdrowotnej podejmowanie bezpieczniejszych decyzji na całym świecie.

Jakie są inne sposoby, w jakie RLDatix zaczął włączać LLM do swoich operacji?

Innym sposobem, w jaki wykorzystujemy LLM wewnętrznie, jest uproszczenie procesu akredytacji. Każdego dostawcy poświadczeń formatuje się inaczej i zawiera unikalne informacje. Aby to zobrazować, pomyśl, jak każdy CV wygląda inaczej – od czcionek, doświadczenia zawodowego, wykształcenia i ogólnego formatowania. Akredytacja jest podobna. Gdzie dostawca ukończył college? Jaki jest jego certyfikat? W jakich artykułach został opublikowany? Każdy pracownik opieki zdrowotnej będzie dostarczał te informacje na swój sposób.

W RLDatix LLM umożliwia nam odczytanie tych poświadczeń i wyodrębnienie wszystkich danych w ujednoliconej formacie, tak aby ci, którzy pracują w danych wejściowych, nie musieli ich rozlegle szukać, umożliwiając im spędzanie mniej czasu na składniku administracyjnym i koncentrowanie swojego czasu na zadaniach, które dodają wartość.

Cyberbezpieczeństwo zawsze było wyzwaniem, szczególnie wraz ze zmianą na technologie oparte na chmurze, czy mógłbyś omówić niektóre z tych wyzwań?

Cyberbezpieczeństwo jest wyzwaniem, dlatego ważne jest współpracowanie z odpowiednim partnerem. Zapewnienie, że LLM pozostają bezpieczne i zgodne, jest najważniejszym rozważaniem przy wykorzystywaniu tej technologii. Jeśli Twoja organizacja nie ma dedykowanego personelu wewnętrznego, aby to zrobić, może to być niezwykle trudne i czasochłonne. Dlatego współpracujemy z Amazon Web Services (AWS) w większości naszych inicjatyw związanych z cyberbezpieczeństwem. AWS pomaga nam wpajać bezpieczeństwo i zgodność jako podstawowe zasady w naszej technologii, aby RLDatix mogła się skoncentrować na tym, co robimy naprawdę dobrze – budowaniu wielkich produktów dla naszych klientów we wszystkich naszych odpowiednich pionach.

Jakie są niektóre nowe zagrożenia bezpieczeństwa, które widziałeś wraz z niedawnym szybkim przyjęciem LLM?

Z perspektywy RLDatix istnieją pewne rozważania, którymi się zajmujemy, opracowując i szkoląc LLM. Ważnym punktem dla nas jest złagodzenie skutków stronniczości i niesprawiedliwości. LLM są tak dobre, jak dane, na których są szkolone. Czynniki takie jak płeć, rasa i inne demograficzne mogą zawierać wiele wrodzonych stronniczości, ponieważ sam zestaw danych jest stronniczy. Na przykład, pomyśl, jak południowo-wschodnie Stany Zjednoczone używają słowa „y’all” w codziennym języku. Jest to unikalna stronniczość językowa wrodzona dla określonej populacji pacjentów, której badacze muszą uwzględnić przy szkoleniu LLM, aby dokładnie rozróżnić nuans językowe w porównaniu z innymi regionami. Te rodzaje stronniczości muszą być rozwiązane w skali, gdy chodzi o wykorzystanie LLM w opiece zdrowotnej, ponieważ szkolenie modelu w ramach jednej populacji pacjentów niekoniecznie oznacza, że model będzie działał w innej.

Utrzymywanie bezpieczeństwa, przejrzystości i odpowiedzialności są również dużymi punktami koncentracji naszej organizacji, a także złagodzenie wszelkich możliwości halucynacji i dezinformacji. Zapewnienie, że aktywnie rozwiązujemy wszelkie problemy związane z prywatnością, że rozumiemy, w jaki sposób model doszedł do określonej odpowiedzi, oraz że mamy bezpieczny cykl rozwoju w miejscu, są wszystkie ważne składniki skutecznej implementacji i utrzymania.

Jakie są inne algorytmy uczenia maszynowego, które są wykorzystywane w RLDatix?

Użycie uczenia maszynowego do odkrywania krytycznych wglądów w planowaniu było ciekawym przypadkiem użycia w naszej organizacji. W Wielkiej Brytanii konkretnie badaliśmy, jak wykorzystać uczenie maszynowe, aby lepiej zrozumieć, w jaki sposób odbywa się planowanie, lub harmonogramowanie pielęgniarek i lekarzy. RLDatix ma dostęp do ogromnej ilości danych planistycznych z minionego dziesięciolecia, ale co możemy z tymi informacjami zrobić? To właśnie tam pojawia się uczenie maszynowe. Wykorzystujemy model uczenia maszynowego do analizy tych historycznych danych i dostarczania wglądów w to, jak sytuacja kadrowa może wyglądać dwa tygodnie od teraz, w konkretnym szpitalu lub w określonym regionie.

Ten konkretny przypadek jest bardzo osiągalnym modelem uczenia maszynowego, ale pchamy granice jeszcze dalej, łącząc go z prawdziwymi zdarzeniami. Na przykład, co gdybyśmy spojrzeli na każdy harmonogram piłkarski w okolicy? Wiemy na pierwszy rzut oka, że imprezy sportowe zwykle prowadzą do więcej urazów i że lokalny szpital będzie miał więcej pacjentów w dniu imprezy w porównaniu z zwykłym dniem. Pracujemy z AWS i innymi partnerami, aby zbadać, jakie publiczne zestawy danych możemy zasiali, aby uczynić planowanie jeszcze bardziej przemyślanym. Już mamy dane, które sugerują, że zobaczymy wzrost pacjentów wokół dużych imprez sportowych lub nawet niekorzystnej pogody, ale model uczenia maszynowego może pójść o krok dalej, biorąc te dane i identyfikując krytyczne trendy, które pomogą szpitalom być odpowiednio obsadzonymi, ostatecznie zmniejszając presję na naszą siłę roboczą i prowadząc nasz przemysł o krok dalej w kierunku bezpieczniejszej opieki dla wszystkich.

Dziękujemy za wspaniały wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić RLDatix.