Ittai Dayan, MD, współzałożyciel i CEO Rhino Health – seria wywiadów

Ittai Dayan, MD jest współzałożycielem i CEO Rhino Health. Jego tło to rozwój sztucznej inteligencji i diagnostyki, a także medycyna kliniczna i badania. Jest byłym członkiem zespołu ds. opieki zdrowotnej w BCG oraz dyrektorem wykonawczym szpitala. Obecnie skupia się na przyczynianiu się do rozwoju bezpiecznej, równoprawnej i wpływowej sztucznej inteligencji w branży opieki zdrowotnej i nauk o życiu. W Rhino Health wykorzystują one rozproszone obliczenia i Federated Learning jako środek do utrzymania prywatności pacjentów i wspierania współpracy w fragmentowanej służbie zdrowia.

Służył w IDF – siłach specjalnych, kierował największym ośrodkiem translacyjnym AI w świecie. Jest ekspertem w dziedzinie rozwoju i komercjalizacji AI, a także długodystansowym biegaczem.

Czy mógłbyś podzielić się historią powstania Rhino Health?

Moja podróż do AI rozpoczęła się, gdy byłem klinicystą i badaczem, używając wczesnej formy „cyfrowego biomarkera” do pomiaru odpowiedzi na leczenie zaburzeń psychicznych. Później zostałem dyrektorem Centrum Nauk Klinicznych o nazwie CCDS w Mass General Brigham. Tam nadzorowałem rozwój dziesiątek aplikacji AI, i byłam świadkiem pierwszej ręki podstawowych wyzwań związanych z dostępem i „aktywowaniem” danych niezbędnych do rozwoju i szkolenia produktów AI o jakości regulacyjnej.

Pomimo wielu postępów w dziedzinie AI w ochronie zdrowia, droga od rozwoju do wprowadzenia produktu na rynek jest długa i często nierówna. Rozwiązania ulegają awarii (lub po prostu zawodzą) po wdrożeniu klinicznym, a wspieranie pełnego cyklu życia AI jest prawie niemożliwe bez ciągłego dostępu do dużej ilości danych klinicznych. Wyzwanie przesunęło się z tworzenia modeli do utrzymania ich. Aby odpowiedzieć na to wyzwanie, przekonałem system Mass General Brigham o wartości posiadania własnego „specjalistycznego CRO dla AI” (CRO = Clinical Research Org), aby przetestować algorytmy od wielu komercyjnych deweloperów.

Jednak problem pozostał – dane zdrowotne nadal są bardzo rozproszone, a nawet duże ilości danych z jednej sieci nie są wystarczające, aby zwalczyć coraz węższe cele AI medycznej. Latem 2020 roku zainicjowałem i poprowadziłem (wraz z Dr. Moną Flores z NVIDIA (NVDA )) największe studium Federated Learning (FL) w dziedzinie ochrony zdrowia w tamtym czasie, EXAM. Wykorzystaliśmy FL do stworzenia modelu przewidywania wyników COVID, wykorzystując dane z całego świata, bez udostępniania żadnych danych. Następnie opublikowano to w Nature Medicine, to studium wykazało pozytywny wpływ wykorzystania różnorodnych i rozproszonych zbiorów danych oraz podkreśliło potencjał dla szerszego zastosowania Federated Learning w ochronie zdrowia.

Ten doświadczenie jednak ujawnił szereg wyzwań. Obejmowały one koordynowanie danych w różnych miejscach, zapewnienie śledzenia danych i właściwej charakterystyki, a także ciężar nałożony na działy IT z każdej instytucji, które musiały nauczyć się nowoczesnych technologii, których nie znają. To wymagało nowej platformy, która będzie wspierać te nowe „rozproszone dane” współpracy. Postanowiłem połączyć się z moim współzałożycielem, Yuval Barorem, aby stworzyć platformę końca do końca do wspierania współpracy zachowującej prywatność. Ta platforma to „Rhino Health Platform”, wykorzystująca FL i edge-compute.

Dlaczego uważasz, że modele AI często nie spełniają oczekiwań w środowisku opieki zdrowotnej?

AI medyczna jest często szkolona na małych, wąskich zbiorach danych, takich jak zbiory danych z jednej instytucji lub regionu geograficznego, co powoduje, że wynikowy model działa dobrze tylko na typach danych, które widział. Gdy algorytm jest stosowany do pacjentów lub sytuacji, które różnią się od wąskiego zestawu danych szkoleniowych, wydajność jest znacznie pogorszona.

Andrew Ng ujął to pojęcie dobrze, gdy stwierdził, „Okazuje się, że gdy zbieramy dane ze szpitala Stanford… możemy opublikować prace pokazujące [algorytmy], które są porównywalne z radiologami w wykrywaniu pewnych stanów. … [Gdy] weźmiemy ten sam model, ten sam system AI, do starszego szpitala na tej samej ulicy, ze starszą maszyną, a technik używa nieco innego protokołu obrazowania, te dane dryfują, powodując znaczne pogorszenie wydajności systemu AI.”³

Prosto mówiąc, większość modeli AI nie jest szkolona na danych, które są wystarczająco różnorodne i wysokiej jakości, co skutkuje słabą „rzeczywistą” wydajnością. Ten problem został dobrze udokumentowany w both naukowych i głównych kręgach, takich jak w Science i Politico.

Jak ważne jest testowanie na różnorodnych grupach pacjentów?

Testowanie na różnorodnych grupach pacjentów jest kluczowe, aby zapewnić, że wynikowy produkt AI jest nie tylko skuteczny i wydajny, ale także bezpieczny. Algorytmy, które nie są szkolone lub testowane na wystarczająco różnorodnych grupach pacjentów, mogą cierpieć na bias algorytmiczny, poważny problem w ochronie zdrowia i technologiach medycznych. Nie tylko takie algorytmy będą odzwierciedlać bias, który był obecny w danych szkoleniowych, ale także zwiększą ten bias i nasiliły istniejące nierówności rasowe, etniczne, religijne, płciowe itp. w ochronie zdrowia. Brak testowania na różnorodnych grupach pacjentów może skutkować niebezpiecznymi produktami.

Niedawno opublikowane badanie⁵, wykorzystujące platformę Rhino Health, zbadało wydajność algorytmu AI do wykrywania tętniaków mózgu opracowanego w jednym miejscu na czterech różnych miejscach z różnymi typami skanerów. Wyniki wykazały znaczną zmienność wydajności na miejscach z różnymi typami skanerów, podkreślając wagę szkolenia i testowania na różnorodnych zbiorach danych.

Jak identyfikujesz, czy subpopulacja nie jest reprezentowana?

Typowy sposób to analiza rozkładu zmiennych w różnych zbiorach danych, indywidualnie i łącznie. To może poinformować deweloperów, kiedy przygotowują zbiory danych szkoleniowych i walidacyjnych. Platforma Rhino Health pozwala to zrobić, a ponadto użytkownicy mogą zobaczyć, jak model działa na różnych kohortach, aby zapewnić ogólną wydajność i trwałą wydajność wśród subpopulacji.

Czy mógłbyś opisać, co to jest Federated Learning i jak rozwiązuje niektóre z tych problemów?

Federated Learning (FL) można ogólnie zdefiniować jako proces, w którym modele AI są szkolone i następnie poprawiane w czasie, wykorzystując rozproszone dane, bez potrzeby udostępniania lub centralizacji danych. To jest ogromny krok naprzód w rozwoju AI. Historycznie, każdy użytkownik, który chce współpracować z wieloma miejscami, musi połączyć te dane, co powoduje mnóstwo uciążliwych, kosztownych i czasochłonnych prawnych, ryzyka i zgodności.

Dziś, z oprogramowaniem takim jak platforma Rhino Health, FL staje się codzienną rzeczywistością w ochronie zdrowia i naukach o życiu. Federated Learning pozwala użytkownikom na eksplorację, kurację i walidację danych, podczas gdy dane pozostają na serwerach lokalnych współpracowników. Kontenerowany kod, taki jak algorytm AI/ML lub aplikacja analityczna, jest wysyłany na serwer lokalny, gdzie wykonywany jest kod, taki jak szkolenie lub walidacja algorytmu AI/ML, „lokalnie”. Dane pozostają z „opiekunem danych” w każdej chwili.

Szpitale, w szczególności, są zaniepokojone ryzykiem związanym z agregacją wrażliwych danych pacjentów. To już doprowadziło do niefortunnych sytuacji, w których stało się jasne, że instytucje opieki zdrowotnej współpracowały z przemysłem bez dokładnego zrozumienia wykorzystania ich danych. W związku z tym ograniczają one ilość współpracy, którą zarówno przemysł, jak i badacze akademicki mogą prowadzić, co spowalnia badania i wpływa na jakość produktów w całej branży opieki zdrowotnej. FL może złagodzić to i umożliwić współpracę danych jak nigdy wcześniej, przy jednoczesnym kontrolowaniu ryzyka związanego z tymi współpracami.

Czy mógłbyś podzielić się wizją Rhino Health dotyczącą umożliwienia szybkiego tworzenia modeli przy użyciu bardziej różnorodnych danych?

Wizja Rhino Health to ekosystem deweloperów i użytkowników AI, współpracujących bez strachu i ograniczeń, przy jednoczesnym poszanowaniu granic regulacyjnych. Współpracownicy mogą szybko identyfikować niezbędne dane szkoleniowe i testowe z całego świata, uzyskiwać dostęp i wchodzić w interakcje z tymi danymi oraz iterować rozwój modelu, aby zapewnić wystarczającą ogólną wydajność, bezpieczeństwo i wydajność.

W centrum tego jest platforma Rhino Health, zapewniająca „jedno okienko” dla deweloperów AI do konstruowania ogromnych i różnorodnych zbiorów danych, szkolenia i walidacji algorytmów AI oraz ciągłego monitorowania i utrzymania wdrożonych produktów AI.

Jak platforma Rhino Health zapobiega biasowi AI i oferuje wyjaśnialność AI?

Poprzez odblokowanie i usprawnienie współpracy danych, deweloperzy AI mogą wykorzystywać większe, bardziej różnorodne zbiory danych w szkoleniu i testowaniu swoich aplikacji. Wynikiem bardziej solidnych zbiorów danych jest produkt, który jest bardziej ogólny i nie jest obciążony biasem jednej instytucji lub wąskiego zestawu danych. W celu wspierania wyjaśnialności AI, nasza platforma zapewnia klarowny widok danych wykorzystywanych w procesie rozwoju, z możliwością analizy pochodzenia danych, rozkładu wartości i innych kluczowych wskaźników, aby zapewnić odpowiednią różnorodność i jakość danych. Dodatkowo, nasza platforma umożliwia funkcjonalność, która nie jest możliwa, gdy dane są po prostu łączone, w tym umożliwia użytkownikom dalsze wzbogacanie ich zbiorów danych o dodatkowe zmienne, takie jak te obliczane z istniejących punktów danych, w celu zbadania inferencji przyczynowej i złagodzenia czynników zakłócających.

Jak odpowiadasz na lekarzy, którzy obawiają się, że nadmierne poleganie na AI może prowadzić do tendencyjnych wyników, które nie są niezależnie zweryfikowane?

Empatyzujemy z tym problemem i uznajemy, że wiele aplikacji na rynku może być faktycznie tendencyjnych. Nasza odpowiedź brzmi: musimy współpracować jako branża, jako społeczność opieki zdrowotnej, która jest przede wszystkim zainteresowana bezpieczeństwem pacjentów, aby określić polityki i procedury, które zapobiegną takim tendencyjnościom i zapewnią bezpieczne, godne zaufania aplikacje AI. Deweloperzy AI mają odpowiedzialność za zapewnienie, że ich produkty AI są niezależnie zweryfikowane, aby uzyskać zaufanie zarówno profesjonalistów opieki zdrowotnej, jak i pacjentów. Rhino Health jest poświęcona wspieraniu bezpiecznych, godnych zaufania produktów AI i pracuje z partnerami, aby umożliwić i usprawnić niezależną weryfikację aplikacji AI przed wdrożeniem w środowiskach klinicznych, odblokowując bariery dla niezbędnych danych weryfikacyjnych.

Jaka jest twoja wizja przyszłości AI w ochronie zdrowia?

Wizja Rhino Health to świat, w którym AI osiągnęła swój pełny potencjał w ochronie zdrowia. Pracujemy pilnie, aby stworzyć przejrzystość i wspieranie współpracy, asertywnie twierdząc prywatność, aby umożliwić ten świat. Wizja Rhino Health to opieka zdrowotna AI, która nie jest ograniczona przez firewalle, geografie czy ograniczenia regulacyjne. Deweloperzy AI będą mieli kontrolowany dostęp do wszystkich danych, których potrzebują do budowy potężnych, ogólnych modeli – i do ciągłego monitorowania i poprawiania ich z przepływem danych w czasie rzeczywistym. Dostawcy i pacjenci będą mieli pewność, że nie tracą kontroli nad swoimi danymi i mogą zapewnić, że są one wykorzystywane dla dobra. Organizacje zdrowia publicznego będą korzystać z tych postępów w AI, podczas gdy pacjenci i dostawcy będą spokojni, wiedząc, że prywatność jest chroniona.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Rhino Health.