Josh Miller, CEO of Gradient Health – Interview Series

Josh Miller jest dyrektorem generalnym Gradient Health, firmy założonej na idei, że diagnostyka zautomatyzowana musi istnieć, aby opieka zdrowotna była równościowa i dostępna dla wszystkich. Gradient Health ma na celu przyspieszenie diagnostyki zautomatyzowanej za pomocą sztucznej inteligencji z danymi, które są zorganizowane, oznaczone i dostępne.

Czy mógłbyś podzielić się historią powstania Gradient Health?

Mój współzałożyciel Ouwen i ja właśnie opuściliśmy nasze pierwsze przedsięwzięcie, FarmShots, które wykorzystywało wizję komputerową, aby pomóc zmniejszyć ilość pestycydów używanych w rolnictwie, i szukaliśmy naszego następnego wyzwania.

Zawsze byliśmy zmotywowani pragnieniem znalezienia trudnego problemu do rozwiązania za pomocą technologii, która a) ma szansę zrobić wiele dobra na świecie i b) prowadzi do solidnego biznesu. Ouwen pracował nad swoim dyplomem medycznym, a dzięki naszemu doświadczeniu w wizji komputerowej, obrazowaniu medycznym było naturalnym dopasowaniem dla nas. Ze względu na niszczący wpływ raka piersi, wybraliśmy mammografię jako potencjalne pierwsze zastosowanie. Więc powiedzieliśmy: “Ok, gdzie zaczniemy? Potrzebujemy danych. Potrzebujemy tysiąca mammografii. Gdzie można dostać taką skalę danych?” i odpowiedź była “Żadne miejsce”. Zrealizowaliśmy natychmiast, że jest to naprawdę trudne do znalezienia danych. Po miesiącach ten frustracja rozwinęła się w filozoficzny problem dla nas, myśleliśmy “każdy, kto próbuje zrobić coś dobrego w tym zakresie, nie powinien walczyć i starać się dostać danych, których potrzebują do budowy algorytmów ratujących życie”. I tak powiedzieliśmy “hej, może to jest właśnie nasz problem do rozwiązania”.

Jakie są obecne ryzyka na rynku z nieprzedstawiającymi dane?

Z licznych badań i przykładów z życia wziętych wiemy, że jeśli zbudujemy algorytm, używając tylko danych z wybrzeża zachodniego, a następnie wprowadzimy go na południowy wschód, po prostu nie będzie działał. Niezliczoną ilość razy słyszymy historie o sztucznej inteligencji, która działa świetnie w północno-wschodnim szpitalu, w którym została stworzona, a następnie, gdy ją wdrożono gdzie indziej, jej dokładność spada poniżej 50%.

Uważam, że fundamentalnym celem sztucznej inteligencji, na poziomie etycznym, jest to, że powinna zmniejszać dysproporcje zdrowotne. Celem jest uczynienie opieki zdrowotnej dostępną i przystępną dla wszystkich. Ale problem polega na tym, że gdy jest ona oparta na słabych danych, naprawdę zwiększa dysproporcje. Nie powodzimy powodzenia misji sztucznej inteligencji w opiece zdrowotnej, jeśli pozwolimy, aby działała tylko dla białych facetów z wybrzeża. Ludzie z mniejszościowych środowisk będą naprawdę cierpieć z powodu większej dyskryminacji, a nie mniejszej.

Czy mógłbyś omówić, jak Gradient Health pozyskuje dane?

Tak, współpracujemy z różnymi systemami opieki zdrowotnej na całym świecie, których dane są przechowywane, co kosztuje ich pieniądze i nie przynosi korzyści nikomu. Dokładnie deidentyfikujemy ich dane u źródła, a następnie starannie organizujemy je dla badaczy.

Jak Gradient Health zapewnia, że dane są niezależne i jak najbardziej różnorodne?

Istnieje wiele sposobów. Na przykład, gdy zbieramy dane, upewniamy się, że obejmują one wiele placówek medycznych, gdzie często znajdują się bardziej reprezentatywne dane, a także większe szpitale. Pozyskujemy również dane z dużej liczby placówek klinicznych. Staramy się uzyskać jak najwięcej placówek z jak najszerszego zakresu populacji. Nie tylko posiadamy wysoką liczbę placówek, ale także są one geograficznie i socjo-ekonomicznie zróżnicowane. Ponieważ jeśli wszystkie placówki pochodzą z szpitali w centrum miasta, to nie jest to reprezentatywne dane, prawda?

Aby to zwalidować, uruchamiamy statystyki na wszystkich tych zbiorach danych i dostosowujemy je do potrzeb klienta, aby upewnić się, że otrzymują dane, które są różnorodne pod względem technologii i demografii.

Dlaczego ten poziom kontroli danych jest tak ważny do zaprojektowania solidnych algorytmów sztucznej inteligencji?

Istnieje wiele zmiennych, z którymi sztuczna inteligencja może spotkać się w świecie rzeczywistym, a naszym celem jest upewnienie się, że algorytm jest tak solidny, jak to tylko możliwe. Aby uprościć rzeczy, myślimy o pięciu kluczowych zmiennych w naszych danych. Pierwszą zmienną, o której myślimy, jest “producent sprzętu”. Jest to oczywiste, ale jeśli zbudujemy algorytm tylko przy użyciu danych z skanerów GE, nie będzie on działał tak dobrze na skanerze Hitachi.

W podobny sposób jest zmienna “model sprzętu”. Ta jest naprawdę interesująca z punktu widzenia nierówności zdrowotnych. Wiemy, że duże, dobrze finansowane szpitale badawcze mają najnowsze i najlepsze wersje skanerów. A jeśli tylko trenują swoją sztuczną inteligencję na własnych modelach z 2022 roku, nie będzie ona działać tak dobrze na starszym modelu z 2010 roku. Te starsze systemy są dokładnie tymi, które znajdują się w mniej zamożnych i wiejskich obszarach. Więc, używając tylko danych z nowszych modeli, nieumyślnie wprowadzają dalszy bias przeciwko ludziom z tych społeczności.

Inne kluczowe zmienne to płeć, etniczność i wiek, i idziemy na wielkie długości, aby upewnić się, że nasze dane są proporcjonalnie zrównoważone we wszystkich tych obszarach.

Jakie są niektóre z przeszkód regulacyjnych, z którymi firmy MedTech muszą się zmierzyć?

Zaczynamy widzieć, jak FDA dokładnie badają bias w zbiorach danych. Mieliśmy badaczy, którzy przyszli do nas i powiedzieli “FDA odrzuciła nasz algorytm, ponieważ brakowało w nim 15% populacji afroamerykańskiej” (co jest mniej więcej procentem Afroamerykanów, którzy są częścią populacji Stanów Zjednoczonych). Słyszeliśmy również o deweloperze, któremu powiedziano, że musi on uwzględnić 1% rdzennych mieszkańców Hawajów w swoich danych szkoleniowych.

Więc FDA zaczyna zdawać sobie sprawę, że te algorytmy, które były trenowane tylko w jednym szpitalu, nie działają w świecie rzeczywistym. Fakt jest taki, że jeśli chcesz otrzymać oznaczenie CE i zatwierdzenie FDA, musisz przyjść z zbiorem danych, który reprezentuje populację. To już nie jest akceptowalne, aby trenować sztuczną inteligencję na małej lub nieprzedstawiającej grupie.

Ryzyko dla firm MedTech polega na tym, że inwestują miliony dolarów w rozwój swojej technologii, aby była gotowa do zatwierdzenia regulacyjnego, a jeśli nie mogą go uzyskać, nigdy nie otrzymają refundacji ani przychodu. Ostatecznie, droga do komercjalizacji i droga do osiągnięcia pozytywnego wpływu na opiekę zdrowotną, jaki chcą osiągnąć, wymaga od nich dbania o bias danych.

Jakie są niektóre z opcji pokonywania tych przeszkód z perspektywy danych?

W ciągu ostatnich kilku lat metody zarządzania danymi ewoluowały, a deweloperzy sztucznej inteligencji mają teraz więcej opcji niż kiedykolwiek wcześniej. Od pośredników danych i partnerów po federacyjne uczenie i syntetyczne dane, istnieją nowe podejścia do tych przeszkód. Niezależnie od wybranej metody, zawsze zachęcamy deweloperów do rozważenia, czy ich dane są naprawdę reprezentatywne dla populacji, która będzie korzystać z produktu. To jest zdecydowanie najtrudniejszy aspekt pozyskiwania danych.

Rozwiązanie oferowane przez Gradient Health to Gradient Label, co to jest to rozwiązanie i jak umożliwia ono etykietowanie danych na dużą skalę?

Sztuczna inteligencja w obrazowaniu medycznym nie wymaga tylko danych, ale także ekspertowych adnotacji. I pomagamy firmom uzyskać te ekspertowe adnotacje, w tym od radiologów.

Jaka jest twoja wizja przyszłości sztucznej inteligencji i danych w opiece zdrowotnej?

Już teraz istnieją tysiące narzędzi sztucznej inteligencji, które badają wszystko, od końcówek palców po końcówki stóp, i uważam, że to będzie się kontynuowało. Uważam, że będą co najmniej 10 algorytmów dla każdego schorzenia w podręczniku medycznym. Każdy z nich będzie miał wiele, prawdopodobnie konkurencyjnych, narzędzi, które pomogą klinicystom zapewnić najlepszą opiekę.

Nie sądzę, abyśmy mieli do czynienia z tranzystorem w stylu Star Trek, który skanuje kogoś i rozwiązuje każdy możliwy problem od głowy do stóp. Zamiast tego, będziemy mieli specjalistyczne aplikacje dla każdego podzbioru.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Gradient Health?

Jestem podekscytowany przyszłością. Uważam, że zmierzamy w kierunku miejsca, w którym opieka zdrowotna jest tania, równa i dostępna dla wszystkich, i chcę, aby Gradient miał szansę odegrać fundamentalną rolę w tym procesie. Cały zespół tutaj szczerze wierzy w tę misję, a jest pasja, która nie występuje w każdej firmie. I kocham to!

Dziękuję za wspaniałe wywiady, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Gradient Health.