Josh Miller, generálny riaditeľ spoločnosti Gradient Health – Interview Series

Josh Miller je generálnym riaditeľom spoločnosti Gradient Health, spoločnosť založená na myšlienke, že automatizovaná diagnostika musí existovať, aby bola zdravotná starostlivosť spravodlivá a dostupná pre každého. Gradient Health má za cieľ urýchliť automatizovanú diagnostiku AI s údajmi, ktoré sú usporiadané, označené a dostupné.

Mohli by ste sa podeliť o príbeh vzniku Gradient Health?

S mojím spoluzakladateľom Ouwenom sme práve opustili náš prvý start-up FarmShots, ktorý využíval počítačové videnie na zníženie množstva pesticídov používaných v poľnohospodárstve, a hľadali sme ďalšiu výzvu.

Vždy nás motivovala túžba nájsť náročný problém, ktorý by sme vyriešili pomocou technológie, ktorá a) má možnosť urobiť vo svete veľa dobra ab) vedie k solídnej firme. Ouwen pracoval na svojom lekárskom diplome a s našimi skúsenosťami v oblasti počítačového videnia nám lekárske zobrazovanie prirodzene vyhovovalo. Kvôli ničivému vplyvu rakoviny prsníka sme si ako potenciálnu prvú aplikáciu vybrali mamografiu. Tak sme si povedali: „Dobre, kde začneme? Potrebujeme dáta. Potrebujeme tisíc mamografov. Odkiaľ máte taký rozsah údajov?" a odpoveď bola „Nikde“. Okamžite sme si uvedomili, že je naozaj ťažké nájsť údaje. Po mesiacoch pre nás táto frustrácia prerástla do filozofického problému. Mysleli sme si, že „každý, kto sa v tomto priestore snaží konať dobro, by nemal bojovať a snažiť sa získať údaje, ktoré potrebuje na vytvorenie život zachraňujúcich algoritmov“. A tak sme si povedali „hej, možno to je vlastne náš problém, ktorý treba vyriešiť“.

Aké sú aktuálne riziká na trhu s nereprezentatívnymi údajmi?

Z nespočetných štúdií a príkladov z reálneho sveta vieme, že ak vytvoríme algoritmus s použitím iba údajov zo západného pobrežia a privediete ho na juhovýchod, jednoducho to nebude fungovať. Znovu a znovu počúvame príbehy AI, ktorá skvele funguje v nemocnici na severovýchode, v ktorej bola vytvorená, a keď ju nasadia inde, presnosť klesne na menej ako 50 %.

Domnievam sa, že základným účelom AI na etickej úrovni je to, že by mala znižovať zdravotné rozdiely. Cieľom je, aby kvalitná starostlivosť bola cenovo dostupná a dostupná pre každého. Problém je ale v tom, že keď to máte postavené na nekvalitných dátach, v skutočnosti zvyšujete nezrovnalosti. Zlyhávame v misii umelej inteligencie v zdravotníctve, ak ju necháme fungovať iba pre bielych ľudí z pobrežia. Ľudia z nedostatočne zastúpeného prostredia budú v dôsledku toho skutočne trpieť viac diskrimináciou, nie menšou.

Mohli by ste prediskutovať, ako Gradient Health získava údaje?

Iste, spolupracujeme so všetkými typmi zdravotných systémov po celom svete, ktorých údaje sú inak uložené, stojí ich to peniaze a nikomu to neprináša úžitok. Dôkladne odidentifikujeme ich údaje pri zdroji a potom ich starostlivo usporiadame pre výskumníkov.

Ako zabezpečuje Gradient Health, že údaje sú nezaujaté a čo najrozmanitejšie?

Spôsobov je veľa. Napríklad, keď zbierame údaje, dbáme na to, aby sme zahrnuli veľa komunitných kliník, kde máte často oveľa reprezentatívnejšie údaje, ako aj väčšie nemocnice. Naše údaje získavame aj z veľkého počtu klinických pracovísk. Snažíme sa získať čo najviac lokalít z čo najširšieho okruhu populácií. Teda nielen mať vysoký počet lokalít, ale mať ich geograficky a sociálno-ekonomicky rôznorodé. Pretože ak všetky vaše stránky pochádzajú z nemocníc v centre mesta, stále to nie sú reprezentatívne údaje, však?

Na overenie tohto všetkého spúšťame štatistiky naprieč všetkými týmito množinami údajov a prispôsobujeme ich pre klienta, aby sme sa uistili, že získava údaje, ktoré sú rôznorodé z hľadiska technológie a demografických údajov.

Prečo je táto úroveň kontroly údajov taká dôležitá pri navrhovaní robustných algoritmov AI?

Existuje mnoho premenných, s ktorými sa môže AI stretnúť v reálnom svete, a naším cieľom je zabezpečiť, aby bol algoritmus taký robustný, ako len môže byť. Aby sme veci zjednodušili, myslíme na päť kľúčových premenných v našich údajoch. Prvou premennou, o ktorej uvažujeme, je „výrobca zariadenia“. Je to zrejmé, ale ak vytvoríte algoritmus iba pomocou údajov zo skenerov GE, nebude fungovať tak dobre, povedzme, na Hitachi.

V podobnej línii je premenná „model vybavenia“. Toto je skutočne celkom zaujímavé z hľadiska nerovnosti zdravia. Vieme, že veľké, dobre financované výskumné nemocnice majú tendenciu mať najnovšie a najlepšie verzie skenerov. A ak svoju AI trénujú iba na svojich vlastných modeloch z roku 2022, nebude to fungovať tak dobre na staršom modeli z roku 2010. Tieto staršie systémy sú presne tie, ktoré sa nachádzajú v menej bohatých a vidieckych oblastiach. Takže tým, že používajú iba údaje z novších modelov, neúmyselne zavádzajú ďalšiu zaujatosť voči ľuďom z týchto komunít.

Ďalšími kľúčovými premennými sú pohlavie, etnická príslušnosť a vek a robíme všetko pre to, aby sme zabezpečili, že naše údaje sú proporcionálne vyvážené vo všetkých z nich.

Aké sú niektoré z regulačných prekážok, ktorým čelia spoločnosti MedTech?

Začíname vidieť, že FDA skutočne vyšetruje zaujatosť v súboroch údajov. Prišli k nám výskumníci a povedali: „FDA zamietla náš algoritmus, pretože chýbalo 15 % afroamerickej populácie“ (približné percento Afroameričanov, ktorí sú súčasťou populácie USA). Počuli sme tiež o vývojárovi, ktorému povedali, že do svojich tréningových údajov musí zahrnúť 1 % obyvateľov Havajských ostrovov v Tichomorí.

FDA si teda začína uvedomovať, že tieto algoritmy, ktoré boli práve trénované v jednej nemocnici, v skutočnom svete nefungujú. Faktom je, že ak chcete označenie CE a povolenie FDA, musíte prísť so súborom údajov, ktorý predstavuje populáciu. Je správne, že už nie je prijateľné trénovať AI na malej alebo nereprezentatívnej skupine.

Rizikom pre MedTechs je, že investujú milióny dolárov, aby dostali svoju technológiu na miesto, kde si myslia, že sú pripravení na regulačné schválenie, a ak sa im to nepodarí prejsť, nikdy nedostanú náhradu ani príjmy. Nakoniec, cesta ku komercializácii a cesta k takému priaznivému vplyvu na zdravotnú starostlivosť, aký chcú mať, od nich vyžaduje, aby sa starali o skreslenie údajov.

Aké sú niektoré z možností na prekonanie týchto prekážok z hľadiska údajov?

V posledných rokoch sa metódy správy údajov vyvinuli a vývojári AI majú teraz k dispozícii viac možností ako kedykoľvek predtým. Od sprostredkovateľov údajov a partnerov až po federatívne učenie a syntetické údaje existujú nové prístupy k týmto prekážkam. Bez ohľadu na to, akú metódu si zvolia, vždy vývojárom odporúčame, aby zvážili, či ich údaje skutočne reprezentujú populáciu, ktorá bude produkt používať. Toto je zďaleka najťažší aspekt získavania údajov.

Riešenie, ktoré Gradient Health ponúka, je Gradient Label, čo je toto riešenie a ako umožňuje označovanie údajov vo veľkom rozsahu?

Umelá inteligencia na lekárske zobrazovanie nevyžaduje len údaje, ale aj odborné poznámky. A pomáhame spoločnostiam získať tieto odborné anotácie, a to aj od rádiológov.

Aká je vaša vízia budúcnosti AI a údajov v zdravotníctve?

Už existujú tisíce nástrojov AI, ktoré sa pozerajú na všetko od končekov vašich prstov po končeky prstov na nohách, a myslím si, že to bude pokračovať. Myslím, že v lekárskej učebnici bude aspoň 10 algoritmov pre každý stav. Každý z nich bude mať viacero, pravdepodobne konkurencieschopných nástrojov, ktoré pomôžu lekárom poskytnúť najlepšiu starostlivosť.

Nemyslím si, že pravdepodobne skončíme tak, že uvidíme trikordér v štýle Star Trek, ktorý niekoho skenuje a rieši každý možný problém od hlavy po päty. Namiesto toho budeme mať špeciálne aplikácie pre každú podskupinu.

Je ešte niečo, o čo by ste sa chceli podeliť o Gradient Health?

Teším sa z budúcnosti. Myslím si, že smerujeme k miestu, kde je zdravotná starostlivosť lacná, rovnaká a dostupná pre všetkých, a som rád, že Gradient dostane šancu zohrať zásadnú úlohu pri realizácii tohto cieľa. Celý tím tu skutočne verí v toto poslanie a je medzi nimi jednotná vášeň, akej sa nedočkáte v každej spoločnosti. A milujem to!

Ďakujeme za skvelý rozhovor, čitatelia, ktorí sa chcú dozvedieť viac, by mali navštíviť Gradient Health.