Josh Miller, generální ředitel Gradient Health – Interview Series

Josh Miller je generálním ředitelem Gradient Health, společnosti založené na myšlence, že automatizovaná diagnostika musí existovat pro to, aby zdravotní péče byla spravedlivá a dostupná pro každého. Gradient Health se snaží urychlit automatizovanou diagnostiku pomocí umělé inteligence s daty, která jsou organizovaná, označená a dostupná.

Můžete sdílet příběh vzniku Gradient Health?

Můj spoluzakladatel Ouwen a já jsme právě opustili naši první firmu, FarmShots, která využívala počítačové vidění k pomoci snížit množství pesticidů používaných v zemědělství, a hledali jsme naší další výzvu.

Působí nás touha najít složitý problém, který lze vyřešit pomocí technologií, a to způsobem, který a) má příležitost udělat много dobrého na světě a b) vede k solidnímu podnikání. Ouwen studoval medicínu a s naší zkušeností s počítačovým viděním byla medicínská zobrazovací technika přirozeným výběrem pro nás. Kvůli devastujícímu dopadu rakoviny prsu jsme zvolili mammografii jako potenciální první aplikaci. Řekli jsme si: “Dobře, kde začneme? Potřebujeme data. Potřebujeme tisíc mammogramů. Kde se dá získat takový rozsah dat?” a odpověď byla “Nikde”. Brzy jsme si uvědomili, že je opravdu těžké najít data. Po měsících se tato frustrace změnila v filozofický problém pro nás, mysleli jsme si: “Každý, kdo se snaží udělat něco dobrého v tomto prostoru, by neměl muset bojovat a zápasit o získání dat, která potřebují k vybudování život zachraňujících algoritmů”. A tak jsme si řekli: “Hej, možná to je vlastně náš problém, který je třeba vyřešit”.

Jaké jsou současné rizika na trhu s nereprezentativními daty?

Z mnoha studií a skutečných příkladů víme, že pokud postavíme algoritmus pomocí pouze dat ze západního pobřeží a přineseme ho na jihovýchod, prostě nefunguje. Opakovaně slyšíme příběhy o umělé inteligenci, která funguje skvěle v severovýchodních nemocnicích, ve kterých byla vytvořena, a poté, co ji nasadí jinde, klesne přesnost na méně než 50%.

Věřím, že základní účel umělé inteligence na etické úrovni spočívá v tom, že by měla snižovat zdravotní rozdíly. Cílem je učinit kvalitní péči dostupnou a dostupnou pro každého. Ale problém spočívá v tom, že pokud ji postavíte na špatných datech, vlastně zvyšujete rozdíly. Selháváme v misi zdravotnické umělé inteligence, pokud dovolíme, aby fungovala pouze pro bílé muže ze západního pobřeží. Lidé z nedostatečně zastupovaných prostředí budou skutečně trpět více diskriminací jako důsledek, ne méně.

Můžete diskutovat o tom, jak Gradient Health získává data?

Ano, spolupracujeme se všemi druhy zdravotnických systémů po celém světě, jejichž data jsou jinak uložena, stojí peníze a nikomu neprospívají. Úplně odstraníme jejich data zdroje a poté je pečlivě organizujeme pro výzkumníky.

Jak Gradient Health zajišťuje, aby data nebyla zkreslená a co nejvíce rozmanitá?

<p Existuje mnoho způsobů. Například když sbíráme data, zajistíme, aby zahrnovala mnoho komunitních klinik, kde často máte mnohem reprezentativnější data, stejně jako větší nemocnice. Také získáváme naše data z velkého počtu klinických míst. Snažíme se získat co nejvíce míst z co nejširšího spektra populací. Takže to není jen o velkém počtu míst, ale o tom, aby byla geograficky a socioekonomicky rozmanitá. Protože pokud jsou všechna vaše místa pouze z downtownových nemocnic, stále to nejsou reprezentativní data, že?

Chcete-li ověřit všechna tato data, provádíme statistické analýzy napříč všemi těmito datovými sadami a přizpůsobujeme je pro klienta, abychom zajistili, že získají data, která jsou rozmanitá z hlediska technologií a demografie.

Proč je tato úroveň kontroly dat tak důležitá pro návrh robustních algoritmů umělé inteligence?

Existuje mnoho proměnných, se kterými se umělá inteligence může setkat ve skutečném světě, a náš cíl je zajistit, aby algoritmus byl co nejrobustnější. Zjednodušeně řečeno, uvažujeme o pěti klíčových proměnných v našich datech. První proměnnou, o které uvažujeme, je “výrobce zařízení”. Je to zřejmé, ale pokud postavíte algoritmus pouze pomocí dat z přístrojů GE, nebude fungovat tak dobře na přístroji Hitachi.

Podobně je proměnná “model zařízení” zajímavá z hlediska zdravotnické nerovnosti. Víme, že velké, dobře financované výzkumné nemocnice mají nejnovější a nejlepší verze přístrojů. A pokud pouze trénují svou umělou inteligenci na svých vlastních modelech z roku 2022, nebude fungovat tak dobře na starších modelech z roku 2010. Tyto starší systémy jsou přesně ty, které se nacházejí v méně zámožných a venkovských oblastech. Takže tím, že používají pouze data z novějších modelů, neúmyslně zavádějí další zkreslení proti lidem z těchto komunit.

Ostatní klíčové proměnné jsou pohlaví, etnická příslušnost a věk, a děláme velké úsilí, abychom zajistili, že naše data jsou proporcionálně vyvážená napříč všemi.

Jaká jsou některá regulační překážky, kterým čelí společnosti MedTech?

Začněme vidět, že FDA skutečně vyšetřuje zkreslení v datech. Měli jsme výzkumníky, kteří k nám přišli a řekli: “FDA odmítla náš algoritmus, protože chyběla 15% africké americké populace” (přibližný podíl afrických Američanů, kteří jsou součástí populace USA). Slyšeli jsme také o vývojáři, který byl informován, že musí zahrnout 1% pacifických Havajanů do svých trénovacích dat.

FDA začíná chápat, že tyto algoritmy, které byly vytvořeny pouze v jedné nemocnici, nefungují ve skutečném světě. Skutečností je, že pokud chcete získat CE značku a schválení FDA, musíte přijít s datovou sadou, která reprezentuje populaci. Není již přijatelné trénovat umělou inteligenci pouze na malé nebo nereprezentativní skupině.

Riziko pro MedTech společnosti spočívá v tom, že investují miliony dolarů do vývoje své technologie do místa, kde si myslí, že jsou připraveni na regulační schválení, a poté, pokud ji nemohou projít, nikdy nezískají úhradu nebo výnos. V konečném důsledku cesta k commercializaci a cesta k tomu, aby měly takový pozitivní dopad na zdravotní péči, o kterém sní, vyžaduje, aby se staraly o zkreslení dat.

Jaké jsou některé možnosti překonání těchto překážek z hlediska dat?

V posledních letech se vyvinuly metody správy dat a nyní mají vývojáři umělé inteligence k dispozici více možností než kdykoli předtím. Od zprostředkovatelů dat a partnerů až po federativní učení a syntetická data existují nové přístupy k těmto překážkám. Bez ohledu na zvolenou metodu vždy doporučujeme vývojářům, aby zvažovali, zda jejich data skutečně reprezentují populaci, která bude produkt používat. To je rozhodně nejobtížnější aspekt získávání dat.

Jedním ze řešení, které nabízí Gradient Health, je Gradient Label, co je toto řešení a jak umožňuje označování dat ve velkém měřítku?

Umělá inteligence pro medicínské zobrazování vyžaduje nejen data, ale také odborná označení. A pomáháme společnostem získat tato odborná označení, včetně označení od radiologů.

Jaký je váš výhled do budoucnosti umělé inteligence a dat ve zdravotnictví?

Existuje již tisíce nástrojů umělé inteligence, které se dívají na vše od špiček prstů až po špičky nohou, a myslím, že se to bude dále rozvíjet. Myslím, že bude nejméně 10 algoritmů pro každou podmínku v lékařském textu, a každý z nich bude mít několik konkurenčních nástrojů, které pomohou klinickým pracovníkům poskytnout nejlepší péči.

Nezdá se mi, že bychom skončili s Tricordrem ve stylu Star Treku, který někoho prohlédne a vyřeší všechny možné problémy od hlavy až k patě. Místo toho budeme mít specializované aplikace pro každou podmnožinu.

Je něco jiného, co byste chtěli sdílet o Gradient Health?

Jsem nadšený do budoucnosti. Myslím, že se pohybujeme směrem k místu, kde je zdravotní péče levná, spravedlivá a dostupná pro všechny, a rád bych, aby Gradient dostal šanci hrát фундаментální roli v tom, aby se to stalo. Celý tým zde skutečně věří v tuto misi, a je zde sjednocená vášeň, kterou nemáte v každé společnosti. A miluji to!

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Gradient Health.