Josh Miller, CEO společnosti Gradient Health – Interview Series

Josh Miller je CEO společnosti Gradient Health, společnosti založené na myšlence, že automatizovaná diagnostika musí existovat pro to, aby zdravotní péče byla rovnocenná a dostupná všem. Gradient Health má za cíl urychlit automatizovanou diagnostiku pomocí umělé inteligence s daty, která jsou organizovaná, označená a dostupná.

Můžete sdílet příběh o vzniku Gradient Health?

Můj spoluzakladatel Ouwen a já jsme právě opustili naši první firmu, FarmShots, která využívala počítačové vidění k pomoci snížit množství pesticidů používaných v zemědělství, a hledali jsme naši další výzvu.

Jsme vždy motivováni touhou najít těžký problém, který lze vyřešit pomocí technologií, a to způsobem, který a) má příležitost udělat mnoho dobrého na světě a b) vede k solidnímu podnikání. Ouwen studoval medicínu a s naší zkušeností s počítačovým viděním byla medicínská zobrazovací technika přirozeným výběrem pro nás. Kvůli devastujícímu dopadu rakoviny prsu jsme zvolili mammografii jako potenciální první aplikaci. Takže jsme řekli: “Ok, kde začneme? Potřebujeme data. Potřebujeme tisíc mammogramů. Kde se takové množství dat získává?” a odpověď byla “Nikde”. Ihned jsme si uvědomili, že je opravdu těžké najít data. Po měsících tato frustrace vyrostla v filozofický problém pro nás, mysleli jsme si: “Každý, kdo se snaží udělat dobro v tomto prostoru, by neměl muset bojovat a zápasit, aby získal data, která potřebují k vybudování algoritmů, které zachraňují životy”. A tak jsme řekli: “Hej, možná je to vlastně náš problém, který je třeba vyřešit”.

Jaké jsou současné rizika na trhu s nereprezentativními daty?

Z mnoha studií a skutečných příkladů víme, že pokud postavíme algoritmus pouze pomocí dat ze západního pobřeží a přineseme ho na jihovýchod, prostě nefunguje. Opakovaně slyšíme příběhy o umělé inteligenci, která funguje skvěle v nemocnici, ve které byla vytvořena, a když ji nasadí jinde, její přesnost klesne na méně než 50%.

Věřím, že základní účel umělé inteligence z etického hlediska spočívá v tom, že by měla snižovat zdravotní rozdíly. Cílem je učinit kvalitní péči dostupnou a dostupnou všem. Ale problém spočívá v tom, že když ji postavíte na špatných datech, vlastně zvyšujete rozdíly. Selháváme v misi umělé inteligence ve zdravotnictví, pokud dovolíme, aby fungovala pouze pro bílé muže z pobřeží. Lidé z nedostatečně zastupovaných prostředí budou skutečně trpět více diskriminací, nikoli méně.

Můžete diskutovat o tom, jak Gradient Health získá data?

Ano, spolupracujeme s mnoha typy zdravotnických systémů po celém světě, jejichž data jsou jinak uložena a stojí je peníze, aniž by komukoli prospívala. Úplně deidentifikujeme jejich data na místě a pak je pečlivě organizujeme pro výzkumníky.

Jak Gradient Health zajišťuje, aby data byla nezaujatá a co nejvíce rozmanitá?

Existuje mnoho způsobů. Například když sbíráme data, ujistíme se, že zahrneme spoustu komunitních klinik, kde máte často mnohem reprezentativnější data, stejně jako větší nemocnice. Také získáváme naše data z velkého počtu klinických míst. Snažíme se získat co nejvíce míst z co nejširšího spektra populací. Takže to není jen o velkém počtu míst, ale také o tom, aby byla geograficky a socioekonomicky rozmanitá. Protože pokud jsou všechna vaše místa pouze z downtownových nemocnic, stále to nejsou reprezentativní data, že?

K ověření všech těchto údajů běžíme statistiky napříč všemi těmito datovými sadami a přizpůsobujeme je pro klienta, aby zajistili, že získávají data, která jsou rozmanitá z hlediska technologií a demografie.

Proč je tato úroveň kontroly dat tak důležitá pro návrh robustních algoritmů umělé inteligence?

Existuje mnoho proměnných, se kterými se umělé inteligence může setkat ve skutečném světě, a náš cíl je zajistit, aby algoritmus byl co nejrobustnější. Abychom věci zjednodušili, myslíme si na pět klíčových proměnných v našich datech. První proměnnou, o které přemýšlíme, je “výrobce zařízení”. Je to zřejmé, ale pokud postavíte algoritmus pouze pomocí dat z přístrojů GE, nebude fungovat tak dobře na přístroji Hitachi, řekněme.

Podobně je proměnná “model zařízení” zajímavá z hlediska zdravotní nerovnosti. Vědíme, že velké, dobře financované výzkumné nemocnice mají nejnovější a nejlepší verze přístrojů. A pokud pouze trénují svou umělou inteligenci pomocí svých vlastních modelů z roku 2022, nebude fungovat tak dobře na starším modelu z roku 2010. Tyto starší systémy jsou přesně ty, které se nacházejí v méně zámožných a venkovských oblastech. Takže tím, že používají pouze data z novějších modelů, neúmyslně zavádějí další předpojatost proti lidem z těchto komunit.

Další klíčové proměnné jsou pohlaví, etnická příslušnost a věk, a děláme velké úsilí, abychom zajistili, že naše data jsou proporcionálně vyvážená napříč všemi.

Jaká jsou některá regulační překážky, kterým čelí společnosti MedTech?

Začněme vidět, že FDA skutečně zkoumá předpojatost ve datech. Měli jsme výzkumníky, kteří k nám přišli a řekli: “FDA odmítla náš algoritmus, protože chyběla 15% africké americké populace” (přibližně procento afrických Američanů, kteří jsou součástí populace USA). Také jsme slyšeli o vývojáři, který byl informován, že potřebuje zahrnout 1% pacifických Havajanů do svých trénovacích dat.

Takže FDA začíná chápat, že tyto algoritmy, které byly trénovány pouze v jedné nemocnici, nefungují ve skutečném světě. Skutečností je, že pokud chcete získat CE značku a schválení FDA, musíte přijít s datovou sadou, která reprezentuje populaci. Není již přijatelné trénovat umělou inteligenci pouze na malé nebo nereprezentativní skupině.

Riziko pro MedTech spočívá v tom, že investují miliony dolarů do toho, aby svou technologii dostali do místa, kde si myslí, že jsou připraveni na regulační schválení, a pak pokud to nemohou projít, nikdy nezískají úhradu nebo výnos. V konečném důsledku cesta k commercializaci a cesta k tomu, aby měly takový pozitivní dopad na zdravotnictví, jaký chtějí mít, vyžaduje, aby se staraly o předpojatost dat.

Jaké jsou některé možnosti, jak překonat tyto překážky z hlediska dat?

V posledních letech se vyvinuly metody správy dat a vývojáři umělé inteligence nyní mají více možností než kdykoli předtím. Od zprostředkovatelů dat a partnerů až po federativní učení a syntetická data existují nové přístupy k těmto překážkám. Bez ohledu na to, jakou metodu zvolí, vždy je vyzýváme, aby zvážili, zda jejich data jsou skutečně reprezentativní pro populaci, která bude produkt používat. To je rozhodně nejobtížnější aspekt získávání dat.

Řešení, které nabízí Gradient Health, je Gradient Label, co je toto řešení a jak umožňuje označování dat ve velkém?

Umělé inteligence pro medicínské zobrazování vyžaduje nejen data, ale také odborná označení. A pomáháme společnostem získat tato odborná označení, včetně označení od radiologů.

Jaký je váš výhled do budoucna pro umělou inteligenci a data ve zdravotnictví?

Už existuje tisíce nástrojů umělé inteligence, které se dívají na všechno od špiček vašich prstů až po špičky vašich nohou, a myslím, že se to bude pokračovat. Myslím, že bude nejméně 10 algoritmů pro každou podmínku v lékařském textu. Každý z nich bude mít několik, pravděpodobně konkurenčních, nástrojů, které pomohou klinickým pracovníkům poskytnout nejlepší péči.

Nemyslím, že se pravděpodobně dostaneme do situace, kdy uvidíme Tricorder ve stylu Star Treku, který oskenuje někoho a řeší všechny možné problémy od hlavy k patě. Místo toho budeme mít specializované aplikace pro každou podmnožinu.

Je něco jiného, co byste rádi sdíleli o Gradient Health?

Jsem nadšený z budoucnosti. Myslím, že se pohybujeme směrem k místu, kde je zdravotní péče levná, rovnocenná a dostupná všem, a rád bych, aby Gradient měl šanci hrát фундаментální roli v tom, aby se to stalo. Celý tým zde skutečně věří v tuto misi a je mezi nimi sjednocená vášeň, kterou nemáte ve každé firmě. A miluji to!

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Gradient Health.