Josh Miller, administrerende direktør for Gradient Health – Intervju-serie

Josh Miller er administrerende direktør for Gradient Health, et selskap som er grunnlagt på ideen om at automatiserte diagnostiske verktøy må eksistere for at helsevesenet skal være rettferdig og tilgjengelig for alle. Gradient Health har som mål å akselerere automatiserte AI-diagnostiske verktøy med data som er organisert, merket og tilgjengelig.

Kan du dele historien om hvordan Gradient Health ble til?

Min medstifter Ouwen og jeg hadde nettopp solgt vår første startup, FarmShots, som brukte datamaskinsyn til å hjelpe med å redusere mengden pesticider som brukes i landbruket, og vi søkte etter vår neste utfordring.

Vi har alltid vært motivert av ønsket om å finne en vanskelig oppgave å løse med teknologi som a) har mulighet til å gjøre mye godt i verden, og b) fører til en solid forretning. Ouwen arbeidet med sin medisinske utdannelse, og med vår erfaring med datamaskinsyn, var medisinske bilder et naturlig valg for oss. På grunn av den ødeleggende effekten av brystkreft, valgte vi mammografi som en mulig første anvendelse. Så sa vi: “Ok, hvor starter vi? Vi trenger data. Vi trenger tusen mammogrammer. Hvor får man tak i så mye data?” og svaret var “Ingen steder”. Vi innser straks at det er veldig vanskelig å finne data. Etter måneder, vokste denne frustrasjonen til en filosofisk problem for oss, og vi tenkte: “Hver som forsøker å gjøre noe godt i dette området, bør ikke måtte slåss og kjempe for å få dataen de trenger for å bygge livreddende algoritmer”. Og så sa vi: “Hey, kanskje er det faktisk vårt problem å løse”.

Hva er noen av de nåværende risikoene i markedet med urepresentativ data?

Fra talløse studier og virkelige eksempler, vet vi at hvis vi bygger en algoritme, kun ved hjelp av data fra vestkysten, og du tar den til sørøst, så vil den ikke fungere. Gang på gang hører vi historier om AI som fungerer godt på nordøstkysten, der den ble utviklet, og så når de setter den i drift andre steder, synker nøyaktigheten til under 50%.

Jeg tror at det grunnleggende formålet med AI, på et etisk nivå, er at det skal redusere helseforskjeller. Målet er å gjøre kvalitetsomsorg tilgjengelig og rimelig for alle. Men problemet er at når du har det bygget på dårlig data, så øker du faktisk forskjellene. Vi feiler i oppdraget med helse-AI hvis vi lar det kun fungere for hvite menn fra kysten. Folk fra underrepresenterte bakgrunner vil faktisk lide mer diskriminering som resultat, ikke mindre.

Kan du diskutere hvordan Gradient Health henter data?

Ja, vi samarbeider med alle typer helsevesen rundt om i verden, hvis data ellers ville bli lagret vekk, og koster penger, uten å være til nytte for noen. Vi gjør dataene anonyme ved kilde og organisere dem så grundig for forskerne.

Hvordan sikrer Gradient Health at dataene er upartiske og så diverse som mulig?

Det finnes mange måter. For eksempel, når vi samler inn data, sørger vi for å inkludere mange fellesskapsklinikker, der du ofte har mer representativ data, samt de større sykehusene. Vi henter også data fra et stort antall kliniske steder. Vi prøver å få så mange steder som mulig fra så bredt et utvalg av befolkninger som mulig. Så ikke bare å ha et høyt antall steder, men å ha dem geografisk og sosioøkonomisk diverse. For hvis alle dine steder er fra downtown-sykehus, er det fortsatt ikke representativ data, er det?

Til å validere all dette, kjører vi statistikk over alle disse datasettene, og vi tilpasser det til kunden, for å sikre at de får data som er divers i teknologi og demografi.

Hvorfor er dette nivået av datakontroll så viktig for å designe robuste AI-algoritmer?

Det finnes mange variabler som en AI kan møte i den virkelige verden, og vårt mål er å sikre at algoritmen er så robust som mulig. For å forenkle ting, tenker vi på fem nøkkelvariabler i våre data. Den første variabelen vi tenker på er “utstyrprodusent”. Det er åpenbart, men hvis du bygger en algoritme kun ved hjelp av data fra GE-skannere, så vil den ikke fungere like bra på en Hitachi, for eksempel.

I likhet med dette er “utstyrmodell”-variabelen en annen viktig faktor. Denne er faktisk ganske interessant fra et helseulikhetsperspektiv. Vi vet at de store, vel-finansiert forskningssykehusene tendenser til å ha de nyeste og beste versjonene av skannere. Og hvis de kun trener sin AI på sine egne 2022-modeller, så vil den ikke fungere like bra på en eldre 2010-modell. Disse eldre systemene er nettopp de som finnes i mindre velstående og rurale områder. Så, ved å kun bruke data fra nyere modeller, introduserer de ufrivillig ytterligere bias mot folk fra disse samfunnene.

De andre nøkkelvariablene er kjønn, etnisitet og alder, og vi går langt for å sikre at våre data er proporsjonalt balansert over alle disse.

Hva er noen av de regulatoriske hindrene MedTech-selskaper møter?

Vi begynner å se at FDA nå undersøker bias i datasett. Vi har hatt forskere som har kommet til oss og sagt: “FDA har avvist vår algoritme fordi den manglet en 15% afroamerikansk befolkning” (den omtrentlige prosenten afroamerikanere som er en del av den amerikanske befolkningen). Vi har også hørt om en utvikler som ble bedt om å inkludere 1% stillehavsbosettere i deres treningdata.

Så, FDA begynner å innse at disse algoritmene, som bare ble trent på et enkelt sykehus, ikke fungerer i den virkelige verden. Faktum er at hvis du vil ha CE-merking og FDA-godkjenning, må du komme med et datasett som representerer befolkningen. Det er, rett og slett, ikke lenger akseptabelt å trene en AI på en liten eller urepresentativ gruppe.

Risikoen for MedTech-selskaper er at de investerer millioner av dollar i å få teknologien til et punkt der de tror de er klare for regulatorisk godkjenning, og så hvis de ikke kan få det gjennom, så vil de aldri få dekning eller inntekter. Til slutt, veien til kommersialisering og veien til å ha den type positive effekter på helsevesenet som de ønsker å ha, krever at de bryr seg om data-bias.

Hva er noen av valgene for å overvinne disse hindrene fra et data-perspektiv?

Over de siste årene har datahåndteringmetodene utviklet seg, og AI-utviklere har nå flere valgmuligheter enn noensinne før. Fra data-meglere og partnere til fordelt læring og syntetisk data, finnes det nye tilnærminger til disse hindrene. Uansett hvilken metode de velger, oppmunner vi alltid utviklerne til å vurdere om deres data er virkelig representativt for befolkningen som skal bruke produktet. Dette er langt den vanskeligste delen av å hente data.

En løsning som Gradient Health tilbyr, er Gradient Label, hva er denne løsningen og hvordan muliggjør den merking av data i stor skala?

Medisinske bilde-AI krever ikke bare data, men også ekspert-merking. Og vi hjelper selskaper med å få disse ekspert-merkingene, inkludert fra radiologer.

Hva er din visjon for fremtiden av AI og data i helsevesenet?

Det finnes allerede tusenvis av AI-verktøy der ute som ser på alt fra fingertuppene til tåspissene, og jeg tror at dette vil fortsette. Jeg tror at det vil være minst 10 algoritmer for hver tilstand i en medisinsk tekstbok. Hver enkelt vil ha flere, sannsynligvis konkurranse-utløste, verktøy for å hjelpe kliniske ansatte med å gi den beste omsorgen.

Jeg tror ikke at vi vil ende opp med å se en Star Trek-stil Tricorder som skanner noen og løser alle mulige problemer fra hodet til tåene. I stedet vil vi ha spesialiserte applikasjoner for hver undergruppe.

Er det noe annet du ville like å dele om Gradient Health?

Jeg er spennende på fremtiden. Jeg tror at vi beveger oss mot et sted der helsevesenet er billig, likt og tilgjengelig for alle, og jeg er ivrig etter at Gradient får muligheten til å spille en grunnleggende rolle i å gjøre dette skje. Hele teamet her tror virkelig på denne misjonen, og det finnes en forent lidenskap over dem som du ikke får på hvert selskap. Og jeg elsker det!

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Gradient Health.