Josh Miller, administrerende direktør i Gradient Health – Intervju-serie

Josh Miller er administrerende direktør i Gradient Health, et selskap som er grunnlagt på ideen om at automatiserte diagnostiske verktøy må eksistere for at helsevesenet skal være rettferdig og tilgjengelig for alle. Gradient Health har som mål å påskynde automatiserte A.I.-diagnostiske verktøy med data som er organisert, merket og tilgjengelig.

Kan du dele historien bak Gradient Health?

Min medgrunnlegger Ouwen og jeg hadde nettopp forlatt vårt første start-up, FarmShots, som brukte datamaskinsyn til å hjelpe med å redusere mengden pesticider som brukes i landbruket, og vi lette etter vårt neste utfordring.

Vi har alltid vært motivert av ønsket om å finne en vanskelig oppgave å løse med teknologi som a) har mulighet til å gjøre mye godt i verden, og b) fører til en solid forretning. Ouwen arbeidet på sin medisinske utdanning, og med vår erfaring med datamaskinsyn, var medisinske bilder et naturlig valg for oss. På grunn av den ødeleggende effekten av brystkreft, valgte vi mammografi som en mulig første anvendelse. Så sa vi “ok, hvor starter vi? Vi trenger data. Vi trenger tusen mammogrammer. Hvor får du tak i så mye data?” og svaret var “Ingensteds”. Vi innsett umiddelbart at det er veldig vanskelig å finne data. Etter måneder, vokste denne frustrasjonen til et filosofisk problem for oss, og vi tenkte “hver som prøver å gjøre noe godt i denne bransjen, bør ikke måtte slåss og kjempe for å få dataen de trenger for å bygge livreddende algoritmer”. Og så sa vi “hey, kanskje er det faktisk vårt problem å løse”.

Hva er de nåværende risikoene i markedet med urepresentativ data?

Fra talløse studier og virkelige eksempler, vet vi at hvis vi bygger en algoritme, kun ved hjelp av data fra vestkysten, og du bringer den til sørøst, så vil den ikke fungere. Gang på gang hører vi historier om A.I. som fungerer godt på nordøstkysten, hvor den ble utviklet, og så når de setter den i drift andre steder, synker nøyaktigheten til under 50%.

Jeg tror at det grunnleggende formålet med A.I., på et etisk nivå, er at det skal redusere helseforskjeller. Målet er å gjøre kvalitetsomsorg tilgjengelig og rimelig for alle. Men problemet er at når du har det bygget på dårlig data, så øker du faktisk forskjellene. Vi svikter i oppdraget med helse-A.I. hvis vi lar det fungere kun for hvite menn fra kysten. Folk fra underrepresenterte bakgrunner vil faktisk lide mer diskriminering som følge, ikke mindre.

Kan du diskutere hvordan Gradient Health innhenter data?

Ja, vi samarbeider med alle typer helsevesen over hele verden, hvis data ellers ville bli liggende ubenyttet, og koster penger, uten å gi noen nytte. Vi gjør dataene anonyme ved kilde og organisere dem så grundig for forskerne.

Hvordan sikrer Gradient Health at dataene er upartiske og så diverse som mulig?

Det finnes mange måter. For eksempel, når vi samler inn data, sikrer vi at vi inkluderer mange kommunale klinikker, hvor du ofte har mer representative data, samt de større sykehusene. Vi henter også data fra et stort antall kliniske steder. Vi prøver å få så mange steder som mulig fra så bredt et spekter av befolkninger som mulig. Så ikke bare å ha et stort antall steder, men å ha dem geografisk og sosioøkonomisk diverse. For hvis alle stedene dine er fra downtown-sykehus, er det fortsatt ikke representative data, er det?

For å validere all dette, kjører vi statistikk over alle disse datasettene, og tilpasser det for kunden, for å sikre at de får data som er diverse i forhold til teknologi og demografi.

Hvorfor er dette nivået av datakontroll så viktig for å designe robuste A.I.-algoritmer?

Det finnes mange variable som en A.I. kan møte i den virkelige verden, og vårt mål er å sikre at algoritmen er så robust som mulig. For å forenkle ting, tenker vi på fem nøkkelvariable i våre data. Den første variabelen vi tenker på er “utstyrprodusent”. Det er åpenbart, men hvis du bygger en algoritme kun ved hjelp av data fra GE-skannere, så vil den ikke fungere like bra på en Hitachi, for eksempel.

I likhet med dette er “utstyrmodell” variabelen. Denne er faktisk ganske interessant fra et helseulikhetsperspektiv. Vi vet at de store, vel-finansiert forskningssykehusene tendenser til å ha de nyeste og beste versjonene av skannere. Og hvis de kun trener sin A.I. på sine egne 2022-modeller, så vil den ikke fungere like bra på en eldre 2010-modell. Disse eldre systemene er nettopp de som finnes i mindre velstående og rurale områder. Så, ved å kun bruke data fra nyere modeller, introduserer de ufrivillig ytterligere bias mot folk fra disse samfunnene.

De andre nøkkelvariablene er kjønn, etnisitet og alder, og vi går langt for å sikre at våre data er proporsjonelt balansert over alle disse.

Hva er noen av de regulatoriske hindrene MedTech-selskaper møter?

Vi begynner å se at FDA nå undersøker bias i datasett. Vi har hatt forskere som kommer til oss og sier “FDA har avvist vår algoritme fordi den manglet en 15% afroamerikansk befolkning” (den omtrentlige prosenten afroamerikanere som er en del av den amerikanske befolkningen). Vi har også hørt om en utvikler som ble fortalt at de måtte inkludere 1% pacifiske øyboere i sin treningdata.

Så, FDA begynner å innse at disse algoritmene, som bare ble trent på et enkelt sykehus, ikke fungerer i den virkelige verden. Faktum er at hvis du vil ha CE-merking og FDA-godkjenning, må du komme med et datasett som representerer befolkningen. Det er, rett og slett, ikke lenger akseptabelt å trene en A.I. på en liten eller urepresentativ gruppe.

Risikoen for MedTech-selskaper er at de investerer millioner av dollar i å få teknologien til et punkt hvor de tror de er klare for regulatorisk godkjenning, og så hvis de ikke kan få det gjennom, så vil de aldri få dekning eller inntekter. Til slutt, veien til kommersialisering og veien til å ha den positive effekten på helsevesenet som de ønsker å ha, krever at de bryr seg om data-bias.

Hva er noen av valgene for å overvinne disse hindrene fra et dataperspektiv?

Over de siste årene har datahåndteringmetodene utviklet seg, og A.I.-utviklere har nå flere alternativer enn noensinne før. Fra data-meglere og partnere til distribuert læring og syntetisk data, finnes det nye tilnærminger til disse hindrene. Uansett hvilken metode de velger, oppmuntrer vi alltid utviklerne til å vurdere om deres data er virkelig representative for befolkningen som skal bruke produktet. Dette er langt det vanskeligste aspektet ved å innhente data.

En løsning som Gradient Health tilbyr, er Gradient Label, hva er denne løsningen og hvordan muliggjør den merking av data i stor skala?

Medisinsk bilde-A.I. krever ikke bare data, men også ekspertmerkinger. Og vi hjelper selskaper med å få disse ekspertmerkingene, inkludert fra radiologer.

Hva er din visjon for fremtiden av A.I. og data i helsevesenet?

Det finnes allerede tusenvis av A.I.-verktøy der ute som ser på alt fra fingertuppene til tåspissene, og jeg tror at dette vil fortsette. Jeg tror at det vil være minst 10 algoritmer for hver tilstand i en medisinsk lærebok. Hver enkelt vil ha flere, sannsynligvis konkurrerende, verktøy for å hjelpe klinikerne med å gi den beste omsorgen.

Jeg tror ikke at vi kommer til å se en Star Trek-stil Tricorder som scannere noen og løser alle mulige problemer fra hodet til tåene. I stedet vil vi ha spesialiserte applikasjoner for hver undergruppe.

Er det noe annet du ville like å dele om Gradient Health?

Jeg er spennende på fremtiden. Jeg tror at vi er på vei mot et sted hvor helsevesenet er billig, like og tilgjengelig for alle, og jeg er ivrig etter at Gradient får mulighet til å spille en grunnleggende rolle i å gjøre dette skje. Hele teamet her tror virkelig på denne misjonen, og det finnes en forent lidenskap over dem som du ikke får i hvert selskap. Og jeg elsker det!

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Gradient Health.