Josh Miller, CEO of Gradient Health – Interview Serie

Josh Miller er administrerende direktør for Gradient Health, et firma grundlagt på idéen om, at automatiserede diagnostiksystemer må eksistere for, at sundhedspleje kan være retfærdigt og tilgængeligt for alle. Gradient Health sigter mod at accelerere automatiserede A.I.-diagnostik med data, der er organiseret, mærket og tilgængeligt.

Kan du dele historien bag Gradient Health?

Min medstifter Ouwen og jeg havde lige forladt vores første startup, FarmShots, som udnyttede computer vision til at reducere mængden af pesticider brugt i landbrug, og vi ledte efter vores næste udfordring.

Vi har altid været motiveret af ønsket om at finde et svært problem at løse med teknologi, der a) har mulighed for at gøre en masse godt i verden og b) fører til et solidt forretning. Ouwen arbejdede på sin medicinske eksamen, og med vores erfaring i computer vision var medicinsk billedanalyse en naturlig fit for os. På grund af den ødelæggende effekt af brystkræft valgte vi mammografi som en potentiel første anvendelse. Så vi sagde: “Ok, hvor starter vi? Vi har brug for data. Vi har brug for tusind mammografier. Hvor får man den skala af data?” og svaret var “Ingen steder”. Vi indså straks, det er virkelig svært at finde data. Efter måneder voksede denne frustration til et filosofisk problem for os, vi tænkte: “Enhver, der prøver at gøre noget godt i dette område, skal ikke behøve at kæmpe og slid for at få den data, de har brug for for at bygge livsreddende algoritmer”. Og så sagde vi: “Hey, måske er det faktisk vores problem at løse”.

Hvad er de nuværende risici på markedet med urepræsentativ data?

Fra utallige studier og virkelige eksempler ved vi, at hvis vi bygger en algoritme, der kun bruger data fra vestkysten, og du bringer det til sydøsten, virker det simpelthen ikke. Gang på gang hører vi historier om AI, der fungerer glimrende på det nordøstlige hospital, hvor det blev skabt, og derefter, når de implementerer det andre steder, falder nøjagtigheden til under 50%.

Jeg tror, det fundamentale formål med AI på et etisk niveau er, at det skal reducere sundhedsforskelle. Formålet er at gøre kvalitetsbehandling tilgængelig og billig for alle. Men problemet er, når du bygger det på dårlig data, øger du faktisk forskellene. Vi fejler i missionen om sundheds-AI, hvis vi lader det kun virke for hvide mænd fra kysten. Folk fra underrepræsenterede baggrunde vil faktisk opleve mere diskrimination som følge, ikke mindre.

Kan du diskutere, hvordan Gradient Health indsamler data?

Ja, vi samarbejder med alle slags sundhedssystemer verden over, hvis data ellers er gemt væk, og det koster dem penge, og det gavner ingen. Vi afidentificerer deres data ved kilde og organiserer det derefter omhyggeligt for forskere.

Hvordan sikrer Gradient Health, at data er upartisk og så divers som muligt?

Der er mange måder. For eksempel, når vi indsamler data, sikrer vi os, at vi inkluderer mange fællesskabsklinikker, hvor du ofte har langt mere repræsentativ data, samt de større hospitaler. Vi indsamler også vores data fra et stort antal kliniske steder. Vi prøver at få så mange steder som muligt fra så bredt et spektrum af befolkninger som muligt. Så ikke kun at have et stort antal steder, men at have dem geografisk og socioøkonomisk divers.

For at validere alt dette kører vi statistik over alle disse datasæt og tilpasser det til kunden, så de får data, der er divers i forhold til teknologi og demografi.

Hvorfor er dette niveau af datakontrol så vigtigt for at designe robuste AI-algoritmer?

Der er mange variable, som en AI kan møde i den virkelige verden, og vores mål er at sikre, at algoritmen er så robust som muligt. For at forenkle tingene tænker vi på fem nøglevariable i vores data. Den første variabel, vi tænker på, er “udstyrsmærke”. Det er åbenlyst, men hvis du bygger en algoritme, der kun bruger data fra GE-scannere, virker den ikke så godt på en Hitachi, siger jeg.

På lignende vis er “udstyrmodellen” en variabel. Dette er faktisk ret interessant fra et sundhedsulighedsperspektiv. Vi ved, at de store, velfinansierede forskningsspidser tendenser til at have de nyeste og bedste versioner af scannere. Og hvis de kun træner deres AI på deres egne 2022-modeller, virker det ikke så godt på en ældre 2010-model. Disse ældre systemer er præcis de, der findes i mindre velstående og landlige områder. Så ved kun at bruge data fra nyere modeller introducerer de uvægerligt yderligere bias imod folk fra disse samfund.

De andre nøglevariable er køn, etnicitet og alder, og vi går til store længder for at sikre, at vores data er proportionelt balanceret på tværs af alle disse.

Hvad er nogle af de regulatoriske hindringer, som MedTech-virksomheder står over for?

Vi begynder at se, at FDA virkelig undersøger bias i datasæt. Vi har haft forskere, der kommer til os og siger: “FDA har afvist vores algoritme, fordi den manglede en 15% afroamerikansk befolkning” (den omtrentlige procentdel af afroamerikanere, der er en del af den amerikanske befolkning). Vi har også hørt om en udvikler, der blev bedt om at inkludere 1% pacific-hawaiianske øboere i deres træningsdata.

Så FDA begynder at indse, at disse algoritmer, der blev trænet på et enkelt hospital, ikke virker i den virkelige verden. Faktum er, at hvis du vil have CE-mærke og FDA-godkendelse, må du komme med et datasæt, der repræsenterer befolkningen. Det er, retmæssigt, ikke længere acceptabelt at træne en AI på en lille eller urepræsentativ gruppe.

Risikoen for MedTech-virksomheder er, at de investerer millioner af dollars i at få deres teknologi til et punkt, hvor de tror, de er klar til regulatorisk godkendelse, og derefter, hvis de ikke kan få det igennem, vil de aldrig få refusion eller indtægt. Ultimo, kræver vejlen til commercialisering og vejlen til at have den slags gavnlige indvirkning på sundhedspleje, som de ønsker at have, at de skal bekymre sig om data-bias.

Hvad er nogle af mulighederne for at overvinde disse hindringer fra et datapunkt?

I de seneste år er datamanagementmetoderne udviklet, og AI-udviklere har nu flere muligheder til rådighed end nogensinde før. Fra data-mellemledere og -partnere til federeret læring og syntetisk data er der nye tilgange til disse hindringer. Uanset hvilken metode de vælger, opmuntrer vi altid udviklerne til at overveje, om deres data virkelig er repræsentativt for den befolkning, der vil bruge produktet. Dette er langt den sværeste aspekt af datasourcing.

En løsning, som Gradient Health tilbyder, er Gradient Label, hvad er denne løsning, og hvordan gør den det muligt at mærke data i stor målestok?

Medicinsk billedanalyse-AI kræver ikke kun data, men også ekspertmærkninger. Og vi hjælper virksomheder med at få disse ekspertmærkninger, herunder fra radiologer.

Hvad er din vision for fremtiden for AI og data i sundhedspleje?

Der er allerede tusindvis af AI-værktøjer derude, der ser på alt lige fra fingertoppe til tæer, og jeg tror, dette vil fortsætte. Jeg tror, der vil være mindst 10 algoritmer for hver tilstand i en lægebog. Hver enkelt af dem vil have multiple, sandsynligvis konkurrerende, værktøjer til at hjælpe klinikerne med at yde den bedste pleje.

Jeg tror ikke, vi sandsynligvis vil ende med at se en Star Trek-stil Tricorder, der scanner en person og løser alle mulige problemer fra hoved til tå. I stedet vil vi have specialiserede anvendelser til hver undergruppe.

Er der noget andet, du gerne vil dele om Gradient Health?

Jeg er begejstret for fremtiden. Jeg tror, vi bevæger os mod et sted, hvor sundhedspleje er billigt, lige og tilgængeligt for alle, og jeg er ivrig efter, at Gradient får chancen til at spille en grundlæggende rolle i at gøre dette til virkelighed. Hele holdet her er ærligt talt begejstret for denne mission, og der er en samlet passion over dem, som du ikke finder i alle virksomheder. Og jeg elsker det!

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Gradient Health.