Josh Miller, VD för Gradient Health – Intervjuserie

Josh Miller är VD för Gradient Health, ett företag som grundades på idén att automatiserad diagnostik måste finnas för att hälsovården ska vara jämlik och tillgänglig för alla. Gradient Health syftar till att påskynda automatiserad AI-diagnostik med data som är organiserad, märkt och tillgänglig.

Kan du dela med dig av ursprunget till Gradient Health?

Min medgrundare Ouwen och jag hade just lämnat vårt första företag, FarmShots, som använde datorseende för att hjälpa minska mängden pesticider som används inom jordbruket, och vi letade efter vår nästa utmaning.

Vi har alltid varit motiverade av önskan att hitta ett svårt problem att lösa med teknik som a) har möjlighet att göra mycket gott i världen och b) leder till ett solidt företag. Ouwen arbetade på sin medicinska examen, och med vår erfarenhet av datorseende var medicinska bilder en naturlig fit för oss. På grund av den förödande effekten av bröstcancer valde vi mammografi som en potentiell första tillämpning. Så vi sa: “Ok, var börjar vi? Vi behöver data. Vi behöver tusen mammografier. Var kan man få den här skalan av data?” och svaret var “Ingenstans”. Vi insåg omedelbart att det är väldigt svårt att hitta data. Efter månader växte denna frustration till ett filosofiskt problem för oss, vi tänkte: “Var och en som försöker göra gott i det här området borde inte behöva kämpa och slåss för att få den data de behöver för att bygga livräddande algoritmer”. Och så sa vi: “hej, kanske är det faktiskt vårt problem att lösa”.

Vilka är de nuvarande riskerna på marknaden med orepresentativ data?

Från otaliga studier och verkliga exempel vet vi att om vi bygger en algoritm med endast data från västkusten och du tar den till sydöst, så fungerar den inte. Om och om igen hör vi historier om AI som fungerar bra på den nordöstra sjukhuset där den skapades, och sedan när de distribuerar den på andra platser så minskar noggrannheten till mindre än 50%.

Jag tror att det grundläggande syftet med AI, på en etisk nivå, är att det ska minska hälsoskillnader. Målet är att göra kvalitetsvård billigt och tillgängligt för alla. Men problemet är att när du har det byggt på dålig data, så ökar du faktiskt skillnaderna. Vi misslyckas med uppdraget att göra AI för hälsovården om vi låter det fungera endast för vita män från kusten. Personer från underrepresenterade bakgrunder kommer faktiskt att lida mer av diskriminering som ett resultat, inte mindre.

Kan du diskutera hur Gradient Health hämtar data?

Självklart, vi samarbetar med alla typer av hälsovårdssystem runt om i världen vars data annars lagras bort, vilket kostar dem pengar och inte gynnar någon. Vi avidentifierar deras data på plats och sedan organiserar vi den noggrant för forskare.

Hur säkerställer Gradient Health att data är obiast och så diversifierad som möjligt?

Det finns många sätt. Till exempel när vi samlar in data, ser vi till att vi inkluderar många communitykliniker, där du ofta har mer representativ data, samt de större sjukhusen. Vi hämtar också vår data från ett stort antal kliniska platser. Vi försöker få så många platser som möjligt från så många olika befolkningsgrupper som möjligt. Så inte bara ha ett stort antal platser, utan ha dem geografiskt och socioekonomiskt diversifierade. För om alla dina platser är från downtown-sjukhus, så är det fortfarande inte representativ data, eller hur?

För att validera allt detta, kör vi statistik över alla dessa datamängder, och vi anpassar det för kunden, för att säkerställa att de får data som är diversifierad i termer av teknik och demografi.

Varför är den här nivån av datakontroll så viktig för att utforma robusta AI-algoritmer?

Det finns många variabler som en AI kan möta i den verkliga världen, och vårt mål är att säkerställa att algoritmen är så robust som möjligt. För att förenkla saker, tänker vi på fem nyckelvariabler i vår data. Den första variabeln vi tänker på är “utrustningstillverkare”. Det är uppenbart, men om du bygger en algoritm med endast data från GE-skannrar, så kommer den inte att fungera lika bra på en Hitachi, till exempel.

I liknande linje är “utrustningsmodell” variabeln. Den här är faktiskt ganska intressant från ett hälsoojämlikhetsperspektiv. Vi vet att de stora, välfinansierade forskningssjukhusen tenderar att ha de senaste och bästa versionerna av skannrar. Och om de endast tränar sin AI på sina egna 2022-modeller, så kommer den inte att fungera lika bra på en äldre 2010-modell. Dessa äldre system är exakt de som finns i mindre välmående och rurala områden. Så, genom att endast använda data från nyare modeller, introducerar de oavsiktligt ytterligare bias mot personer från dessa samhällen.

De andra nyckelvariablerna är kön, etnicitet och ålder, och vi går till stor möda för att säkerställa att vår data är proportionerligt balanserad över alla dessa.

Vilka är några av de regulatoriska hinder som MedTech-företag möter?

Vi börjar se att FDA verkligen undersöker bias i datamängder. Vi har haft forskare som kommer till oss och säger “FDA har avvisat vår algoritm eftersom den saknade en 15% afroamerikansk befolkning” (den ungefärliga procenten afroamerikaner som är en del av den amerikanska befolkningen). Vi har också hört talas om en utvecklare som blev tillsagd att de behöver inkludera 1% Stillahavsöbor i sin träningsdata.

Så, FDA börjar inse att dessa algoritmer, som endast tränats på ett enda sjukhus, inte fungerar i den verkliga världen. Faktum är att om du vill ha CE-märkning och FDA-godkännande, så måste du komma med en datamängd som representerar befolkningen. Det är, rätteligen, inte längre acceptabelt att träna en AI på en liten eller orepresentativ grupp.

Risken för MedTech-företag är att de investerar miljontals dollar i att få sin teknik till en punkt där de tror att de är redo för regulatoriskt godkännande, och sedan, om de inte kan få det igenom, så kommer de aldrig att få ersättning eller intäkter. Ultimat, så kräver vägen till kommersialisering och vägen till att ha den sorts gynnsamma effekt på hälsovården som de vill ha, att de bryr sig om data-bias.

Vilka är några av alternativen för att övervinna dessa hinder från ett dataperspektiv?

Under de senaste åren har datahanteringsmetoder utvecklats, och AI-utvecklare har nu fler alternativ tillgängliga för dem än någonsin tidigare. Från data-mäklare och partners till federerat lärande och syntetisk data, finns det nya tillvägagångssätt för dessa hinder. Oavsett vilken metod de väljer, uppmuntrar vi alltid utvecklare att överväga om deras data verkligen representerar den befolkning som kommer att använda produkten. Detta är med största sannolikhet den svåraste aspekten av datainsamling.

En lösning som Gradient Health erbjuder är Gradient Label, vad är den här lösningen och hur möjliggör den märkning av data i stor skala?

Medicinsk bild-AI kräver inte bara data, utan också expertmärkning. Och vi hjälper företag att få dessa expertmärkningar, inklusive från radiologer.

Vad är din vision för framtiden för AI och data inom hälsovården?

Det finns redan tusentals AI-verktyg där ute som tittar på allt från fingerspetsarna till tåspetsarna, och jag tror att det här kommer att fortsätta. Jag tror att det kommer att finnas minst 10 algoritmer för varje tillstånd i en medicinsk lärobok. Var och en av dem kommer att ha flera, förmodligen konkurrerande, verktyg för att hjälpa kliniker ge den bästa vården.

Jag tror inte att vi kommer att se en Star Trek-stil Tricorder som skannar någon och löser alla möjliga problem från huvud till tå. Istället kommer vi att ha specialiserade applikationer för varje undergrupp.

Finns det något annat du skulle vilja dela om Gradient Health?

Jag är spänd på framtiden. Jag tror att vi är på väg mot en plats där hälsovården är billig, jämlik och tillgänglig för alla, och jag är ivrig att Gradient får chansen att spela en grundläggande roll i att göra detta möjligt. Hela teamet här tror verkligen på den här missionen, och det finns en enad passion över dem som du inte hittar i varje företag. Och jag älskar det!

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka Gradient Health.