Josh Miller, VD för Gradient Health – Interview Series

Josh Miller är VD för Gradient hälsa, ett företag grundat på idén att automatiserad diagnostik måste finnas för att sjukvården ska vara rättvis och tillgänglig för alla. Gradient Health syftar till att påskynda automatiserad AI-diagnostik med data som är organiserad, märkt och tillgänglig.

Skulle du kunna dela med dig av historien bakom Gradient Health?

Min medgrundare Ouwen och jag hade precis lämnat vår första start-up, FarmShots, som använde datorseende för att hjälpa till att minska mängden bekämpningsmedel som används i jordbruket, och vi letade efter vår nästa utmaning.

Vi har alltid varit motiverade av viljan att hitta ett tufft problem att lösa med teknik som a) har möjlighet att göra mycket nytta i världen och b) leder till en solid affär. Ouwen arbetade på sin medicinska examen, och med vår erfarenhet av datorseende passade medicinsk bildbehandling naturligt för oss. På grund av den förödande effekten av bröstcancer valde vi mammografi som en potentiell första applikation. Så vi sa: "Ok, var ska vi börja? Vi behöver data. Vi behöver tusen mammografi. Var får du tag i den omfattningen av data?” och svaret var "Ingenstans". Vi insåg direkt, det är verkligen svårt att hitta data. Efter månader växte denna frustration till ett filosofiskt problem för oss, vi tänkte att "den som försöker göra gott i det här utrymmet ska inte behöva kämpa och kämpa för att få den data de behöver för att bygga livräddande algoritmer". Och så sa vi "hej, det kanske faktiskt är vårt problem att lösa".

Vilka är de nuvarande riskerna på marknaden med icke-representativa data?

Från otaliga studier och exempel från verkliga världen vet vi att om vi bygger en algoritm, som bara använder data från västkusten, och du tar den till sydost, så kommer den bara inte att fungera. Gång på gång hör vi historier om AI som fungerar utmärkt på det nordöstra sjukhuset det skapades på, och när de sedan använder det någon annanstans sjunker noggrannheten till mindre än 50 %.

Jag tror att det grundläggande syftet med AI, på en etisk nivå, är att den ska minska hälsoskillnader. Syftet är att göra kvalitetsvård överkomlig och tillgänglig för alla. Men problemet är när du har det byggt på dålig data så ökar du faktiskt avvikelserna. Vi misslyckas med uppdraget med AI om vi låter det bara fungera för vita killar från kusterna. Människor från underrepresenterade bakgrunder kommer faktiskt att utsättas för mer diskriminering som ett resultat, inte mindre.

Kan du diskutera hur Gradient Health hämtar data?

Visst, vi samarbetar med alla typer av hälsosystem runt om i världen vars data annars lagras bort, vilket kostar dem pengar och inte gynnar någon. Vi avidentifierar deras data grundligt vid källan och sedan organiserar vi det noggrant för forskare.

Hur säkerställer Gradient Health att data är opartisk och så mångsidig som möjligt?

Det finns många sätt. Till exempel, när vi samlar in data ser vi till att vi inkluderar massor av samhällskliniker, där du ofta har mycket mer representativ data, såväl som de större sjukhusen. Vi hämtar också våra data från ett stort antal kliniska platser. Vi försöker få så många sajter som möjligt från ett så brett spektrum av populationer som möjligt. Så inte bara att ha ett stort antal webbplatser, utan att ha dem geografiskt och socioekonomiskt olika. För om alla era sajter kommer från sjukhus i centrum är det ändå inte representativa uppgifter, eller hur?

För att validera allt detta kör vi statistik över alla dessa datauppsättningar, och vi anpassar den för kunden, för att se till att de får data som är olika vad gäller teknik och demografi.

Varför är denna nivå av datakontroll så viktig för att designa robusta AI-algoritmer?

Det finns många variabler som en AI kan stöta på i den verkliga världen, och vårt mål är att säkerställa att algoritmen är så robust som den kan vara. För att förenkla saker tänker vi på fem nyckelvariabler i vår data. Den första variabeln vi tänker på är "utrustningstillverkare". Det är uppenbart, men om du bygger en algoritm som bara använder data från GE-skannrar, kommer den inte att fungera lika bra på en Hitachi, säg.

På liknande sätt finns variabeln "utrustningsmodell". Den här är faktiskt ganska intressant ur ett hälsoojämlikhetsperspektiv. Vi vet att de stora, välfinansierade forskningssjukhusen tenderar att ha de senaste och bästa versionerna av skannrar. Och om de bara tränar sin AI på sina egna 2022-modeller, kommer det inte att fungera lika bra på en äldre 2010-modell. Dessa äldre system är exakt de som finns i mindre välbärgade och landsbygdsområden. Så genom att bara använda data från nyare modeller introducerar de oavsiktligt ytterligare partiskhet mot människor från dessa samhällen.

De andra nyckelvariablerna är kön, etnicitet och ålder, och vi går långt för att se till att vår data är proportionellt balanserad över dem alla.

Vilka är några av de reglerande hinder som MedTech-företag står inför?

Vi börjar se att FDA verkligen undersöker partiskhet i datauppsättningar. Vi har låtit forskare komma till oss och säga "FDA har avvisat vår algoritm eftersom den saknade en 15% afroamerikansk befolkning" (den ungefärliga andelen afroamerikaner som är en del av USA:s befolkning). Vi har också hört talas om en utvecklare som fått veta att de måste inkludera 1 % Pacific Hawaiian Islanders i sina träningsdata.

Så, FDA börjar inse att dessa algoritmer, som bara tränades på ett enda sjukhus, inte fungerar i den verkliga världen. Faktum är att om du vill ha CE-märkning och FDA-godkännande måste du komma med en datauppsättning som representerar befolkningen. Det är med rätta inte längre acceptabelt att träna en AI på en liten eller icke-representativ grupp.

Risken för MedTechs är att de investerar miljontals dollar för att få sin teknologi till en plats där de tror att de är redo för myndighetstillstånd, och sedan om de inte kan få igenom det, kommer de aldrig att få ersättning eller intäkter. I slutändan kräver vägen till kommersialisering och vägen till att ha den sortens positiva inverkan på sjukvården som de vill ha att de bryr sig om databias.

Vilka är några av alternativen för att övervinna dessa hinder ur ett dataperspektiv?

Under de senaste åren har datahanteringsmetoder utvecklats, och AI-utvecklare har nu fler alternativ tillgängliga för dem än någonsin tidigare. Från dataförmedlare och partners till federerat lärande och syntetiska data, det finns nya metoder för dessa hinder. Oavsett vilken metod de väljer uppmuntrar vi alltid utvecklare att överväga om deras data verkligen är representativ för befolkningen som kommer att använda produkten. Detta är den överlägset svåraste aspekten av att anskaffa data.

En lösning som Gradient Health erbjuder är Gradient Label, vad är denna lösning och hur möjliggör den märkning av data i stor skala?

Medicinsk bildbehandling AI kräver inte bara data, utan också expertkommentarer. Och vi hjälper företag att få dessa expertkommentarer, bland annat från radiologer.

Vilken är din vision för framtiden för AI och data inom vården?

Det finns redan tusentals AI-verktyg där ute som tittar på allt från fingertopparna till tåspetsarna, och jag tror att detta kommer att fortsätta. Jag tror att det kommer att finnas minst 10 algoritmer för varje tillstånd i en medicinsk lärobok. Var och en kommer att ha flera, förmodligen konkurrenskraftiga, verktyg för att hjälpa läkare att ge den bästa vården.

Jag tror inte att vi sannolikt kommer att få se en Star Trek-stil Tricorder som skannar någon och tar upp alla möjliga problem från topp till tå. Istället kommer vi att ha specialistapplikationer för varje delmängd.

Finns det något mer du skulle vilja dela med dig av om Gradient Health?

Jag är spänd på framtiden. Jag tror att vi går mot en plats där sjukvården är billig, jämlik och tillgänglig för alla, och jag är angelägen om att Gradient får chansen att spela en grundläggande roll för att få detta att hända. Hela teamet här tror verkligen på det här uppdraget, och det finns en enad passion över dem som du inte får på alla företag. Och jag älskar det!

Tack för den fina intervjun, läsare som vill veta mer bör besöka Gradient hälsa.