Josh Miller, Gradient Healthin toimitusjohtaja – Haastattelusarja

Josh Miller on Gradient Healthin toimitusjohtaja, yhtiö joka on perustettu ajatukselle, että automaattista diagnostiikkaa tarvitaan, jotta terveydenhuolto olisi tasa-arvoista ja saatavilla kaikille. Gradient Health pyrkii kiihdyttämään automaattista A.I. diagnostiikkaa järjestettyjen, merkittyjen ja saatavilla olevien tietojen avulla.

Voitko kertoa Gradient Healthin syntytarinan?

Perustajakumppanini Ouwen ja minä olimme juuri poistuneet ensimmäisestä start-upistamme, FarmShots, joka käytti konenäköä vähentämään torjunta-aineiden määrää maataloudessa, ja etsimme seuraavaa haastettamme.

Olemme aina olleet motivoidut halusta löytää vaikea ongelma, jota voidaan ratkaista teknologian avulla, jolla on a) mahdollisuus tehdä paljon hyvää maailmassa, ja b) johtaa vankkaan liiketoimintaan. Ouwen opiskeli lääketiedettä, ja konenäköä koskevan kokemuksemme ansiosta, lääketieteellinen kuvantaminen oli luonnollinen valinta meille. Rintasyövän tuhoisan vaikutuksen vuoksi valitsimme mammografian potentiaaliseksi ensimmäiseksi sovellukseksi. Niin me sanomme, “Ok, mistä aloitamme? Tarvitsemme dataa. Tarvitsemme tuhannen mammografian. Missä saat tuon mittakaavan dataa?” ja vastaus oli “Ei mistään”. Tajusimme välittömästi, että se on todella vaikeaa löytää dataa. Kuukausien jälkeen, tämä turhautuminen kasvoi filosofiseksi ongelmaksi meillä, ajattelimme “kuka tahansa, joka yrittää tehdä hyvää tässä tilassa, ei pitäisi joutua taistelemaan ja kamppailemaan saadakseen datan, jota he tarvitsevat ihmishenkiä pelastavien algoritmien kehittämiseen”. Ja niin me sanomme “hei, ehkä se on todella meidän ongelma ratkaista”.

Mitä ovat nykyiset riskit markkinassa edustamattomalla datalla?

Lukuisista tutkimuksista ja todellisista esimerkeistä tiedämme, että jos rakennamme algoritmin, joka käyttää vain dataa länsirannikolta, ja tuotamme sen kaakkoisrannikolle, se ei toimi. Usein kuulemme tarinoita siitä, kuinka AI toimii hyvin Yhdysvaltojen koillisosassa sijaitsevassa sairaalassa, jossa se luotiin, ja sitten kun he asettavat sen toisaalle, sen tarkkuus laskee alle 50%:iin.

Uskon, että tekoälyn perimmäinen tarkoitus, eettisellä tasolla, on se, että se pitäisi vähentää terveyden eroja. Tavoitteena on tehdä laadukas hoito edulliseksi ja saataville kaikille. Mutta ongelma on, kun sinä rakennat sen huonolle datalle, sinä itse asiassa lisäät eroja. Me epäonnistumme terveydenhuollon AIn tehtävässä, jos me annamme sille toimia vain rannikkoalueiden valkoisten miesten kohdalla. Ihmiset, jotka ovat aliedustetuilta taustoilta, kärsivät todennäköisemmin syrjinnästä, ei vähemmän.

Voitko keskustella siitä, miten Gradient Health hankkii dataa?

Kyllä, me teemme yhteistyötä erilaisien terveydenhuollon järjestelmien kanssa ympäri maailmaa, joiden data on muuten varastoituna, ja se maksaa heille rahaa eikä hyödytä ketään. Me de-identifioimme heidän datansa lähteessä ja sitten me järjestämme sen huolellisesti tutkijoille.

Miten Gradient Health varmistaa, että data on puolueetonta ja mahdollisimman monipuolista?

On monia tapoja. Esimerkiksi, kun keräämme dataa, me varmistamme, että me sisällytämme paljon paikallisia klinikoita, joissa on usein edustavaa dataa, sekä suurempia sairaaloita. Me myös hankkimme dataamme useista kliinisistä kohteista. Me yritämme saada niin monta kohdetta kuin mahdollista, ja me pyrimme saamaan niistä mahdollisimman monipuolisia populaatioita. Siksi meillä on niin monta kohdetta, jotka ovat sekä maantieteellisesti että sosioekonomisesti monipuolisia. Jos kaikki kohteet ovat vain suurten sairaaloiden kohteita, se ei ole edustavaa dataa, eikö?

Jotta voimme vahvistaa tämän, me suoritamme tilastolliset analyysit kaikissa näissä tietojoukoissa, ja me räätälöimme sen asiakkaalle, jotta he saavat datan, joka on monipuolista sekä teknologian että demografian suhteen.

Miksi tämä taso dataohjauksessa on niin tärkeää suunnitella robusteja A.I.-algoritmeja?

On monia muuttujia, joita tekoäly voi kohdata todellisessa maailmassa, ja meidän tavoitteena on varmistaa, että algoritmi on niin toimintavarma kuin mahdollista. Yksinkertaistamalla asioita, me ajattelemme viittä avainmuuttujaa meidän datasta. Ensimmäinen muuttuja, josta me puhumme, on “laitteen valmistaja”. Se on ilmeinen, mutta jos me rakennamme algoritmin, joka käyttää vain dataa GE-skannereista, se ei toimi yhtä hyvin Hitachin skannerilla.

Samanlainen on “laitteen malli” -muuttuja. Tämä on todella mielenkiintoinen terveyden epätasa-arvon näkökulmasta. Me tiedämme, että suuret, hyvin rahoitetut tutkimussairaalat ovat usein uusimmat ja parhaat skannerit. Ja, jos he kouluttavat A.I.:nsa vain omilla 2022 mallilla, se ei toimi yhtä hyvin vanhemmilla 2010 mallilla. Nämä vanhemmat järjestelmät ovat juuri niitä, joita löytyy vähemmän varakkaista ja maaseutualueista. Niin, että he käyttävät vain uusimman mallin dataa, he ovat tahattomasti lisäämässä syrjintää näiden yhteisöjen ihmisiä kohtaan.

Muut avainmuuttujat ovat sukupuoli, etnisyys ja ikä, ja me olemme menneet pitkälle varmistamaan, että meidän data on suhteellisesti tasapainossa kaikissa näissä.

Mitä ovat jotkut sääntelyesteet, joita MedTech-yritykset kohtaavat?

Me olemme alkaneet nähdä, kuinka FDA tutkii datan harhaa. Meillä on tutkijoita, jotka ovat tulleet meillä ja sanoneet “FDA on hylännyt meidän algoritmin, koska se puuttui 15%:n afrikkalais-amerikkalaisen väestön edustusta” (noin 15%:n osuus afrikkalais-amerikkalaisista, jotka ovat osa Yhdysvaltain väestöä). Meillä on myös kuultu kehittäjää, jolle on sanottu, että heidän on sisällyttävä 1%:n Tyynenmeren hawaijilaisia heidän koulutusdataansa.

Näin ollen FDA on alkamassa ymmärtämään, että nämä algoritmit, jotka on koulutettu vain yhdessä sairaalassa, eivät toimi todellisessa maailmassa. Se on, että jos haluat CE-merkin ja FDA-hyväksynnän, sinun on tultava datalla, joka edustaa väestöä. Se ei ole enää hyväksytty, että koulutat A.I.:n vain pienellä tai edustamattomalla ryhmällä.

MedTech-yritysten riski on, että he investoivat miljoonia dollareita saadakseen teknologiansa siihen pisteeseen, jossa he luulevat olevansa valmiit sääntelyhyväksynnälle, ja sitten jos he eivät voi saada sitä läpi, he eivät koskaan saa korvausta tai tuloa. Lopulta, kaupallistamisen tie ja tie, jolla he voivat saada hyödyllisen vaikutuksen terveydenhuoltoon, edellyttää heidän huolehtia datan vinoumista.

Mitä ovat jotkut vaihtoehdot ylittämään nämä esteet datan näkökulmasta?

Viime vuosina datan hallintamenetelmät ovat kehittyneet, ja A.I.-kehittäjillä on nyt enemmän vaihtoehtoja kuin koskaan aiemmin. Datavälittäjien ja kumppaneiden, federated learningin ja synteettisen datan kautta on uusia lähestymistapoja näihin esteisiin. Mikä tahansa menetelmä he valitsevat, me aina rohkaamme kehittäjiä pohtimaan, onko heidän data heidän tuotteensa käyttäjille edustavaa.

Mikä on Gradient Healthin ratkaisu, jota kutsutaan Gradient Label, ja miten se mahdollistaa datan merkitsemisen suuressa mittakaavassa?

Lääketieteellisen kuvantamisen A.I. ei vaadi vain dataa, vaan myös asiantuntijoiden merkintöjä. Me autamme yrityksiä saamaan nämä asiantuntijoiden merkinnät, myös radiologeilta.

Mikä on visiosi tulevaisuudesta A.I.:n ja datan suhteen terveydenhuollossa?

On jo tuhansia A.I.-työkaluja, jotka tarkastelevat kaikkea sormenpäistä varpaiden kärkiin, ja uskon, että tämä jatkuu. Uskon, että on olemassa vähintään 10 algoritmia jokaiselle sairaudelle lääketieteen kirjassa. Jokaista sairautta varten tulee olemaan useita, todennäköisesti keskenään kilpailevia työkaluja, jotka auttavat kliinikoita antamaan parhaimman hoidon.

En usko, että lopputuloksena nähdään Star Trek -tyylinen Tricorder, joka skannaa henkilön ja hoitaa jokaisen mahdollisen ongelman päästä jalkaan. Sen sijaan meillä on erikoissovellukset jokaiselle aliryhmälle.

Onko mitään muuta, mitä haluaisit jakaa Gradient Healthista?

Olen innoissani tulevaisuudesta. Uskon, että me liikumme kohti paikkaa, jossa terveydenhuolto on halpaa, tasa-arvoista ja saatavilla kaikille, ja olen halukas, että Gradient saa mahdollisuuden pelata perustavaa roolia tämän toteuttamisessa. Koko tiimi täällä uskoo todella tähän tehtävään, ja on yhtenäinen intohimon heidän keskuudessaan, jota et löydä jokaisesta yrityksestä. Ja rakastan sitä!

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Gradient Health -sivustolla.