Josh Miller, CEO al Gradient Health – Seria de interviuri

Josh Miller este CEO al Gradient Health, o companie fondată pe ideea că diagnosticele automate trebuie să existe pentru ca sănătatea să fie echitabilă și accesibilă tuturor. Gradient Health își propune să accelereze diagnosticele automate A.I. cu date care sunt organizate, etichetate și disponibile.

Puteți împărtăși povestea de origine din spatele Gradient Health?

Co-fondatorul meu Ouwen și cu mine tocmai ieșiserăm din prima noastră companie, FarmShots, care utiliza viziunea computerizată pentru a reduce cantitatea de pesticide utilizate în agricultură, și căutam următoarea noastră provocare.

Ne-am motivat întotdeauna prin dorința de a găsi o problemă dificilă de rezolvat cu tehnologia care a) are oportunitatea de a face mult bine în lume și b) conduce la o afacere solidă. Ouwen lucra la diploma sa medicală, și cu experiența noastră în viziunea computerizată, imagistica medicală a fost o potrivire naturală pentru noi. Din cauza impactului devastator al cancerului de sân, am ales mamografia ca o posibilă aplicație inițială. Așadar, am spus: “Ok, de unde începem? Avem nevoie de o mie de mamografii. Unde puteți obține această scară de date?” și răspunsul a fost “Nicăieri”. Am realizat imediat că este foarte greu să găsiți date. După luni, această frustrare a crescut într-o problemă filosofică pentru noi, am gândit “oricine care încearcă să facă bine în acest spațiu nu ar trebui să lupte și să se străduie să obțină datele de care au nevoie pentru a construi algoritmi care salvează vieți”. Și așa am spus “hey, poate că acesta este de fapt problema noastră de rezolvat”.

Care sunt riscurile actuale de pe piață cu date nereprezentative?

Din numeroase studii și exemple din lumea reală, știm că, dacă construim un algoritm utilizând doar date de pe coasta de vest și îl aducem în sud-est, pur și simplu nu va funcționa. De multe ori auzim povești despre inteligență artificială care funcționează foarte bine în spitalul din nord-est în care a fost creată și, apoi, când o implementează în altă parte, acuratețea scade la mai puțin de 50%.

Cred că scopul fundamental al inteligenței artificiale, la nivel etic, este că ar trebui să reducă disparitățile de sănătate. Scopul este de a face îngrijirea de calitate accesibilă și la prețuri rezonabile pentru toată lumea. Dar problema este că, atunci când o construiți pe baza unor date proaste, de fapt creșteți disparitățile. Eșuăm în misiunea inteligenței artificiale pentru sănătate, dacă o lăsăm să funcționeze doar pentru bărbații albi de pe coaste. Oamenii din medii subreprezentate vor suferi, de fapt, mai multă discriminare în urma acestui fapt, nu mai puțin.

Puteți discuta cum Gradient Health obține date?

Da, ne asociem cu toate tipurile de sisteme de sănătate din întreaga lume, ale căror date sunt altfel depozitate, costându-le bani și nefiind de folos nimănui. De-identificăm cu atenție datele la sursă și apoi le organizăm cu atenție pentru cercetători.

Cum asigură Gradient Health că datele sunt lipsite de părtinire și cât mai diverse posibil?

Există multe modalități. De exemplu, atunci când colectăm date, ne asigurăm că includem multe clinici comunitare, unde de obicei aveți date mult mai reprezentative, precum și spitalele mai mari. De asemenea, obținem datele noastre de la un număr mare de site-uri clinice. Încercăm să obținem cât mai multe site-uri posibil dintr-o gamă largă de populații posibile. Așadar, nu doar avem un număr mare de site-uri, ci și site-uri geografic și socio-economic diverse. Pentru că, dacă toate site-urile dvs. sunt toate din spitalele din centrul orașului, nu este încă o dată reprezentativă, nu?

Pentru a valida toate acestea, rulăm statistici pe toate aceste seturi de date și le personalizăm pentru client, pentru a ne asigura că primesc date care sunt diverse din punct de vedere tehnologic și demografic.

De ce este acest nivel de control al datelor atât de important pentru proiectarea unor algoritmi robusti de inteligență artificială?

Există multe variabile pe care un algoritm de inteligență artificială le poate întâlni în lumea reală și scopul nostru este de a ne asigura că algoritmul este cât mai robust posibil. Pentru a simplifica lucrurile, ne gândim la cinci variabile cheie în datele noastre. Prima variabilă la care ne gândim este “producătorul de echipamente”. Este evident, dar dacă construiți un algoritm doar utilizând date de la scanere GE, nu va funcționa la fel de bine pe un Hitachi, de exemplu.

În linii similare este variabila “model de echipament”. Aceasta este, de fapt, destul de interesantă din perspectiva inegalității în sănătate. Știm că spitalele de cercetare mari și bine finanțate tind să aibă cele mai recente și mai bune versiuni ale scanerelor. Și, dacă antrenează doar inteligența lor artificială pe propriile modele din 2022, nu va funcționa la fel de bine pe un model mai vechi din 2010. Aceste sisteme mai vechi sunt exact cele găsite în zonele mai puțin avantajoase și rurale. Așadar, prin utilizarea doar a datelor de la modelele mai noi, introduc, în mod neintenționat, o părtinire suplimentară împotriva oamenilor din aceste comunități.

Celelalte variabile cheie sunt sexul, etnia și vârsta și ne străduim să ne asigurăm că datele noastre sunt echilibrate proporțional în toate acestea.

Care sunt unele dintre obstacolele de reglementare cu care se confruntă companiile MedTech?

Începem să vedem FDA-ul investigând cu adevărat părtinirea în seturile de date. Am avut cercetători care vin la noi și spun “FDA a respins algoritmul nostru, deoarece lipsea o populație de 15% afro-americană” (procentul aproximativ de afro-americani care fac parte din populația SUA). Am auzit, de asemenea, despre un dezvoltator care a fost informat că trebuie să includă 1% de insulari din Hawaii în setul de date de antrenament.

Așadar, FDA începe să realizeze că acești algoritmi, care au fost antrenați doar într-un singur spital, nu funcționează în lumea reală. Faptul este că, dacă doriți marcajul CE și aprobarea FDA, trebuie să veniți cu un set de date care reprezintă populația. Nu mai este acceptabil să antrenați o inteligență artificială pe un grup mic sau nereprezentativ.

Riscul pentru MedTech este că investesc milioane de dolari pentru a-și aduce tehnologia într-un loc în care cred că sunt gata pentru aprobarea de reglementare și, apoi, dacă nu pot obține aprobarea, nu vor obține niciodată rambursarea sau venitul. În cele din urmă, calea către comercializare și calea către a avea impactul benefic asupra sănătății pe care îl doresc implică faptul că trebuie să se îngrijească de părtinirea datelor.

Care sunt unele dintre opțiunile pentru depășirea acestor obstacole din perspectiva datelor?

În ultimii ani, metodele de gestionare a datelor au evoluat și, în prezent, dezvoltatorii de inteligență artificială au mai multe opțiuni disponibile decât oricând. De la intermediari de date și parteneri la învățarea federată și date sintetice, există abordări noi pentru aceste obstacole. Indiferent de metoda pe care o aleg, îi încurajăm întotdeauna pe dezvoltatori să ia în considerare dacă datele lor sunt cu adevărat reprezentative pentru populația care va utiliza produsul. Acesta este, cu siguranță, aspectul cel mai dificil al obținerii datelor.

O soluție pe care Gradient Health o oferă este Gradient Label, ce este această soluție și cum permite etichetarea datelor la scară?

Inteligența artificială pentru imagistica medicală nu necesită doar date, ci și anotări experte. Și ne ajutăm companiile să obțină aceste anotări experte, inclusiv de la radiologi.

Care este viziunea dvs. pentru viitorul inteligenței artificiale și al datelor în sănătate?

Există deja mii de unelte de inteligență artificială acolo care examinează totul, de la vârful degetelor la vârful picioarelor, și cred că acest lucru va continua. Cred că vor exista cel puțin 10 algoritmi pentru fiecare afecțiune dintr-un manual medical. Fiecare dintre ele va avea multiple unelte competitive pentru a ajuta clinicienii să ofere cea mai bună îngrijire.

Nu cred că vom ajunge să vedem un dispozitiv de tip Tricorder, care scanează pe cineva și abordează fiecare problemă posibilă de la cap la picioare. În schimb, vom avea aplicații specializate pentru fiecare subset.

Există ceva altceva pe care ați dori să-l împărtășiți despre Gradient Health?

Sunt entuziasmat de viitor. Cred că ne îndreptăm către un loc în care sănătatea este ieftină, egală și accesibilă tuturor și sunt dornic ca Gradient să aibă ocazia de a juca un rol fundamental în realizarea acestui lucru. Întregul nostru echipaj de aici crede cu adevărat în această misiune și există o pasiune unită printre ei, pe care nu o găsiți la fiecare companie. Și îmi place!

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre Gradient Health ar trebui să viziteze site-ul.