Josh Miller, CEO al Gradient Health – Seria de interviuri

Josh Miller este CEO al Gradient Health, o companie fondată pe ideea că diagnosticarea automată trebuie să existe pentru ca sistemul de sănătate să fie echitabil și accesibil tuturor. Gradient Health își propune să accelereze diagnosticarea automată cu ajutorul inteligenței artificiale, utilizând date organizate, etichetate și disponibile.

Puteți împărtăși povestea de origine a Gradient Health?

Co-fondatorul meu, Ouwen, și cu mine am ieșit recent de la prima noastră companie, FarmShots, care utiliza viziunea computerizată pentru a reduce cantitatea de pesticide utilizate în agricultură, și căutam următoarea noastră provocare.

Am fost întotdeauna motivați de dorința de a găsi o problemă dificilă de rezolvat cu tehnologia care a) are oportunitatea de a face mult bine în lume și b) conduce la o afacere solidă. Ouwen lucra la diploma sa medicală, iar cu experiența noastră în viziunea computerizată, imagistica medicală a fost o alegere naturală pentru noi. Din cauza impactului devastator al cancerului de sân, am ales mamografia ca o posibilă primă aplicație. Așadar, am spus: “Ok, de unde începem? Avem nevoie de date. Avem nevoie de o mie de mamografii. De unde putem obține această cantitate de date?” și răspunsul a fost “De nicăieri”. Am realizat imediat că este foarte greu să găsești date. După luni, această frustrare a crescut într-o problemă filosofică pentru noi, am gândit: “Oricine încearcă să facă bine în acest domeniu nu ar trebui să lupte și să se străduie să obțină datele de care are nevoie pentru a construi algoritmi care salvează vieți”. Și astfel am spus: “hai, poate că aceasta este de fapt problema noastră de rezolvat”.

Care sunt riscurile actuale de pe piață legate de datele nereprezentative?

Din numeroase studii și exemple din lumea reală, știm că dacă construim un algoritm utilizând doar date de pe coasta de vest și îl aducem în sud-est, pur și simplu nu va funcționa. De multe ori auzim povești despre inteligența artificială care funcționează bine în spitalul din nord-est în care a fost creată, iar atunci când o implementează în altă parte, acuratețea scade la sub 50%.

Cred că scopul fundamental al inteligenței artificiale, la nivel etic, este acela de a reduce discrepanțele în sănătate. Scopul este de a face îngrijirea de calitate accesibilă și ieftină pentru toată lumea. Dar problema este că, atunci când o construim pe baza unor date proaste, de fapt creștem discrepanțele. Eșuăm în misiunea inteligenței artificiale în sănătate, dacă o lăsăm să funcționeze doar pentru bărbații albi de pe coaste. Oamenii din medii defavorizate vor suferi într-adevăr mai mult din cauza discriminării, nu mai puțin.

Puteți discuta despre cum Gradient Health obține date?

Da, ne asociem cu toate tipurile de sisteme de sănătate din întreaga lume, ale căror date sunt altfel stocate, costând bani și nefiind de folos nimănui. Deidentificăm cu atenție datele la sursă și apoi le organizăm cu grijă pentru cercetători.

Cum asigură Gradient Health că datele sunt lipsite de prejudecăți și cât mai diverse posibil?

Există multe modalități. De exemplu, atunci când colectăm date, ne asigurăm că includem multe clinici comunitare, unde de obicei aveți date mult mai reprezentative, precum și spitalele mai mari. De asemenea, obținem datele noastre de la un număr mare de site-uri clinice. Încercăm să obținem cât mai multe site-uri posibil, dintr-o gamă largă de populații posibile. Așadar, nu doar avem un număr mare de site-uri, ci și site-uri geografic și socio-economic diverse. Pentru că, dacă toate site-urile dvs. sunt doar din spitalele din centrul orașului, nu este încă o dată reprezentativă, nu?

Pentru a valida toate acestea, rulăm statistici pe toate aceste seturi de date și le personalizăm pentru client, pentru a ne asigura că primesc date care sunt diverse din punct de vedere tehnologic și demografic.

De ce este acest nivel de control al datelor atât de important pentru a proiecta algoritmi robusti de inteligență artificială?

Există multe variabile pe care un algoritm de inteligență artificială le poate întâlni în lumea reală, iar scopul nostru este de a ne asigura că algoritmul este cât mai robust posibil. Pentru a simplifica lucrurile, ne gândim la cinci variabile cheie în datele noastre. Prima variabilă la care ne gândim este “producătorul de echipamente”. Este evident, dar dacă construim un algoritm doar utilizând date de la scanere GE, nu va funcționa la fel de bine pe un Hitachi, de exemplu.

În linie cu aceasta este variabila “model de echipament”. Aceasta este de fapt destul de interesantă din punct de vedere al inegalității în sănătate. Știm că spitalele de cercetare mari și bine finanțate tind să aibă cele mai noi și mai bune versiuni de scanere. Și, dacă antrenează doar inteligența artificială pe datele lor, pe modelele din 2022, nu va funcționa la fel de bine pe un model mai vechi din 2010. Aceste sisteme mai vechi sunt exact cele găsite în zonele mai puțin avantajoase și rurale. Prin urmare, prin utilizarea doar a datelor de la modelele mai noi, introduc în mod involuntar o prejudecată suplimentară împotriva oamenilor din aceste comunități.

Alte variabile cheie sunt sexul, etnia și vârsta, și ne străduim să ne asigurăm că datele noastre sunt proporțional echilibrate pe toate acestea.

Care sunt unele dintre obstacolele reglementare cu care se confruntă companiile MedTech?

Începem să vedem FDA-ul investigând prejudecățile din seturile de date. Am avut cercetători care vin la noi și ne spun: “FDA a respins algoritmul nostru pentru că lipsea o populație de 15% afro-americană” (procentul aproximativ de afro-americani care fac parte din populația SUA). Am auzit și despre un dezvoltator care a fost informat că trebuie să includă 1% insulari pacifici în datele lor de antrenament.

Așadar, FDA începe să realizeze că acești algoritmi, care au fost antrenați doar într-un singur spital, nu funcționează în lumea reală. Faptul este că, dacă doriți să obțineți marcajul CE și aprobarea FDA, trebuie să veniți cu un set de date care reprezintă populația. Nu mai este acceptabil să antrenați o inteligență artificială pe un grup mic sau nereprezentativ.

Riscul pentru companiile MedTech este că investesc milioane de dolari pentru a-și aduce tehnologia într-un loc în care cred că sunt gata pentru aprobarea reglementară, și apoi, dacă nu pot obține aprobarea, nu vor obține niciodată rambursarea sau venituri. În cele din urmă, drumul către comercializare și drumul către a avea impactul benefic asupra sănătății pe care îl doresc necesită ca ei să se preocupe de prejudecățile din date.

Care sunt unele dintre opțiunile pentru depășirea acestor obstacole din perspectiva datelor?

În ultimii ani, metodele de gestionare a datelor au evoluat, iar dezvoltatorii de inteligență artificială au acum mai multe opțiuni disponibile decât oricând. De la intermediari de date și parteneri la învățarea federată și datele sintetice, există abordări noi pentru a depăși aceste obstacole. Indiferent de metoda pe care o aleg, îi încurajăm întotdeauna pe dezvoltatori să se întrebe dacă datele lor sunt cu adevărat reprezentative pentru populația care va utiliza produsul. Acesta este, cu siguranță, aspectul cel mai dificil al obținerii de date.

O soluție pe care Gradient Health o oferă este Gradient Label, ce este această soluție și cum permite etichetarea datelor la scară?

Inteligența artificială pentru imagistica medicală nu necesită doar date, ci și anotări experte. Și ne ajutăm companiile să obțină aceste anotări experte, inclusiv de la radiologi.

Care este viziunea dvs. pentru viitorul inteligenței artificiale și al datelor în sănătate?

Există deja mii de unelte de inteligență artificială care examinează totul, de la vârful degetelor la vârful picioarelor, și cred că acest lucru va continua. Cred că vor exista cel puțin 10 algoritmi pentru fiecare afecțiune dintr-un manual medical. Fiecare dintre ele va avea multiple unelte competitive pentru a ajuta clinicienii să ofere cea mai bună îngrijire.

Nu cred că vom ajunge să vedem un dispozitiv de tip Tricorder, care scanează o persoană și abordează toate problemele posibile de la cap la picioare. În schimb, vom avea aplicații specializate pentru fiecare subset.

Este ceva ce ați dori să împărtășiți despre Gradient Health?

Sunt entuziasmat de viitor. Cred că ne îndreptăm către un loc în care sănătatea este ieftină, egală și accesibilă tuturor, și sunt dornic ca Gradient să aibă șansa de a juca un rol fundamental în a face acest lucru să se întâmple. Întreaga echipă de aici crede cu adevărat în această misiune, și există o pasiune unită printre ei, pe care nu o găsiți la fiecare companie. Și îmi place!

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Gradient Health.