Josh Miller, CEO di Gradient Health – Intervista

Josh Miller è il CEO di Gradient Health, un’azienda fondata sull’idea che la diagnostica automatizzata debba esistere per rendere la sanità equa e accessibile a tutti. Gradient Health mira ad accelerare la diagnostica automatizzata dell’AI con dati organizzati, etichettati e disponibili.

Potresti condividere la storia di come è nata Gradient Health?

Il mio cofondatore Ouwen e io avevamo appena lasciato la nostra prima startup, FarmShots, che utilizzava la visione computerizzata per aiutare a ridurre la quantità di pesticidi utilizzati in agricoltura, e stavamo cercando la nostra prossima sfida.

Siamo sempre stati motivati dal desiderio di trovare un problema difficile da risolvere con la tecnologia che a) abbia l’opportunità di fare molto bene nel mondo, e b) porti a un solido business. Ouwen stava lavorando al suo diploma di medicina, e con la nostra esperienza nella visione computerizzata, l’imaging medico era una scelta naturale per noi. A causa dell’impatto devastante del cancro al seno, abbiamo scelto la mammografia come possibile prima applicazione. Quindi abbiamo detto: “Ok, da dove iniziamo? Abbiamo bisogno di dati. Abbiamo bisogno di mille mammografie. Dove si possono ottenere dati di questa portata?” e la risposta era “Da nessuna parte”. Ci siamo resi conto immediatamente che è molto difficile trovare dati. Dopo mesi, questa frustrazione è cresciuta in un problema filosofico per noi, abbiamo pensato: “Chiunque stia cercando di fare del bene in questo settore non dovrebbe dover lottare e faticare per ottenere i dati di cui ha bisogno per costruire algoritmi salvavita”. E così abbiamo detto: “Ehi, forse questo è proprio il nostro problema da risolvere”.

Quali sono i rischi attuali nel mercato con dati non rappresentativi?

Dai numerosi studi e esempi reali, sappiamo che se costruiamo un algoritmo utilizzando solo dati della costa occidentale e lo portiamo al sud-est, non funzionerà. Ripetutamente sentiamo storie di AI che funzionano bene nell’ospedale del nord-est in cui sono stati creati, e poi quando li si distribuisce altrove, la precisione scende al di sotto del 50%.

Credo che lo scopo fondamentale dell’AI, a livello etico, sia che debba ridurre le disparità sanitarie. L’obiettivo è rendere le cure di qualità accessibili e a prezzi accessibili a tutti. Ma il problema è che quando li costruiamo su dati scadenti, aumentiamo le disparità. Stiamo fallendo nella missione dell’AI sanitaria se la lasciamo funzionare solo per i bianchi della costa. Le persone provenienti da background sottorappresentati soffriranno effettivamente di più discriminazioni a causa di ciò, non meno.

Potresti discutere come Gradient Health ottiene i dati?

Certo, ci associamo a tutti i tipi di sistemi sanitari in tutto il mondo il cui dati sono altrimenti archiviati, costando loro denaro e non beneficiando nessuno. De-identifichiamo completamente i loro dati alla fonte e poi li organizziamo con cura per i ricercatori.

Come fa Gradient Health a garantire che i dati siano imparziali e il più possibile diversificati?

Ci sono molti modi. Ad esempio, quando raccogliamo dati, ci assicuriamo di includere molti ambulatori comunitari, dove spesso si hanno dati più rappresentativi, nonché i grandi ospedali. Otteniamo anche i nostri dati da un gran numero di siti clinici. Cerchiamo di ottenere il maggior numero possibile di siti da una vasta gamma di popolazioni possibili. Quindi non solo avere un alto numero di siti, ma averli geograficamente e socio-economicamente diversificati. Perché se tutti i tuoi siti sono solo degli ospedali del centro città, non è ancora dati rappresentativi, vero?

Per validare tutto ciò, eseguiamo statistiche su tutti questi set di dati e li personalizziamo per il cliente, per assicurarci che stiano ottenendo dati che sono diversi in termini di tecnologia e demografia.

Perché questo livello di controllo dei dati è così importante per progettare algoritmi di AI robusti?

Ci sono molte variabili che un’AI potrebbe incontrare nel mondo reale, e il nostro obiettivo è assicurare che l’algoritmo sia il più robusto possibile. Per semplificare le cose, pensiamo a cinque variabili chiave nei nostri dati. La prima variabile a cui pensiamo è il “fabbricante di attrezzature”. È ovvio, ma se costruiamo un algoritmo utilizzando solo dati di scanner GE, non funzionerà altrettanto bene su un Hitachi, ad esempio.

Simile alla precedente è la variabile “modello di attrezzatura”. Questa è in realtà piuttosto interessante da un punto di vista di disuguaglianza sanitaria. Sappiamo che gli ospedali di ricerca ben finanziati tendono ad avere le versioni più recenti e migliori dei scanner. E, se addestrano la loro AI solo con i dati dei loro modelli del 2022, non funzionerà altrettanto bene su un modello più vecchio del 2010. Questi sistemi più vecchi sono esattamente quelli trovati nelle aree meno abbienti e rurali. Quindi, utilizzando solo dati da modelli più recenti, stanno involontariamente introducendo ulteriore pregiudizio contro le persone di queste comunità.

Le altre variabili chiave sono il genere, l’etnia e l’età, e ci impegniamo molto per assicurarci che i nostri dati siano proporzionalmente bilanciati su tutti questi aspetti.

Quali sono alcuni degli ostacoli normativi che le aziende MedTech affrontano?

Stiamo iniziando a vedere la FDA indagare sui pregiudizi nei set di dati. Abbiamo avuto ricercatori che sono venuti da noi e hanno detto: “La FDA ha rifiutato il nostro algoritmo perché mancava di una popolazione afroamericana del 15%” (la percentuale approssimativa di afroamericani che fanno parte della popolazione statunitense). Abbiamo anche sentito di uno sviluppatore che è stato detto di dover includere il 1% di isolani hawaiani del Pacifico nei loro dati di addestramento.

Quindi, la FDA sta iniziando a rendersi conto che questi algoritmi, che sono stati addestrati solo in un singolo ospedale, non funzionano nel mondo reale. Il fatto è che se si vuole ottenere il marchio CE e l’approvazione della FDA, si deve venire con un set di dati che rappresenti la popolazione. Non è più accettabile addestrare un’AI su un gruppo piccolo o non rappresentativo.

Il rischio per le aziende MedTech è che investono milioni di dollari per portare la loro tecnologia a un punto in cui pensano di essere pronti per l’approvazione normativa, e poi se non riescono a ottenerla, non otterranno mai il rimborso o i ricavi. Alla fine, la strada per la commercializzazione e la strada per avere il tipo di impatto benefico sulla sanità che vogliono avere richiede loro di curarsi dei pregiudizi nei dati.

Quali sono alcune delle opzioni per superare questi ostacoli da un punto di vista dei dati?

Negli ultimi anni, i metodi di gestione dei dati sono evoluti, e gli sviluppatori di AI hanno ora più opzioni a disposizione che mai. Dalle società di intermediari di dati e partner alla federated learning e ai dati sintetici, ci sono nuovi approcci a questi ostacoli. Qualsiasi metodo scelgano, li esortiamo sempre a considerare se i loro dati sono veramente rappresentativi della popolazione che userà il prodotto. Questo è di gran lunga l’aspetto più difficile dell’ottenere dati.

Una soluzione che Gradient Health offre è Gradient Label, che cos’è e come consente di etichettare i dati su larga scala?

L’AI di imaging medico non richiede solo dati, ma anche annotazioni esperte. E aiutiamo le aziende a ottenere queste annotazioni esperte, comprese quelle dei radiologi.

Qual è la tua visione per il futuro dell’AI e dei dati nella sanità?

Ci sono già migliaia di strumenti di AI che esaminano tutto, dalle dita dei piedi alle dita dei piedi, e credo che questo continuerà. Credo che ci saranno almeno 10 algoritmi per ogni condizione in un libro di testo medico. Ognuno di essi avrà molteplici strumenti competitivi per aiutare i clinici a fornire le migliori cure.

Non credo che finiremo per vedere uno stile di Tricorder di Star Trek che scansiona qualcuno e affronta ogni possibile problema dalla testa ai piedi. Invece, avremo applicazioni specializzate per ogni subset.

C’è qualcos’altro che ti piacerebbe condividere su Gradient Health?

Sono entusiasta del futuro. Credo che stiamo andando verso un posto in cui la sanità è a buon mercato, equa e accessibile a tutti, e sono ansioso che Gradient abbia la possibilità di svolgere un ruolo fondamentale nel farlo accadere. L’intero team qui crede veramente in questa missione, e c’è una passione unita tra loro che non si trova in ogni azienda. E mi piace!

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Gradient Health.