Ittai Dayan, MD, Co-fondatore e CEO di Rhino Health – Serie di interviste

Ittai Dayan, MD è il co-fondatore e CEO di Rhino Health. La sua formazione è nel campo dello sviluppo di intelligenza artificiale e diagnostica, nonché nella medicina clinica e nella ricerca. È stato un membro fondatore della pratica sanitaria di BCG e un dirigente ospedaliero. Attualmente si concentra sul contribuire allo sviluppo di intelligenza artificiale sicura, equa e efficace nel settore sanitario e delle scienze della vita. In Rhino Health, stanno utilizzando il calcolo distribuito e l’apprendimento federato come mezzo per mantenere la privacy dei pazienti e favorire la collaborazione all’interno del paesaggio sanitario frammentato.

Ha prestato servizio nelle forze speciali dell’IDF, ha guidato il più grande centro di traduzione accademico-medico basato sull’intelligenza artificiale del mondo. È un esperto nello sviluppo e commercializzazione dell’intelligenza artificiale e un corridore di lunga distanza.

Potresti condividere la storia di genesi dietro Rhino Health?

Il mio viaggio nell’intelligenza artificiale è iniziato quando ero un clinico e ricercatore, utilizzando una forma precoce di “biomarcatore digitale” per misurare la risposta al trattamento nei disturbi mentali. Successivamente, sono passato a guidare il Center for Clinical Data Science (CCDS) del Mass General Brigham. Lì, ho sovrinteso allo sviluppo di decine di applicazioni cliniche di intelligenza artificiale e ho visto di persona le sfide sottostanti associate all’accesso e all'”attivazione” dei dati necessari per sviluppare e formare prodotti di intelligenza artificiale di livello regolatorio.

Nonostante i molti progressi nell’intelligenza artificiale sanitaria, la strada dalla fase di sviluppo al lancio di un prodotto sul mercato è lunga e spesso accidentata. Le soluzioni falliscono (o deludono) una volta distribuite clinicamente e il supporto dell’intero ciclo di vita dell’intelligenza artificiale è quasi impossibile senza un accesso continuo a una vasta gamma di dati clinici. La sfida si è spostata dal creare modelli al mantenereli. Per rispondere a questa sfida, ho convinto il sistema del Mass General Brigham del valore di avere il loro “CRO specializzato per l’intelligenza artificiale” (CRO = Organizzazione di ricerca clinica), per testare algoritmi di sviluppatori commerciali multipli.

Tuttavia, il problema rimaneva – i dati sanitari sono ancora molto frammentati e anche grandi quantità di dati da una rete non sono sufficienti per combattere gli obiettivi sempre più stretti dell’intelligenza artificiale medica. Nell’estate del 2020, ho iniziato e guidato (insieme al dottor Mona Flores di NVIDIA (NVDA )) lo studio di apprendimento federato più grande nel settore sanitario di allora, EXAM. Abbiamo utilizzato l’apprendimento federato per creare un modello predittivo degli esiti di COVID, sfruttando dati da tutto il mondo, senza condividere alcun dato. Successivamente pubblicato su Nature Medicine, questo studio ha dimostrato l’impatto positivo dell’utilizzo di dataset diversi e disparati e ha sottolineato il potenziale per un uso più ampio dell’apprendimento federato nel settore sanitario.

Questa esperienza, tuttavia, ha messo in luce una serie di sfide. Tra queste, l’orchestrazione dei dati tra siti di collaborazione, l’assicurazione della tracciabilità dei dati e della loro caratterizzazione appropriata, nonché il carico di lavoro posto sui dipartimenti IT di ogni istituzione, che dovevano imparare tecnologie all’avanguardia a cui non erano abituati. Ciò ha richiesto una nuova piattaforma che supportasse queste nuove “collaborazioni di dati distribuiti”. Ho deciso di unirmi al mio co-fondatore, Yuval Baror, per creare una piattaforma completa per supportare collaborazioni che preservano la privacy. Quella piattaforma è la “Piattaforma Rhino Health”, che sfrutta l’apprendimento federato e il calcolo edge.

Perché credi che i modelli di intelligenza artificiale spesso non riescono a fornire i risultati attesi in un ambiente sanitario?

L’intelligenza artificiale medica è spesso addestrata su dataset ristretti e angusti, come dataset provenienti da un’unica istituzione o regione geografica, il che porta al modello che funziona bene solo sui tipi di dati che ha visto. Una volta applicato il modello ad altri pazienti o scenari che differiscono dal dataset di addestramento ristretto, le prestazioni vengono gravemente impattate.

Andrew Ng ha catturato bene questo concetto quando ha affermato: “Risulta che quando raccogliamo dati dal Stanford Hospital…possiamo pubblicare articoli che mostrano [gli algoritmi] sono paragonabili ai radiologi umani nell’individuare determinate condizioni. … [Quando] si prende lo stesso modello, lo stesso sistema di intelligenza artificiale, e lo si porta in un ospedale più vecchio giù per la strada, con una macchina più vecchia, e il tecnico utilizza un protocollo di imaging leggermente diverso, quei dati si spostano e causano il degrado significativo delle prestazioni del sistema di intelligenza artificiale”.

Semplificando, la maggior parte dei modelli di intelligenza artificiale non è addestrata su dati sufficientemente diversi e di alta qualità, portando a prestazioni scarse nel “mondo reale”. Questo problema è stato ampiamente documentato sia in ambito scientifico che mainstream, come su Science e Politico.

Quanto è importante testare su gruppi di pazienti diversi?

Testare su gruppi di pazienti diversi è cruciale per assicurare che il prodotto di intelligenza artificiale finale non sia solo efficace e performante, ma anche sicuro. Gli algoritmi non addestrati o testati su gruppi di pazienti sufficientemente diversi possono soffrire di pregiudizi algoritmici, un problema serio nel settore sanitario e nella tecnologia sanitaria. Non solo tali algoritmi rifletteranno i pregiudizi presenti nei dati di addestramento, ma esacerberanno quei pregiudizi e aggraveranno le disuguaglianze esistenti nel settore sanitario. La mancata prova su gruppi di pazienti diversi può portare a prodotti pericolosi.

Uno studio recentemente pubblicato, che ha sfruttato la Piattaforma Rhino Health, ha indagato le prestazioni di un algoritmo di intelligenza artificiale per la rilevazione di aneurismi cerebrali sviluppato in un sito su quattro siti diversi con vari tipi di scanner. I risultati hanno dimostrato una sostanziale variabilità delle prestazioni nei siti con vari tipi di scanner, sottolineando l’importanza dell’addestramento e del test su dataset diversi.

Come identifichi se una sottopopolazione non è rappresentata?

Un approccio comune è analizzare le distribuzioni delle variabili in diversi set di dati, individualmente e combinati. Ciò può informare gli sviluppatori sia durante la preparazione dei set di dati di “addestramento” che di convalida. La Piattaforma Rhino Health consente di farlo e, inoltre, gli utenti possono vedere come il modello si comporta su vari cohorti per assicurare la generalizzabilità e le prestazioni sostenibili attraverso le sottopopolazioni.

Potresti descrivere cosa è l’apprendimento federato e come risolve alcuni di questi problemi?

L’apprendimento federato (FL) può essere definito in generale come il processo in cui i modelli di intelligenza artificiale vengono addestrati e continuano a migliorare nel tempo, utilizzando dati disparati, senza la necessità di condividere o centralizzare i dati. Questo rappresenta un grande passo avanti nello sviluppo dell’intelligenza artificiale. Storicamente, qualsiasi utente che desiderasse collaborare con più siti doveva riunire quei dati, inducendo una miriade di onerosi, costosi e tempo-dipendenti problemi legali, di rischio e di conformità.

Oggi, con software come la Piattaforma Rhino Health, l’apprendimento federato sta diventando una realtà quotidiana nel settore sanitario e delle scienze della vita. L’apprendimento federato consente agli utenti di esplorare, curare e convalidare i dati mentre questi rimangono sui server locali dei collaboratori. Il codice containerizzato, come un algoritmo di intelligenza artificiale o un’applicazione analitica, viene inviato al server locale dove l’esecuzione di quel codice, come l’addestramento o la convalida di un algoritmo di intelligenza artificiale, viene eseguita “localmente”. I dati rimangono così con il “custode dei dati” in ogni momento.

Gli ospedali, in particolare, sono preoccupati per i rischi associati all’aggregazione di dati sanitari sensibili. Ciò ha già portato a situazioni imbarazzanti, in cui è diventato chiaro che le organizzazioni sanitarie hanno collaborato con l’industria senza capire esattamente l’uso dei loro dati. Di conseguenza, limitano la quantità di collaborazione che sia l’industria che i ricercatori accademici possono fare, rallentando lo sviluppo e l’impatto della qualità dei prodotti nel settore sanitario. L’apprendimento federato può mitigare ciò e consentire collaborazioni di dati come mai prima d’ora, controllando il rischio associato a queste collaborazioni.

Potresti condividere la visione di Rhino Health per l’abilitazione della creazione rapida di modelli utilizzando dati più diversi?

Immaginiamo un ecosistema di sviluppatori e utenti di intelligenza artificiale che collaborano senza paura o costrizioni, rispettando i confini delle normative. I collaboratori possono rapidamente identificare i dati di addestramento e di test necessari da tutto il mondo, accedere e interagire con quei dati e iterare sullo sviluppo del modello per assicurare una generalizzabilità, prestazioni e sicurezza sufficienti.

Al centro di ciò, c’è la Piattaforma Rhino Health, che fornisce un “one-stop-shop” per gli sviluppatori di intelligenza artificiale per costruire dataset massicci e diversi, addestrare e convalidare algoritmi di intelligenza artificiale e monitorare e mantenere continuamente i prodotti di intelligenza artificiale distribuiti.

Come la piattaforma Rhino Health prevenisce i pregiudizi dell’intelligenza artificiale e offre spiegabilità dell’intelligenza artificiale?

Sbloccando e semplificando le collaborazioni di dati, gli sviluppatori di intelligenza artificiale possono sfruttare dataset più grandi e diversi nell’addestramento e nel test delle loro applicazioni. Il risultato di dataset più robusti è un prodotto più generalizzabile che non è gravato dai pregiudizi di un’unica istituzione o dataset ristretto. A supporto della spiegabilità dell’intelligenza artificiale, la nostra piattaforma fornisce una chiara visibilità dei dati utilizzati nel processo di sviluppo, con la capacità di analizzare le origini dei dati, le distribuzioni dei valori e altre metriche chiave per assicurare la diversità e la qualità dei dati. Inoltre, la nostra piattaforma consente funzionalità che non sono possibili se i dati vengono semplicemente riuniti, come ad esempio permettere agli utenti di arricchire ulteriormente i loro dataset con variabili aggiuntive, come quelle calcolate dai punti di dati esistenti, per indagare l’inferenza causale e mitigare i confondenti.

Come rispondi ai medici che sono preoccupati che un’eccessiva dipendenza dall’intelligenza artificiale possa portare a risultati distorti che non sono stati convalidati in modo indipendente?

Siamo in sintonia con questa preoccupazione e riconosciamo che molte delle applicazioni sul mercato oggi possono effettivamente essere distorte. La nostra risposta è che dobbiamo unirci come industria, come comunità sanitaria che è prima di tutto preoccupata per la sicurezza dei pazienti, per definire politiche e procedure per prevenire tali pregiudizi e assicurare applicazioni di intelligenza artificiale sicure ed efficaci. Gli sviluppatori di intelligenza artificiale hanno la responsabilità di assicurare che i loro prodotti di intelligenza artificiale siano convalidati in modo indipendente per guadagnare la fiducia sia dei professionisti sanitari che dei pazienti. Rhino Health è dedicata a supportare prodotti di intelligenza artificiale sicuri e affidabili e sta lavorando con i partner per abilitare e semplificare la convalida indipendente delle applicazioni di intelligenza artificiale prima del loro dispiegamento in ambienti clinici, sbloccando le barriere ai dati di convalida necessari.

Qual è la tua visione per il futuro dell’intelligenza artificiale nel settore sanitario?

La visione di Rhino Health è di un mondo in cui l’intelligenza artificiale ha raggiunto il suo pieno potenziale nel settore sanitario. Stiamo lavorando diligentemente per creare trasparenza e favorire la collaborazione affermando la privacy per consentire questo mondo. Immaginiamo un’intelligenza artificiale sanitaria che non è limitata da firewall, geografie o restrizioni regolamentari. Gli sviluppatori di intelligenza artificiale avranno accesso controllato a tutti i dati di cui hanno bisogno per costruire modelli potenti e generalizzabili – e per monitorarli e migliorarli continuamente con un flusso di dati in tempo reale. I fornitori e i pazienti avranno la fiducia di sapere di non perdere il controllo sui loro dati e di poterli utilizzare per il bene. Le organizzazioni di sanità pubblica trarranno beneficio da questi progressi nell’intelligenza artificiale, mentre i pazienti e i fornitori possono riposare tranquilli sapendo che la privacy è protetta. Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Rhino Health.