Ittai Dayan, MD, Co-fondator și CEO al Rhino Health – Seria de interviuri

Ittai Dayan, MD, este co-fondator și CEO al Rhino Health. Fondul său este în dezvoltarea de inteligență artificială și diagnostice, precum și în medicină clinică și cercetare. El este un fost membru de bază al practicii de sănătate a BCG și un fost director de spital. În prezent, el se concentrează pe contribuția la dezvoltarea de inteligență artificială sigură, echitabilă și cu impact în industria sănătății și a științelor vieții. La Rhino Health, ei utilizează calculul distribuit și învățarea federată ca mijloc de menținere a confidențialității pacienților și de promovare a colaborării în peisajul fragmentat al sănătății.

El a servit în IDF – forțe speciale, a condus cel mai mare centru de traducere academică și medicală din lume. El este expert în dezvoltarea și comercializarea inteligenței artificiale și un alergător de lungă distanță.

Puteți împărtăși povestea de origine din spatele Rhino Health?

Călătoria mea în inteligența artificială a început atunci când eram clinician și cercetător, folosind o formă timpurie de “biomarker digital” pentru a măsura răspunsul la tratament în tulburările mintale. Mai târziu, am condus Centrul pentru Știința Datelor Clinice (CCDS) la Mass General Brigham. Acolo, am supravegheat dezvoltarea a zeci de aplicații clinice de inteligență artificială și am fost martor la provocările subiacente asociate cu accesarea și “activarea” datelor necesare pentru a dezvolta și antrena produse de inteligență artificială de calitate regulamentară.

În ciuda multor progrese în domeniul sănătății și inteligenței artificiale, drumul de la dezvoltare la lansarea unui produs pe piață este lung și adesea accidentat. Soluțiile se prăbușesc (sau pur și simplu dezamăgesc) odată cu implementarea clinică, iar susținerea întregului ciclu de viață al inteligenței artificiale este aproape imposibilă fără acces continuu la o mulțime de date clinice. Provocarea s-a schimbat de la crearea modelelor la menținerea lor. Pentru a răspunde acestei provocări, am convins sistemul Mass General Brigham de valoarea de a avea propriul “CRO specializat pentru inteligență artificială” (CRO = Organizație de Cercetare Clinică), pentru a testa algoritmi de la mai mulți dezvoltatori comerciali.

Însă, problema a rămas – datele de sănătate sunt încă foarte fragmentate, iar chiar și o cantitate mare de date dintr-o singură rețea nu sunt suficiente pentru a combate țintele din ce în ce mai înguste ale inteligenței artificiale medicale. În vara anului 2020, am inițiat și condus (împreună cu Dr. Mona Flores de la NVIDIA (NVDA )) cel mai mare studiu de învățare federată din domeniul sănătății din acea perioadă, EXAM. Am utilizat învățarea federată pentru a crea un model predictiv pentru rezultatele COVID, folosind date de pe tot globul, fără a partaja date. Publicat ulterior în Nature Medicine, acest studiu a demonstrat impactul pozitiv al utilizării unor seturi de date diverse și disparate și a subliniat potențialul pentru o utilizare mai largă a învățării federate în sănătate.

Această experiență, totuși, a evidențiat o serie de provocări. Printre acestea s-au numărat orchestrarea datelor între site-urile colaboratoare, asigurarea trasabilității și caracterizării datelor, precum și sarcina pusă pe departamentele IT ale fiecărei instituții, care trebuiau să învețe tehnologii de ultimă oră cu care nu erau obișnuite. Acest lucru a necesitat o nouă platformă care să sprijine aceste noi “colaborări de date distribuite”. Am decis să mă asociez cu co-fondatorul meu, Yuval Baror, pentru a crea o platformă de la capăt la coadă pentru a sprijini colaborări care să respecte confidențialitatea. Acea platformă este “Platforma Rhino Health”, care utilizează învățarea federată și calculul de margine.

De ce credeți că modelele de inteligență artificială adesea nu reușesc să ofere rezultatele așteptate într-un mediu de sănătate?

Inteligența artificială medicală este adesea antrenată pe seturi de date mici și înguste, cum ar fi seturile de date dintr-o singură instituție sau regiune geografică, ceea ce duce la faptul că modelul rezultat funcționează bine doar pe tipurile de date pe care le-a văzut. Odată ce algoritmul este aplicat pacienților sau scenariilor care diferă de setul de date îngust de antrenare, performanța este afectată în mod semnificativ.

Andrew Ng a capturat această noțiune foarte bine atunci când a declarat: “Se dovedește că atunci când colectăm date de la Spitalul Stanford… putem publica articole care arată [algoritmii] sunt comparabili cu radiologii umani în detectarea anumitor afecțiuni. … [Când] luăm același model, același sistem de inteligență artificială, la un spital mai vechi de pe stradă, cu o mașină mai veche, și tehnicianul folosește un protocol de imagistică medicală ușor diferit, datele se deplasează și cauzează scăderea semnificativă a performanței sistemului de inteligență artificială.” ³

În mod simplu, majoritatea modelelor de inteligență artificială nu sunt antrenate pe date suficient de diverse și de calitate, ceea ce duce la o performanță slabă în “lumea reală”. Această problemă a fost bine documentată atât în cercetarea științifică, cât și în cercurile mainstream, cum ar fi în Science și Politico.

Cât de important este testarea pe grupuri de pacienți diversi?

Testarea pe grupuri de pacienți diversi este crucială pentru a asigura că produsul de inteligență artificială rezultat nu numai că este eficient și performant, dar și sigur. Algoritmii care nu sunt antrenați sau testați pe grupuri de pacienți suficient de diversi pot suferi de părtinire algoritmică, o problemă gravă în sănătate și tehnologia sănătății. Nu numai că astfel de algoritmi vor reflecta părtinirea prezentă în datele de antrenare, dar vor și exacerba acea părtinire și vor compune inegalitățile existente în sănătate. Lipsa testării pe grupuri de pacienți diversi poate duce la produse periculoase.

Un studiu recent publicat ⁵, care a utilizat Platforma Rhino Health, a investigat performanța unui algoritm de inteligență artificială pentru detectarea anevrismelor cerebrale, dezvoltat la un site și testat pe patru site-uri diferite cu tipuri de scanere variate. Rezultatele au demonstrat o variabilitate semnificativă a performanței pe site-urile cu tipuri de scanere diferite, subliniind importanța antrenării și testării pe seturi de date diverse.

Cum identificați dacă o subpopulație nu este reprezentată?

O abordare comună este să analizați distribuțiile variabilelor în diferite seturi de date, individual și combinate. Acest lucru poate informa dezvoltatorii atât în timpul pregătirii seturilor de date de “antrenare”, cât și de “validare”. Platforma Rhino Health vă permite să faceți acest lucru și, în plus, utilizatorii pot vedea cum funcționează modelul pe diverse cohorte pentru a asigura generalizabilitatea și performanța durabilă pe subpopulații.

Puteți descrie ce este învățarea federată și cum rezolvă unele dintre aceste probleme?

Învățarea federată (FL) poate fi definită în general ca procesul prin care modelele de inteligență artificială sunt antrenate și continuă să se îmbunătățească în timp, utilizând date disparate, fără a fi nevoie de partajarea sau centralizarea datelor. Acesta este un salt uriaș înainte în dezvoltarea inteligenței artificiale. În mod istoric, orice utilizator care dorea să colaboreze cu mai multe site-uri trebuia să centralizeze datele, ceea ce inducea o serie de obligații, costisitoare și consumatoare de timp, legale, de risc și de conformitate.

Astăzi, cu software-ul precum Platforma Rhino Health, învățarea federată devine o realitate de zi cu zi în sănătate și științele vieții. Învățarea federată permite utilizatorilor să exploreze, să curateze și să valideze date, în timp ce datele rămân pe serverele locale ale colaboratorilor. Codul containerizat, cum ar fi un algoritm de inteligență artificială sau o aplicație analitică, este trimis pe serverul local, unde se execută codul, cum ar fi antrenarea sau validarea unui algoritm de inteligență artificială, “local”. Datele rămân astfel cu “custodele de date” în orice moment.

Spitalele, în special, sunt preocupate de riscurile asociate cu agregarea datelor de sănătate sensibile. Acest lucru a condus deja la situații jenante, în care s-a dovedit că organizațiile de sănătate au colaborat cu industria fără a înțelege exact modul în care erau utilizate datele. În schimb, ele limitează cantitatea de colaborare pe care atât industria, cât și cercetătorii academici o pot face, încetinind cercetarea și dezvoltarea și afectând calitatea produselor în întreaga industrie a sănătății. Învățarea federată poate atenua acest lucru și poate permite colaborări de date ca niciodată înainte, controlând în același timp riscurile asociate cu aceste colaborări.

Puteți împărtăși viziunea Rhino Health pentru a permite crearea rapidă de modele utilizând date mai diverse?

Ne imaginăm un ecosistem de dezvoltatori și utilizatori de inteligență artificială, care colaborează fără teamă sau constrângere, respectând în același timp granițele reglementărilor. Colaboratorii pot identifica rapid datele necesare pentru antrenarea și testarea modelelor din întreaga lume, pot accesa și interacționa cu aceste date și pot itera asupra dezvoltării modelului pentru a asigura suficientă generalizabilitate, performanță și siguranță.

La baza acestui ecosistem se află Platforma Rhino Health, care oferă un “magazin universal” pentru dezvoltatorii de inteligență artificială, unde pot construi seturi de date masive și diverse, antrena și valida algoritmi de inteligență artificială și continua să monitorizeze și să mențină produsele de inteligență artificială implementate.

Cum previne Platforma Rhino Health părtinirea inteligenței artificiale și oferă explicabilitatea inteligenței artificiale?

Prin deblocarea și simplificarea colaborărilor de date, dezvoltatorii de inteligență artificială pot utiliza seturi de date mai mari și mai diverse în antrenarea și testarea aplicațiilor lor. Rezultatul unor seturi de date mai robuste este un produs mai generalizabil, care nu este încărcat cu părtinirile unei singure instituții sau set de date îngust. În sprijinul explicabilității inteligenței artificiale, platforma noastră oferă o vedere clară asupra datelor utilizate în procesul de dezvoltare, cu posibilitatea de a analiza originea datelor, distribuțiile valorilor și alte metrice cheie pentru a asigura diversitatea și calitatea datelor. În plus, platforma noastră permite funcționalități care nu sunt posibile atunci când datele sunt centralizate, inclusiv posibilitatea de a îmbunătăți seturile de date cu variabile suplimentare, cum ar fi cele calculate din datele existente, pentru a investiga inferența cauzală și a atenua confundatorii.

Cum răspundeți medicilor care sunt îngrijorați că o dependență excesivă de inteligență artificială ar putea duce la rezultate părtinitoare care nu sunt validate independent?

Înțelegem această îngrijorare și recunoaștem că o serie de aplicații de pe piață în prezent pot fi, într-adevăr, părtinitoare. Răspunsul nostru este că trebuie să ne unim ca industrie, ca o comunitate de sănătate preocupată în primul rând de siguranța pacienților, pentru a defini politici și proceduri care să prevină astfel de părtiniri și să asigure aplicații de inteligență artificială sigure și eficiente. Dezvoltatorii de inteligență artificială au responsabilitatea de a asigura că produsele lor de inteligență artificială comercializate sunt validate independent pentru a câștiga încrederea profesioniștilor din sănătate și a pacienților. Rhino Health este dedicat susținerii unor produse de inteligență artificială sigure și de încredere și lucrează cu parteneri pentru a permite și a simplifica validarea independentă a aplicațiilor de inteligență artificială înainte de implementarea în medii clinice, deblocând barierelor pentru datele de validare necesare.

Care este viziunea dvs. pentru viitorul inteligenței artificiale în sănătate?

Viziunea Rhino Health este una în care inteligența artificială a atins pe deplin potențialul său în sănătate. Ne străduim cu consecvență să creăm transparență și să promovăm colaborarea, afirmând confidențialitatea pentru a permite acest lucru. Ne imaginăm o sănătate bazată pe inteligență artificială care nu este limitată de firewall-uri, geografii sau restricții regulatorii. Dezvoltatorii de inteligență artificială vor avea acces controlat la toate datele de care au nevoie pentru a construi modele puternice și generalizabile – și pentru a le monitoriza și îmbunătăți continuu cu un flux de date în timp real. Furnizorii și pacienții vor avea încrederea că nu pierd controlul asupra datelor lor și pot asigura că acestea sunt utilizate pentru bine. Organizațiile de sănătate publică vor beneficia de aceste avansuri în inteligență artificială, în timp ce pacienții și furnizorii se pot odihni liniștiți, știind că confidențialitatea este protejată.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Rhino Health pot vizita Rhino Health.