Ittai Dayan, MD, medstifter og administrerende direktør i Rhino Health – Interviewserie

Ittai Dayan, MD er medstifter og administrerende direktør i Rhino Health. Hans baggrund er i udvikling af kunstig intelligens og diagnostik samt klinisk medicin og forskning. Han er en tidligere kerne-medlem af BCG’s sundhedspraksis og hospitalsadministrator. Han er i øjeblikket fokuseret på at bidrage til udviklingen af sikre, retfærdige og effektive kunstige intelligens-løsninger i sundheds- og livsvæsensindustrien. I Rhino Health bruger de distribueret beregning og Fordelt Læring (Federated Learning) som middel til at opretholde patienternes privatliv og fremme samarbejde på tværs af den fragmenterede sundhedslandskab.

Han har været medlem af IDF’s specialstyrker, ledet det største akademisk-medisk-center-baserede translational AI-center i verden. Han er ekspert i AI-udvikling og kommerciialisering og en langdistanceløber.

Hvad er historien bag Rhino Health?

Min rejse ind i AI begyndte, da jeg var kliniker og forsker og brugte en tidlig form for en ‘digital biomarkør’ til at måle behandlingsrespons i psykiske lidelser. Senere gik jeg videre til at lede Center for Clinical Data Science (CCDS) på Mass General Brigham. Der overså jeg udviklingen af dusinvis af kliniske AI-applikationer og oplevede førstehånds den underliggende udfordring, der er forbundet med at få adgang til og ‘aktivere’ de data, der er nødvendige for at udvikle og træne reguleringsklar AI-produkter.

Trods de mange fremskridt inden for sundheds-AI, er vejen fra udvikling til lancering af et produkt på markedet lang og ofte bumpet. Løsninger fejler (eller skuffende) når de er installeret klinisk, og det er næsten umuligt at understøtte den fulde AI-livscyklus uden fortsat adgang til en stor mængde kliniske data. Udfordringen er skiftet fra at oprette modeller til at vedligeholde dem. For at imødekomme denne udfordring overbeviste jeg Mass General Brigham-systemet om værdien af at have deres egen ‘specialiseret CRO for AI’ (CRO = Clinical Research Organization), for at teste algoritmer fra multiple kommercielle udviklere.

Men problemet forblev – sundhedsdata er stadig meget isolerede, og selv store mængder data fra ét netværk er ikke nok til at bekæmpe de stadig smalere mål for medicinsk AI. Om sommeren 2020 initierede og ledede jeg (sammen med Dr. Mona Flores fra NVIDIA (NVDA )) verdens største sundheds-Fordelt Læring-studie (Federated Learning) på det tidspunkt, EXAM. Vi brugte Fordelt Læring til at oprette en COVID-udgangs-prædikativ model, der udnyttede data fra hele verden, uden at dele nogen data. Dette studie, der efterfølgende blev offentliggjort i Nature Medicine, demonstrerede den positive effekt af at udnytte diverse og forskellige datasæt og understregede potentialet for en mere udbredt brug af Fordelt Læring i sundhedssektoren.

Dette ophold, dog, belyste en række udfordringer. Disse inkluderede orkestrering af data på tværs af samarbejdende steder, sikring af data-sporbarhed og korrekt karakterisering, samt byrden, der blev lagt på IT-afdelingerne fra hver institution, som måtte lære om avancerede teknologier, som de ikke var vant til. Dette krævede en ny platform, der kunne understøtte disse nye ‘distribuerede data’-samarbejder. Jeg besluttede at samarbejde med min medstifter, Yuval Baror, for at oprette en end-to-end-platform til at understøtte privatlivsbeskyttende samarbejder. Denne platform er ‘Rhino Health Platform’, der udnytter Fordelt Læring og edge-computing.

Hvorfor tror du, at AI-modeller ofte ikke leverer de forventede resultater i en sundhedsindstilling?

Medicinsk AI er ofte trænet på små, snævre datasæt, såsom datasæt fra ét institution eller geografisk region, hvilket resulterer i, at den resulterende model kun fungerer godt på de typer af data, den har set. Når algoritmen anvendes på patienter eller scenarier, der afviger fra det snævre træningsdatasæt, påvirkes præstationen kraftigt.

Andrew Ng, fik det godt, da han sagde, “Det viser sig, at når vi samler data fra Stanford Hospital…vi kan offentliggøre artikler, der viser [algoritmerne] er sammenlignelige med menneskelige radiologer i spotting bestemte tilstande. … [Når] du tager samme model, samme AI-system, til et ældre hospital ned ad gaden, med en ældre maskine, og teknikerne bruger en lidt anden billedprotokol, så sker der en data-drift, der får AI-systemets præstation til at nedgraderes betydeligt.”

Med andre ord, de fleste AI-modeller er ikke trænet på data, der er tilstrækkeligt diverse og af høj kvalitet, hvilket resulterer i dårlig ‘virkeligheds’-præstation. Dette problem er blevet godt dokumenteret i både videnskabelige og mainstream-kredse, såsom i Science og Politico.

Hvor vigtigt er det at teste på diverse patientgrupper?

At teste på diverse patientgrupper er afgørende for at sikre, at det resulterende AI-produkt ikke kun er effektivt og præstationssikkert, men også sikkert. Algoritmer, der ikke er trænet eller testet på tilstrækkeligt diverse patientgrupper, kan lide under algorithmisk bias, et alvorligt problem i sundheds- og sundheds-teknologi. Ikke kun vil sådanne algoritmer reflektere den bias, der var til stede i træningsdata, men forværre den og forstærke eksisterende racemæssige, etniske, religiøse, køns-, osv. uligheder i sundhedssektoren. Manglen på at teste på diverse patientgrupper kan resultere i farlige produkter.

En nyligt offentliggjort studie, der udnyttede Rhino Health Platform, undersøgte præstationen af en AI-algoritme til at detektere hjerne-aneurismer, der var udviklet på ét sted, på fire forskellige steder med forskellige skannertype. Resultaterne demonstrerede en betydelig præstationsvariation på steder med forskellige skannertype, og understregede vigtigheden af at træne og teste på diverse datasæt.

Hvordan identificerer du, om en underpopulation ikke er repræsenteret?

En almindelig tilgang er at analysere fordelingen af variable i forskellige datasæt, enkeltvis og kombineret. Dette kan informere udviklere både, når de forbereder ‘trænings’-datasæt og valideringsdatasæt. Rhino Health Platform tillader dig at gøre dette, og desuden kan brugere se, hvordan modellen fungerer på forskellige kohorter for at sikre generaliserbarhed og bæredygtig præstation på tværs af underpopulationsgrupper.

Kan du beskrive, hvad Fordelt Læring er, og hvordan det løser nogle af disse problemer?

Fordelt Læring (FL) kan bredt defineres som processen, hvor AI-modeller trænes og herefter forbedres over tid, ved hjælp af forskellige data, uden at dele eller centralisere data. Dette er et enormt skridt fremad i AI-udvikling. Historisk set har enhver bruger, der ønsker at samarbejde med multiple steder, måttet samle data sammen, hvilket har ført til en række besværlige, dyre og tidskrævende juridiske, risiko- og compliance-problemer.

I dag, med software som Rhino Health Platform, bliver Fordelt Læring til en dag-til-dag-realitet i sundheds- og livsvæsenssektoren. Fordelt Læring tillader brugere at udforske, kuratere og validere data, mens data forbliver på samarbejdspartnerens lokale servere. Containeriseret kode, såsom en AI/ML-algoritme eller en analytisk applikation, sendes til den lokale server, hvor koden udføres ‘lokal’. Data forbliver derfor hos ‘data-forvalteren’ på alle tidspunkter.

Hospitaler er i særdeleshed bekymrede for risikoen forbundet med at samle følsomme patientdata. Dette har allerede ført til pinlige situationer, hvor det er blevet klart, at sundhedsorganisationer har samarbejdet med industrien uden at forstå nøjagtigt, hvordan deres data blev brugt. Dette har ført til, at de begrænser mængden af samarbejde, som både industrien og akademiske forskere kan udføre, hvilket langsommere R&D og påvirker produktkvaliteten på tværs af sundhedssektoren. Fordelt Læring kan imødegå dette og enable data-samarbejder som aldrig før, mens risikoen forbundet med disse samarbejder kontrolleres.

Kan du dele Rhino Healths vision for at enable hurtig model-oprettelse ved hjælp af mere diverse data?

Vi forestiller os en økosystem af AI-udviklere og brugere, der samarbejder uden frygt eller begrænsninger, mens de respekterer reguleringsgrænserne. Samarbejdspartnere kan hurtigt identificere nødvendige trænings- og testdata fra på tværs af geografier, få adgang til og interagere med disse data og iterere på model-udvikling for at sikre tilstrækkelig generaliserbarhed, præstation og sikkerhed.

I centrum af dette er Rhino Health Platform, der tilbyder en ‘one-stop-shop’ for AI-udviklere til at konstruere massive og diverse datasæt, træne og validere AI-algoritmer og kontinuerligt overvåge og vedligeholde installeret AI-produkter.

Hvordan forhindrer Rhino Health-platformen AI-forvrængning og tilbyder AI-forklarbarhed?

Ved at låse op og strømlinjeforme data-samarbejder kan AI-udviklere udnytte større og mere diverse datasæt under træning og test af deres applikationer. Resultatet af mere robuste datasæt er et mere generaliserbart produkt, der ikke er belastet af bias fra ét institution eller snævert datasæt. I støtte til AI-forklarbarhed tilbyder vores platform en klar indsigt i de data, der udnyttes under udviklingsprocessen, med mulighed for at analysere data-oprindelse, fordeling af værdier og andre nøgle-metrisk for at sikre tilstrækkelig data-diversitet og -kvalitet. Desuden tillader vores platform funktioner, der ikke er mulige, hvis data blot samles sammen, herunder mulighed for at yderligere forbedre datasæt med yderligere variable, såsom dem, der beregnes fra eksisterende datapunkter, for at undersøge årsagssammenhæng og imødegå forvrængninger.

Hvordan responderer du på læger, der er bekymrede for, at en overafhængighed af AI kan føre til forvrængede resultater, der ikke er uafhængigt valideret?

Vi forstår denne bekymring og erkender, at en række af applikationerne på markedet i dag kan være forvrængede. Vores respons er, at vi som en industri, en sundhedsfællesskab, der i første række er bekymret for patient-sikkerhed, må samarbejde om at definere politikker og procedurer for at forhindre sådanne forvrængninger og sikre sikre og effektive AI-applikationer. AI-udviklere har ansvaret for at sikre, at deres markedsførte AI-produkter er uafhængigt valideret for at opnå tilliden hos både sundhedsprofessionelle og patienter. Rhino Health er dedikeret til at støtte sikre og troværdige AI-produkter og arbejder med partnere for at enable og strømlinjeforme uafhængig validering af AI-applikationer før installation i kliniske miljøer ved at låse op for de nødvendige valideringsdata.

Hvad er din vision for fremtiden for AI i sundhedssektoren?

Rhino Healths vision er en verden, hvor AI har opnået sin fulde potentiale i sundhedssektoren. Vi arbejder hårdt på at skabe gennemsigtighed og fremme samarbejde ved at påtvinge privatliv for at enable denne verden. Vi forestiller os en sundheds-AI, der ikke er begrænset af brandvægge, geografier eller reguleringsbegrænsninger. AI-udviklere vil have kontrolleret adgang til alle de data, de behøver for at bygge kraftfulde og generaliserbare modeller – og for at kontinuerligt overvåge og forbedre dem med en strøm af data i realtid. Læger og patienter vil have tilliden til, at de ikke mister kontrollen over deres data og kan sikre, at det bliver brugt til godt. Reguleringsmyndigheder vil kunne overvåge effikaciteten af modeller, der bruges i farmaceutisk og enhedsudvikling i realtid. Sundhedsorganisationer vil kunne drage fordel af disse fremskridt i AI, mens patienter og læger kan sove trygt i den viden, at privatlivet er beskyttet. Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Rhino Health.