Ittai Dayan, MD, medgrunnlegger og CEO av Rhino Health – Intervju-serie

Ittai Dayan, MD er medgrunnlegger og CEO av Rhino Health. Hans bakgrunn er i utvikling av kunstig intelligens og diagnostikk, samt klinisk medisin og forskning. Han er en tidligere kjerne-medlem av BCGs helsepraksis og sykehusleder. Han er for tiden fokusert på å bidra til utviklingen av trygge, rettferdige og effektive kunstige intelligens-løsninger i helse- og life sciences-industrien. Hos Rhino Health bruker de distribuert beregning og Federated Learning for å opprettholde pasient-privatliv og fremme samarbeid over det fragmenterte helse-landskapet.

Han tjenestegjorde i IDF – spesialstyrker, ledet det største akademisk-mediske senter-baserte translasjonelle AI-senteret i verden. Han er en ekspert på AI-utvikling og kommersialisering, og en langdistanseløper.

Kunne du dele historien bak Rhino Health?

Min reise inn i AI startet da jeg var en kliniker og forsker, og brukte en tidlig form for en ‘digital biomarkør’ for å måle behandlingsrespons i mentale lidelser. Senere gikk jeg videre til å lede Center for Clinical Data Science (CCDS) ved Mass General Brigham. Der overså jeg utviklingen av dusinvis av kliniske AI-applikasjoner, og så førstehånd hvordan de underliggende utfordringene forbundet med å få tilgang til og ‘aktivere’ dataene nødvendige for å utvikle og trene regulatoriske AI-produkter.

Til tross for de mange fremstegene i helse-AI, er veien fra utvikling til lansering av et produkt på markedet lang og ofte bumpete. Løsningene krasjer (eller bare skuffer) en gang de er deployert klinisk, og å støtte hele AI-livsløpet er nesten umulig uten kontinuerlig tilgang til en mengde kliniske data. Utfordringen har skiftet fra å lage modeller, til å vedlikeholde dem. For å svare på denne utfordringen, overbeviste jeg Mass General Brigham-systemet om verdien av å ha deres eget ‘spesialiserte CRO for AI’ (CRO = Clinical Research Org), for å teste algoritmer fra multiple kommersielle utviklere.

Men problemet forblev – helsedata er fortsatt svært isolert, og selv store mengder data fra ett nettverk er ikke nok til å bekjempe de stadig smalere målene for medisinsk AI. Om sommeren 2020 initierte og ledet jeg (sammen med Dr. Mona Flores fra NVIDIA (NVDA )) verdens største helse-Federated Learning (FL)-studie på den tiden, EXAM. Vi brukte FL for å lage en COVID-utfallspredikeringsmodell, som utnyttet data fra hele verden, uten å dele noen data.. Denne studien ble senere publisert i Nature Medicine, og demonstrerte den positive effekten av å utnytte mangfoldige og forskjellige datasett, og understreket potensialet for mer omfattende bruk av Federated Learning i helse.

Dette erfaringen, imidlertid, belyste en rekke utfordringer. Disse inkluderte å koordinere data over samarbeidende steder, å sikre data-sporing og korrekt karakterisering, samt byrden som ble lagt på IT-avdelingene fra hver institusjon, som måtte lære om nyeste teknologier som de ikke var vant til. Dette krevde en ny plattform som ville støtte disse nye ‘distribuerte data’-samarbeidene. Jeg bestemte meg for å samarbeide med min medgrunnlegger, Yuval Baror, for å lage en plattform for å støtte privatlivs-bevarende samarbeid. Den plattformen er ‘Rhino Health Platform’, som utnytter FL og edge-computing.

Hvorfor tror du at AI-modeller ofte ikke leverer forventede resultater i en helse-innstilling?

Medisinsk AI er ofte trent på små, smale datasett, som datasett fra ett institusjon eller geografisk region, som fører til at den resulterende modellen bare fungerer godt på de typene data den har sett. En gang algoritmen blir anvendt på pasienter eller scenarier som avviker fra det smale treningsdatasettet, blir ytelsen alvorlig påvirket.

Andrew Ng, fanget denne ideen godt når han sa, “Det viser seg at når vi samler inn data fra Stanford Hospital…vi kan publisere papirer som viser [at algoritmene] er sammenlignbare med menneskelige radiologer i å spore bestemte tilstander. … [Når] du tar samme modell, samme AI-system, til et eldre sykehus nedover gaten, med en eldre maskin, og teknikeren bruker en litt annen bilde-protokoll, så forsvinner data og årsaker til at AI-systemets ytelse forringes betydelig.”³

Enkelt sagt, de fleste AI-modellene er ikke trent på data som er tilstrekkelig mangfoldige og av høy kvalitet, noe som resulterer i dårlig ‘virkelige verden’-ytelse.  Dette problemet har vært godt dokumentert i både vitenskapelige og mainstream-kretser, som i Science og Politico.

Hvor viktig er det å teste på diverse pasientgrupper?

Å teste på diverse pasientgrupper er avgjørende for å sikre at den resulterende AI-produktet er ikke bare effektivt og godt fungerende, men også trygt. Algoritmer som ikke er trent eller testet på tilstrekkelig diverse pasientgrupper kan lide under algoritme-bias, et alvorlig problem i helse og helse-teknologi. Ikke bare vil slike algoritmer reflektere fordommene som var til stede i treningsdataene, men også forverre disse fordommene og forsterke eksisterende rase-, etniske-, religiøse-, kjønns- osv. ulikheter i helse. Å ikke teste på diverse pasientgrupper kan resultere i farlige produkter.

En nylig publisert studie⁵, som utnytter Rhino Health-plattformen, undersøkte ytelsen av en AI-algoritme for å detektere hjerne-aneurismer utviklet på ett sted på fire forskjellige steder med ulike skannertype. Resultatene viste en betydelig variasjon i ytelse på steder med ulike skannertype, og understreket viktigheten av å trene og teste på diverse datasett.

Hvordan identifiserer du om en undergruppe ikke er representert?

En vanlig tilnærming er å analysere fordelingen av variabler i forskjellige datasett, både individuelt og kombinert. Dette kan informere utviklere både når de forbereder ‘trening’-datasett og valideringsdatasett. Rhino Health-plattformen gjør det mulig for deg å gjøre dette, og dessuten kan brukerne se hvordan modellen fungerer på ulike kohorter for å sikre generaliserbarhet og bærekraftig ytelse over undergrupper.

Kunne du beskrive hva Federated Learning er og hvordan det løser noen av disse problemene?

Federated Learning (FL) kan bredt defineres som prosessen hvor AI-modeller blir trent og deretter forbedret over tid, ved hjelp av ulike data, uten å dele eller sentralisere data. Dette er et stort skritt fremover i AI-utvikling. Historisk sett måtte alle som ønsket å samarbeide med flere steder samle dataene sammen, noe som induserte en mengde besværlige, dyre og tidskrevende juridiske, risiko- og compliance-problemer.

I dag, med programvare som Rhino Health-plattformen, blir FL en dag-til-dag-realitet i helse og life sciences. Federated Learning gjør det mulig for brukerne å utforske, kuratere og validere data mens dataene forblir på samarbeidspartnerens lokale servere. Containerisert kode, som en AI/ML-algoritme eller en analytisk applikasjon, sendes til den lokale serveren hvor kjøringen av koden, som trening eller validering av en AI/ML-algoritme, utføres ‘lokalt’. Dataene forblir dermed hos ‘data-forvalteren’ hele tiden.

Sykehus, spesielt, er bekymret for risikoen forbundet med å samle inn sensitive pasientdata. Dette har allerede ført til pinlige situasjoner, hvor det har blitt klart at helseorganisasjoner har samarbeidet med industri uten å forstå hvordan dataene deres ble brukt. Dette har begrenset mengden samarbeid som både industri og akademiske forskere kan gjøre, og har påvirket produktkvaliteten over hele helseindustrien. FL kan mildne dette, og gjøre det mulig for data-samarbeid som aldri før, samtidig som risikoen forbundet med disse samarbeidene kontrolleres.

Kunne du dele Rhino Healths visjon for å muliggjøre rask modell-utvikling ved å bruke mer diverse data?

Vi forestiller oss en økosystem av AI-utviklere og brukere, som samarbeider uten frykt eller begrensninger, samtidig som de respekterer grensene for reguleringer.. Samarbeidspartnere kan raskt identifisere nødvendige trenings- og testdata fra hele verden, få tilgang til og interagere med disse dataene, og iterere på modell-utvikling for å sikre tilstrekkelig generaliserbarhet, ytelse og sikkerhet.

I kjernen av dette ligger Rhino Health-plattformen, som gir en ‘one-stop-shop’ for AI-utviklere til å konstruere massive og diverse datasett, trene og validere AI-algoritmer, og kontinuerlig overvåke og vedlikeholde deployede AI-produkter.

Hvordan forhindrer Rhino Health-plattformen AI-forbias og tilbyr AI-forklarbarhet?

Ved å låse opp og strømlinjeforme data-samarbeid, kan AI-utviklere utnytte større, mer diverse datasett i trening og testing av sine applikasjoner. Resultatet av mer robuste datasett er et mer generaliserbart produkt som ikke er belastet av fordommene fra ett enkelt institusjon eller smalt datasett. I støtte til AI-forklarbarhet, gir vår plattform en tydelig oversikt over dataene som er brukt i utviklingsprosessen, med mulighet til å analysere data-opphav, fordeling av verdier og andre nøkkel-metrikk for å sikre adekvat data-mangfold og kvalitet. Dessuten gjør vår plattform det mulig for brukerne å ytterligere forbedre datasettene med ekstra variabler, som kan beregnes fra eksisterende datapunkter, for å undersøke årsakssammenheng og mildne konfoundere.

Hvordan responderer du på leger som er bekymret for at en over-avhengighet av AI kan føre til forbiaste resultater som ikke er uavhengig validerbare?

Vi forstår denne bekymringen og erkjenner at en rekke av applikasjonene på markedet i dag kan være forbiaste. Vår respons er at vi må komme sammen som en industri, som en helse-samfunn som først og fremst er bekymret for pasient-sikkerhet, for å definere politikker og prosedyrer for å forhindre slike forbiaster og sikre trygge, effektive AI-applikasjoner. AI-utviklere har ansvaret for å sikre at deres markedsførte AI-produkter er uavhengig validerbare for å oppnå tillit fra både helse-personell og pasienter. Rhino Health er dedikert til å støtte trygge, pålitelige AI-produkter og samarbeider med partnere for å muliggjøre og strømlinjeforme uavhengig validering av AI-applikasjoner før deployering i kliniske settinger ved å låse opp barrierene for nødvendig valideringsdata.

Hva er din visjon for fremtiden av AI i helse?

Rhino Healths visjon er en verden hvor AI har nådd sitt fulle potensiale i helse. Vi arbeider hardt for å skape transparens og fremme samarbeid ved å hevde privatliv for å muliggjøre denne verden. Vi forestiller oss en helse-AI som ikke er begrenset av brannmurer, geografiske eller regulatoriske begrensninger.  AI-utviklere vil ha kontrollert tilgang til all data de trenger for å bygge kraftfulle, generaliserbare modeller – og for å kontinuerlig overvåke og forbedre dem med en strøm av data i sanntid. Leverandører og pasienter vil ha tillit til å vite at de ikke mister kontroll over sine data, og kan sikre at de blir brukt til godt. Regulatorer vil kunne overvåke effikasiteten av modellene som brukes i legemiddel- og enhetsutvikling i sanntid. Helse-organisasjoner vil dra nytte av disse fremstegene i AI, samtidig som pasienter og leverandører kan sove trygt, vitende at privatliv er beskyttet. Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Rhino Health.