Lääkäri Ittai Dayan, Rhino Healthin toinen perustaja ja toimitusjohtaja – haastattelusarja

Lääkäri Ittai Dayan on Rhino Healthin toinen perustaja ja toimitusjohtaja. Hänen taustansa on tekoälyn ja diagnostiikan kehittämisessä sekä kliinisessä lääketieteessä ja tutkimuksessa. Hän on aiemmin ollut BCG:n terveydenhuoltoliiketoiminnan ydinryhmän jäsen ja sairaalajohtaja. Nyt hän keskittyy turvallisen, oikeudenmukaisen ja vaikuttavan tekoälyn edistämiseen terveydenhuollossa ja biotieteissä. Rhino Health käyttää hajautettua laskentaa ja federoitua oppimista potilaiden yksityisyyden säilyttämiseen ja yhteistyön edistämiseen hajanaisella terveydenhuoltokentällä.

Hän palveli Israelin puolustusvoimien erikoisjoukoissa ja johti maailman suurinta akateemiseen lääketieteelliseen keskukseen sijoittuvaa tutkimustuloksia käytäntöön soveltavaa tekoälykeskusta. Hän on tekoälyn kehittämisen ja kaupallistamisen asiantuntija sekä pitkän matkan juoksija.

Voisitko kertoa Rhino Healthin syntytarinan?

Matkani tekoälyn pariin alkoi työskennellessäni lääkärinä ja tutkijana. Käytin digitaalisen biomarkkerin varhaista muotoa mielenterveyshäiriöiden hoitovasteen mittaamiseen. Myöhemmin siirryin johtamaan Mass General Brighamin Center for Clinical Data Science -keskusta (CCDS). Siellä valvoin kymmenien kliinisten tekoälysovellusten kehittämistä ja näin omakohtaisesti, miten vaikeaa on saada käyttöön ja hyödyntää dataa, jota viranomaisvaatimukset täyttävien tekoälytuotteiden kehittäminen ja kouluttaminen edellyttävät.

Terveydenhuollon tekoälyssä on edistytty paljon, mutta tie kehittämisestä markkinoille on pitkä ja usein mutkikas. Ratkaisut kaatuvat tai tuottavat pettymyksen kliinisessä käytössä, ja koko elinkaaren tukeminen on lähes mahdotonta ilman jatkuvaa pääsyä laajaan kliiniseen aineistoon. Haaste on siirtynyt mallien luomisesta niiden ylläpitämiseen. Vastatakseni tähän vakuutin Mass General Brighamin oman, tekoälyyn erikoistuneen kliinisen tutkimusorganisaation eli CRO:n arvosta: se voisi testata useiden kaupallisten kehittäjien algoritmeja.

Ongelma silti säilyi. Terveysdata on edelleen siiloutunutta, eikä suurenkaan yhden verkoston aineiston avulla pystytä vastaamaan lääketieteellisen tekoälyn yhä tarkemmin rajattuihin kohteisiin. Kesällä 2020 käynnistin ja johdin yhdessä NVIDIAn tohtori Mona Floresin kanssa (NVDA ) silloisen maailman suurimman terveydenhuollon federoidun oppimisen (FL) tutkimuksen, EXAMin. Loimme FL:n avulla COVID-taudin lopputulosta ennustavan mallin käyttämällä dataa kaikkialta maailmasta jakamatta itse dataa. Myöhemmin Nature Medicine -lehdessä julkaistu tutkimus osoitti monipuolisten ja erillisten aineistojen hyödyntämisen myönteisen vaikutuksen sekä federoidun oppimisen laajemman käytön mahdollisuudet terveydenhuollossa.

Kokemus paljasti kuitenkin useita haasteita. Niitä olivat datan koordinointi yhteistyöhön osallistuvien toimipaikkojen välillä, jäljitettävyyden ja asianmukaisen kuvailun varmistaminen sekä kunkin organisaation IT-osastoille koituva kuorma niiden opetellessa ennestään vieraita huipputeknologioita. Tarvittiin uusi alusta tukemaan tällaista hajautettuun dataan perustuvaa yhteistyötä. Päätin perustajakumppanini Yuval Barorin kanssa rakentaa kokonaisvaltaisen alustan yksityisyyden säilyttävään yhteistyöhön. Se on Rhino Health -alusta, joka hyödyntää FL:ää ja reunalaskentaa.

Miksi tekoälymallit eivät mielestäsi usein tuota odotettuja tuloksia terveydenhuollossa?

Lääketieteellistä tekoälyä koulutetaan usein pienillä, kapeilla aineistoilla esimerkiksi yhdestä organisaatiosta tai maantieteelliseltä alueelta. Siksi malli toimii hyvin vain aiemmin näkemiensä tietotyyppien kanssa. Kun algoritmia sovelletaan potilaisiin tai tilanteisiin, jotka poikkeavat suppeasta koulutusaineistosta, suorituskyky heikkenee huomattavasti.

Andrew Ng kuvasi asiaa osuvasti: ”Kun keräämme dataa Stanfordin sairaalasta, voimme julkaista tutkimuksia, joiden mukaan algoritmit vastaavat radiologeja tiettyjen sairauksien havaitsemisessa. Mutta kun sama malli ja tekoälyjärjestelmä viedään kadun varrella sijaitsevaan vanhempaan sairaalaan, jossa laite on vanhempi ja teknikko käyttää hieman erilaista kuvausprotokollaa, datan jakauma muuttuu ja tekoälyjärjestelmän suorituskyky heikkenee merkittävästi.”³

Yksinkertaisesti useimpia tekoälymalleja ei kouluteta riittävän monipuolisella ja laadukkaalla datalla, joten ne toimivat huonosti todellisessa käytössä. Ongelma on dokumentoitu niin tieteellisissä julkaisuissa kuin yleismediassa, esimerkiksi Science– ja Politico-julkaisuissa.

Kuinka tärkeää on testata monipuolisilla potilasryhmillä?

Se on ratkaisevan tärkeää, jotta tekoälytuote olisi paitsi tehokas ja suorituskykyinen myös turvallinen. Algoritmit, joita ei kouluteta tai testata riittävän monipuolisilla potilasryhmillä, voivat kärsiä algoritmisesta vinoumasta. Se on vakava ongelma terveydenhuollossa ja terveysteknologiassa. Ne eivät vain heijasta koulutusdatan vinoumaa, vaan pahentavat sitä sekä olemassa olevaa rotuun, etniseen taustaan, uskontoon, sukupuoleen ja muihin tekijöihin liittyvää eriarvoisuutta. Monipuolisten potilasryhmien sivuuttaminen testauksessa voi johtaa vaarallisiin tuotteisiin.

Äskettäin julkaistu tutkimus⁵ hyödynsi Rhino Health -alustaa ja tutki yhdessä toimipaikassa kehitetyn aivoaneurysmia tunnistavan tekoälyalgoritmin toimintaa neljässä toimipaikassa, joissa käytettiin eri kuvantamislaitetyyppejä. Suorituskyky vaihteli huomattavasti eri laitteita käyttävien toimipaikkojen välillä, mikä korostaa monipuolisen koulutus- ja testiaineiston merkitystä.

Miten tunnistatte, jos jokin väestön alaryhmä ei ole edustettuna?

Tavallinen tapa on analysoida muuttujien jakaumia eri aineistoissa erikseen ja yhdessä. Tämä auttaa kehittäjiä sekä koulutus- että validointiaineistojen valmistelussa. Rhino Health -alusta mahdollistaa tämän. Lisäksi käyttäjät voivat tarkastella mallin toimintaa eri kohorteissa varmistaakseen yleistettävyyden ja kestävän suorituskyvyn eri väestöryhmissä.

Voisitko kuvata federoitua oppimista ja sitä, miten se ratkaisee näitä ongelmia?

Federoitu oppiminen (FL) tarkoittaa yleisesti prosessia, jossa tekoälymalleja koulutetaan ja parannetaan ajan mittaan erillisillä aineistoilla jakamatta tai keskittämättä dataa. Se on suuri edistysaskel. Aiemmin usean toimipaikan kanssa yhteistyötä haluavan oli koottava data yhteen, mistä seurasi lukuisia raskaita, kalliita ja aikaa vieviä oikeudellisia, riski- ja vaatimustenmukaisuuskysymyksiä.

Rhino Health -alustan kaltaiset ohjelmistot tekevät FL:stä nyt arkipäivää terveydenhuollossa ja biotieteissä. Käyttäjät voivat tutkia, kuratoida ja validoida dataa sen pysyessä yhteistyökumppanien paikallisilla palvelimilla. Konttiin pakattu koodi, kuten tekoäly- tai koneoppimisalgoritmi tai analyysisovellus, lähetetään paikalliselle palvelimelle. Siellä koodi suoritetaan, esimerkiksi algoritmi koulutetaan tai validoidaan paikallisesti. Data pysyy siis aina sen säilyttäjän hallussa.

Erityisesti sairaalat ovat huolissaan arkaluonteisen potilasdatan yhteen kokoamisen riskeistä. On jo ollut kiusallisia tilanteita, joissa terveydenhuolto-organisaatiot ovat tehneet yhteistyötä yritysten kanssa ymmärtämättä tarkasti datansa käyttötapaa. Tämä rajoittaa teollisuuden ja akateemisten tutkijoiden yhteistyötä, hidastaa tutkimusta ja kehitystä sekä vaikuttaa tuotteiden laatuun koko alalla. FL voi lieventää ongelmaa ja mahdollistaa ennennäkemättömän datayhteistyön samalla, kun yhteistyön riskejä hallitaan.

Millainen on Rhino Healthin visio nopeasta mallien luomisesta monipuolisemman datan avulla?

Tavoittelemme tekoälyn kehittäjien ja käyttäjien ekosysteemiä, jossa yhteistyötä tehdään ilman pelkoa tai rajoitteita mutta sääntelyn rajoja kunnioittaen. Kumppanit voivat nopeasti löytää tarvittavan koulutus- ja testidatan eri alueilta, käyttää sitä ja työskennellä sen kanssa sekä kehittää malleja toistuvasti riittävän yleistettävyyden, suorituskyvyn ja turvallisuuden varmistamiseksi.

Keskiössä on Rhino Health -alusta, yhden luukun ratkaisu valtavien ja monipuolisten aineistojen kokoamiseen, tekoälyalgoritmien koulutukseen ja validointiin sekä käytössä olevien tekoälytuotteiden jatkuvaan seurantaan ja ylläpitoon.

Miten Rhino Health -alusta ehkäisee tekoälyn vinoumia ja tukee selitettävyyttä?

Kun datayhteistyön esteitä poistetaan ja yhteistyötä sujuvoitetaan, kehittäjät voivat käyttää laajempia ja monipuolisempia aineistoja sovellustensa koulutukseen ja testaukseen. Vankemmat aineistot tuottavat paremmin yleistyvän tuotteen, jota yhden organisaation tai suppean aineiston vinoumat eivät rasita. Selitettävyyden tueksi alustamme näyttää selkeästi kehitysprosessissa käytetyn datan ja mahdollistaa alkuperän, arvojen jakaumien ja muiden keskeisten mittarien analysoinnin. Näin varmistetaan riittävä monipuolisuus ja laatu. Lisäksi alusta mahdollistaa toimintoja, jotka eivät onnistu vain kokoamalla data yhteen: käyttäjät voivat esimerkiksi täydentää aineistoja lisämuuttujilla, joita lasketaan olemassa olevista datapisteistä, tutkiakseen kausaalipäättelyä ja vähentääkseen sekoittavien tekijöiden vaikutusta.

Miten vastaatte lääkäreille, jotka pelkäävät liiallisen tekoälyyn luottamisen johtavan vinoutuneisiin tuloksiin, joita ei ole riippumattomasti validoitu?

Ymmärrämme huolen ja tunnustamme, että osa nykyisistä sovelluksista voi tosiaan olla vinoutuneita. Alan ja ennen kaikkea potilasturvallisuudesta huolehtivan terveydenhuoltoyhteisön on yhdessä laadittava käytännöt ja menettelyt vinoumien ehkäisyyn ja turvallisten, tehokkaiden sovellusten varmistamiseen. Kehittäjien vastuulla on huolehtia, että markkinoille tuodut tekoälytuotteet validoidaan riippumattomasti terveydenhuollon ammattilaisten ja potilaiden luottamuksen saavuttamiseksi. Rhino Health tukee turvallisia ja luotettavia tuotteita ja tekee yhteistyötä kumppanien kanssa riippumattoman validoinnin mahdollistamiseksi ja helpottamiseksi ennen kliinistä käyttöönottoa, poistamalla tarvittavan validointidatan saatavuuden esteitä.

Millaisena näet tekoälyn tulevaisuuden terveydenhuollossa?

Rhino Healthin visiona on maailma, jossa tekoäly on saavuttanut täyden potentiaalinsa terveydenhuollossa. Rakennamme määrätietoisesti avoimuutta ja edistämme yhteistyötä yksityisyyden suojaamisen kautta. Tavoittelemme tekoälyä, jota palomuurit, maantiede tai sääntelyrajoitukset eivät rajoita. Kehittäjillä on hallittu pääsy kaikkeen dataan, jota tarvitaan tehokkaiden ja yleistettävien mallien rakentamiseen sekä jatkuvaan seurantaan ja parantamiseen reaaliaikaisen datavirran avulla. Palveluntarjoajat ja potilaat tietävät säilyttävänsä datansa hallinnan ja voivat varmistaa, että sitä käytetään hyvään. Viranomaiset voivat seurata lääke- ja laitekehityksessä käytettyjen mallien vaikuttavuutta reaaliajassa. Kansanterveysorganisaatiot hyötyvät edistyksestä, ja potilaat sekä palveluntarjoajat voivat luottaa yksityisyyden suojaan.

Kiitos erinomaisesta haastattelusta. Lisätietoja saa Rhino Healthin sivustolta.