Ittai Dayan, MD, Rhino Healthin perustaja ja toimitusjohtaja – Haastattelusarja

Ittai Dayan, MD on Rhino Healthin perustaja ja toimitusjohtaja. Hänen taustansa on kehittämässä tekoälyä ja diagnostiikkaa, sekä kliinisessä lääketieteessä ja tutkimuksessa. Hän on entinen BCG:n terveydenhuollon käytännön ydinjäsen ja sairaalan johtaja. Hän on tällä hetkellä keskittynyt vaikuttamaan turvallisen, oikeudenmukaisen ja vaikuttavan tekoälyn kehittämiseen terveydenhuolto- ja elintarviketeollisuudessa. Rhino Healthissa he käyttävät hajautettua laskentaa ja federated learningia keinona potilastietojen suojelemiseksi ja yhteistyön edistämiseksi hajanaisessa terveydenhuollon maisemassa.

Hän palveli IDF:ssä – erikoisjoukoissa, johti maailman suurinta akateemista lääketieteellistä käännösläketieteen tutkimuskeskusta. Hän on asiantuntija tekoälyn kehittämisessä ja kaupallistamisessa, ja pitkänmatkan juoksija.

Voitko kertoa Rhino Healthin syntytarinan?

Matkani tekoälyyn alkoi, kun olin kliininen lääkäri ja tutkija, ja käytin varhaisen muodon “digitaalista biomerkkiä” hoitovasteen mittaamiseen mielenterveysongelmissa. Myöhemmin johtaminen Center for Clinical Data Science (CCDS) Mass General Brighamissa. Siellä valvoin kymmenien kliinisten tekoälysovellusten kehittämistä, ja todistin itse alustavat haasteet, jotka liittyvät tietojen saatavuuteen ja “aktivoimiseen” tarvittavien sääntelyluokan tekoälytuotteiden kehittämiseen ja kouluttamiseen.

Vaikka terveydenhuollon tekoälyssä on tapahtunut monia edistysaskelia, tie kehittämisestä tuotteen markkinoille on usein pitkä ja usein epätasainen. Ratkaisut menevät rikki (tai pettävät) kun ne otetaan käyttöön kliinisesti, ja koko tekoäly-elinkaaren tuki on lähes mahdotonta ilman jatkuvaa pääsyä laajaan määrään kliinisiä tietoja. Haaste on siirtynyt “mallien luomisesta” “niiden ylläpitämiseen”. Vastatakseni tähän haasteeseen, vakuutin Mass General Brigham -järjestelmän omasta “erikoistuneesta CRO: sta tekoälyyn” (CRO = Kliininen tutkimusorganisaatio), testatakseen algoritmeja useista kaupallisista kehittäjistä.

Ongelma kuitenkin säilyi – terveydenhuollon tiedot ovat edelleen hyvin eristettyjä, ja jopa suuri määrä tietoja yhdestä verkostosta eivät riitä kamppailemaan tekoälyn kapeampien kohdistamistavoitteiden kanssa. Kesällä 2020 käynnistin ja johtaminen (yhdessä Dr. Mona Floresin kanssa NVIDIA: lta) maailman suurimman terveydenhuollon federated learning (FL) -tutkimuksen, EXAM. Käytimme FL: ää luomaan COVID-tulosprediktio-mallin, hyödyntäen tietoja ympäri maailmaa, ilman tietojen jakamista. Myöhemmin julkaistu Nature Medicine, tämä tutkimus osoitti positiivisen vaikutuksen hyödyntämällä monipuolisia ja erilaisia tietoja ja korosti laajemman federated learningin käytön mahdollisuuksia terveydenhuollossa.

Tämä kokemus kuitenkin osoitti useita haasteita. Niihin kuului tietojen orkesterointi yhteistyössä olevien sivustojen välillä, tietojen jäljitettävyyden ja oikean luonteen varmistaminen, sekä IT-osastojen kuormittuminen kunkin laitoksen, joiden oli opittava äskettäin keksittyjä teknologioita, joita he eivät olleet tottuneet. Tämä vaati uuden alustan, joka tukee näitä uusia “hajautettujen tietojen” yhteistyömuotoja. Päätin yhdistää voimani perustajani Yuval Barorin kanssa luomaan loppupäätös-alustan yksityisyyden suojelemiseksi. Tuo alusta on “Rhino Health Platform”, joka hyödyntää FL: ää ja reunakomputointia.

Miksi uskot, että tekoälymallit usein epäonnistuvat toimimasta odotetulla tavalla terveydenhuollossa?

Lääketieteellinen tekoäly on usein koulutettu pienillä, kapeilla tietojoukoilla, kuten yhden laitoksen tai maantieteellisen alueen tietojoukoilla, mikä johtaa siihen, että tuloksesta malli toimii vain hyvin niiden tietojen kanssa, joita se on nähnyt. Kun algoritmi sovelletaan potilaisiin tai skenaarioihin, jotka poikkeavat kapeasta koulutusjoukosta, suorituskyky on vakavasti vaikuttunut.

Andrew Ng on kuvannut tämän käsitteen hyvin, kun hän totesi, “Kun keräämme tietoja Stanfordin sairaalasta… voimme julkaista tutkimuksia, jotka osoittavat [algoritmien] olevan verrattavissa ihmisten röntgenlääkäreihin tiettyjen tilojen havaitsemisessa. … [Kun] otat saman mallin, saman tekoälyjärjestelmän, vanhempiin sairaaloihin, vanhempiin laitteisiin, ja tekniikko käyttää hieman erilaista kuvantamisprotokollaa, se tietojen siirtymä aiheuttaa tekoälyjärjestelmän suorituskyvyn heikentymisen merkittävästi.”

Yksinkertaisesti sanottuna, useimmat tekoälymallit eivät ole koulutettu tarpeeksi monipuolisilla ja laadukkailla tiedoilla, mikä johtaa heikkoon “todellisen maailman” suorituskykyyn. Tämä ongelma on osoitettu sekä tieteellisissä että valtavirta- piireissä, kuten Science ja Politico.

Kuinka tärkeää on testata monipuolisilla potilasryhmillä?

Testaus monipuolisilla potilasryhmillä on olennaista varmistaaksesi, että tuloksena oleva tekoälytuote on sekä tehokas ja suorituskykyinen että turvallinen. Algoritmit, jotka eivät ole koulutettu tai testattu tarpeeksi monipuolisilla potilasryhmillä, voivat kärsiä algoritmisen vinoumasta, joka on vakava ongelma terveydenhuollossa ja terveydenhuollon teknologiassa. Algoritmit, jotka eivät ole koulutettu tai testattu tarpeeksi monipuolisilla potilasryhmillä, voivat kärsiä algoritmisen vinoumasta, joka on vakava ongelma terveydenhuollossa ja terveydenhuollon teknologiassa. Algoritmit, jotka eivät ole koulutettu tai testattu tarpeeksi monipuolisilla potilasryhmillä, voivat kärsiä algoritmisen vinoumasta, joka on vakava ongelma terveydenhuollossa ja terveydenhuollon teknologiassa. Tämä voi johtaa vaarallisiin tuotteisiin.

Äskettäin julkaistu tutkimus⁵, joka hyödyntää Rhino Health -alustaa, tutki yhden sivuston kehittämän aivokasvain-havaitsemisalgoritmin suorituskykyä neljällä eri sivustolla erilaisilla skannerityypeillä. Tulokset osoittivat merkittävää suorituskyvyn vaihtelua sivustoilla, jotka erosivat skannerityypeiltään, korostaen monipuolisten tietojoukkojen koulutuksessa ja testauksessa.

Kuinka voit tunnistaa, jos alipopulaatio ei ole edustettuna?

Yleinen lähestymistapa on analysoida muuttujien jakaumia eri tietojoukoissa, yksin ja yhdessä. Se voi informoida kehittäjiä sekä valmistellessa “koulutus”-tietojoukkia että validointitietojoukkia. Rhino Health -alusta mahdollistaa tämän, ja lisäksi käyttäjät voivat nähdä, miten malli suoriutuu eri kohortteja, varmistaakseen yleistettävyyden ja kestävän suorituskyvyn alipopulaatioissa.

Voitko kuvata, mitä federated learning on ja miten se ratkaisee joitakin näistä ongelmista?

Federated Learning (FL) voidaan määritellä laajasti prosessiksi, jossa tekoälymallit koulutetaan ja parannetaan jatkuvasti, käyttäen erilaisia tietoja, ilman tarvetta tietojen jakamiseen tai keskitetylle sijainnille. Tämä on suuri askel tekoälyn kehittämisessä. Historiallisesti, kuka tahansa, joka haluaa yhteistyössä useiden sivustojen kanssa, on ollut pakotettu yhdistämään tiedot yhteen, aiheuttaen useita raskaita, kalliita ja aikaa vieviä lakien, riskien ja vaatimusten mukaisia prosesseja.

Nykyään, ohjelmistojen, kuten Rhino Health -alustan, avulla FL on muuttunut päivittäin toimivaksi terveydenhuollossa ja elintarviketeollisuudessa. Federated learning mahdollistaa käyttäjille tietojen tutkimisen, kuratoinnin ja validoinnin, kun tiedot säilytetään yhteistyökumppaneiden paikallisten palvelimien varassa. Kontrolloidun koodin, kuten tekoäly-/ML-algoritmin tai analytiikkasovelluksen, lähettäminen paikalliseen palvelimeen, jossa koodin suorittaminen, kuten tekoäly-/ML-algoritmin koulutus tai validointi, suoritetaan “paikallisesti”. Tiedot säilytetään aina “tietojen haltijan” hallussa.

Sairaalat ovat erityisesti huolissaan siitä, mitä riskejä on liittyvä herkkien potilastietojen kokoamiseen. Tämä on johtanut häpeällisiin tilanteisiin, joissa on käynyt ilmi, että terveydenhuollon organisaatiot ovat yhteistyössä teollisuuden kanssa ilman täydellistä ymmärrystä tietojensa käytöstä. Tämä rajoittaa yhteistyön määrää, jonka sekä teollisuus että akateemiset tutkijat voivat tehdä, hidastaen tutkimusta ja kehitystä ja vaikuttaa tuotteiden laatuun terveydenhuoltoalalla. FL voi lieventää tätä ja mahdollistaa tietojen yhteistyöt aiempaa paremmin, samalla kontrolloiden yhteistyön riskejä.

Voitko jakaa Rhino Healthin visio siitä, miten nopea mallin luominen voidaan tehdä käyttäen monipuolisempia tietoja?

Me näemme ekosysteemin, jossa tekoälykehittäjät ja -käyttäjät voivat yhteistyössä ilman pelkoa tai rajoituksia, kunnioittaen samalla sääntöjä. Yhteistyökumppanit voivat nopeasti tunnistaa tarvittavat koulutus- ja testausdatat ympäri maailmaa, päästä niiden tietoihin ja vuorovaikuttaa niiden kanssa, ja iteroida mallin kehittämistä varmistaakseen riittävän yleistettävyyden, suorituskyvyn ja turvallisuuden.

Rhino Health -alusta on tämän ytimessä, tarjoamalla “yksi-pysäkki-kaupan” tekoälykehittäjille rakentaa massiivisia ja monipuolisia tietoja, kouluttaa ja validoida tekoälyalgoritmeja, ja jatkuvasti seurata ja ylläpitää käyttöön otettuja tekoälytuotteita.

Kuinka Rhino Health -alusta estää tekoälyvinouman ja tarjoaa tekoälyn selittävyyden?

Avaa ja sujuvoittaen tietojen yhteistyötä, tekoälykehittäjät voivat hyödyntää laajempia ja monipuolisempia tietoja sovellustensa koulutuksessa ja testauksessa. Laajempien ja monipuolisempien tietojen tuloksena on yleistettävä tuote, joka ei ole rasittunut yhden laitoksen tai kapean tietojoukon vinoumasta. Tekoälyn selittävyyden tukemiseksi alustamme tarjoaa selkeän näkymän tietoihin, joita kehitysprosessin aikana hyödynnetään, ja mahdollisuuden analysoida tietojen alkuperää, arvojen jakaumia ja muita avainmittareita varmistaakseen riittävän tietojen monipuolisuuden ja laadun. Lisäksi alustamme mahdollistaa toiminnallisuuden, jota ei voida tehdä, jos tietoja yhdistetään yhteen, kuten mahdollisuuden parantaa tietoja lisäämällä uusia muuttujia, kuten niitä, jotka lasketaan olemassa olevista tietopisteistä, tutkimaan syyn ja lieventämään sekaannuksia.

Kuinka vastaat lääkäreille, jotka ovat huolissaan siitä, että tekoälyn liiallinen riippuvuus voi johtaa vinoutuneisiin tuloksiin, jotka eivät ole itsenäisesti validoituneita?

Me empatiamme tämän huolen kanssa ja tunnustamme, että monia sovelluksia markkinoilla voi olla vinoutuneita. Vastauksemme on, että meidän on yhdessä toimittava alan, terveydenhuollon yhteisönä, joka on ensisijaisesti huolissaan potilasturvallisuudesta, määrittääksemme käytännöt ja menettelyt, joilla voidaan estää tällaiset vinoumat ja varmistaa turvalliset ja tehokkaat tekoälysovellukset. Tekoälykehittäjien on vastuutonta varmistaa, että heidän markkinoilla olevat tekoälytuotteensa on itsenäisesti validoituneita saadakseen terveydenhuollon ammattilaisten ja potilaiden luottamuksen. Rhino Health on omistautunut turvallisten ja luotettavien tekoälytuotteiden tukemiseen ja työskentelee kumppaneiden kanssa mahdollistaakseen ja sujuvoittaakseen tekoälysovellusten itsenäisen validoinnin ennen niiden käyttöönottoa kliinisissä ympäristöissä avaamalla esteitä välttämättömille validointitiedoille.

Mikä on visiosi terveydenhuollossa käytettävän tekoälyn tulevaisuudesta?

Rhino Healthin visio on maailmasta, jossa tekoäly on saavuttanut täyden potentiaalinsa terveydenhuollossa. Olemme ahkerasti työskentelemässä luomaan avoimuutta ja edistämään yhteistyötä vahvistamalla yksityisyyden suojelemista voidaksemme mahdollistaa tämän maailman. Me näemme terveydenhuollon tekoälyn, joka ei ole rajoitettu palomuurien, maantieteellisten alueiden tai sääntelyrajoitusten kanssa. Tekoälykehittäjillä on säädelty pääsy kaikkiin tarvittaviin tietoihin rakentaa voimakkaita ja yleistettäviä malleja ja jatkuvasti seurata ja parantaa niitä reaaliajassa. Tarjoajat ja potilaat voivat olla varmoja, etteivät he menetä valvontaa tietojaan, ja voivat varmistaa, että ne käytetään hyviin tarkoituksiin. Sääntelijät voivat seurata lääke- ja laiteteollisuuden kehittämiseen käytettävien mallien tehokkuutta reaaliajassa. Terveydenhuollon järjestöt hyötyvät näistä tekoälyn edistysaskelista, kun taas potilaat ja tarjoajat voivat olla varmoja, että yksityisyys on suojattu.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Rhino Health -sivustolla.