Ittai Dayan, MD, Rhino Healthin perustaja ja toimitusjohtaja – Haastattelusarja

Ittai Dayan, MD on Rhino Healthin perustaja ja toimitusjohtaja. Hänellä on tausta kehittämässä tekoälyä ja diagnostiikkaa sekä kliinistä lääketiedettä ja tutkimusta. Hän on entinen BCG:n terveydenhuollon käytännön ydinjäsen ja sairaalan johtaja. Hän on tällä hetkellä keskittynyt kehittämään turvallista, oikeudenmukaista ja vaikuttavaa tekoälyä terveydenhuolto- ja elintarviketeollisuudessa. Rhino Healthissa he käyttävät hajautettua laskentaa ja federated learningia potilastietojen suojaamiseen ja yhteistyön edistämiseen terveydenhuollon fragmentoituneessa maisemassa.

Hän on palvelleet IDF:ssä – erikoisjoukoissa, johtanut maailman suurinta akateemista lääketieteellistä käännösteollisuuden tekoälykeskusta. Hän on asiantuntija tekoälyn kehittämisessä ja kaupallistamisessa, ja pitkänmatkan juoksija.

Voitko kertoa Rhino Healthin syntytarinan?

AANI matkani tekoälyyn alkoi, kun olin klinikassa ja tutkijana, ja käytin varhaisen version ’digitaalista biomerkintää’ hoitovasteen mittaamiseen mielenterveyden häiriöissä. Myöhemmin johtaminen Mass General Brighamin keskuksessa. Siellä valvoin kymmenien kliinisten tekoälysovellusten kehittämistä, ja näin ensimmäisen kädessä haasteita, jotka liittyvät siihen, että pääsee käsiksi ja ’aktivoidaan’ tarvittava data tekoälytuotteiden kehittämiseen ja koulutukseen.

Terveydenhuollon tekoälyssä on edistytty paljon, mutta tie kehittämisestä markkinoille on usein pitkä ja mutkikas. Ratkaisut menevät pieleen (tai pettävät) kun ne otetaan käyttöön kliinisesti, ja tekoälyn koko elinkaaren tuki on lähes mahdotonta ilman jatkuvaa pääsyä laajaan kliiniseen dataan. Haaste on siirtynyt tekoälymallien luomisesta niiden ylläpitämiseen. Vastatakseen tähän haasteeseen, vakuutin Mass General Brigham -järjestelmälle, että heidän kannattaa olla oma ’erikoistunut CRO tekoälylle’ (CRO = Kliininen tutkimusorganisaatio), jotta voivat testata useiden kaupallisten kehittäjien algoritmeja.

Kuitenkin ongelma säilyi – terveydenhuollon data on edelleen hyvin eristynyt, ja jopa suuri määrä dataa yhdestä verkostosta ei riitä kamppailemaan tekoälyn kapeampiin kohdistuksiin. Kesällä 2020 aloitin ja johtaminen (yhdessä Dr. Mona Floresin kanssa NVIDIA (NVDA ):sta), maailman suurimman terveydenhuollon federated learning (FL) -tutkimuksen, EXAM. Käytimme FL:ää luomaan COVID-tulosprediktiivisen mallin, hyödyntäen dataa ympäri maailmaa, ilman dataa jakamista. Tämä tutkimus julkaistiin myöhemmin Nature Medicine -lehdessä, ja se osoitti monipuolisten ja erilaisten tietojoukkojen hyödyntämisen myönteisen vaikutuksen ja korosti federated learningin mahdollisuuksia terveydenhuollossa.

Tämä kokemus kuitenkin osoitti useita haasteita. Niihin kuului datan orkesterointi yhteistyökumppaneiden sivustoilla, datan jäljittämisen ja oikean luokittelun varmistaminen, sekä IT-osastojen rasittuminen kunkin laitoksen osalta, jotka joutuivat oppimaan älykkäitä tekniikoita, joita he eivät olleet tottuneet. Tämä vaati uuden alustan, joka tukee näitä uusia ’hajautettuja data’ -yhteistyöjä. Päätin liittoutua perustajani Yuval Barorin kanssa luomaan loppupäähän alustan, joka tukee yksityisyyttä suojaavia yhteistyöjä. Tämä alusta on Rhino Health -alusta, joka hyödyntää FL:ää ja reunakomputointia.

Miksi uskot, että tekoälymallit usein epäonnistuvat odotetuissa tuloksissa terveydenhuollossa?

Terveydenhuollon tekoäly on usein koulutettu pienillä, kapeilla tietojoukoilla, kuten tietojoukoilla yhdestä laitoksesta tai maantieteellisestä alueesta, mikä johtaa siihen, että malli toimii vain hyvin niiden tietojen kanssa, joita se on nähnyt. Kun algoritmi sovelletaan potilaisiin tai skenaarioihin, jotka poikkeavat kapeasta koulutusaineistosta, suorituskyky on vakavasti heikentynyt.

Andrew Ng on kuvannut tämän asian hyvin, kun hän on sanonut, ”Kun keräämme dataa Stanfordin sairaalasta… voimme julkaista tutkimuksia, jotka osoittavat, että [algoritmit] ovat vertailukelpoisia ihmisten radiologien kanssa tiettyjen oireiden havaitsemisessa. … [Kun] otamme saman mallin, saman tekoälyjärjestelmän, vanhemman sairaalan kadulle, vanhemman laitteen kanssa, ja tekniikko käyttää hieman erilaista kuvantamisprotokollaa, data siirtyy ja aiheuttaa tekoälyjärjestelmän suorituskyvyn heikentymisen merkittävästi.”

Yksinkertaisesti sanottuna, useimmat tekoälymallit eivät ole koulutettu tarpeeksi monipuolisilla ja laadukkailla tietojoukoilla, mikä johtaa heikkoon ’todellisen maailman’ suorituskykyyn. Tämä ongelma on dokumentoitu sekä tieteellisissä että valtavirta- piireissä, kuten Science ja Politico -julkaisuissa.

Kuinka tärkeää on testata monipuolisilla potilasryhmillä?

Testaus monipuolisilla potilasryhmillä on olennaisen tärkeää varmistamaan, että tulokseksi saadaan tekoälytuote, joka on sekä tehokas että turvallinen. Algoritmit, jotka eivät ole koulutettu tai testattu tarpeeksi monipuolisilla potilasryhmillä, voivat kärsiä algoritmisen harhan, joka on vakava ongelma terveydenhuollossa ja terveydenhuollon teknologiassa. Sellaiset algoritmit eivät vain heijasta harhaa, joka on ollut koulutusaineistossa, vaan voivat myös korostaa sitä ja lisätä olemassa olevia terveydenhuollon epätasa-arvoja. Testaamatta jääminen monipuolisilla potilasryhmillä voi johtaa vaarallisiin tuotteisiin.

Kuinka voit tunnistaa, jos tietyn väestöryhmän edustus on puutteellinen?

Yleinen lähestymistapa on analyysia muuttujien jakautumista eri tietojoukoissa, yksin ja yhdessä. Se voi informoida kehittäjiä sekä ’koulutus’-tietojoukkojen valmistelussa että validointitietojoukkojen valmistelussa. Rhino Health -alusta mahdollistaa tämän, ja käyttäjät voivat nähdä, miten malli toimii eri kohorttien kanssa, varmistaakseen yleistettävyyden ja kestävän suorituskyvyn eri väestöryhmissä.

Voitko kuvata, mitä federated learning on ja miten se ratkaisee joitain näistä ongelmista?

Federated Learning (FL) voidaan määritellä laajasti prosessiksi, jossa tekoälymallit koulutetaan ja parannetaan jatkuvasti, käyttäen erilaisia tietoja ilman tarvetta jakaa tai keskittää dataa. Tämä on suuri askel tekoälyn kehittämisessä. Historiallisesti, jokainen käyttäjä, joka haluaa yhteistyötä useiden sivustojen kanssa, on joutunut yhdistämään datan yhteen, mikä aiheuttaa useita raskaita, kalliita ja aikaa vieviä lakitoimia, riskejä ja vaatimuksia.

Nyt, ohjelmistojen kuten Rhino Health -alustan avulla, FL on arkipäivää terveydenhuollossa ja elintarviketeollisuudessa. Federated learning mahdollistaa käyttäjille tutkia, kuratoida ja validoida dataa ilman dataa jakamista. Kontainerisoitu koodi, kuten tekoäly-/ML-algoritmi tai analytiikkaohjelma, lähetetään paikalliseen palvelimeen, jossa koodin suorittaminen, kuten tekoäly-/ML-algoritmin koulutus tai validointi, suoritetaan ’paikallisesti’. Data pysyy aina ’datan haltijan’ hallussa.

Sairaalat ovat erityisen huolissaan herkillä potilastiedoilla liittyvistä riskeistä. Tämä on johtanut häpeällisiin tilanteisiin, joissa on selvää, että terveydenhuolto-organisaatiot ovat yhteistyössä teollisuuden kanssa ilman, että he täysin ymmärtävät datansa käyttöä. Se rajoittaa yhteistyön määrää, jonka sekä teollisuus että akateemiset tutkijat voivat tehdä, hidastaen tutkimusta ja kehitystä terveydenhuollossa. FL voi lieventää tätä ja mahdollistaa datayhteistyöt kuin koskaan aiemmin, samalla kontrolloiden yhteistyön riskejä.

Voitko jakaa Rhino Healthin visio siitä, miten nopea mallinluominen voidaan tehostaa monipuolisemman datan avulla?

Näemme ekosysteemin, jossa tekoälykehittäjät ja -käyttäjät voivat yhteistyössä ilman pelkoa tai rajoituksia, kunnioittaen sääntöjä. Yhteistyökumppanit voivat nopeasti tunnistaa tarvittavat koulutus- ja testidatan eri maantieteellisistä alueista, päästä käsiksi ja vuorovaikuttaa datan kanssa ja iteroida mallin kehittämistä varmistaakseen riittävän yleistettävyyden, suorituskyvyn ja turvallisuuden.

Rhino Health -alusta on avainasemassa tässä, tarjoamalla ’yksi-pysäkki’ -ratkaisun tekoälykehittäjille rakentaa massiivisia ja monipuolisia tietojoukkoja, kouluttaa ja validoida tekoälyalgoritmeja ja jatkuvasti seurata ja ylläpitää käyttöön otettuja tekoälytuotteita.

Kuinka Rhino Health -alusta estää tekoälyharhan ja tarjoaa tekoälyselityksen?

Avaa ja suoristamalla datayhteistyöt, tekoälykehittäjät voivat hyödyntää laajempia ja monipuolisempia tietojoukkoja sovellustensa koulutuksessa ja testauksessa. Laajempien ja monipuolisempien tietojoukkojen ansiosta saadaan aikaan yleistettävämpi tuote, joka ei ole rasittunut yhden laitoksen tai kapean tietojoukon harhoista. Tekoälyselityksen tukemiseksi alustamme tarjoaa selkeän näkymän dataan, jota kehittämisen aikana käytetään, ja mahdollisuuden analyysia datan alkuperästä, arvojen jakautumisesta ja muista avainmittareista, jotta voidaan varmistaa riittävä datan monipuolisuus ja laatu. Lisäksi alustamme mahdollistaa toiminnallisuuden, jota ei voida tehdä, jos data on yksinkertaisesti yhdistetty, kuten mahdollisuuden täydentää tietojoukkoja lisäämällä uusia muuttujia, kuten laskettuja olemassa olevista datapisteistä, jotta voidaan tutkia syy-seuraussuhteita ja lieventää sekaantumisia.

Kuinka vastaat lääkäreille, jotka ovat huolissaan siitä, että tekoälyyn liittyvä yliedustus voi johtaa harhaanjohtaviin tuloksiin, jotka eivät ole itsenäisesti validoitavissa?

Ymmärrämme tämän huolen ja tunnustamme, että joitain sovelluksia markkinoilla voi olla harhaanjohtavia. Vastauksemme on, että meidän on yhdessä toimittava teollisuuden, terveydenhuollon yhteisönä, joka on ensisijaisesti huolissaan potilasturvallisuudesta, määrittääksemme käytäntöjä ja menettelyjä, jotka estävät tällaiset harhat ja varmistavat turvalliset ja tehokkaat tekoälysovellukset. Tekoälykehittäjien on vastuulla varmistaa, että heidän markkinoivat tekoälytuotteensa on itsenäisesti validoitavissa saadakseen terveydenhuollon ammattilaisten ja potilaiden luottamuksen. Rhino Health on sitoutunut tukemaan turvallisia ja luotettavia tekoälytuotteita ja työskentelee kumppaneiden kanssa mahdollistaakseen ja suoristamaan itsenäisen validoinnin tekoälysovelluksista ennen niiden käyttöönottoa kliinisissä ympäristöissä avaamalla esteitä validointidataa varten.

Mikä on visiosi terveydenhuollossa käytettävän tekoälyn tulevaisuudesta?

Rhino Healthin visio on maailmasta, jossa tekoäly on saavuttanut täyden potentiaalinsa terveydenhuollossa. Olemme ahkerasti työskentelemässä luomaan avoimuutta ja edistämään yhteistyötä asettamalla yksityisyyden etusijalle, jotta voimme mahdollistaa tämän maailman. Näemme terveydenhuollon tekoälyä, joka ei ole rajoitettu palomuureilla, maantieteellisillä rajoituksilla tai sääntelyrajoituksilla. Tekoälykehittäjillä on hallittu pääsy kaikkiin tarvittaviin tietoihin rakentaa voimakkaita ja yleistettäviä malleja ja jatkuvasti seurata ja parantaa niitä reaaliaikaisella datavirran avulla. Tarjoajat ja potilaat voivat olla varmoja, etteivät he menetä hallintaa datansa yllä, ja voivat varmistaa, että se käytetään hyvään tarkoitukseen. Sääntelyviranomaiset voivat seurata tekoälymallien vaikuttavuutta lääke- ja laiteteollisuuden kehittämisessä reaaliajassa. Terveydenhuollon järjestöt hyötyvät näistä tekoälyn edistymistavoitteista, kun taas potilaat ja tarjoajat voivat olla varmoja, että yksityisyys on suojattu.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Rhino Health-sivustolla.