Ittai Dayan, MD, bashkëthemelues dhe CEO i Rhino Health – Seria e Intervistave

Ittai Dayan, MD është bashkëthemelues dhe CEO i Shëndeti i Rhino. Sfondi i tij është në zhvillimin e inteligjencës artificiale dhe diagnostikimit, si dhe mjekësisë klinike dhe kërkimit. Ai është një ish-anëtar kryesor i praktikës së kujdesit shëndetësor të BCG dhe ekzekutiv i spitalit. Ai aktualisht është i fokusuar në kontributin në zhvillimin e Inteligjencës Artificiale të sigurt, të barabartë dhe me ndikim në industrinë e kujdesit shëndetësor dhe të shkencave të jetës. Në Rhino Health, ata po përdorin llogaritjet e shpërndara dhe mësimin e federuar si një mjet për ruajtjen e privatësisë së pacientit dhe nxitjen e bashkëpunimit në të gjithë peizazhin e fragmentuar të kujdesit shëndetësor.

Ai shërbeu në IDF - forcat speciale, drejtoi qendrën më të madhe të inteligjencës artificiale përkthimore me bazë Akademike-Mjekësore në botë. Ai është një ekspert në zhvillimin dhe komercializimin e AI, dhe një vrapues në distanca të gjata.

A mund të ndani historinë e gjenezës pas Shëndetit të Rhino?

Udhëtimi im në AI filloi kur isha klinicist dhe studiues, duke përdorur një formë të hershme të një 'biomarkeri dixhital' për të matur përgjigjen ndaj trajtimit në çrregullimet mendore. Më vonë, vazhdova të drejtoja Qendrën për Shkencën e të Dhënave Klinike (CCDS) në Mass General Brigham. Atje, unë mbikëqyra zhvillimin e dhjetëra aplikacioneve klinike të AI dhe dëshmova nga dora e parë sfidat themelore që lidhen me aksesin dhe 'aktivizimin' e të dhënave të nevojshme për të zhvilluar dhe trajnuar produkte të nivelit rregullator të AI.

Megjithë përparimet e shumta në inteligjencën artificiale të kujdesit shëndetësor, rruga nga zhvillimi deri në lançimin e një produkti në treg është e gjatë dhe shpesh me gunga. Zgjidhjet rrëzohen (ose thjesht zhgënjejnë) pasi të vendosen klinikisht, dhe mbështetja e ciklit të plotë të jetës së AI është pothuajse e pamundur pa akses të vazhdueshëm në një sërë të dhënash klinike. Sfida është zhvendosur nga krijuar modele, te ruajtjen ato. Për t'iu përgjigjur kësaj sfide, unë e binda sistemin Mass General Brigham për vlerën e të paturit të 'CRO të specializuar për AI' (CRO = Organi Kërkimor Klinik), për të testuar algoritme nga zhvillues të shumtë komercialë.

Megjithatë, problemi mbeti – të dhënat shëndetësore janë ende shumë të grumbulluara, dhe madje sasia e madhe e të dhënave nga një rrjet nuk mjafton për të luftuar objektivat gjithnjë e më të ngushtë të AI mjekësore. Në verën e vitit 2020, unë nisa dhe drejtova (së bashku me Dr. Mona Flores nga NVIDIA), studimin më të madh në botë të të mësuarit të federuar të kujdesit shëndetësor (FL) në atë kohë, EXAM. Ne përdorëm FL për të krijuar një model parashikues të rezultatit të COVID, duke shfrytëzuar të dhëna nga e gjithë bota, pa ndarë asnjë të dhënë.. Publikuar më pas në Natyra Mjekësia, ky studim tregoi ndikimin pozitiv të përdorimit të grupeve të të dhënave të ndryshme dhe të ndryshme dhe nënvizoi potencialin për përdorim më të gjerë të të mësuarit të federuar në kujdesin shëndetësor.

Megjithatë, kjo përvojë sqaroi një sërë sfidash. Këto përfshinin orkestrimin e të dhënave nëpër faqet bashkëpunuese, sigurimin e gjurmueshmërisë së të dhënave dhe karakterizimin e duhur, si dhe barrën e vendosur mbi departamentet e IT-së nga secili institucion, të cilët duhej të mësonin teknologjitë më të avancuara që nuk ishin mësuar. Kjo kërkonte një platformë të re që do të mbështeste këto bashkëpunime të reja 'të dhëna të shpërndara'. Vendosa të bashkohem me bashkëthemeluesin tim, Yuval Baror, për të krijuar një platformë nga fundi në fund për të mbështetur bashkëpunimet për ruajtjen e privatësisë. Kjo platformë është 'Platforma e Shëndetit Rhino', duke përdorur FL dhe llogaritjen e skajeve.

Pse besoni se modelet e AI shpesh dështojnë të japin rezultatet e pritura në një mjedis të kujdesit shëndetësor?

Inteligjenca artificiale mjekësore shpesh trajnohet në grupe të dhënash të vogla dhe të ngushta, të tilla si grupe të dhënash nga një institucion i vetëm ose rajon gjeografik, të cilat çojnë në performancën e mirë të modelit që rezulton vetëm në llojet e të dhënave që ka parë. Pasi algoritmi zbatohet për pacientët ose skenarët që ndryshojnë nga grupi i ngushtë i të dhënave të trajnimit, performanca ndikohet rëndë.

Andrew Ng, e kapi mirë këtë nocion kur deklaroi, “Rezulton se kur mbledhim të dhëna nga Spitali Stanford… ne mund të publikojmë dokumente që tregojnë se [algoritmet] janë të krahasueshëm me radiologët njerëzorë në zbulimin e kushteve të caktuara. … [Kur] e çoni të njëjtin model, të njëjtin sistem AI, në një spital më të vjetër në rrugë, me një makinë më të vjetër, dhe tekniku përdor një protokoll imazhi paksa të ndryshëm, të dhënat lëvizin për të shkaktuar degradimin e performancës së sistemit AI në mënyrë të konsiderueshme.”³

E thënë thjesht, shumica e modeleve të AI nuk janë trajnuar me të dhëna që janë mjaft të ndryshme dhe me cilësi të lartë, duke rezultuar në performancë të dobët të 'botës reale'. Kjo çështje është dokumentuar mirë si në qarqet shkencore ashtu edhe në qarqet kryesore, si p.sh Shkencë  Politikan.

Sa i rëndësishëm është testimi në grupe të ndryshme pacientësh?

Testimi në grupe të ndryshme pacientësh është thelbësor për të siguruar që produkti i AI që rezulton është jo vetëm efektiv dhe performues, por edhe i sigurt. Algoritmet e pa trajnuar ose testuar në grupe pacientësh mjaft të ndryshëm mund të vuajnë nga paragjykimi algoritmik, një çështje serioze në teknologjinë e kujdesit shëndetësor dhe të kujdesit shëndetësor. Jo vetëm që algoritme të tilla do të pasqyrojnë paragjykimet që ishin të pranishme në të dhënat e trajnimit, por do ta përkeqësojnë atë paragjykim dhe do të komplikojnë pabarazitë ekzistuese racore, etnike, fetare, gjinore, etj. në kujdesin shëndetësor. Dështimi për të testuar në grupe të ndryshme pacientësh mund të rezultojë në produkte të rrezikshme.

Një studim i publikuar së fundmi⁵, duke shfrytëzuar Platformën Rhino Health, hetoi performancën e një algoritmi AI që zbulon aneurizmat e trurit të zhvilluar në një vend në katër vende të ndryshme me lloje të ndryshme skanerësh. Rezultatet demonstruan ndryshueshmëri të konsiderueshme të performancës në faqet me lloje të ndryshme skanerësh, duke theksuar rëndësinë e trajnimit dhe testimit në grupe të ndryshme të dhënash.

Si e identifikoni nëse një nënpopullatë nuk përfaqësohet?

Një qasje e zakonshme është analizimi i shpërndarjeve të variablave në grupe të ndryshme të dhënash, individualisht dhe të kombinuara. Kjo mund të informojë zhvilluesit si gjatë përgatitjes së grupeve të të dhënave 'trajnuese' dhe grupeve të të dhënave të vlefshmërisë. Platforma Rhino Health ju lejon ta bëni këtë, dhe për më tepër, përdoruesit mund të shohin se si funksionon modeli në grupe të ndryshme për të siguruar përgjithësimin dhe performancën e qëndrueshme nëpër nënpopullata.

A mund të përshkruani se çfarë është Mësimi Federativ dhe si zgjidh disa nga këto çështje?

Mësimi i Federuar (FL) mund të përkufizohet gjerësisht si procesi në të cilin modelet e AI trajnohen dhe më pas vazhdojnë të përmirësohen me kalimin e kohës, duke përdorur të dhëna të ndryshme, pa ndonjë nevojë për ndarjen ose centralizimin e të dhënave. Ky është një hap i madh përpara në zhvillimin e AI. Historikisht, çdo përdorues që kërkon të bashkëpunojë me sajte të shumta duhet t'i bashkojë ato të dhëna së bashku, duke nxitur një mori ligjesh, rreziku dhe pajtueshmërie të rëndë, të kushtueshme dhe kohë.

Sot, me softuer të tillë si Platforma Rhino Health, FL po bëhet një realitet i përditshëm në kujdesin shëndetësor dhe shkencat e jetës. Mësimi i federuar i lejon përdoruesit të eksplorojnë, kurojnë dhe vërtetojnë të dhënat ndërsa ato të dhëna mbeten në serverët lokalë të bashkëpunëtorëve. Kodi i kontejneruar, si një algoritëm AI/ML ose një aplikacion analitik, dërgohet në serverin lokal ku ekzekutimi i atij kodi, si trajnimi ose vërtetimi i një algoritmi AI/ML, kryhet 'lokalisht'. Kështu, të dhënat mbeten me 'ruajtësin e të dhënave' gjatë gjithë kohës.

Spitalet, në veçanti, janë të shqetësuar për rreziqet që lidhen me grumbullimin e të dhënave të ndjeshme të pacientëve. Kjo tashmë ka çuar në situata të sikletshme, ku është bërë e qartë se organizatat e kujdesit shëndetësor kanë bashkëpunuar me industrinë pa e kuptuar saktësisht përdorimin e të dhënave të tyre. Nga ana tjetër, ata kufizojnë sasinë e bashkëpunimit që mund të bëjnë si studiuesit e industrisë ashtu edhe ata akademikë, duke ngadalësuar R&D dhe duke ndikuar në cilësinë e produktit në të gjithë industrinë e kujdesit shëndetësor. FL mund ta zbusë atë dhe të mundësojë bashkëpunime të të dhënave si kurrë më parë, ndërkohë që kontrollon rrezikun që lidhet me këto bashkëpunime.

A mund të ndani vizionin e Rhino Health për të mundësuar krijimin e shpejtë të modeleve duke përdorur të dhëna më të ndryshme?

Ne parashikojmë një ekosistem të zhvilluesve dhe përdoruesve të AI, të cilët bashkëpunojnë pa frikë ose kufizime, duke respektuar kufijtë e rregulloreve. zhvillim në mënyrë që të sigurohet përgjithësimi, performanca dhe siguria e mjaftueshme.

Në thelb të kësaj, është Platforma Rhino Health, e cila ofron një "një-stop-shop" për zhvilluesit e AI për të ndërtuar grupe të dhënash masive dhe të larmishme, për të trajnuar dhe vërtetuar algoritmet e AI dhe për të monitoruar dhe mirëmbajtur vazhdimisht produktet e vendosura të AI.

Si e parandalon platforma Rhino Health paragjykimet e AI dhe ofron shpjegueshmëri të AI?

Duke zhbllokuar dhe thjeshtuar bashkëpunimet e të dhënave, zhvilluesit e AI janë në gjendje të përdorin grupe të dhënash më të mëdha dhe më të larmishme në trajnimin dhe testimin e aplikacioneve të tyre. Rezultati i grupeve më të fuqishme të të dhënave është një produkt më i përgjithësueshëm që nuk rëndohet nga paragjykimet e një institucioni të vetëm ose të një grupi të dhënash të ngushtë. Në mbështetje të shpjegueshmërisë së AI, platforma jonë ofron një pamje të qartë të të dhënave të përdorura gjatë procesit të zhvillimit, me aftësinë për të analizuar origjinën e të dhënave, shpërndarjet e vlerave dhe metrika të tjera kryesore për të siguruar diversitetin dhe cilësinë e duhur të të dhënave. Për më tepër, platforma jonë mundëson funksionalitet që nuk është i mundur nëse të dhënat thjesht grumbullohen së bashku, duke përfshirë lejimin e përdoruesve të përmirësojnë më tej grupet e të dhënave të tyre me variabla shtesë, si ato të llogaritura nga pikat ekzistuese të të dhënave, në mënyrë që të hetojnë konkluzionet shkakësore dhe të zbusin ngatërruesit.

Si u përgjigjeni mjekëve të cilët janë të shqetësuar se një mbështetje e tepruar në AI mund të çojë në rezultate të njëanshme që nuk janë vërtetuar në mënyrë të pavarur?

Ne e kuptojmë këtë shqetësim dhe pranojmë se një numër i aplikacioneve në treg sot mund të jenë në fakt të njëanshëm. Përgjigja jonë është se ne duhet të bashkohemi si një industri, si një komunitet i kujdesit shëndetësor që para së gjithash merret me sigurinë e pacientit, në mënyrë që të përcaktojmë politika dhe procedura për të parandaluar paragjykime të tilla dhe për të siguruar aplikime të sigurta dhe efektive të AI. Zhvilluesit e inteligjencës artificiale kanë përgjegjësinë të sigurojnë që produktet e tyre të AI të tregtuara të vërtetohen në mënyrë të pavarur në mënyrë që të arrijnë besimin e profesionistëve të kujdesit shëndetësor dhe pacientëve. Rhino Health është i përkushtuar për të mbështetur produkte të sigurta, të besueshme të AI dhe po punon me partnerë për të mundësuar dhe thjeshtuar vërtetimin e pavarur të aplikacioneve të AI përpara vendosjes në mjediset klinike duke zhbllokuar barrierat ndaj të dhënave të nevojshme të vlefshmërisë.

Cili është vizioni juaj për të ardhmen e AI në kujdesin shëndetësor?

Vizioni i Rhino Health është për një botë ku AI ka arritur potencialin e saj të plotë në kujdesin shëndetësor. Ne po punojmë me zell për të krijuar transparencë dhe për të nxitur bashkëpunimin duke pohuar privatësinë në mënyrë që të mundësojmë këtë botë. Ne parashikojmë AI të kujdesit shëndetësor që nuk kufizohet nga muret e zjarrit, gjeografitë ose kufizimet rregullatore. Zhvilluesit e AI do të kenë akses të kontrolluar në të gjitha të dhënat që u nevojiten për të ndërtuar modele të fuqishme dhe të përgjithësueshme – dhe për t'i monitoruar dhe përmirësuar vazhdimisht ato me një rrjedhë të dhënash në kohë reale. Ofruesit dhe pacientët do të kenë besimin të dinë se nuk e humbasin kontrollin mbi të dhënat e tyre dhe mund të sigurojnë që ato të përdoren për mirë. Rregullatorët do të jenë në gjendje të monitorojnë efikasitetin e modeleve të përdorura në zhvillimin farmaceutik dhe të pajisjeve në kohë reale. Organizatat e shëndetit publik do të përfitojnë nga këto përparime në AI, ndërsa pacientët dhe ofruesit janë të qetë duke e ditur se privatësia mbrohet.

Faleminderit për intervistën e mrekullueshme, lexuesit që dëshirojnë të mësojnë më shumë duhet ta vizitojnë Shëndeti i Rhino.