Ittai Dayan, MD, Ko-fundatur u CEO ta’ Rhino Health – Serje ta’ Intervisti

Ittai Dayan, MD huwa l-ko-fundatur u CEO ta Saħħa tar-Rhino. L-isfond tiegħu huwa fl-iżvilupp ta 'intelliġenza artifiċjali u dijanjostika, kif ukoll mediċina klinika u riċerka. Huwa ex membru ewlieni tal-prattika tal-kura tas-saħħa u l-eżekuttiv tal-isptar tal-BCG. Bħalissa huwa ffokat fuq il-kontribut għall-iżvilupp ta 'Intelliġenza Artifiċjali sigura, ekwa u ta' impatt fl-industrija tal-kura tas-saħħa u x-xjenzi tal-ħajja. F'Rhino Health, qed jużaw komputazzjoni distribwita u Tagħlim Federat bħala mezz biex tinżamm il-privatezza tal-pazjent u titrawwem kollaborazzjoni fil-pajsaġġ frammentat tal-kura tas-saħħa.

Huwa serva fl-IDF - forzi speċjali, mexxa l-akbar ċentru AI translazzjonali bbażat fuq ċentru Akkademiku-mediku fid-dinja. Huwa espert fl-iżvilupp u l-kummerċjalizzazzjoni tal-AI, u runner fuq distanzi twal.

Tista' taqsam l-istorja tal-ġenesi wara Rhino Health?

Il-vjaġġ tiegħi fl-AI beda meta kont kliniku u riċerkatur, billi nuża forma bikrija ta' 'bijomarkatur diġitali' biex inkejjel ir-rispons għat-trattament f'disturbi mentali. Aktar tard, komplejt immexxi ċ-Ċentru għax-Xjenza tad-Data Klinika (CCDS) fil-Massa General Brigham. Hemmhekk, ssorveljajt l-iżvilupp ta 'għexieren ta' applikazzjonijiet kliniċi tal-AI, u rajt direttament l-isfidi sottostanti assoċjati mal-aċċess u l-'attivazzjoni' tad-dejta meħtieġa biex jiġu żviluppati u mħarrġa prodotti tal-AI ta 'grad regolatorju.

Minkejja l-ħafna avvanzi fl-AI tal-kura tas-saħħa, it-triq mill-iżvilupp għat-tnedija ta’ prodott fis-suq hija twila u ħafna drabi mħawda. Is-soluzzjonijiet jiġġarrfu (jew sempliċement jiddiżappuntaw) ladarba jiġu skjerati klinikament, u l-appoġġ taċ-ċiklu tal-ħajja sħiħ tal-AI huwa kważi impossibbli mingħajr aċċess kontinwu għal firxa ta 'dejta klinika. L-isfida nbidlet minn ħolqien mudelli, biex żamma minnhom. Biex inwieġeb din l-isfida, konvint lis-sistema tal-Massa General Brigham tal-valur li jkollhom 'CRO speċjalizzati għall-AI' tagħhom stess (CRO = Clinical Research Org), biex jittestjaw algoritmi minn żviluppaturi kummerċjali multipli.

Madankollu, il-problema baqgħet - id-dejta tas-saħħa għadha magħluqa ħafna, u anke ammont kbir ta 'dejta minn netwerk wieħed mhumiex biżżejjed biex jiġġieldu l-miri dejjem aktar dojoq tal-AI medika. Fis-Sajf tal-2020, bdejt u mexxejt (flimkien ma' Dr. Mona Flores minn NVIDIA), l-akbar studju tad-dinja dwar it-Tagħlim Federat (FL) tal-kura tas-saħħa f'dak iż-żmien, EŻAMI. Aħna użajna FL biex noħolqu mudell ta' tbassir ta' riżultat tal-COVID, billi nsaħħu dejta minn madwar id-dinja, mingħajr ma naqsmu l-ebda dejta.. Sussegwentement ippubblikat fi Natura Mediċina, dan l-istudju wera l-impatt pożittiv tal-ingranaġġ ta’ settijiet ta’ dejta diversi u differenti u enfasizza l-potenzjal għal użu aktar mifrux ta’ tagħlim federat fil-kura tas-saħħa.

Din l-esperjenza, madankollu, spjegat numru ta’ sfidi. Dawn kienu jinkludu l-orkestrazzjoni tad-dejta f’siti kollaboraturi, l-iżgurar tat-traċċabilità tad-dejta u l-karatterizzazzjoni xierqa, kif ukoll il-piż imqiegħed fuq id-dipartimenti tal-IT minn kull istituzzjoni, li kellhom jitgħallmu teknoloġiji avvanzati li ma kinux imdorrijin bihom. Dan sejjaħ għal pjattaforma ġdida li tappoġġja dawn il-kollaborazzjonijiet ġodda ta' 'dejta mqassma'. Iddeċidejt li ningħaqad mal-ko-fundatur tiegħi, Yuval Baror, biex noħloq pjattaforma minn tarf sa tarf biex tappoġġja kollaborazzjonijiet li jippreservaw il-privatezza. Dik il-pjattaforma hija "Rhino Health Platform", li tisfrutta FL u edge-compute.

Għaliex temmen li l-mudelli tal-AI ħafna drabi jonqsu milli jagħtu r-riżultati mistennija f'ambjent tal-kura tas-saħħa?

L-AI Medika ħafna drabi hija mħarrġa fuq settijiet ta' dejta żgħar u dojoq, bħal settijiet ta' dejta minn istituzzjoni waħda jew reġjun ġeografiku, li jwasslu biex il-mudell li jirriżulta jagħmel tajjeb biss fuq it-tipi ta' dejta li rat. Ladarba l-algoritmu jiġi applikat għal pazjenti jew xenarji li jvarjaw mis-sett tad-dejta tat-taħriġ dejjaq, il-prestazzjoni tiġi affettwata serjament.

Andrew Ng, qabad sew il-kunċett meta ddikjara, "Jirriżulta li meta niġbru dejta mill-Isptar Stanford... nistgħu nippubblikaw dokumenti li juru [l-algoritmi] huma komparabbli mar-radjoloġisti umani meta jsib ċerti kundizzjonijiet. … [Meta] tieħu dak l-istess mudell, dik l-istess sistema AI, fi sptar antik fit-triq, b’magna anzjana, u t-tekniku juża protokoll ta’ immaġini kemmxejn differenti, dik id-data tgħaddi biex tikkawża li l-prestazzjoni tas-sistema AI tiddegrada b’mod sinifikanti.”³

Fi kliem sempliċi, il-biċċa l-kbira tal-mudelli tal-IA mhumiex imħarrġa fuq data li hija diversa biżżejjed u ta’ kwalità għolja, li tirriżulta fi prestazzjoni fqira tad-“dinja reali”. Din il-kwistjoni ġiet iddokumentata sew kemm fiċ-ċrieki xjentifiċi kif ukoll fil-qasam prinċipali, bħal fi xjenza u, Politiko.

Kemm huwa importanti l-ittestjar fuq diversi gruppi ta' pazjenti?

L-ittestjar fuq diversi gruppi ta' pazjenti huwa kruċjali biex jiġi żgurat li l-prodott AI li jirriżulta mhux biss ikun effettiv u performant, iżda sikur. Algoritmi mhux imħarrġa jew ttestjati fuq gruppi ta' pazjenti differenti biżżejjed jistgħu jbatu minn preġudizzju algoritmiku, kwistjoni serja fil-kura tas-saħħa u t-teknoloġija tal-kura tas-saħħa. Algoritmi bħal dawn mhux biss jirriflettu l-preġudizzju li kien preżenti fid-dejta tat-taħriġ, iżda jaggravaw dak il-preġudizzju u jikkumbinaw inugwaljanzi eżistenti razzjali, etniċi, reliġjużi, tas-sessi, eċċ. fil-kura tas-saħħa. In-nuqqas ta' ttestjar fuq gruppi ta' pazjenti differenti jista' jirriżulta fi prodotti perikolużi.

Studju ppubblikat reċentement⁵, billi bbażat ruħha fuq il-Pjattaforma tas-Saħħa tar-Rhino, investigat il-prestazzjoni ta 'algoritmu AI li jiskopri anewriżmi tal-moħħ żviluppati f'sit wieħed fuq erba' siti differenti b'varjetà ta 'tipi ta' skaners. Ir-riżultati wrew varjabbiltà sostanzjali fil-prestazzjoni fuq siti b'diversi tipi ta' skaners, u enfasizzaw l-importanza tat-taħriġ u l-ittestjar fuq settijiet ta' dejta differenti.

Kif tidentifika jekk sottopopolazzjoni mhix rappreżentata?

Approċċ komuni huwa li jiġu analizzati d-distribuzzjonijiet tal-varjabbli f'settijiet ta' data differenti, individwalment u magħquda. Dan jista' jinforma lill-iżviluppaturi kemm meta jkunu qed jippreparaw settijiet ta' data ta' 'taħriġ' kif ukoll settijiet ta' data ta' validazzjoni. Il-Pjattaforma tas-Saħħa tar-Rhino tippermettilek li tagħmel dan, u barra minn hekk, l-utenti jistgħu jaraw kif il-mudell iwettaq fuq diversi koorti biex jiżguraw ġeneralizzabbiltà u prestazzjoni sostenibbli bejn is-sottopopolazzjonijiet.

Tista' tiddeskrivi x'inhu t-Tagħlim Federat u kif issolvi xi wħud minn dawn il-kwistjonijiet?

It-Tagħlim Federat (FL) jista’ jiġi definit b’mod wiesa’ bħala l-proċess li fih il-mudelli tal-IA jiġu mħarrġa u mbagħad ikomplu jitjiebu maż-żmien, bl-użu ta’ data differenti, mingħajr ebda ħtieġa ta’ kondiviżjoni jew ċentralizzazzjoni ta’ data. Din hija qabża kbira 'l quddiem fl-iżvilupp tal-IA. Storikament, kull utent li jfittex li jikkollabora ma' siti multipli għandu jiġbor dik id-dejta flimkien, u jwassal għal numru kbir ta' legali, riskju u konformità onerużi, għaljin u li jieħdu ħafna ħin.

Illum, b'softwer bħar-Rhino Health Platform, FL qed issir realtà ta' kuljum fil-kura tas-saħħa u fix-xjenzi tal-ħajja. It-tagħlim federat jippermetti lill-utenti jesploraw, jikkuraw u jivvalidaw id-dejta filwaqt li dik id-dejta tibqa’ fuq is-servers lokali tal-kollaboraturi. Kodiċi f'kontejners, bħal algoritmu AI/ML jew applikazzjoni analitika, jintbagħat lis-server lokali fejn l-eżekuzzjoni ta' dak il-kodiċi, bħat-taħriġ jew il-validazzjoni ta' algoritmu AI/ML, titwettaq 'lokalment'. Id-dejta għalhekk tibqa' f'idejn il-'kustodju tad-dejta' f'kull ħin.

L-isptarijiet, b'mod partikolari, huma mħassba dwar ir-riskji assoċjati mal-aggregazzjoni tad-dejta sensittiva tal-pazjenti. Dan diġà wassal għal sitwazzjonijiet imbarazzanti, fejn deher ċar li l-organizzazzjonijiet tal-kura tas-saħħa kkollaboraw mal-industrija mingħajr ma fehmu eżattament l-użu tad-dejta tagħhom. Min-naħa tagħhom, jillimitaw l-ammont ta 'kollaborazzjoni li kemm l-industrija kif ukoll ir-riċerkaturi akkademiċi jistgħu jagħmlu, inaqqsu l-R&D u jħallu impatt fuq il-kwalità tal-prodott fl-industrija tal-kura tas-saħħa. FL jista 'jtaffi dan, u jippermetti kollaborazzjonijiet tad-dejta bħal qatt qabel, filwaqt li jikkontrolla r-riskju assoċjat ma' dawn il-kollaborazzjonijiet.

Tista' taqsam il-viżjoni ta' Rhino Health biex tippermetti l-ħolqien rapidu ta' mudelli billi tuża data aktar diversa?

Aħna nipprevedi ekosistema ta’ żviluppaturi u utenti tal-AI, li jikkollaboraw mingħajr biża’ jew restrizzjoni, filwaqt li jirrispettaw il-konfini tar-regolamenti.. Il-kollaboraturi huma kapaċi jidentifikaw malajr it-taħriġ meħtieġ u d-dejta tal-ittestjar minn ġeografiji kollha, jaċċessaw u jinteraġixxu ma’ dik id-dejta, u jtennu fuq il-mudell. żvilupp sabiex jiġu żgurati biżżejjed ġeneralizzabbiltà, prestazzjoni u sikurezza.

Fil-qofol ta’ dan, hemm il-Pjattaforma tas-Saħħa Rhino, li tipprovdi ‘one-stop-shop’ għall-iżviluppaturi tal-AI biex jibnu settijiet ta’ dejta massivi u diversi, iħarrġu u jivvalidaw algoritmi tal-AI, u kontinwament jimmonitorjaw u jżommu l-prodotti tal-AI skjerati.

Il-pjattaforma Rhino Health kif tipprevjeni l-preġudizzju tal-AI u toffri spjegazzjoni tal-AI?

Billi jiftħu u jissimplifikaw il-kollaborazzjonijiet tad-dejta, l-iżviluppaturi tal-AI jistgħu jisfruttaw settijiet tad-dejta akbar u aktar diversi fit-taħriġ u l-ittestjar tal-applikazzjonijiet tagħhom. Ir-riżultat ta' settijiet ta' dejta aktar robusti huwa prodott aktar ġeneralizzabbli li mhuwiex mgħobbi mill-preġudizzji ta' istituzzjoni waħda jew sett ta' dejta dejjaq. B'appoġġ għall-ispjegabilità tal-AI, il-pjattaforma tagħna tipprovdi ħarsa ċara lejn id-dejta li tkun ingranata matul il-proċess tal-iżvilupp, bil-kapaċità li tanalizza l-oriġini tad-dejta, id-distribuzzjonijiet tal-valuri u metriċi ewlenin oħra biex tiżgura diversità u kwalità tad-dejta adegwata. Barra minn hekk, il-pjattaforma tagħna tippermetti funzjonalità li mhix possibbli jekk id-dejta sempliċement tinġabar flimkien, inkluż li tippermetti lill-utenti jsaħħu s-settijiet tad-dejta tagħhom b'varjabbli addizzjonali, bħal dawk ikkalkulati minn punti tad-dejta eżistenti, sabiex jinvestigaw l-inferenza kawżali u jtaffu l-konfużjoni.

Kif tirreaġixxi lit-tobba li huma mħassba li dipendenza żejda fuq l-AI tista' twassal għal riżultati preġudikati li mhumiex ivvalidati b'mod indipendenti?

Aħna empathize ma 'dan it-tħassib u nagħrfu li għadd ta' applikazzjonijiet fis-suq illum jistgħu fil-fatt ikunu preġudikati. It-tweġiba tagħna hija li rridu ningħaqdu flimkien bħala industrija, bħala komunità tal-kura tas-saħħa li hija l-ewwel u qabel kollox imħassba bis-sikurezza tal-pazjent, sabiex niddefinixxu politiki u proċeduri biex jipprevjenu tali preġudizzji u niżguraw applikazzjonijiet tal-AI sikuri u effettivi. L-iżviluppaturi tal-AI għandhom ir-responsabbiltà li jiżguraw li l-prodotti tal-AI kkummerċjalizzati tagħhom ikunu vvalidati b'mod indipendenti sabiex jiksbu l-fiduċja kemm tal-professjonisti tal-kura tas-saħħa kif ukoll tal-pazjenti. Rhino Health hija ddedikata biex tappoġġja prodotti AI sikuri u affidabbli u qed taħdem ma' sħab biex tippermetti u tissimplifika l-validazzjoni indipendenti tal-applikazzjonijiet tal-AI qabel l-iskjerament f'ambjenti kliniċi billi tiftaħ l-ostakli għad-dejta ta' validazzjoni meħtieġa.

X'inhi l-viżjoni tiegħek għall-futur tal-IA fil-kura tas-saħħa?

Il-viżjoni ta’ Rhino Health hija ta’ dinja fejn l-AI kisbet il-potenzjal sħiħ tagħha fil-kura tas-saħħa. Qegħdin naħdmu b'mod diliġenti biex noħolqu trasparenza u nrawmu l-kollaborazzjoni billi nasserixxu l-privatezza sabiex nippermettu din id-dinja. Aħna nipprevedi AI tal-kura tas-saħħa li mhix limitata minn firewalls, ġeografiji jew restrizzjonijiet regolatorji. L-iżviluppaturi tal-IA se jkollhom aċċess ikkontrollat ​​għad-dejta kollha li jeħtieġu biex jibnu mudelli qawwija u ġeneralizzabbli - u biex jimmonitorjawhom u jtejbuhom kontinwament bi fluss ta' dejta f'ħin reali. Il-fornituri u l-pazjenti se jkollhom il-fiduċja li jkunu jafu li ma jitilfux il-kontroll fuq id-dejta tagħhom, u jistgħu jiżguraw li din qed tintuża għall-ġid. Ir-regolaturi se jkunu jistgħu jimmonitorjaw l-effikaċja tal-mudelli użati fl-iżvilupp tal-farmaċewtiċi u tal-apparati f'ħin reali. L-organizzazzjonijiet tas-saħħa pubblika se jibbenefikaw minn dawn l-avvanzi fl-IA filwaqt li l-pazjenti u l-fornituri jistrieħu faċli billi jafu li l-privatezza hija protetta.

Grazzi għall-intervista mill-aqwa, il-qarrejja li jixtiequ jitgħallmu aktar għandhom iżuru Saħħa tar-Rhino.