Иттаи Даиан, МД, суоснивач и извршни директор Рхино Хеалтх – серија интервјуа

Иттаи Даиан, МД је суоснивач и извршни директор компаније Рхино Хеалтх. Његово искуство је у развоју вештачке интелигенције и дијагностике, као и клиничке медицине и истраживања. Он је бивши главни члан БЦГ-ове здравствене праксе и руководилац болнице. Тренутно је фокусиран на допринос развоју безбедне, правичне и утицајне вештачке интелигенције у индустрији здравствене заштите и природних наука. У Рхино Хеалтх-у, они користе дистрибуирано рачунарство и федерално учење као средство за одржавање приватности пацијената и подстицање сарадње у фрагментираном здравственом окружењу.

Служио је у ИДФ – специјалним снагама, водио је највећи транслациони центар за вештачку интелигенцију базиран на академско-медицинским центрима на свету. Он је стручњак за развој вештачке интелигенције и комерцијализацију, и тркач на дуге стазе.

Можете ли поделити причу о настанку која стоји иза Рхино Хеалтх-а?

Моје путовање у вештачку интелигенцију почело је када сам био клиничар и истраживач, користећи рани облик „дигиталног биомаркера“ за мерење одговора на лечење код менталних поремећаја. Касније сам водио Центар за науку о клиничким подацима (ЦЦДС) у Масс Генерал Бригхаму. Тамо сам надгледао развој десетина клиничких АИ апликација и из прве руке био сведок основних изазова повезаних са приступом и „активацијом“ података неопходних за развој и обуку АИ производа регулаторног нивоа.

Упркос бројним напретцима у АИ у здравству, пут од развоја до лансирања производа на тржиште је дуг и често нераван. Решења падају (или једноставно разочарају) када се клинички примене, а подршка пуном животном циклусу вештачке интелигенције је скоро немогућа без сталног приступа низу клиничких података. Изазов се померио са креирање модели, до одржавање њих. Да бих одговорио на овај изазов, убедио сам Масс Генерал Бригхам систем у вредност постојања сопственог „специјализованог ЦРО за АИ“ (ЦРО = Цлиницал Ресеарцх Орг), за тестирање алгоритама од више комерцијалних програмера.

Међутим, проблем је остао – здравствени подаци су и даље веома изоловани, а чак ни велика количина података са једне мреже није довољна за борбу против све ужих циљева медицинске вештачке интелигенције. У лето 2020. покренуо сам и водио (заједно са др Моном Флорес из НВИДИА-е), највећу светску студију федералног учења (ФЛ) у то време, ИСПИТ. Користили смо ФЛ да креирамо модел предвиђања исхода ЦОВИД-а, користећи податке из целог света, без дељења података.. Касније објављено у Природа медицина, ова студија је показала позитиван утицај коришћења различитих и диспаратних скупова података и нагласила потенцијал за ширу употребу федералног учења у здравству.

Ово искуство је, међутим, разјаснило низ изазова. То је укључивало организовање података на локацијама за сарадњу, обезбеђивање следљивости података и правилну карактеризацију, као и оптерећење на ИТ одељењима сваке институције, која су морала да науче најсавременије технологије на које нису навикли. Ово је захтевало нову платформу која би подржала ове нове сарадње са 'дистрибуираним подацима'. Одлучио сам да се удружим са својим суоснивачем, Иувалом Барором, како бих створио платформу од краја до краја за подршку сарадњи за очување приватности. Та платформа је „Рхино Хеалтх Платформ“, која користи ФЛ и едге-цомпуте.

Зашто верујете да модели вештачке интелигенције често не дају очекиване резултате у здравственом окружењу?

Медицинска АИ се често обучава на малим, уским скуповима података, као што су скупови података из једне институције или географског региона, што доводи до тога да резултирајући модел добро функционише само на типовима података које је видео. Једном када се алгоритам примени на пацијенте или сценарије који се разликују од уског скупа података за обуку, перформансе су озбиљно погођене.

Андрев Нг, добро је схватио ту идеју када је изјавио: „Испоставило се да када прикупимо податке из болнице Станфорд... можемо објавити радове који показују да су [алгоритми] упоредиви са људским радиолозима у уочавању одређених стања. … [Када] однесете тај исти модел, исти систем вештачке интелигенције, у старију болницу низ улицу, са старијом машином, а техничар користи мало другачији протокол за снимање, ти подаци се померају да би изазвали деградацију перформанси АИ система значајно."³

Једноставно речено, већина АИ модела није обучена на подацима који су довољно разноврсни и високог квалитета, што резултира лошим перформансама у „стварном свету“. Ово питање је добро документовано и у научним и у мејнстрим круговима, као што је у Наука  Политичко.

Колико је важно тестирање на различитим групама пацијената?

Тестирање на различитим групама пацијената је кључно да би се осигурало да добијени АИ производ није само ефикасан и ефикасан, већ и сигуран. Алгоритми који нису обучени или тестирани на довољно различитим групама пацијената могу патити од алгоритамске пристрасности, што је озбиљан проблем у здравству и здравственој технологији. Не само да ће такви алгоритми одражавати пристрасност која је била присутна у подацима о обуци, већ ће и погоршати ту пристрасност и погоршати постојеће расне, етничке, верске, родне, итд. неједнакости у здравственој заштити. Пропуст да се тестира на различитим групама пацијената може довести до опасних производа.

Недавно објављена студија⁵, користећи Рхино Хеалтх Платформ, истраживали су перформансе АИ алгоритма који детектује мождане анеуризме развијене на једном месту на четири различите локације са различитим типовима скенера. Резултати су показали значајну варијабилност перформанси на локацијама са различитим типовима скенера, наглашавајући важност обуке и тестирања на различитим скуповима података.

Како препознати да подпопулација није заступљена?

Уобичајени приступ је анализа дистрибуције варијабли у различитим скуповима података, појединачно и комбиновано. То може информисати програмере и када припремају скупове података за 'тренинг' и скупове података за валидацију. Рхино Хеалтх Платформ вам омогућава да то урадите, а осим тога, корисници могу да виде како модел ради на различитим кохортама како би се обезбедила генерализација и одрживи учинак у свим подпопулацијама.

Можете ли описати шта је федерално учење и како оно решава нека од ових проблема?

Федеративно учење (ФЛ) може се широко дефинисати као процес у коме се АИ модели обучавају, а затим настављају да се побољшавају током времена, користећи различите податке, без потребе за дељењем или централизацијом података. Ово је огроман корак напред у развоју вештачке интелигенције. Историјски гледано, сваки корисник који жели да сарађује са више локација мора да обједини те податке, изазивајући безброј напорних, скупих и дуготрајних правних, ризичних и усклађености.

Данас, са софтвером као што је Рхино Хеалтх Платформ, ФЛ постаје свакодневна реалност у здравству и науци о животу. Федеративно учење омогућава корисницима да истражују, курирају и валидирају податке док ти подаци остају на локалним серверима сарадника. Контејнерски код, као што је АИ/МЛ алгоритам или аналитичка апликација, шаље се на локални сервер где се извршавање тог кода, као што је обука или валидација АИ/МЛ алгоритма, обавља „локално“. Подаци тако остају код „чувара података“ у сваком тренутку.

Болнице су посебно забринуте због ризика повезаних са прикупљањем осетљивих података о пацијентима. Ово је већ довело до непријатних ситуација, у којима је постало јасно да су здравствене организације сарађивале са индустријом, а да нису тачно разумеле употребу својих података. Заузврат, они ограничавају количину сарадње коју могу да ураде и индустријски и академски истраживачи, успоравајући истраживање и развој и утичући на квалитет производа у целој здравственој индустрији. ФЛ то може ублажити и омогућити сарадњу са подацима као никада раније, док контролише ризик повезан са овом сарадњом.

Можете ли поделити визију Рхино Хеалтх-а за омогућавање брзог креирања модела коришћењем разноврснијих података?

Замишљамо екосистем програмера и корисника вештачке интелигенције, који сарађују без страха или ограничења, поштујући границе прописа. Сарадници су у могућности да брзо идентификују неопходне податке за обуку и тестирање из различитих географских подручја, приступе тим подацима и комуницирају са тим подацима и понављају модел развој како би се осигурала довољна генерализација, перформансе и сигурност.

У сржи овога је Рхино Хеалтх Платформ, која пружа 'оне-стоп-схоп' за АИ програмере да конструишу масивне и разнолике скупове података, обуче и валидирају АИ алгоритме и континуирано прате и одржавају примењене АИ производе.

Како платформа Рхино Хеалтх спречава пристрасност АИ и нуди објашњивост АИ?

Откључавањем и поједностављивањем сарадње на подацима, АИ програмери су у могућности да искористе веће, разноврсније скупове података у обуци и тестирању својих апликација. Резултат робуснијих скупова података је производ који се може генерализовати и који није оптерећен предрасудама једне институције или уског скупа података. Као подршку објашњивости вештачке интелигенције, наша платформа пружа јасан поглед на податке који се користе током процеса развоја, са могућношћу анализе порекла података, дистрибуције вредности и других кључних метрика како би се обезбедила адекватна разноликост и квалитет података. Поред тога, наша платформа омогућава функционалност која није могућа ако се подаци једноставно обједињују, укључујући омогућавање корисницима да додатно побољшају своје скупове података додатним варијаблама, као што су оне израчунате из постојећих тачака података, како би истражили узрочно закључивање и ублажили збуњујуће факторе.

Како реагујете на лекаре који су забринути да би превелико ослањање на вештачку интелигенцију могло да доведе до пристрасних резултата који нису независно потврђени?

Саосјећамо са овом забринутошћу и препознајемо да бројне апликације на данашњем тржишту могу бити пристрасне. Наш одговор је да се морамо удружити као индустрија, као здравствена заједница која је пре свега забринута за безбедност пацијената, како бисмо дефинисали политике и процедуре за спречавање таквих пристрасности и обезбедили безбедне, ефикасне примене вештачке интелигенције. Програмери вештачке интелигенције имају одговорност да обезбеде да њихови АИ производи на тржишту буду независно потврђени како би постигли поверење и здравствених радника и пацијената. Рхино Хеалтх је посвећен подршци безбедним, поузданим производима вештачке интелигенције и ради са партнерима на омогућавању и поједностављивању независне валидације АИ апликација пре примене у клиничким окружењима тако што ће откључати баријере за неопходне податке за валидацију.

Која је ваша визија будућности АИ у здравству?

Визија Рхино Хеалтх-а је света у коме је вештачка интелигенција постигла свој пуни потенцијал у здравству. Марљиво радимо на стварању транспарентности и неговању сарадње кроз потврђивање приватности како бисмо омогућили овај свет. Замишљамо здравствену вештачку интелигенцију која није ограничена заштитним зидовима, географским или регулаторним ограничењима. Програмери вештачке интелигенције ће имати контролисан приступ свим подацима који су им потребни да би направили моћне моделе који се могу генерализовати – и да их континуирано прате и побољшавају протоком података у реалном времену. Пружаоци услуга и пацијенти ће имати самопоуздање знајући да не губе контролу над својим подацима и могу осигурати да се они користе за добро. Регулатори ће моћи да прате ефикасност модела који се користе у фармацеутској индустрији и развоју уређаја у реалном времену. Организације јавног здравља ће имати користи од овог напретка у вештачкој интелигенцији, док пацијенти и пружаоци услуга буду мирни знајући да је приватност заштићена.

Хвала вам на одличном интервјуу, читаоци који желе да сазнају више треба да посете Рхино Хеалтх.