Іттай Даян, MD, співзасновник та CEO Rhino Health – Серія інтерв’ю

Іттай Даян, MD є співзасновником і генеральним директором Rhino Health. Його досвід включає розвиток штучного інтелекту та діагностики, а також клінічної медицини та досліджень. Він є колишнім ключовим членом практики охорони здоров’я BCG та виконавцем лікарні. Наразі він зосереджений на внесенні свого внеску у розвиток безпечного, справедливого та ефективного штучного інтелекту в галузі охорони здоров’я та життєвих наук. У Rhino Health вони використовують розподілені обчислення та федеративне навчання для підтримки конфіденційності пацієнтів та сприяння співробітництву в ослабленому ландшафті охорони здоров’я.

Він служив у спецпідрозділах армії оборони Ізраїлю, очолював найбільший академічний медичний центр з трансляційної штучної інтелекту в світі. Він є експертом у розробці та комерціалізації штучного інтелекту, а також довгостроковим бігуном.

Чи можете Ви поділитися історією створення Rhino Health?

Моя подорож у сфері штучного інтелекту розпочалася, коли я був клініцистом і дослідником, і використовував ранні форми “цифрових біомаркерів” для вимірювання реакції на лікування психічних розладів. Пізніше я очолив Центр клінічних даних та науки (CCDS) у Mass General Brigham. Там я керував розробкою десятків клінічних застосунків штучного інтелекту та особисто побачив основні проблеми, пов’язані з доступом та “активацією” даних, необхідних для розробки та тренування продуктів штучного інтелекту, що відповідають нормативним вимогам.

Незважаючи на численні досягнення у сфері штучного інтелекту в охороні здоров’я, шлях від розробки до запуску продукту на ринку часто довгий і складний. Рішення можуть не спрацьовувати (або просто розчаровувати) після клінічного впровадження, а підтримка повного життєвого циклу штучного інтелекту майже неможлива без постійного доступу до великої кількості клінічних даних. Проблема змінилася з створення моделей на підтримку їх. Для вирішення цієї проблеми я переконав систему Mass General Brigham у цінності наявності власного “спеціалізованого CRO для штучного інтелекту” (CRO = Клінічна дослідницька організація), для тестування алгоритмів від кількох комерційних розробників.

Однак проблема залишилася – дані про охорону здоров’я все ще дуже фрагментовані, а навіть велика кількість даних з однієї мережі недостатня для боротьби з все більш вузькими цілями медичного штучного інтелекту. Влітку 2020 року я ініціював і очолив (разом з доктором Моною Флорес з NVIDIA (NVDA )) найбільше на той час дослідження федеративного навчання (FL) у сфері охорони здоров’я, EXAM. Ми використали FL для створення прогностичної моделі результатів COVID, використовуючи дані з усього світу, без обміну даними. Публікація цієї роботи у Nature Medicine продемонструвала позитивний вплив використання різноманітних і розрізнених наборів даних та підкреслила потенціал для більш широкого використання федеративного навчання в охороні здоров’я.

Цей досвід, однак, висвітлив ряд проблем. До них належать координація даних між співробітниками, забезпечення слідування даних та їх правильної характеристики, а також тягар, який припадає на відділи інформаційних технологій кожної установи, які повинні вивчити передові технології, до яких вони не звикли. Це вимагало нової платформи, яка підтримувала б ці нові “розподільчі дані” співробітництва. Я вирішив об’єднатися з моїм співзасновником, Ювалем Барором, для створення платформи для підтримки конфіденційних співробітництв. Ця платформа – “Платформа Rhino Health”, яка використовує FL і обчислення на краю.

Чому Ви вважаєте, що моделі штучного інтелекту часто не дають очікуваних результатів у сфері охорони здоров’я?

Медичний штучний інтелект часто тренується на малих, вузьких наборах даних, таких як дані з однієї установи або географічного регіону, що призводить до того, що отримана модель працює добре лише на тих даних, які вона бачила. Як тільки алгоритм застосовується до пацієнтів або сценаріїв, які відрізняються від вузького тренувального набору даних, його продуктивність суттєво погіршується.

Ендрю Нг висловив цю ідею добре, коли сказав: “Виявляється, що коли ми збираємо дані зі Стенфордської лікарні… ми можемо публікувати статті, які показують, що [алгоритми] порівнянні з людськими радіологами у виявленні певних станів. … [Коли] ви берете ту саму модель, ту саму систему штучного інтелекту, до старої лікарні вниз вулицею, з старішою машиною, і технік використовує трохи іншу протокол іміджінгу, дані починають дрейфувати, що призводить до погіршення продуктивності системи штучного інтелекту”.

Просто кажучи, більшість моделей штучного інтелекту не тренуються на даних, які є достатньо різноманітними та високоякісними, що призводить до поганої “реальної” продуктивності. Ця проблема добре задокументована як у наукових, так і в загальнодоступних колах, таких як у Science та Politico.

Як важливо тестування на різноманітних групах пацієнтів?

Тестування на різноманітних групах пацієнтів є важливим для забезпечення того, що отриманий продукт штучного інтелекту не лише ефективний і продуктивний, але й безпечний. Алгоритми, які не тренуються або не тестуються на достатньо різноманітних групах пацієнтів, можуть страждати від алгоритмічної упередженості, серйозної проблеми в охороні здоров’я та технологіях охорони здоров’я. Не лише такі алгоритми відображатимуть упередженість, яка була присутня у тренувальних даних, але й посилюватимуть цю упередженість і посилюватимуть існуючі расові, етнічні, релігійні, гендерні тощо нерівності в охороні здоров’я. Недостатнє тестування на різноманітних групах пацієнтів може призвести до небезпечних продуктів.

Нещодавно опубліковане дослідження, яке використовувало платформу Rhino Health, досліджувало продуктивність алгоритму виявлення аневризми мозку, розробленого в одному місці на чотирьох різних місцях з різними типами сканерів. Результати продемонстрували суттєву мінливість продуктивності на місцях з різними типами сканерів, підкресливши важливість тренування та тестування на різноманітних наборах даних.

Як Ви визначаєте, чи не представлена певна субпопуляція?

Поширений підхід полягає в аналізі розподілів змінних у різних наборах даних, окремо та разом. Це може інформувати розробників як під час підготовки “тренувальних” наборів даних, так і під час підготовки наборів даних для валідації. Платформа Rhino Health дозволяє зробити це, а також дозволяє користувачам бачити, як модель працює на різних когортах, щоб забезпечити загальність та стійку продуктивність по субпопуляціям.

Чи можете Ви описати, що таке федеративне навчання та як воно вирішує деякі з цих проблем?

Федеративне навчання (FL) можна визначити як процес, у якому моделі штучного інтелекту тренуються та продовжують покращуватися з часом, використовуючи розрізнені дані, без необхідності обміну або централізації даних. Це великий крок вперед у розвитку штучного інтелекту. Історично, будь-хто, хто бажав співпрацювати з кількома місцями, повинен був об’єднати дані, що призводило до ряду трудомістких, дорогих і часоємних юридичних, ризикових та процедурних питань.

Сьогодні, з програмним забезпеченням, таким як платформа Rhino Health, FL стає щоденною реальністю в охороні здоров’я та життєвих науках. Федеративне навчання дозволяє користувачам досліджувати, курирувати та валідувати дані, залишаючи дані на місцевих серверах співробітників. Контейнерний код, такий як алгоритм штучного інтелекту/машинного навчання або аналітичне застосування, відправляється на місцевий сервер, де виконання цього коду, chẳng hạn як тренування або валідування алгоритму штучного інтелекту/машинного навчання, здійснюється “місцево”. Дані залишаються з “опікуном даних” у всіх випадках.

Лікарні, зокрема, турбуються про ризики, пов’язані з агрегацією чутливих даних пацієнтів. Це вже призвело до прикрих ситуацій, коли стало зрозуміло, що організації охорони здоров’я співпрацювали з промисловістю без точного розуміння використання їхніх даних. Це обмежує кількість співробітництва, яке можуть здійснювати промисловість та академічні дослідники, що сповільнює дослідження та розробку продукції у сфері охорони здоров’я. FL може пом’якшити це та дозволити дані співробітництва, як ніколи раніше, контролюючи ризик, пов’язаний з цими співробітництвами.

Чи можете Ви поділитися баченням Rhino Health щодо забезпечення швидкої створення моделей за допомогою більш різноманітних даних?

Ми бачимо екосистему розробників та користувачів штучного інтелекту, які співпрацюють без страху чи обмежень, поважаючи межі нормативних вимог. Співробітники можуть швидко визначати необхідні дані для тренування та тестування моделей з різних географічних точок, отримувати доступ та взаємодіяти з цими даними та ітерувати розвиток моделей, щоб забезпечити достатню загальність, продуктивність та безпеку.

У центрі цього знаходиться платформа Rhino Health, яка надає “одну зупинку” для розробників штучного інтелекту, щоб створити великі та різноманітні набори даних, тренувати та валідувати алгоритми штучного інтелекту та постійно моніторити та підтримувати розгорнуті продукти штучного інтелекту.

Як платформа Rhino Health запобігає упередженості штучного інтелекту та пропонує пояснюваність штучного інтелекту?

Відкриваючи та оптимізуючи дані співробітництва, розробники штучного інтелекту можуть використовувати більші, більш різноманітні набори даних під час тренування та тестування своїх застосунків. Результатом є більш загальний продукт, який не обтяжений упередженостями однієї установи чи вузького набору даних. Для підтримки пояснюваність штучного інтелекту наша платформа забезпечує чіткий погляд на дані, використані під час процесу розробки, з можливістю аналізу походження даних, розподілів значень та інших ключових метрик, щоб забезпечити достатню різноманітність та якість даних. Крім того, наша платформа дозволяє функціональність, яка неможлива, якщо дані просто об’єднані, включаючи можливість додаткового розширення наборів даних додатковими змінними, такими як ті, що обчислюються з існуючих даних, для дослідження каузальної інференції та пом’якшення конфундерів.

Як Ви відповідаєте лікарям, які турбуються, що надмірна залежність від штучного інтелекту може привести до упереджених результатів, які не були незалежно валідовані?

Ми співчуваємо цій турботі та визнаємо, що деякі застосування штучного інтелекту на ринку сьогодні можуть бути упередженими. Наша відповідь полягає в тому, що нам потрібно об’єднатися як галузі, як спільноті охорони здоров’я, яка перш за все турбується про безпеку пацієнтів, щоб визначити політики та процедури для запобігання таким упередженостям та забезпечення безпечних та ефективних застосунків штучного інтелекту. Розробники штучного інтелекту мають відповідальність забезпечити, щоб їхні продукти штучного інтелекту, які продаються на ринку, були незалежно валідовані, щоб здобути довіру як фахівців охорони здоров’я, так і пацієнтів. Rhino Health присвячена підтримці безпечних та надійних продуктів штучного інтелекту та працює з партнерами для забезпечення та оптимізації незалежної валідації застосунків штучного інтелекту до їхнього розгортання в клінічних умовах, відкриваючи бар’єри для необхідної валідної інформації.

Яке Ваше бачення майбутнього штучного інтелекту в охороні здоров’я?

Бачення Rhino Health – це світ, у якому штучний інтелект досяг свого повного потенціалу в охороні здоров’я. Ми докладаємо зусиль для створення прозорості та сприяння співробітництву, щоб забезпечити цей світ. Ми бачимо охорону здоров’я штучного інтелекту, яка не обмежена вогнями, географічними обмеженнями чи нормативними обмеженнями. Розробники штучного інтелекту матимуть контрольований доступ до всіх необхідних даних для побудови потужних, загальних моделей – і для постійного моніторингу та покращення їх з потоком даних в реальному часі. Постачальники та пацієнти матимуть впевненість у тому, що вони не втрачають контролю над своїми даними та можуть забезпечити їхнє використання для добра. Регулятори матимуть можливість моніторити ефективність моделей, використовуваних у фармацевтичній та пристроєвій розробці в реальному часі. Організації охорони здоров’я матимуть вигоду від цих досягнень у сфері штучного інтелекту, а пацієнти та постачальники будуть спати спокійно, знаючи, що конфіденційність захищена.

Дякуємо за чудовий інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Rhino Health.