Джош Міллер, CEO Gradient Health – Інтерв’ю Серія

Джош Міллер є CEO компанії Gradient Health, заснованої на ідеї, що автоматизовані діагностики повинні існувати для того, щоб охорона здоров’я була справедливою та доступною для всіх. Gradient Health спрямована на прискорення автоматизованих діагностичних засобів штучного інтелекту з даними, які організовані, позначені та доступні.

Чи можете ви розповісти про походження історії Gradient Health?

Мій співзасновник Оуен і я щойно вийшли з нашого першого стартапу, FarmShots, який використовував комп’ютерний зір для допомоги у зменшенні кількості пестицидів, використовуваних у сільському господарстві, і ми шукали наш наступний виклик.

Ми завжди були мотивовані бажанням знайти складну проблему для вирішення з допомогою технологій, яка а) має можливість зробити багато добра у світі, і б) веде до солідного бізнесу. Оуен працював над своєю медичною освітою, і з нашим досвідом у сфері комп’ютерного зору медична візуалізація була природним вибором для нас. Через руйнівний вплив раку молочної залози ми обрали мамографію як потенційне перше застосування. Тому ми сказали: “Хорошо, з чого ми починаємо? Нам потрібні дані. Нам потрібно тисячу мамограм. Де можна отримати такий масштаб даних?” і відповідь була “Ніде”. Ми зрозуміли одразу, що дуже складно знайти дані. Після місяців ця розчарування переросло у філософську проблему для нас, ми подумали: “Хтось, хто намагається зробити добро в цій сфері, не повинен боротися та трудитися, щоб отримати дані, які їм потрібні для побудови алгоритмів, що рятують життя”. І тому ми сказали: “Хай, можливо, це саме та проблема, яку нам потрібно вирішити”.

Які існують ризики на ринку з нерепрезентативними даними?

З безлічі досліджень та реальних прикладів ми знаємо, що якщо ми побудуємо алгоритм, використовуючи тільки дані з західного узбережжя, і ви принесете його на південний схід, він просто не працюватиме. Час від часу ми чуємо історії про штучний інтелект, який працює добре в північно-східній лікарні, де його створили, і тоді, коли вони розгортають його в іншому місці, точність падає нижче 50%.

Я вважаю, що фундаментальна мета штучного інтелекту на етичному рівні полягає в тому, щоб зменшити розриви у сфері охорони здоров’я. Метою є зробити якісну допомогу доступною та доступною для всіх. Але проблема полягає в тому, що якщо ви побудуєте його на основі поганих даних, ви фактично збільшуєте розриви. Ми не виконуємо місію штучного інтелекту в сфері охорони здоров’я, якщо дозволимо йому працювати тільки для білих чоловіків з узбережжя. Люди з підпредставлених груп фактично будуть страждати більше від дискримінації внаслідок цього, а не менше.

Чи можете ви розповісти про те, як Gradient Health джерелує дані?

Так, ми співпрацюємо з усіма видами систем охорони здоров’я у світі, дані яких інакше зберігаються, коштуючи їм грошей, і не приносячи жодної користі. Ми повністю деідентифікуємо їхні дані в джерелі, а потім ретельно організуємо їх для дослідників.

Як Gradient Health забезпечує, щоб дані були необізнаними та якомога більш різноманітними?

Є багато способів. Наприклад, коли ми збираємо дані, ми дбаємо про те, щоб включити багато громадських клінік, де ви часто маєте більш репрезентативні дані, а також великі лікарні. Ми також джерелуємо наші дані з великої кількості клінічних сайтів. Ми намагаємося отримати якомога більше сайтів з якомога більшої кількості населення. Отже, не тільки велика кількість сайтів, а й їх географічна та соціально-економічна різноманітність. Адже якщо всі ваші сайти розташовані лише в лікарнях центру, це все одно не репрезентативні дані, правда?

Щоб підтвердити все це, ми проводимо статистичні розрахунки по всіх цих наборах даних і налаштовуємо їх для клієнта, щоб вони отримували дані, які є різноманітними за технологіями та демографічними показниками.

Чому цей рівень контролю даних так важливий для розробки надійних алгоритмів штучного інтелекту?

Є багато змінних, з якими штучний інтелект може зустрітися в реальному світі, і нашою метою є забезпечення того, щоб алгоритм був якомога більш надійним. Щоб спростити речі, ми думаємо про п’ять ключових змінних у наших даних. Перша змінна, про яку ми думаємо, – це “виробник обладнання”. Це очевидно, але якщо ви побудуєте алгоритм тільки з даними сканерів компанії GE, він не працюватиме так само добре на сканері компанії Hitachi.

У подібному ключі є змінна “модель обладнання”. Ця змінна насправді досить цікава з точки зору нерівності у сфері охорони здоров’я. Ми знаємо, що великі, добре фінансовані дослідницькі лікарні мають останні та найкращі версії сканерів. І якщо вони тільки тренують свій штучний інтелект на своїх власних моделях 2022 року, він не працюватиме так само добре на старішій моделі 2010 року. Ці старіші системи саме ті, які знаходяться в менш заможних та сільських районах. Отже, тільки використовуючи дані з нових моделей, вони ненавмисно вводять подальшу упередженість проти людей з цих громад.

Інші ключові змінні – це стать, етнічна приналежність та вік, і ми докладаємо великих зусиль, щоб наші дані були пропорційно збалансовані по всіх цих показниках.

Які існують регуляторні перешкоди для компаній MedTech?

Ми починаємо бачити, як FDA серйозно розслідує упередженість у наборах даних. У нас були дослідники, які прийшли до нас і сказали: “FDA відхилила наш алгоритм, оскільки він не містив 15% афроамериканського населення” (приблизительно 15% афроамериканців, які складають населення США). Ми також чули про розробника, якому сказали, що йому потрібно включити 1% тихоокеанських гавайців у свої тренувальні дані.

Отже, FDA починає розуміти, що ці алгоритми, які були треновані тільки в одній лікарні, не працюють у реальному світі. Факт полягає в тому, що якщо ви хочете отримати маркування CE та схвалення FDA, вам потрібно прийти з набором даних, який представляє населення. Це вже не прийнятно тренувати штучний інтелект на малому або нерепрезентативному групі.

Ризик для компаній MedTech полягає в тому, що вони вкладають мільйони доларів у розвиток своєї технології до місця, де вони думають, що вони готові до регуляторного схвалення, і тоді, якщо вони не можуть його пройти, вони ніколи не отримають компенсації чи доходу. В кінцевому підсумку шлях до комерціалізації та шлях до того, щоб мати такий же благотворний вплив на охорону здоров’я, який вони хочуть мати, вимагає від них піклуватися про упередженість даних.

Які існують варіанти подолання цих перешкод з точки зору даних?

За останні роки методи управління даними еволюціонували, і розробники штучного інтелекту тепер мають більше варіантів, ніж будь-коли раніше. Від посередників даних та партнерів до федеративного навчання та синтетичних даних існують нові підходи до цих перешкод. Як би вони не обирали метод, ми завжди заохочуємо розробників подумати, чи їхні дані справді представляють населення, яке буде використовувати продукт. Це найскладніша частина джерелування даних.

Рішення, яке пропонує Gradient Health, – це Gradient Label, що це таке рішення та як воно дозволяє позначати дані у великому масштабі?

Штучний інтелект у медичній візуалізації не тільки потребує даних, але й експертних анотацій. І ми допомагаємо компаніям отримувати ці експертні анотації, включаючи анотації радіологів.

Яка ваша бачення майбутнього штучного інтелекту та даних у сфері охорони здоров’я?

Вже існує тисячі інструментів штучного інтелекту, які оглядають все, від кінчиків ваших пальців до кінчиків ваших ніг, і я думаю, що це буде продовжуватися. Я думаю, що буде щонайменше 10 алгоритмів для кожного стану, описаного в медичному підручнику. Кожен з них буде мати кілька, ймовірно, конкурентних інструментів для допомоги клініцистам у наданні найкращої допомоги.

Я не думаю, що ми закінчимо з трекером у стилі Star Trek, який сканує людину та вирішує всі можливі проблеми від голови до ніг. Замість цього у нас будуть спеціалізовані застосування для кожного підмножини.

Чи є щось ще, що ви хотіли б поділитися про Gradient Health?

Я схвильований майбутнім. Я думаю, що ми рухаємось до місця, де охорона здоров’я буде дешевою, рівною та доступною для всіх, і я хочу, щоб Gradient мала можливість зіграти фундаментальну роль у тому, щоб це відбулося. Уся команда тут щиро вірить у цю місію, і є єдиний запал по всій команді, якого ви не зустрінете в кожній компанії. І мені це подобається!

Дякую за велике інтерв’ю, читачам, які хочуть дізнатися більше, слід відвідати Gradient Health.