Стаття досліджує, як зменшити ризик використання штучного інтелекту в медицині

Програми штучного інтелекту здатні покращувати охорону здоров’я різними способами. Наприклад, програми штучного інтелекту можуть використовувати комп’ютерний зір, щоб допомогти лікарям діагностувати захворювання за допомогою рентгенівських променів і FMRI. Алгоритми машинного навчання також можна використовувати, щоб зменшити кількість хибнопозитивних результатів шляхом вилучення тонких шаблонів із даних, які люди можуть не знайти в медичних даних. Однак разом із можливостями з’являються нові виклики, і нещодавно в Science була опублікована нова стаття про це вивчили можливі ризики та стратегії регулювання для медичних методів машинного навчання з метою мінімізації будь-яких можливих негативних побічних ефектів використання ШІ в медичному контексті.

Розширення сфери застосування ШІ в охороні здоров’я

Застосування штучного інтелекту в галузі медицини швидко розширюється. Останні розробки в галузі охорони здоров’я, керовані ШІ, включають створення нової фармацевтичної компанії, яка має на меті використовувати ШІ для створення нових ліків, створення дистанційних датчиків здоров’я на основі штучного інтелекту та програм комп’ютерного бачення, які аналізують КТ та X -промені.

Якщо бути більш точним, Genesis Therapeutics — це стартап, який прагне використовувати ШІ для прискорення процесу відкриття ліків, сподіваючись створити препарати, які можуть зменшити тяжкість виснажливих захворювань. Genesis Therapeutics — лише одна з майже 170 різних фірм, які використовують ШІ досліджувати нові лікарські форми. Тим часом, що стосується пристроїв моніторингу здоров’я, iRhythm і французький стартап AI Cardiologs використовують алгоритми AI для аналізу даних ЕЕГ і стежити за здоров'ям тих, хто має серцеві захворювання, ризикує отримати ускладнення. Програмне забезпечення, розроблене компаніями, може виявляти серцеві шуми, стан, викликаний турбулентним кровотоком.

Нарешті, нещодавнє дослідження, яке досліджує, як комп’ютерний зір можна застосувати до медичних зображень, виявило, що системи комп’ютерного зору працювати принаймні так само добре або краще ніж спеціалісти-рентгенологи під час дослідження комп’ютерної томографії для виявлення невеликих крововиливів. Алгоритми, які використовувалися в дослідженні, змогли зробити прогнози після перевірки комп’ютерної томографії протягом лише однієї секунди. Системи комп’ютерного зору також змогли локалізувати крововилив у мозок.

Отже, хоча потенційні переваги використання штучного інтелекту в охороні здоров’я очевидні, менш очевидним є те, які нові виклики та ризики виникнуть як побічний ефект застосування штучного інтелекту в галузі охорони здоров’я.

Регулювання поля, що розширюється

Як повідомляє TechXplore, щоб оцінити потенційні недоліки використання штучного інтелекту в охороні здоров’я, група дослідників нещодавно опублікувала статтю в Science, щоб отримати відповіді, щоб передбачити потенційні проблеми зі штучним інтелектом і вивчити потенційні шляхи вирішення цих проблем. Проблеми, які можуть виникнути від використання штучного інтелекту в галузі охорони здоров’я включають невідповідні рекомендації щодо лікування, що призводить до травм, проблеми з конфіденційністю та алгоритмічну упередженість/нерівність.

FDA схвалив лише медичний штучний інтелект, який використовує «заблоковані алгоритми», алгоритми, які надійно дають однаковий результат кожного разу, коли їх запускають. Однак велика частина потенціалу ШІ полягає в його здатності навчатися та реагувати на нові типи вхідних даних. Для того, щоб «адаптивні алгоритми» ширше використовувалися та отримали схвалення від FDA, автори статті детально розглянули, як можна зменшити ризики, пов’язані з оновленням алгоритмів.

Автори виступають за те, щоб інженери та дослідники машинного навчання зосереджувалися на постійному моніторингу моделей протягом усього терміну їхнього розгортання. Серед запропонованих інструментів для моніторингу систем штучного інтелекту був сам штучний інтелект, який міг би допомогти надавати автоматизовані звіти про те, як поводиться штучний інтелект. Також можливо, що кілька пристроїв ШІ можуть контролювати один одного.

«Щоб керувати ризиками, регулятори повинні зосереджуватись на безперервному моніторингу та оцінці ризиків, а не на плануванні майбутніх змін алгоритму»,допомога авторам статті.

Автори статті також рекомендують регуляторам зосередитися на розробці нових методів ідентифікації, моніторингу, оцінки та управління ризиками. У документі застосовано багато методів, які FDA використовувало для регулювання інших форм медичних технологій.

Як пояснили автори статті:

«Наша мета — підкреслити ризики, які можуть виникнути через непередбачені зміни в тому, як медичні системи AI/ML реагують або адаптуються до свого середовища. Тонкі, часто нерозпізнані оновлення параметрів або нові типи даних можуть спричинити великі та дорогі помилки».