Стаття досліджує, як знизити ризик використання штучного інтелекту в медицині

Програми штучного інтелекту здатні покращити охорону здоров’я різними способами. Наприклад, додатки штучного інтелекту можуть використовувати комп’ютерне бачення, щоб допомогти лікарям діагностувати захворювання на рентгенівських зображеннях і зображеннях функціональної магнітно-резонансної томографії. Алгоритми машинного навчання також можна використовувати, щоб допомогти знизити рівень помилкових позитивних результатів шляхом виділення тонких закономірностей з даних, які люди можуть не помітити в медичних даних. Однак разом з можливостями виникають нові виклики, і недавно в журналі Science була опублікована стаття, яка досліджувала можливі ризики та регуляторні стратегії для медичної техніки, заснованої на машинному навчанні, в спробі мінімізувати будь-які можливі негативні побічні ефекти використання штучного інтелекту в медичному контексті.

Розширення застосунків штучного інтелекту в охороні здоров’я

Штучний інтелект швидко розширює свої застосування в медичній галузі. Недавні розробки в галузі охорони здоров’я, які рухає штучний інтелект, включають створення нової фармацевтичної компанії, яка має на меті використовувати штучний інтелект для створення нових ліків, створення віддалених датчиків охорони здоров’я, які керуються штучним інтелектом, та додатків комп’ютерного бачення, які аналізують комп’ютерні томографи та рентгенівські зображення.

Щоб бути більш точним, Genesis Therapeutics – це стартап, який має на меті використовувати штучний інтелект для прискорення процесу відкриття ліків, сподіваючись створити ліки, які можуть знизити тяжкість дебільних захворювань. Genesis Therapeutics – лише одна з майже 170 різних фірм, які використовують штучний інтелект для дослідження нових формул ліків. Тим часом щодо пристроїв моніторингу здоров’я компанії iRhythm (IRTC ) та французький стартап Cardiologs використовують алгоритми штучного інтелекту для аналізу даних електроенцефалографії та моніторингу здоров’я людей, які мають захворювання серця та знаходяться під загрозою ускладнень. Програмне забезпечення, розроблене цими компаніями, може виявляти шуми серця, стан, який викликаний турбулентним потоком крові.

Нарешті, недавнє дослідження, яке досліджувало, як комп’ютерне бачення можна застосувати до медичних зображень, показало, що системи комп’ютерного бачення виконують至少 так само добре або краще, ніж експертні радіологи, коли вони оглядають комп’ютерні томографи, щоб виявити маленькі крововиливи. Алгоритми, використані в цьому дослідженні, могли робити передбачення після огляду комп’ютерних томографій всього за одну секунду. Системи комп’ютерного бачення також могли локалізувати крововиливи в мозку.

Таким чином, хоча потенційні вигоди від використання штучного інтелекту в охороні здоров’я очевидні, менш зрозуміло, які нові виклики та ризики виникнуть внаслідок використання штучного інтелекту в галузі охорони здоров’я.

Регулювання розширюваної галузі

Як повідомляє TechXplore, щоб оцінити потенційні недоліки використання штучного інтелекту в охороні здоров’я, група дослідників недавно опублікувала статтю в Science, маючи на меті отримати відповіді на потенційні проблеми з штучним інтелектом та дослідити потенційні рішення цих проблем. Проблеми, які можуть виникнути внаслідок використання штучного інтелекту в охороні здоров’я, включають неправильну рекомендацію лікування, яка призводить до травм, проблеми конфіденційності та алгоритмічну упередженість/нерівність.

Управління з харчових продуктів і ліків схвалило лише медичний штучний інтелект, який використовує “заблоковані алгоритми”, алгоритми, які надійно дають однаковий результат кожного разу, коли їх запускають. Однак багато потенційних можливостей штучного інтелекту полягає в його здатності навчатися та реагувати на нові типи входів. Щоб дозволити “адаптивним алгоритмам” бачити більше застосування та отримувати схвалення від Управління з харчових продуктів і ліків, автори статті зробили глибокий аналіз того, як ризики, пов’язані з оновленням алгоритмів, можна пом’якшити.

Автори статті рекомендують інженерам та дослідникам машинного навчання зосередитися на безперервному моніторингу моделей протягом всього терміну їхнього застосування. Серед запропонованих інструментів для моніторингу систем штучного інтелекту було само штучний інтелект, який міг би допомогти у створенні автоматичних звітів про те, як система штучного інтелекту поводиться. Також можливо, що кілька пристроїв штучного інтелекту могли б моніторити один одного.

“Щоб керувати ризиками, регулятори повинні зосередитися особливо на безперервному моніторингу та оцінці ризиків, а не на плануванні майбутніх змін алгоритмів”, – казали автори статті.

Автори статті також рекомендують регуляторам зосередитися на розробці нових методів ідентифікації, моніторингу, оцінки та управління ризиками. Стаття застосовує багато технік, які Управління з харчових продуктів і ліків використовувало для регулювання інших форм медичної техніки.

Як пояснили автори статті:

“Наша мета – підкреслити ризики, які можуть виникнути внаслідок непередбачених змін у тому, як системи медичного штучного інтелекту/машинного навчання реагують або адаптуються до свого середовища. Непомітні параметричні оновлення або нові типи даних можуть викликати великі та дорогої помилки.”