Штучний інтелект у сфері охорони здоров’я може принести як ризики, так і можливості

Штучний інтелект має величезний потенціал у сфері охорони здоров’я,能够 покращити діагностику та знайти нові, більш ефективні ліки. Однак, як недавно обговорювалося в статті Scientific American, швидкість, з якою штучний інтелект проникає в сферу охорони здоров’я, також відкриває багато нових викликів і ризиків.

За останні п’ять років Управління з контролю за продуктами і ліками США схвалило понад 40 різних продуктів штучного інтелекту. Однак, як повідомляє Scientific American, жоден з цих продуктів не пройшов оцінку своєї ефективності в рандомізованих контрольованих клінічних дослідженнях. Багато інструментів штучного інтелекту в медицині навіть не потребують схвалення Управління з контролю за продуктами і ліками.

Еван Тополь, автор книги “Глибока медицина: Як штучний інтелект може зробити охорону здоров’я більш людяною”, заявив Scientific American, що багато продуктів штучного інтелекту, які стверджують, що вони ефективні в таких завданнях, як діагностика захворювань, насправді пройшли суворе тестування, а перше велике рандомізоване дослідження інструменту штучного інтелекту для виявлення і діагностики було проведено минулого жовтня. Крім того, дуже мало технологічних стартапів публікують свої дослідження в рецензованих журналах, де їхня робота буде проаналізована вченими.

Якщо правильно протестовані і контрольовані, системи штучного інтелекту можуть бути потужними інструментами, які можуть допомогти медичним фахівцям виявити раніше непомітні симптоми, покращуючи результати лікування.

Наприклад, інструмент штучного інтелекту для виявлення діабетичної офтальмопатії був протестований на сотнях пацієнтів і здавався надійним. Компанія, відповідальна за тест, працювала разом з Управлінням з контролю за продуктами і ліками США понад вісім років, щоб удосконалити продукт. Тест IDx-DR зараз вводиться в клініки первинної медичної допомоги, де він може потенційно допомогти виявити ранні ознаки діабетичної ретинопатії, направляючи пацієнтів до спеціалістів-офтальмологів, якщо підозрюються симптоми.

Якщо не протестовані належним чином, системи штучного інтелекту, які медичні фахівці можуть використовувати для指导у діагностики і лікування, можуть створити шкоду замість того, щоб уникнути її.

Стаття Scientific American описує одну з потенційних проблем, пов’язаних з використанням штучного інтелекту для діагностики захворювань, вказуючи на приклад інструменту штучного інтелекту, призначеного для аналізу рентгенограм грудної клітки і виявлення пацієнтів, які можуть розвивати пневмонію. Хоча система виявилася точною під час тестування в лікарні Маунт-Сінай у Нью-Йорку, вона не пройшла тестування на зображеннях, зроблених в інших лікарнях. Дослідники виявили, що штучний інтелект розрізняв зображення, створені портативними рентгенівськими системами, і ті, які були створені в радіологічному відділенні. Лікарі використовують портативні рентгенівські системи для пацієнтів, які часто занадто хворі, щоб покинути свої ліжка, і ці пацієнти мають більший ризик розвитку пневмонії.

Хибні сигнали також є проблемою. DeepMind створила мобільний додаток штучного інтелекту, який能够 передбачати гостру ниркову недостатність у госпіталізованих пацієнтів за 48 годин до її розвитку. Однак система, як повідомляється, також зробила два хибних сигнали на кожен випадок успішного прогнозу ниркової недостатності. Хибні позитиви можуть бути шкідливими, оскільки вони можуть спонукати лікарів витрачати зайвий час і ресурси на проведення додаткових тестів або зміну призначених лікування.

У іншому випадку одна система штучного інтелекту неправильно висновувала, що пацієнти, які мали пневмонію, мали більшу ймовірність виживання, якщо вони мали бронхіальну астму, що могло б спонукати лікарів змінити лікування пацієнтів з астмою.

Системи штучного інтелекту, розроблені для однієї лікарні, часто підводять, коли їх використовують в іншій лікарні. Є кілька причин цього. По-перше, системи штучного інтелекту часто тренуються на електронних медичних записах, але багато електронних медичних записів часто є неповними або неправильними, оскільки їхня основна мета часто полягає в бухгалтерському обліку, а не в догляді за пацієнтами. Наприклад, одне розслідування, проведене KHN, виявило, що іноді в медичних записах пацієнтів були життєво небезпечні помилки, такі як списки ліків, що містять неправильні препарати. Крім того, захворювання часто є більш складними, а система охорони здоров’я більш комплексною, ніж можна було б очікувати від інженерів і вчених штучного інтелекту.

Якщо правильно протестовані і контрольовані, системи штучного інтелекту можуть бути потужними інструментами, які можуть допомогти медичним фахівцям виявити раніше непомітні симптоми, покращуючи результати лікування.

Штучний інтелект має величезний потенціал у сфері охорони здоров’я, Однак, як недавно обговорювалося в статті Scientific American, швидкість, з якою штучний інтелект проникає в сферу охорони здоров’я, також відкриває багато нових викликів і ризиків. Як штучний інтелект стає все більш поширеним, буде важливо, щоб розробники штучного інтелекту працювали разом з органами охорони здоров’я, щоб забезпечити, що їхні системи штучного інтелекту будуть належним чином протестовані, а регулюючі органи будуть забезпечувати встановлення і дотримання стандартів для надійності інструментів діагностики штучного інтелекту.