Коли слід уникати ШІ в охороні здоров’я

Щоразу, коли новий технологічний прогрес прокладає собі дорогу в індустрію, може виникнути спокуса помазати цю нову блискучу іграшку анекдотом про всі біди галузі. ШІ в охороні здоров’я є чудовим прикладом. У міру того, як технологія продовжувала розвиватися, вона була прийнята для випадків використання в розробці ліків, координації лікування та відшкодуванні тощо. Існує велика кількість законних випадків використання штучного інтелекту в охороні здоров’я, де ця технологія набагато краща за будь-яку доступну на даний момент альтернативу.

Однак штучний інтелект — у його сучасному вигляді — чудово справляється лише з певними завданнями, як-от розуміння великих масивів даних і прийняття суджень на основі чітко визначених правил. Інші ситуації, особливо коли додатковий контекст важливий для прийняття правильного рішення, погано підходять для ШІ. Давайте розглянемо кілька прикладів.

Відмова від претензій і догляду

Незалежно від того, чи йдеться про претензію чи допомогу, відмови – це складні рішення, які надто важливі, щоб ШІ міг їх вирішити самостійно. Відмовляючи в претензії або догляді, існує очевидний моральний імператив робити це з максимальною обережністю, і, виходячи з можливостей штучного інтелекту сьогодні, це вимагає участі людини.

Окрім морального елементу, плани охорони здоров’я піддають себе ризику, коли вони надто покладаються на ШІ для прийняття рішень про відмову. Плани можуть стикатися з судовими позовами за неналежне використання ШІ для відхилення претензій, судовий процес звинувачуючи плани в тому, що вони не відповідають мінімальним вимогам до огляду лікаря, оскільки замість цього використовувався штучний інтелект.

Покладаючись на минулі рішення

Довіряти штучному інтелекту приймати рішення виключно на основі того, як він прийняв попереднє рішення, є очевидний недолік: одне неправильне рішення з минулого продовжуватиме впливати на інші. Крім того, оскільки правила політики, які інформують ШІ, часто розподілені між системами або недосконало кодифіковані людьми, системи ШІ можуть у кінцевому підсумку прийняти, а потім увічнити, неточне розуміння цих політик. Щоб уникнути цього, організаціям необхідно створити єдине джерело правдивої інформації про політику, щоб штучний інтелект міг посилатися на надійний набір даних і навчатися з нього.

Створення на основі застарілих систем

Будучи відносно новою технологією, штучний інтелект дає відчуття можливостей, і багато наукових груп із планування охорони здоров’я прагнуть швидко скористатися цією можливістю, використовуючи інструменти штучного інтелекту, уже вбудовані в існуючі корпоративні платформи. Проблема в тому, що процеси подання претензій у сфері охорони здоров’я надзвичайно складні, і корпоративні платформи часто не розуміють тонкощів. Застосування штучного інтелекту на цих застарілих платформах як універсального рішення (такого, яке не враховує всі різноманітні фактори, що впливають на розгляд претензій) призведе до плутанини та неточності, а не до створення ефективніших процесів.

Спираючись на старі дані

Одна з найбільших переваг штучного інтелекту полягає в тому, що він стає дедалі кращим у плануванні завдань у міру навчання, але це навчання може відбуватися лише за наявності постійного циклу зворотного зв’язку, який допомагає штучному інтелекту зрозуміти, що він зробив не так, щоб він міг відповідним чином коригувати. Цей зворотній зв’язок має бути не лише постійним, але й базуватися на чистих, точних даних. Зрештою, AI настільки хороший, наскільки хороші дані, на яких він навчається.

Коли ШІ в охороні здоров’я приносить користь

Використання штучного інтелекту в секторі, де результати є такими ж значними, як охорона здоров’я, безумовно, вимагає обережності, але це не означає, що немає випадків використання, де штучний інтелект має сенс.

Для одного, в охороні здоров'я не бракує даних (вважайте, що медична карта однієї людини може займати тисячі сторінок), і закономірності в цих даних можуть розповісти нам багато про діагностику захворювання, правильне вирішення претензій тощо. Саме тут штучний інтелект переважає, шукаючи шаблони та пропонуючи дії на основі цих шаблонів, з якими можуть працювати рецензенти.

Ще одна сфера, де ШІ перевершує себе політики та правила каталогізації та прийому які регулюють порядок оплати вимог. Генеративний ШІ (GenAI) можна використовувати для перетворення цього вмісту політики з різних форматів у машинозчитуваний код, який можна послідовно застосовувати в усіх всі претензії пацієнтів. GenAI також можна використовувати для узагальнення інформації та відображення її в зручному для читання форматі для перегляду людиною.

Ключовою ниткою всіх цих випадків використання є те, що штучний інтелект використовується як другий пілот для людей, які наглядають за ним, а не керує шоу самостійно. Поки організації можуть пам’ятати про цю ідею, впроваджуючи ШІ, вони зможуть досягти успіху в цю епоху, коли охорона здоров’я трансформується за допомогою ШІ.