Генеративний ІІ у галузі охорони здоров’я потребує пояснюваності

Надзвичайна швидкість, з якою текстові генеративні інструменти ІІ можуть виконувати завдання високого рівня письма та спілкування, справила враження на компанії та споживачів. Але процеси, які відбуваються за лашками, щоб забезпечити ці вражаючі можливості, можуть зробити використання генеративного ІІ без особливої обережності ризикованим для чутливих, державно регульованих галузей, таких як страхування, фінанси чи охорона здоров’я.

Деякі з найяскравіших прикладів цього можна знайти в галузі охорони здоров’я.

Такі питання зазвичай пов’язані з обширними та різноманітними наборами даних, використовуваними для навчання великих мовних моделей (LLM) – моделей, які текстові генеративні інструменти ІІ використовують для виконання завдань високого рівня. Без явного зовнішнього втручання програмістів ці LLM tendенсії неселективно витягувати дані з різних джерел у Інтернеті, щоб розширити свою базу знань.

Ціший підхід найпідходящіший для низькоризикових споживчих випадків використання, у яких кінцевою метою є спрямування клієнтів на бажані пропозиції з точністю. Однак усе частіше великі набори даних і заплутані шляхи, якими моделі ІІ генерують свої результати, затуляють пояснюваність, яку лікарні та медичні працівники потребують для відстеження та запобігання потенційним неточностям.

У цьому контексті пояснюваність означає можливість зрозуміти логічні шляхи будь-якої LLM. Медичні працівники, які хочуть采用увати допоміжні генеративні інструменти ІІ, повинні мати можливість зрозуміти, як їхні моделі дають результати, щоб пацієнти та персонал мали повну прозорість під час різних процесів прийняття рішень. Інакше кажучи, у галузі, such як охорона здоров’я, де на кону життя, ставки просто занадто високі, щоб професіонали неправильно тлумачили дані, використовувані для навчання своїх інструментів ІІ.

На щастя, є спосіб обійти проблему пояснюваності генеративного ІІ – це просто потребує трохи більше контролю та уваги.

Таємниця та скептицизм

У генеративному ІІ концепція розуміння того, як LLM переходить від точки А – вхідних даних – до точки Б – результату – значно складніше, ніж у негенеративних алгоритмах, які працюють за встановленими шаблонами.

Генеративні інструменти ІІ створюють безліч зв’язків під час переходу від вхідних даних до результату, але для зовнішнього спостерігача залишається загадкою, як і чому вони роблять будь-яку серію зв’язків. Без можливості побачити “процес мислення”, який приймає алгоритм ІІ, люди-оператори не мають повної можливості розслідувати його міркування та відстежувати потенційні неточності.

Крім того, постійно розширювані набори даних, використовувані алгоритмами машинного навчання, ускладнюють пояснюваність ще більше. Чим більший набір даних, тим більш ймовірно, що система навчиться як на релевантній, так і на нерелевантній інформації та викине “галюцинації ІІ” – неправдиві твердження, які відхиляються від зовнішніх фактів та логіки контексту, хоч би переконливо.

У галузі охорони здоров’я такі помилкові результати можуть спричинити цілу низку проблем, таких як неправильні діагнози та неправильні призначення ліків. Поза юридичними, фінансовими та етичними наслідками такі помилки можуть легко нашкодити репутації медичних працівників та закладів, які вони представляють.

Відтак, попри свій потенціал для покращення медичних втручань, поліпшення спілкування з пацієнтами та підвищення оперативної ефективності, генеративний ІІ в охороні здоров’я залишається оточений скептицизмом, і справедливо – 55% клініцистів не вважають, що він готовий для медичного використання, а 58% зовсім йому не довіряють. Тим не менш, медичні організації продовжують рухатися вперед, з 98% інтегруючи або плануючи стратегію розгортання генеративного ІІ, щоб компенсувати вплив тривалої нестачі робочої сили в цій галузі.

Контроль джерела

Галузь охорони здоров’я часто опиняється на задньому фоні в сучасному споживчому кліматі, який цінує ефективність та швидкість над забезпечення залізобетонних заходів безпеки. Останні новини щодо недоліків майже необмеженого збору даних для навчання LLM, що призводить до позовів за порушення авторських прав, привели ці питання на перший план. Деякі компанії також зазнають звинувачень у тому, що особисті дані громадян були використані для навчання цих мовних моделей, що потенційно порушує закони про захист приватності.

Розробники ІІ для високорегульованих галузей повинні тому здійснювати контроль над джерелами даних, щоб обмежити потенційні помилки. Інакше кажучи, вони повинні надавати пріоритет витягуванню даних з довірених, галузевих джерел, а не неселективному збору зовнішніх веб-сторінок без вираженої згоди. Для галузі охорони здоров’я це означає обмеження вхідних даних до сторінок запитань та відповідей, файлів CSV та медичних баз даних – серед інших внутрішніх джерел.

Якщо це здається трохи обмежувальним, спробуйте знайти послугу на сайті великої системи охорони здоров’я. Американські організації охорони здоров’я публікують сотні, якщо не тисячі інформаційних сторінок на своїх платформах; більшість з них приховані так глибоко, що пацієнти ніколи не можуть їх фактично знайти. Рішення генеративного ІІ, засновані на внутрішніх даних, можуть надати цю інформацію пацієнтам зручним і безперешкодним чином. Це виграш для всіх сторін, оскільки система охорони здоров’я нарешті бачить повернення інвестицій від цього контенту, а пацієнти можуть знайти необхідні їм послуги миттєво та без зусиль.

Що далі для генеративного ІІ у регульованих галузях?

Галузь охорони здоров’я може виграти від генеративного ІІ багатьма способами.

Наприклад, розгляньте поширений вигорання, яке зараз спостерігається в американській системі охорони здоров’я – близько 50% працівників планує покинути свої посади до 2025 року. Генеративні чат-боти ІІ можуть допомогти полегшити частину навантаження та зберегти надмірно розтягнуті команди доступу до пацієнтів.

З боку пацієнтів генеративний ІІ має потенціал для покращення послуг центрів зв’язку медичних працівників. Автоматизація ІІ має силу вирішувати широкий спектр запитів через різні канали зв’язку, включаючи сторінки запитань та відповідей, питання інформаційної технології, повторні призначення ліків та направлення до лікаря. Окрім розчарування, яке виникає при очікуванні на лінії, лише близько половини американських пацієнтів успішно вирішують свої питання під час першого дзвінка, що призводить до високих показників відмови та порушення доступу до медичної допомоги. Результатом низької задоволеності клієнтів стає додатковий тиск на галузь, щоб вона діяла.

Щоб галузь могла справді виграти від впровадження генеративного ІІ, медичні працівники повинні забезпечити цілеспрямовану перебудову даних, до яких мають доступ їхні LLM, що призводить до високих показників відмови та порушення доступу до медичної допомоги. Результатом низької задоволеності клієнтів стає додатковий тиск на галузь, щоб вона діяла. Для галузі справді виграти від впровадження генеративного ІІ, медичні працівники повинні забезпечити цілеспрямовану перебудову даних, до яких мають доступ їхні LLM.