Метью Кроусон, доктор медичних наук, директор з управління продуктами штучного інтелекту/генерації штучного інтелекту в Wolters Kluwer Health – серія інтерв'ю

Доктор Метт Кроусон є лідером у сфері медичних технологій та практикуючим хірургом, який спеціалізується на застосуванні штучного інтелекту в клінічній практиці. Він є директором з розробки продуктів штучного інтелекту/генеративного штучного інтелекту в Wolters Kluwer Health, де він очолює ініціативи щодо покращення синтезу доказів та аналізу реальних даних. Раніше він очолював практику штучного інтелекту для медичних працівників Deloitte, розробляючи генеративні рішення штучного інтелекту для покращення документації, циклів доходів та досліджень. Він також працює доцентом у Гарвардській медичній школі та є автором понад 90 рецензованих публікацій.

Вольтерс Клувер є глобальним постачальником професійної інформації, програмного забезпечення та послуг, що підтримує клієнтів у сферах охорони здоров'я, оподаткування та бухгалтерського обліку, юридичного та регуляторного забезпечення, фінансового комплаєнсу та ESG. Штаб-квартира компанії знаходиться в Нідерландах, вона використовує глибокий галузевий досвід та передові технології для надання інструментів, що оптимізують робочі процеси, забезпечують дотримання вимог та підтримують прийняття критично важливих рішень. Її діяльність охоплює понад 180 країн, а пропозиції організовані в таких підрозділах, як охорона здоров'я, оподаткування та бухгалтерський облік, юридичне та регуляторне забезпечення, фінансове та корпоративне комплаєнс, а також корпоративна ефективність та ESG.

Почнемо з особистого питання: як ви поєднуєте свої подвійні ролі практикуючого хірурга та лідера продуктів штучного інтелекту? Чи вплинула ваша клінічна робота на ваше уявлення про те, яким має бути чи не має бути штучний інтелект в охороні здоров'я?

Чесно? ​Все починається з безжального тайм-боксу та кавоварки промислової потужності. Ранки в клініці допомагають мені відточувати навички догляду за пацієнтами, а решту дня я витрачаю на перетворення цього болю на передову на специфікації продукту. Ці дві ролі підживлюють одна одну: бачити, як резидент натискає на десять екранів, щоб замовити Тайленол, — це все, що мені потрібно для дослідження ринку.

Проекти штучного інтелекту (ШІ) розпалюються, коли ніхто в кімнаті не відчував цього болю. Наше опитування Future Ready Healthcare показує, що 80% керівників вважають «оптимізацію робочих процесів» головним пріоритетом. Тим не менш, лише 63% вважають, що вони готові зробити це за допомогою генеративного ШІ (GenAI). Це класична розбіжність між стратегією та виконанням, яку експерти в предметній області можуть усунути, поставивши правильне клінічне «чому», перш ніж написати хоч один рядок коду.

Мій клінічний погляд також зосереджений на практичному плані. Персонал першої лінії розповів нам, що їхніми головними завданнями є вирішення проблеми нестачі персоналу (82%), зменшення адміністративних витрат (77%) та подолання вигорання (76%). Якщо алгоритм не спрацьовує, це просто театральна операція. Клініцисти швидко втрачають зв'язок.

Цей об'єктив також змушує мене обережно ставитися до того, де штучний інтелект не слід бродити. Фактично, 57% фахівців стурбовані тим, що надмірна залежність від GenAI може підірвати клінічне судження, проте лише 18% кажуть, що їхні організації опублікували захисні бар'єри. Поки управління не наздожене, мандат чіткий: автоматизувати документообіг, а не мислення.

Тож для мене баланс не в тому, щоб кава проти календаря. Йдеться про те, щоб однією ногою бути в клініці – щоб я ніколи не забував, кому має служити ШІ – а іншою ногою бути в продукті, щоб знання поширювалися. Якщо робити це добре, кофеїн стане просто приємним бонусом.

Команда Звіт про опитування щодо охорони здоров'я, готової до майбутнього від Wolters Kluwer підкреслює значний розрив між ентузіазмом щодо GenAI та його реалізацією. Чи були ви здивовані якимось результатом? Що особисто вас найбільше вразило?

Я анітрохи не здивувався. Я ще не зустрічав клініциста, який би виступав проти автоматизації. Розгортання уповільнюється не страхом перед якимось сценарієм «Скайнет у захисних костюмах», а радше щоденною рутиною медичних операцій. Опитування кристалізує цю реальність. Вісім з десяти керівників вважають оптимізацію робочих процесів головним пріоритетом, проте ледве шестеро з десяти кажуть, що готові дозволити GenAI вирішити цю проблему. Саме цю дельту я бачу: міни відповідальності, дані, які більше схожі на шухляду для сміття, ніж на озеро даних, та фінансові стимули, які все ще винагороджують обсяг, а не ефективність. Є й інші перешкоди, включаючи вакуум навчання, втому від тіньових ІТ-фахівців та регуляторний туман.

Найбільше мене вразило те, наскільки буденними є ці перешкоди. Нестача персоналу, адміністративна тягар та вигорання домінують у списку проблем, але лише 18% організацій мають офіційні політики щодо штучного інтелекту покоління. Якщо ви не знаєте, хто підписує модель або як перевіряються її результати, ентузіазм у відділі дотримання вимог згасає. Крім того, 68% респондентів кажуть, що витрати на оплату праці є їхнім найбільшим фінансовим тиском, і не дивно, що керівники хочуть підтвердження окупності інвестицій (ROI), перш ніж підписувати черговий рахунок-фактуру на програмне забезпечення. Заголовок не «Паніка навколо ШІ», а «Чудова ідея — покажіть мені робочий процес та бізнес-кейс».

Понад половина опитаних медичних працівників стурбовані тим, що GenAI може підірвати навички прийняття клінічних рішень. Чи вважаєте ви, що цей страх обґрунтований, чи він відображає глибші занепокоєння щодо довіри та прозорості в системах штучного інтелекту?

Деяке занепокоєння справжнє, але воно менше пов'язане з науково-фантастичними страхами перед шахрайським штучним інтелектом у стилі HAL-9000, а більше зі звичайною підзвітністю. Коли інструмент пропонує диференціальні діагнози за лічені секунди, вам потрібне кришталево чітке походження: Звідки взялася рекомендація, хто її підписує та як вона проходить аудит? Сьогодні лише невелика меншість організацій мають офіційне управління GenAI, тому клініцисти зазвичай обережні. Це видно з наших даних, оскільки 57% кажуть, що «надмірна залежність може підірвати судження». Для мене це сигнал того, що вони не хочуть, щоб чорний ящик втручався в їхню ліцензію на практику.

Я дивлюся на це питання крізь історичну призму. Коли електронні таблиці з'явилися у фінансових відділах, деякі бухгалтери хвилювалися, що їхні аналітичні м'язи атрофуються. Натомість програмне забезпечення для роботи з електронними таблицями стало новою базовою лінією, піднявши рівень точності. Охорона здоров'я давно назріла для аналогічного стрибка. Ми втрачаємо забагато пацієнтів через різницю в догляді; медична помилка залишається провідною причиною травм і смертей. Суперсила GenAI може полягати у звуженні цих меж похибки шляхом висвітлення рекомендацій, виділення протипоказань і позначання відхилень швидше, ніж будь-яка людина може просіяти діаграму. Але він повинен залишатися помічником, а не автономним приймачем рішень, особливо в наступні три-п'ять років.

Так, страх обґрунтований, але його можна вирішити. Прозорі набори даних, журнали аудиту та контрольні точки з участю людини перетворюють «ерозію ШІ» на «доповнення ШІ». Надайте клініцистам відстежувані рекомендації та чіткі лінії відповідальності, і ці 57% розтануть. Йдеться не про заміну експертизи; йдеться про її доповнення кращими інструментами.

Лише 18% респондентів кажуть, що вони знають про чіткі політики GenAI у своїх організаціях. Які потенційні ризики впровадження інструментів GenAI без такого управління?

Уявіть собі це як запуск нового препарату без етикетки з дозуванням. Дані охорони здоров’я є дуже конфіденційними, і моделі GenAI стають розумнішими лише тоді, коли вони враховують контекст, багатий на захищену медичну інформацію (PHI). Без суворої політики управління даними, яка б регулювала, хто може завантажувати інформацію, як ці дані реєструються та де вони зберігаються, організація знаходиться лише за один знімок буфера обміну від порушення конфіденційності, яке може потрапити в заголовки газет.

Відповідальність – це наступна міна. Коли алгоритм галюцинує протипоказаною дозою, хто приймає претензію щодо медичної недбалості? Постачальник, лікарня чи клініцист, який натиснув «прийняти»? Наразі ця відповідь нечітка, оскільки менше ніж кожна п’ята організація кодифікувала «правила дорожнього руху» для GenAI. У вакуумі юристи часто за замовчуванням звертаються до найглибших кишень, і сама ця невизначеність може зупинити інновації.

Управління також захищає від менш помітних ризиків, таких як відхилення моделі та прихована упередженість. Онкологічний бот, навчений за рекомендаціями минулого кварталу, може непомітно застаріти, збивши медичну допомогу з рейок, заснованих на доказах. Політики, що вимагають контролю версій, моніторингу результатів та тригерів припинення дії, запобігають старінню алгоритмів, що призводить до загроз безпеці.

Зрештою, на кону стоїть довіра. Клініцисти хвилюються, що надмірна залежність від GenAI може притупити їхнє клінічне судження; впровадження непрозорих інструментів лише підтверджує ці побоювання. Чітке управління, прозорість походження даних, протоколів валідації та контрольних точок з людиною в циклі перетворюють тривогу «чорної скриньки» на впевненість у тому, що ШІ є помічником у команді, а не зловмисним мешканцем.

Виходячи з вашої роботи з Wolters Kluwer та в операційній, який є найреалістичніший варіант використання GenAI в охороні здоров'я в найближчій перспективі?

Забудьте про роботів-хірургів. Протягом наступних трьох років вбивча можливість GenAI адміністративне знищенняДві смуги вже доводять свою ефективність:

1. Ведення нотаток у залі. Інструменти для диктування в навколишньому середовищі тепер складають звіт про хід роботи, поки лікар розмовляє зі своїм пацієнтом, а потім безпосередньо додають його до електронної медичної карти (EHR). Наше опитування показує, що 41% респондентів додали це до свого списку бажань щодо GenAI, і ця технологія вже працює в системах охорони здоров'я, які є першими впроваджувачами. Кілька досліджень показали, що системи диктування в навколишньому середовищі можуть зменшити когнітивне навантаження на 51% та «час у піжамі» після робочого часу більш ніж на 60%. Це чітка рентабельність інвестицій; ви можете швидко її відчути.
2. Захист доходів бек-офісу. Наступним елементом доміно є пакети попередніх авторизацій, листи з відмовами у видачі апеляцій та інші проблеми, пов'язані з циклом доходів. Для довідки, 67% керівників кажуть, що попередня авторизація сама по собі пригнічує продуктивність, а 62% називають це затримкою адміністрування електронних медичних карток. Моделі великих мов, які зчитують діаграми та автоматично заповнюють ці форми, вже скорочують кількість днів, необхідних для розгляду заявок, та звільняють персонал для роботи з вищою цінністю.

Чому саме ці два? Вони влучили в тріо низький клінічний ризик, значне полегшення робочої сили та чітке обґрунтування витратНа ринку, де 68% керівників називають витрати на персонал головним фінансовим тиском, інструменти, які повертають години без зміни плану догляду, є найлегшим «так». Автономна діагностика з’явиться пізніше; зараз GenAI заробляє на життя, змушуючи буфер обміну зникати.

В опитуванні зазначається, що дані не є головним ризиком, який називають респонденти, що дивно, враховуючи, як часто конфіденційність даних домінує в заголовках новин. Які ризики клініцисти та адміністратори вважають найбільш нагальними?Я також був здивований. Заголовки газет намагалися змусити нас повірити, що порушення HIPAA не дають кожному директору з інформаційних технологій лікарні спати вночі. Однак наші дані показують, що тільки 56% фахівців називають конфіденційність головним ризиком GenAI, тоді як ще більша частина (57%!) хвилюється щодо «послаблення» клінічного судження. Це говорить мені про те, що головний страх — це не хакери, а відповідальність.

Ось над чим працюють клініцисти та адміністратори:

• Рулетка з відповідальністю. Якщо алгоритм збиває з курсу турботи, хто підписує перевірку на недбалість? Відсутність чітких правил і стандартів посідає позицію серед прогалин у прозорості (55%), що сигналізує про реальне занепокоєння щодо правового радіуса дії вибуху.
• Регуляторний хлистовий дисбаланс. Сімдесят шість відсотків лідерів вже відчувають себе пригніченими зміною правил Medicare та Medicaid; нашарування непрозорого GenAI поверх цього є важким рішенням, поки не закріпляться захисні бар'єри.
• Дрейф та зміщення моделі. П'ятдесят п'ять відсотків позначають упередженість від недостатньо навчених моделей як критичний ризик, що нагадує нам про те, що застарілі дані можуть бути такими ж небезпечними, як і відсутні дані.

Коротше кажучи, більшість організацій вважають, що їхні брандмауери пристойні; вони НЕ мати чіткий ланцюг відповідальності, коли результат роботи моделі великої мови програмування (LLM) потрапляє до плану догляду. Доки структури управління не визначать власників, журнали аудиту та частоту оновлень, розгортання GenAI продовжуватиме гальмуватися, незалежно від того, наскільки жорстким є стек безпеки.

Чи вважаєте ви, що інструменти GenAI зрештою посилять чи послаблять автономію клініцистів? Як нам розробити системи, що підтримують прийняття рішень, не перевищуючи її?

GenAI готовий Розширювати, а не скорочення, клінічна автономія. Зараз значна частина цієї автономії обмежується сортуванням вхідних повідомлень, паперовою роботою з попереднім дозволом та гімнастикою з електронними медичними картками. Тож не дивно, що персонал першої лінії вважає «оптимізацію робочих процесів» своїм головним варіантом використання GenAI (пріоритет 80%), хоча ледве 63% відчувають себе технічно готовими до виконання. Фармацевти та фахівці суміжних медичних професій вже роблять ставку на переваги: ​​41% та 47% очікують, що GenAI виділить достатньо адміністративного вантажу, щоб зменшити потреби в допоміжному персоналі. Звільнення клініцистів від введення даних означає більше часу особисто з пацієнтами. Це та автономія, якої прагнуть усі.

Однак опитування нагадує нам, що автономія має двосторонній характер, як ми вже згадували раніше: 57% респондентів стурбовані тим, що надмірна залежність від GenAI може притупити клінічне судження. Протиотрутою є продуманий дизайн, а не обмеження. Системи повинні демонструвати свою роботу за допомогою позначок походження, цитат та оцінок достовірності, щоб люди залишалися остаточними арбітрами. Контроль версій та моніторинг після розгортання виявляють прихований дрейф моделі, перш ніж він отруює шляхи надання медичної допомоги, а кнопки «завжди видимого перевизначення» чітко дають зрозуміти, що алгоритм є помічником, а не лікарем.

Управління – це остання миля. Лише 18% фахівців кажуть, що їхня організація має опубліковану політику GenAI. Без прозорого ланцюжка підзвітності навіть найкращий користувацький досвід застрягне в юридичній невизначеності. Надійні політики повинні чітко визначати управління даними, журнали аудиту та розмежування ролей, які будуть узгоджені між лікарями, медсестрами та асистентом лікаря, який натискає кнопку. Коли ми поєднуємо ці бар'єри з дизайном, що відповідає робочому процесу, GenAI перестає відчуватися як загроза автономії та починає діяти так, як благали клініцисти-другопілоти.

Що найбільше стримує впровадження — технологічні обмеження, регуляторна невизначеність, проблеми з робочим процесом чи щось глибше, як-от культурний опір?

Це дефіцит виконання, загорнутий у застарілі стимули. Більшість керівників систем охорони здоров'я можуть сформулювати чітке бачення GenAI, але їхня операційна спроможність не наздоганяє. Наше опитування показує розбіжність в одному рядку: 80% респондентів вважають «оптимізацію робочих процесів» головним пріоритетом, проте лише 63% вважають, що готові це зробити. Бачення — це дешево; інженери-інтегратори, посібники з управління змінами та бюджети на графічні процесори (GPU) — ні.

Управління – це наступна провалля. Лише 18% фахівців знають про опубліковану політику GenAI у своїй лікарні. Без чітких правил використання даних, перевірки та відповідальності кожен перспективний пілотний проект ризикує стати справжнім хаосом. Цей юридичний туман посилюється макроекономічною невизначеністю. Фактично, 75% керівників стурбовані тим, що швидкозмінні державні та федеральні правила перевернуть будь-яке рішення, яке вони впровадять.

Потім починаються тертя на рівні окопів: майже половина керівників називають брудні дані та кошмари з інтеграцією електронних медичних карток основними перешкодами, і лише 42% кажуть, що мають процес інтеграції інструментів GenAI в існуючі робочі процеси. Якщо модель не бачить діаграму або не додає кліків, клініцисти покинуть її ще до обіду.

Нарешті, є «чистилище для пілотів». Численні зовнішні дослідження оцінюють рівень успішності пілотних проектів зі штучним інтелектом у масштабі підприємства приблизно в один з десяти. Ради директорів святкують демонстрацію, випускають прес-релізи та рухаються далі. Тому що ніхто не фінансує наступні нецікаві сантехнічні роботи. GenAI залишатиметься обіцянкою PowerPoint, доки лікарні не наберуть власників продуктів, які вже постачали програмне забезпечення раніше.

Коротше кажучи, технології та культура не є окремими перешкодами. Вони поєднані. Вирішіть питання відповідального керівництва, реальних бюджетів на інтеграцію, чітких бар'єрів, і апетит до GenAI буде відповідати його ажіотажу.

Ви створили системи штучного інтелекту, орієнтовані на прагматичні результати, засновані на доказах. Яку пораду ви б дали керівникам охорони здоров'я, які намагаються зорієнтуватися в ажіотажі та визначити справді цінні інвестиції у штучний інтелект?

Почніть з діагнозу, а не з демонстрації. Перш ніж дозволити блискучому молотку шукати цвяхи, кількісно оцініть цей цвях: чи знизилося використання операційної на 8% протягом двох кварталів поспіль? Чи зменшується кількість апеляцій на відмову та чи втрачає вона дохід? Чи витрачає третє медсестринське відділення дві години на зміну на «перемикання» електронних медичних карток (час, витрачений на перемикання між екранами та завданнями)? Щойно біль стає очевидним, правильний інструмент, як правило, з'являється сам. Як нагадував медичній спільноті сер Вільям Ослер поколінням тому: «Слухайте пацієнта; [він] скаже вам діагноз».

Коли проблема визначена, дослідіть бізнес-кейс, як фінансовий директор. Вимагайте чітких цифр: базових показників, прогнозованих дельт та періодів окупності, які витримають перевірку в залі ради директорів. Пам’ятайте, що лише приблизно кожен десятий пілотний проект зі штучним інтелектом переходить на рівень великого підприємства; якщо постачальник не може показати реального клієнта, який змінив ключовий показник ефективності (KPI), який вас цікавить, продовжуйте роботу.

Далі, вирішіть, що купувати, створювати чи співпрацювати з партнерами. Купівля може пришвидшити окупність інвестицій, але слідкуйте за жартівливими новинками, завуальованими модними словами. Створення дає вам контроль, але лише якщо у вас є команда «тигрів», яка займається управлінням прибутками та збитками та раніше займалася розробкою машинного навчання у виробничому середовищі. Гібридні партнерства часто встановлюють баланс: ваші дані, їхня модель, спільний потенціал, спільний ризик.

Зрештою, пріоритет надайте невеликим, міжфункціональним командам з чіткою відповідальністю. Уявіть собі команду з двох піц, включаючи директора з маркетингу, директора з інформаційних технологій, керівника відділу інженерії даних та лідера першої лінії, а не великі керівні комітети. Узгодьте їхні стимули з багаторічними цілями результатів, а не з короткостроковими показниками, і виділіть їм спеціальний бюджет на інфраструктуру — графічні процесори, інженерію даних, операції машинного навчання (MLOps) — щоб проект просувався далі пілотної стадії.

І нарешті, заглядаючи в майбутнє: як виглядатиме відповідальна, повністю інтегрована система GenAI в умовах лікарні через п'ять років? Які віхи нам потрібно досягти, щоб досягти цього?

Уявіть, що ви заходите до клініки, де лікар ніколи не повертається до клавіатури. Розмова йде плавно, а дискретний агент, що прослуховує навколишнє середовище, фіксує діалог, складає нотатку, дає сигнали на основі рекомендацій та генерує пакет попереднього дозволу ще до того, як лікар торкнеться дверної ручки. Перші пілотні проекти вже доводять цю концепцію до ладу, і 41% клініцистів, які взяли участь у нашому опитуванні, кажуть, що це саме та функція GenAI, яку вони хочуть бачити наступною.

Таку сцену можливою не завдяки науково-фантастичній робототехніці, а завдяки невидимій архітектурі, яка поєднує чисті, сумісні дані з рівнем оркестрації в реальному часі та «управлінням як кодом». Нам ще є домашнє завдання. Щоб заповнити прогалини, спочатку подумайте про прокладання даних, а потім вбудуйте захисні бар'єри (а не прикручуйте їх), щоб перетворити ажіотаж на звичку.

Віхи досягаються природним чином, як тільки закладено фундамент. У перший рік я рекомендую лікарням та системам охорони здоров'я підключити мережу даних, опублікувати загальнокорпоративні рекомендації GenAI та створити конвеєр MLOps. У другий рік впровадження важливо масштабувати документацію середовища в амбулаторних клініках, вимірювати час документування та «час піжами» після робочого часу. У третій рік дозволити GenAI складати апеляції на відмову та пакети попередніх авторизацій (67% керівників заявили, що цей тягар дозрів для усунення). У четвертий та п'ятий роки перейти до підтримки клінічних рішень у режимі реального часу з визначенням походження та, зрештою, плануванням догляду на основі розмов, де система виконує розпорядження в момент їх озвучування.

Дякую за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати Вольтерс Клувер або читати Опитування щодо охорони здоров'я, готової до майбутнього доповідь.