Матт Кроусон, доктор медицины, директор управления продуктами ИИ/GenAI в Wolters Kluwer Health – Серия интервью

Доктор Мэтт Кроусон – лидер в области здравоохранения и практикующий хирург, который фокусируется на применении искусственного интеллекта в клинической практике. Он является директором по управлению продуктами ИИ/GenAI в компании Wolters Kluwer (WKL.SW ) Health, где он возглавляет инициативы по улучшению синтеза доказательств и анализа реальных данных. Ранее он возглавлял практику ИИ для поставщиков медицинских услуг в компании Deloitte, разрабатывая решения на основе генеративного ИИ для улучшения документации, циклов доходов и исследований. Он также является доцентом в Гарвардской медицинской школе и является автором более 90 рецензируемых публикаций.

Wolters Kluwer – глобальный поставщик профессиональной информации, программного обеспечения и услуг, поддерживающий клиентов в области здравоохранения, налогообложения и бухгалтерского учета, права и регулирования, финансового соблюдения и ESG. Штаб-квартира компании находится в Нидерландах, и она использует глубокую экспертизу отрасли и передовые технологии для предоставления инструментов, которые оптимизируют рабочие процессы, обеспечивают соблюдение требований и поддерживают принятие критических решений. Операции компании охватывают более 180 стран, а ее предложения организованы по направлениям, таким как Здравоохранение, Налогообложение и бухгалтерский учет, Право и регулирование, Финансовое и корпоративное соблюдение, а также Корпоративная производительность и ESG.

Давайте начнем с личного вопроса – как вы балансируете свои двойные роли как практикующего хирурга и лидера продукта ИИ?

Честно говоря, это начинается с безжалостного разделения времени и промышленного кофе-машины. Утренние клиники сохраняют мои навыки ухода за пациентами, а остальная часть дня посвящена превращению этой боли в спецификации продукта. Две роли дополняют друг друга: увидеть, как резидент кликает через десять экранов, чтобы заказать Тайленол, – все, что мне нужно для рыночных исследований.

Проекты ИИ терпят неудачу, когда в комнате нет человека, который почувствовал бы эту боль. Наш отчет об опросе Future Ready Healthcare показывает, что 80% лидеров считают, что «оптимизация рабочих процессов» является приоритетом. Однако только 63% считают, что они готовы сделать это с помощью генеративного ИИ (GenAI). Это классический разрыв между стратегией и исполнением, который эксперты в области могут закрыть, задавая правильные клинические «почему» до написания одной строки кода.

Мой клинический взгляд также сохраняет миссию практической. Персонал на передовой сказал нам, что их главными задачами являются решение проблем с нехваткой персонала (82%), сокращение административных расходов (77%) и борьба с выгоранием (76%). Если алгоритм не сдвигает одну из этих иголок, он просто театр. Клиницисты быстро отключаются.

Этот взгляд также заставляет меня быть осторожным с тем, где ИИ не должен действовать. Фактически, 57% профессионалов беспокоятся, что过度 зависимость от GenAI может подорвать клиническое суждение, но только 18% говорят, что их организации имеют опубликованные ограничения. До тех пор, пока управление не поспит за ними, мандат ясен: автоматизировать бумажную работу, а не мышление.

Итак, для меня баланс не заключается в кофе против календаря. Это о том, чтобы сохранить одну ногу в клинике – чтобы я никогда не забыл, кому ИИ должен служить – и одну ногу в продукте, чтобы эти знания были доставлены. Если вы сделаете это хорошо, кофе будет просто приятным бонусом.

Отчет Future Ready Healthcare Survey от Wolters Kluwer подчеркивает значущий разрыв между энтузиазмом GenAI и исполнением. Были ли вы удивлены какими-либо из результатов? Что показалось вам наиболее важным лично?

Меня не удивило. Я еще не встретил клинициста, который был бы против автоматизации. Что замедляет внедрение, – это ежедневная борьба с операциями здравоохранения. Опрос кристаллизирует эту реальность. Восемь из десяти лидеров ставят оптимизацию рабочих процессов в качестве приоритета, но едва шесть из десяти говорят, что они готовы позволить GenAI решить эту задачу. Этот разрыв – именно то, что я вижу: юридические мины, данные, которые выглядят больше как ящик с хламом, чем как озеро данных, и финансовые стимулы, которые все еще вознаграждают объем вместо эффективности. Есть другие препятствия, включая вакуум обучения, усталость от тени-ИТ и регулирующий туман.

Что меня поразило, так это то, насколько обыденными были эти препятствия. Нехватка персонала, административная нагрузка и выгорание доминируют в списке проблем, но только 18% организаций имеют формальные политики GenAI. Если вы не знаете, кто подписывает модель или как ее выводы проверяются, энтузиазм умирает в офисе соблюдения требований. Кроме того, 68% респондентов говорят, что затраты на труд являются их наиболее значительным финансовым давлением, и неудивительно, что руководители хотят доказать отдачу от инвестиций (ROI), прежде чем подписать еще один счет за программное обеспечение. Заголовок не «Паника ИИ», а «Отличная идея – покажите мне рабочий процесс и бизнес-кейс».

Более половины опрошенных медицинских специалистов беспокоятся, что GenAI может подорвать клинические навыки принятия решений. Считаете ли вы, что этот страх обоснован – или он отражает более глубокие проблемы с доверием и прозрачностью в системах ИИ?

Некоторая тревога реальна, но она имеет меньше отношения к страхам перед ИИ в стиле HAL-9000 и больше к простой ответственности. Когда инструмент предлагает дифференциальные диагнозы за несколько секунд, вам нужна кристальная прозрачность: Откуда взялось рекомендация, кто подписал ее и как она проверяется? Сегодня только небольшое меньшинство организаций имеет формальное управление GenAI, поэтому клиницисты переходят к осторожности. Это проявляется в наших данных как 57%, которые говорят, что «чрезмерная зависимость может подорвать суждение». Для меня это сигнал, что они не хотят, чтобы черный ящик вторгся в их лицензию на практику.

Я вижу эту проблему через историческую призму. Когда электронные таблици появились в финансовых отделах, некоторые бухгалтеры беспокоились, что их аналитические мышцы атрофируются. Вместо этого программное обеспечение для электронных таблиц стало новой базовой линией, повысив уровень точности. Здравоохранение слишком долго ждало аналогического скачка. Мы теряем слишком много пациентов из-за вариаций в уходе; медицинские ошибки остаются ведущей причиной травм и смерти. Суперсила GenAI может заключаться в сужении этих ошибок, выделяя рекомендации, подчеркивая противопоказания и флагируя аномалии быстрее, чем любой человек может просмотреть карту. Но он должен остаться помощником, а не автономным решателем, особенно в ближайшие три-пять лет.

Итак, да, страх обоснован, но его можно решить. Прозрачные наборы данных, аудиторские следы и человеческие проверки превращают «эрозию ИИ» в «усиление ИИ». Дайте клиницистам прослеживаемые рекомендации и четкие линии ответственности, и эти 57% растают. Это не о том, чтобы заменить экспертизу; это о том, чтобы усилить ее с помощью лучших инструментов.

Только 18% респондентов говорят, что они знают о ясных политиках GenAI в своих организациях. Каковы потенциальные риски развертывания инструментов GenAI без таких управлений?

Представьте себе запуск нового лекарства без этикетки дозировки. Данные здравоохранения очень чувствительны, и модели GenAI становятся умнее только тогда, когда они поглощают этот контекст, богатый защищенной информацией о здоровье (PHI). Без строгих политик управления данными, которые регулируют, кто может загрузить информацию, как эти данные регистрируются и где они находятся, организация находится всего в одном снимке клипборда от утечки конфиденциальности, которая могла бы попасть в заголовки.

Ответственность – это следующая проблема. Если алгоритм предлагает противоречивую дозу, кто съест претензию на халатность? Сейчас ответ неясен, потому что менее одной пятой организаций имеют кодифицированные «правила дороги» для GenAI. В вакууме юристы часто переходят к глубочайшим карманам, и эта неопределенность одна может остановить инновации.

Управление также защищает от более тонких рисков, таких как дрейф модели и скрытая предвзятость. Онкологический бот, обученный на руководствах последнего квартала, может тихо устареть, толкая уход с доказательных рельсов. Политики, которые требуют управления версиями, мониторинга результатов и триггеров заката, сохраняют алгоритмы от старения в опасности безопасности.

Наконец, на кону стоит доверие. Клиницисты беспокоятся, что чрезмерная зависимость от GenAI может притупить их клиническое суждение; развертывание неясных инструментов только подтверждает эти страхи. Ясное управление, прозрачность линии данных, протоколы проверки и человеческие проверки превращают тревогу «черного ящика» в уверенность, что ИИ является вспомогательным партнером, а не бунтующим резидентом.

На основе вашей работы с Wolters Kluwer и в операционной, какой является наиболее реалистичный краткосрочный случай использования GenAI в здравоохранении?

Забудьте о роботизированных хирургах. В течение следующих трех лет убийственный случай использования GenAI – это административное уничтожение. Два пути уже доказывают себя:

1. Прогрессивная запись заметок. Инструменты амбиентного прослушивания теперь создают прогрессивную заметку, пока врач разговаривает с пациентом, а затем сразу же помещают ее в электронную медицинскую карту (ЭМК). Наш опрос показывает, что 41% респондентов ставят это в список желаний GenAI, и технология уже используется в системах здравоохранения, которые принимают новые технологии. Несколько исследований показали, что системы амбиентного диктирования могут сократить когнитивную нагрузку на 51% и послечасовое «пижамное время» более чем на 60%. Это жесткий ROI; вы можете почувствовать его быстро.

2. Защита доходов в заднем офисе. Следующий домино – пакеты предварительного разрешения, письма об апелляции и другие административные проблемы. Для справки 67% лидеров говорят, что предварительное разрешение само по себе душит производительность, и 62% указывают на административную нагрузку ЭМК. Большие языковые модели, которые читают карту и автоматически заполняют эти формы, уже срезают дни с претензий и освобождают персонал для более ценной работы.

Почему эти два? Они попадут в тройной удар низкого клинического риска, высокой облегчения рабочей нагрузки и четкого оправдания затрат. На рынке, где 68% руководителей перечисляют затраты на персонал в качестве главного финансового давления, инструменты, которые возвращают часы без изменения плана ухода, – это самый легкий «да». Автономная диагностика придет позже; сейчас GenAI оправдывает себя, делая клипборд исчезнуть.

Опрос отмечает, что данные не являются главным риском, на который указывают респонденты – что удивительно, учитывая, как часто проблемы конфиденциальности данных доминируют в заголовках. Какие риски видят клиницисты и администраторы как более важные?

Меня также удивило. Заголовки заставили бы нас поверить, что нарушения HIPAA держат каждого директора информационных технологий больницы бодрствующим ночью. Однако наши данные показывают, что только 56% профессионалов указывают конфиденциальность в качестве главного риска GenAI, в то время как еще большая доля (57%!) беспокоится о «притуплении» клинического суждения. Это говорит мне, что страх на передовой не является хакерами, а ответственностью.

Вот, что беспокоит клиницистов и администраторов:

1. Рулетка ответственности. Если алгоритм толкает уход с курса, кто подписывает чек на халатность? Отсутствие ясных правил и стандартов занимает место рядом с пробелами в прозрачности на уровне 55%, сигнализируя о реальной тревоге по поводу юридического взрыва.

2. Регуляторная плетка. Семьдесят шесть процентов лидеров уже чувствуют себя разбитыми из-за сдвигающихся правил Medicare и Medicaid; наложение неясного GenAI на это – трудная продажа, пока ограничения не укрепятся.

3. Дрейф модели и предвзятость. Пятьдесят пять процентов флагируют предвзятость из недообученных моделей в качестве критического риска, напоминая, что застойные данные могут быть такими же опасными, как и отсутствующие данные.

Вкратце, большинство организаций предполагают, что их брандмауэры приличны; они не имеют ясной цепочки ответственности, когда вывод модели LLM попадает в план ухода. До тех пор, пока кадры управления не укажут владение, аудиторские следы и обновления, развертывания GenAI будут продолжать тормозиться, независимо от того, насколько плотен стек безопасности.

Считаете ли вы, что инструменты GenAI в конечном итоге повысят или ослабят автономию клиницистов? Как мы можем спроектировать системы, которые поддерживают принятие решений без превышения полномочий?

GenAI, вероятно, расширит, а не уменьшит клиническую автономию. Сейчас большая часть этой автономии сдерживается трьезвой сортировкой, предварительным разрешением на бумаге и акробатикой ЭМК. Неудивительно, что персонал на передовой ставит «оптимизацию рабочих процессов» в качестве своего главного случая использования для GenAI (80% приоритета), хотя едва 63% чувствуют себя технически готовыми к его выполнению. Фармацевты и специалисты здравоохранения уже ставят на плюсы: 41% и 47% ожидают, что GenAI сможет сократить административный жир, чтобы уменьшить потребность в поддерживающем персонале. Освобождение клиницистов от ввода данных означает больше времени, проведенного с пациентами. Это автономия, которую все хотят.

Однако опрос напоминает нам, что автономия работает в обе стороны, как мы уже обсуждали ранее: 57% респондентов беспокоятся, что чрезмерная зависимость от GenAI может притупить клиническое суждение. Противоядием является вдумчивый дизайн, а не торможение. Системы должны показать свою работу с флагами происхождения, цитатами и оценками уверенности, чтобы люди оставались окончательными арбитрами. Управление версиями и мониторинг после развертывания ловят скрытый дрейф модели до того, как он испортит пути ухода, в то время как «всегда видимые» кнопки отмены делают ясным, что алгоритм является помощником, а не лечащим врачом.

Управление – это последняя миля. Только 18% профессионалов говорят, что их организация имеет опубликованную политику GenAI. Без прозрачной цепочки ответственности даже лучший пользовательский опыт застрянет в юридической тьме. Политики, которые четко определяют управление данными, проверку и роль, должны быть социализированы во всех физиках, медсестрах и фельдшерах, которые нажимают кнопку. Когда мы сочетаем эти ограничения с дизайном, родным для рабочих процессов, GenAI перестает чувствоваться как угроза автономии и начинает действовать как желаемый копилот.

Что тормозит принятие наиболее – технологические ограничения, неопределенность регулирования, трение рабочих процессов или что-то более глубокое, такое как культурное сопротивление?

Это дефицит исполнения, завернутый в наследственные стимулы. Большинство лидеров здравоохранения могут артикулировать гладкий видение GenAI, но их операционная сила не поспевает. Наш опрос показывает разрыв в одной строке: 80% респондентов ставят «оптимизацию рабочих процессов» в качестве приоритета, но только 63% считают, что они готовы сделать это с помощью GenAI. Видение дешево; инженеры по интеграции, книги по управлению изменениями и бюджеты GPU не являются таковыми.

Управление – это следующая яма. Только 18% профессионалов даже знают о опубликованной политике GenAI в своей больнице. Без ясных правил использования данных, проверки и ответственности каждый перспективный пилот рискует стать гранатой соблюдения требований. Этот юридический туман усиливается макро-неопределенностью. Фактически, 75% лидеров беспокоятся, что быстро меняющиеся государственные и федеральные правила нарушат любое решение, которое они развернут.

Затем идет трение на уровне окопов: почти половина руководителей указывает на грязные данные и кошмары интеграции ЭМК в качестве главных барьеров, и только 42% говорят, что у них есть процесс для крепления инструментов GenAI к существующим рабочим процессам. Если модель не видит карты или добавляет клики, клиницисты бросят ее до обеда.

Наконец, есть «пилотская пустыня». Несколько внешних исследований оценивают успех пилотов ИИ, выпускаемых на корпоративный уровень, примерно в одну десятую. Совет директоров празднует демонстрацию, выпускает пресс-релиз и переходит к следующему. Потому что никто не финансирует последующую не гламурную работу по сантехнике. GenAI останется обещанием PowerPoint, пока больницы не укомплектуют продуктами владельцами, которые раньше доставляли программное обеспечение.

Вкратце, технологии и культура не являются отдельными барьерами. Они слились. Решите проблему подотчетного лидерства, реальных бюджетов на интеграцию, явных ограничений и аппетита к GenAI соответствует его ажиотажу.

Что бы вы посоветовали лидерам здравоохранения, пытающимся ориентироваться в ажиотаже и определить действительно ценные инвестиции в ИИ?

Начните с диагноза, а не с демонстрации. Прежде чем позволить блестящему молоту искать гвозди, количественно оцените гвоздь: Снижена ли утилизация операционной комнаты на 8% за два последовательных квартала? Задерживаются ли апелляции по отказам и лихорадочно ли кровоточат доходы? Тратит ли медсестринский персонал на третьем этаже два часа в смене на «время переключения» ЭМК (время, проведенное в переключении между экранами и задачами)? Как только боль станет явной, правильный инструмент, скорее всего, представится. Как сэр Уильям Ослер напомнил медицинскому сообществу поколения назад, «Слушайте пациента; [он] скажет вам диагноз».

С проблемой, зафиксированной, допросите бизнес-кейс, как финансовый директор. Требуйте жесткие цифры: базовые метрики, прогнозируемые дельты и окна окупаемости, которые выдерживают проверку совета директоров. Помните, что только около одной десятой пилотов ИИ выпускаются на корпоративный уровень; если поставщик не может показать живого клиента, который сдвинул ключевой показатель эффективности (KPI), который вам важен, продолжайте идти.

Далее решите, купить, построить или стать партнером. Покупка может ускорить время до получения ценности, но смотрите за паром, одетым в модные слова. Строительство дает вам контроль, но только если у вас есть тигровая команда прибыли и убытков, которая раньше доставляла машинное обучение в производство. Гибридные партнерства часто находят баланс: ваши данные, их модель, разделяемый апсайд, разделяемый риск.

Наконец, поставьте во главу угла небольшие, межфункциональные команды с явной подотчетностью. Подумайте о двухпиццевой команде, включающей главного медицинского директора, главного информационного директора, руководителя инженерии данных и клинического чемпиона на передовой, а не больших комитетов по управлению. Согласуйте их стимулы с многолетними целями результатов, а не краткосрочными метриками, и дайте им выделенный бюджет инфраструктуры – GPU, инженерия данных, операции машинного обучения (MLOps) – чтобы проект продвинулся за пределы пилотной стадии.

Наконец, глядя вперед: какой будет выглядеть ответственный, полностью интегрированный системный GenAI в больничной обстановке через пять лет? Какие вехи нам нужно достичь, чтобы добраться туда?

Представьте себе вход в клинику, где врач никогда не поворачивается к клавиатуре. Разговор течет, и дискретный агент амбиентного прослушивания захватывает диалог, создает заметку, сигнализирует о руководствах, основанных на рекомендациях, и генерирует пакет предварительного разрешения, прежде чем рука врача коснется дверной ручки. Ранние пилоты уже доказывают концепцию, и 41% клиницистов в нашем опросе говорят, что это именно тот функционал GenAI, который они хотят дальше.

Что делает эту сцену возможной, – это не научная фантастика робототехники; это невидимая архитектура, которая объединяет чистые, интероперабельные данные с реальным слоем оркестровки и «управлением в виде кода». У нас еще есть домашнее задание. Чтобы закрыть пробелы, подумайте о сантехнике данных сначала, затем встроите ограничения (а не прикрепите их), чтобы превратить ажиотаж в привычку.

Вехи естественным образом следуют, как только основа будет заложена. В первый год я рекомендую больницам и системам здравоохранения подключить ткань данных, опубликовать корпоративные рекомендации по GenAI и построить конвейер MLOps. Во второй год реализации будет важно масштабировать амбиентную документацию во всех амбулаторных клиниках, измерять время документации и послечасовое «пижамное время». В третьем году важно, чтобы GenAI создал апелляции по отказам и пакеты предварительного разрешения (67% лидеров говорят, что эта нагрузка готова к ликвидации). В четвертом и пятом годах эволюционируйте в режиме реального времени клинической поддержки решений с происхождением и, в конечном итоге, в планирование ухода на основе разговора, где система выполняет заказы в момент их произнесения.

Спасибо за отличный интервью, читатели, которые хотят узнать больше, должны посетить Wolters Kluwer или прочитать Отчет об опросе Future Ready Healthcare.