Почему модели ИИ не решают основные проблемы радиологии

Большинство работ по ИИ в радиологии сегодня сосредоточено на диагностических моделях. Основное внимание уделяется повышению точности за счет обучения на большем количестве данных и совершенствования моделей. Этот подход рассматривает радиологию в основном как задачу распознавания образов, где лучшее обнаружение должно улучшить всю систему. На первый взгляд, это кажется разумным: если обнаружение улучшается, качество диагностики должно улучшиться тоже. Однако этот взгляд упускает из виду основную проблему.

Основная проблема в радиологии заключается в том, как сама диагностика структурирована. Это не ограничение распознавания образов, а то, как организована работа и принимаются решения. И улучшение моделей не решает эту проблему. Ниже мы рассмотрим, почему это происходит и какие изменения необходимы за пределами точности моделей.

Проблема является структурной

Модели CV помогают в распознавании образов в изображениях. В контролируемых исследованиях они могут достичь производительности, сравнимой с радиологами, с AUC часто выше 0,90, и в некоторых случаях даже превышающей производительность специалистов. Однако они работают только с данными изображений. Они выделяют возможные находки, но не участвуют в самом диагностическом процессе. Они не объединяют разные входные данные в единую диагностику и не направляют, как принимаются решения. Во многих областях способность обнаруживать находки больше не является основным ограничением.

В то же время они работают только с данными изображений. Они выделяют возможные находки, но не участвуют в самом диагностическом процессе. Они не объединяют разные входные данные в единую диагностику и не направляют, как принимаются решения. Во многих областях способность обнаруживать находки больше не является основным ограничением. Они предназначены для распознавания образов, а не для участия в диагностике как процессе.

На практике это означает, что структура не меняется. Радиологи остаются ответственными за просмотр результатов и принятие окончательных решений, а выводы ИИ часто требуют дополнительной верификации. Ответственность остается с врачом. Рабочий процесс не меняется. Ограничение остается. Каждое исследование по-прежнему назначается одному радиологу, который должен просмотреть, интерпретировать, проверить и составить отчет. Исследования показывают, что производительность клинициста все еще сильно зависит от того, как обрабатываются ошибки ИИ, и неправильные выводы могут негативно повлиять на процесс принятия решений.

Модель не может пересмотреть свое собственное решение. Если она совершает ошибку, нет возможности пересмотреть дело с дополнительным контекстом. Результат остается фиксированным, в то время как реальная диагностика требует постоянной корректировки. Их выводы статичны, в то время как клиническое рассуждение по своей сути итеративно.

В результате остаются ограничения, сохраняется вариативность, и процесс продолжает зависеть от одного радиолога. По мере роста объема изображений система, построенная вокруг одного специалиста на случай, неизбежно достигает своих пределов.

Кризис доверия

ИИ в радиологии также создает проблему доверия.

Радиолог не только сомневается в выводе модели. Он сомневается в системе, стоящей за ней, особенно когда ИИ представляется как замена, а не как инструмент, которым он может управлять. Доверие к модели нестабильно. Менее опытные врачи могут слишком сильно полагаться на него и пропустить ошибки. Более опытные врачи после одной ошибки могут перестать использовать его. Эти два шаблона — чрезмерная зависимость и отказ — оба вводят новые риски вместо того, чтобы снижать их.

После ошибки модель часто исключается из процесса принятия решений. Она больше не используется как инструмент, а просто игнорируется. Это нарушает连续ность и ограничивает ее практическую ценность. На практике это приводит к непоследовательному использованию вместо стабильной интеграции в рабочий процесс.

Это отражает более глубокий конфликт с тем, как работает медицина. Радиолог не может передать ответственность за диагностику системе. Клиническая и юридическая ответственность остается с врачом. Отношение к ИИ как к замене идет вразрез со структурой медицинской практики.

Это создает структурный конфликт, где модель предполагает, а врач должен проверить. Распознавание можно автоматизировать. Ответственность нельзя. И пока ответственность нельзя передать, каждый вывод модели должен быть проверен, что ограничивает ее способность снижать рабочую нагрузку.

Иллюзия эффективности

ИИ не удаляет работу у радиолога. Он добавляет слой контроля. Врач по-прежнему интерпретирует исследование и также должен проверить вывод модели. Это создает двойную работу вместо экономии времени. Вместо того, чтобы исключать усилия, ИИ часто перераспределяет их в дополнительные шаги проверки и корректировки.

Система может показаться быстрее, но на практике время смещается в дополнительные проверки, а не снижается. Со временем это накопление инструментов увеличивает операционные накладные расходы без фундаментального улучшения того, как производится диагностика.

ИИ также вводит фрагментацию. Большинство моделей построены для узкой задачи: одного анатомического региона, модальности или патологии. Чтобы покрыть реальные клинические потребности, клинике необходимо использовать несколько моделей. Вместо единой системы это приводит к фрагментированному набору инструментов.

Каждая модель приносит свою собственную интерфейс, интеграцию и требования к обслуживанию. Это увеличивает сложность системы и добавляет больше точек взаимодействия.

В результате система становится более трудной в управлении, в то время как основной диагностический процесс остается неизменным.

Ограничения масштабирования ИИ

С каждой новой версией модели доверие должно быть восстановлено. Рабочий процесс начинает адаптироваться к модели, вместо того, чтобы поддерживать врача. Это еще больше смещает фокус от улучшения системы самой по себе к адаптации к отдельным инструментам.

Это еще более усложняется узким фокусом большинства моделей. Каждая из них предназначена для конкретной задачи или анатомического региона. На практике это означает, что клинике необходимо использовать несколько моделей одновременно, каждая из которых имеет свои собственные ограничения, интеграции и затраты. Система становится более трудной в эксплуатации.

В то же время становится ясно, где ИИ имеет наибольшее влияние сегодня. Не в интерпретации изображений, а в улучшении системы вокруг них — маршрутизации исследований, управления очередями, назначения дел подходящему специалисту и прогнозирования рабочей нагрузки. Эти области выигрывают от координации, а не изолированного прогнозирования.

Что произошло на практике

В нашей сети клиник, где ежегодно выполняется более миллиона исследований МРТ и КТ в более чем 40 клиниках трех стран, мы реализовали несколько моделей ИИ, включая одобренные FDA решения. Установка была простой: модель анализировала исследования изображений, генерировала отчет, и радиолог просматривал и подтверждал его. Ожидаемым результатом была более быстрая обработка и меньше ошибок.

На практике опытные радиологи продолжали интерпретировать каждое исследование самостоятельно, прежде чем смотреть на вывод модели. Работа с сгенерированным текстом часто требовала больше усилий, чем написание с нуля, поскольку он не соответствовал их стилю отчетности. Процесс не ускорился и во многих случаях стал медленнее. В некоторых случаях взаимодействие с моделью добавляло больше трения, чем ценности.

Поведение пользователей также создавало риск. Когда модель совершала ошибку, опытные радиологи склонялись к потере доверия и停止у использования ее. Менее опытные врачи были более склонны полагаться на систему, увеличивая шанс пропустить ошибки и связанную с этим клиническую и юридическую ответственность.

Эти наблюдения указывают на более глубокую проблему. Улучшение отдельных инструментов не меняет, как работает система. Ограничение лежит в рабочем процессе, построенном вокруг одного радиолога, обрабатывающего исследование от начала до конца. Эти ограничения делают трудным улучшение системы только за счет добавления инструментов.

В DICO мы подходили к этому по-другому. Вместо добавления ИИ к существующему рабочему процессу мы сосредоточились на структуре самой по себе. Дела можно разбить на части, каждая из которых обрабатывается соответствующим специалистом, работающим напрямую с данными изображений. Окончательный отчет собирается из этих входных данных, а ИИ поддерживает координацию. Диагностика, в этой модели, больше не пишется одним человеком — она собирается из нескольких вкладов.

Это были не вопросы качества модели. Это были вопросы структуры.

Переосмысление диагностической системы

Современная радиология построена на одном предположении. Одно исследование, один радиолог. Это создает ограничения, вариативность и ограничивает масштабируемость. Основная проблема не в том, что модели совершают ошибки. Система не построена для работы с ними. Она построена на нескалируемом фундаменте.

Неитеративный инструмент помещается в процесс, который зависит от итерации. В клинической практике радиология не является однопроходным решением. Исследования показывают, что несогласованность между первоначальной и второй интерпретацией происходит в ~30% случаев, и клинически значимые расхождения могут повлиять на управление в ~18-20% случаев. Вторые мнения не являются исключением, а обычной частью диагностической работы.

Более широко, во всей медицине вторые мнения приводят к изменению диагноза в 10-62% случаев, в зависимости от обстановки.

Без возможности пересмотреть, координировать и переоценить с контекстом выводы модели остаются статичными, в то время как реальная диагностика требует постоянной корректировки.

Следующий шаг не заключается в создании более точных моделей. Это переосмысление диагностической системы.

Сдвиг происходит от отдельных инструментов ИИ к единому способу управления диагностикой — где диагностика не является единственным решением, а процессом, который маршрутизируется и интерпретируется на нескольких шагах. Ограничение не в отсутствии интеллектуальных моделей, а в отсутствии системы, которая может координировать диагностическую работу как процесс.