Решение проблем скептицизма в отношении ИИ в здравоохранении: преодоление препятствий для безопасного общения

Лидеры здравоохранения стремятся принять ИИ, частично чтобы идти в ногу с конкурентами и другими отраслями, но, что более важно, чтобы повысить эффективность и улучшить опыт пациентов. Однако только 77% лидеров здравоохранения действительно доверяют ИИ, чтобы он принес пользу их бизнесу.

Хотя чат-боты ИИ отлично справляются с выполнением рутинных задач, обработкой данных и суммированием информации, высокорегулируемая отрасль здравоохранения больше всего беспокоится о надежности и точности данных, которые вводятся в эти инструменты и интерпретируются ими. Без надлежащего использования и обучения сотрудников данные становятся дополнительными угрозами.

Тем не менее, 95% лидеров здравоохранения планируют увеличить бюджеты на ИИ на 30% в 2025 году, и большие языковые модели (LLM) становятся одним из наиболее доверенных инструментов. По мере созревания LLM 53% лидеров здравоохранения уже реализовали формальные политики, чтобы помочь их командам адаптироваться к ним, и еще 39% планируют внедрить политику скоро.

Для поставщиков медицинских услуг, которые хотят оптимизировать услуги связи с помощью ИИ, но все еще осторожны в этом отношении, ниже приведены рекомендации по преодолению наиболее распространенных препятствий.

1. Обучение ИИ с помощью надежных медицинских источников

Хотя лидеры здравоохранения могут не быть напрямую вовлечены в обучение ИИ, они должны сыграть ключевую роль в надзоре за его внедрением. Они должны обеспечить, чтобы поставщики чат-ботов обучали и регулярно обновляли свой ИИ с помощью достоверных источников.

Богатые, структурированные данные, которые фиксируются обязательными электронными медицинскими картами (ЭМК), предлагают обширные хранилища цифровых медицинских данных, которые теперь могут служить основой для обучения алгоритмов ИИ. Продвинутые LLM могут понимать медицинские исследования, технический анализ, обзоры литературы и критические оценки. Однако вместо того, чтобы обучать эти инструменты всеми данными сразу, новые данные показывают, что сосредоточение внимания на меньшем количестве пересечений максимизирует производительность ИИ, сохраняя при этом низкую стоимость обучения.

2. Обеспечение соблюдения правил HIPAA при работе с данными

Закон о портативности и подотчетности страхования здоровья (HIPAA) определяет стандарты защиты конфиденциальной медицинской информации пациентов (PHI). Чтобы соответствовать этим правилам, лидеры здравоохранения должны обеспечить, чтобы третьи стороны:

• Собирали только минимальное количество PHI, необходимое для выполнения цели чат-бота.
• Предоставляли доступ к PHI только уполномоченному персоналу с сильными паролями и политиками аутентификации.
• Применяли надежные методы шифрования для защиты PHI как в состоянии покоя, так и при передаче.
• Хранили необходимые данные на серверах, соответствующих требованиям HIPAA, с сильным контролем доступа.
• Заключали соглашения о деловых ассоциатах (BAAs), чтобы соответствовать требованиям HIPAA.
• Запрашивали их план реагирования на инциденты безопасности.

Лидеры здравоохранения, использующие эти инструменты, должны регулярно проверять отчеты об доступе – шаг, который также легко автоматизировать с помощью ИИ – и отправлять уведомления руководству, если происходит необычная деятельность.

Кроме того, они должны получить явное и информированное согласие пациентов перед сбором и использованием их PHI. При запросе согласия необходимо сообщить, как будут использоваться и защищены данные пациентов.

3. Хорошо спроектированные интерфейсы, которые улучшают рабочие процессы

Одной из самых больших проблем при переходе к обязательным ЭМК была удобство использования технологии. Врачи были недовольны временем, потраченным на канцелярские задачи, когда они адаптировались к сложным рабочим процессам, увеличивая риск профессионального выгорания и вероятность совершения ошибок, которые могут повлиять на лечение пациентов.

При работе с третьими сторонами запросите демонстрацию и второе мнение, прежде чем выбрать платформу или программное решение ИИ. Не забудьте спросить, позволяет ли их продукт настраиваться для адаптации к текущим программам, чтобы вы могли интегрировать готовые функции, которые лучше всего подходят для ваших рабочих процессов.

Пользовательский дизайн и стандартизированные форматы и протоколы данных помогут облегчить беспрепятственный обмен информацией между технологиями здравоохранения и платформами ИИ. С этими стандартами ИИ-алгоритмы могут быть осмысленно интегрированы в клиническую помощь в различных условиях здравоохранения. Установленные протоколы также помогают этим инструментам работать лучше, облегчая взаимодействие и предоставляя доступ к более крупным, разнообразным наборам данных.

4. Правильное использование и обучение сотрудников

Исследование 2024 года показало, что медицинские советы, предоставленные ‘человеческими врачами и ИИ’, были, в самом деле, более полными, но менее эмпатичными, чем те, которые предоставлялись ‘человеческими врачами’ в одиночку. Чтобы мостить этот разрыв, лидеры здравоохранения должны понять возможности и ограничения ИИ и обеспечить надлежащий человеческий надзор и вмешательство.

Лидеры здравоохранения могут встроить чат-боты в свои веб-сайты и приложения для пациентов, чтобы предоставить пользователям мгновенный доступ к медицинской информации, помогая в самодиагностике и здравоохранении. Эти инструменты могут отправлять своевременные напоминания пациентам о необходимости пополнить рецепты, помогая пациентам придерживаться планов лечения. Они также могут помочь классифицировать пациентов по степени тяжести их состояния, помогая поставщикам медицинских услуг расставлять приоритеты в случаях и эффективно распределять ресурсы.

Тем не менее, эти инструменты все еще могут давать неверную информацию, и крайне важно, чтобы человеческий проверяющий участвовал в сложных задачах. Работайте с третьими сторонами, чтобы определить свое видение инструментов связи ИИ и создать желаемые рабочие процессы. Как только вы согласуете свои случаи использования, операционные и культурные процессы управления изменениями – такие как 8-этапный процесс изменения Коттера – предлагают дорожную карту для обучения сотрудников, в конечном итоге улучшая результаты для пациентов.

5. Попросите чат-бота обнаружить ошибки

Ни один бизнес-лидер не хочет совершать ошибки, но отрасль здравоохранения – это высокорискованная среда, где даже незначительные упущения могут привести к серьезным последствиям. Однако даже лучшие клиницисты не застрахованы от медицинских ошибок. ИИ может быть мощным инструментом для улучшения ухода за пациентами, обнаруживая ошибки и заполняя пробелы.

Исследование 2023 года использовало GPT-4 для транскрипции и суммирования разговора между пациентом и клиницистом, а затем использовало чат-бот для проверки разговора на наличие ошибок. Во время проверки он обнаружил ошибку в индексе массы тела (ИМТ) пациента. Чат-бот также заметил, что заметки пациента не упоминали анализ крови, который был заказан, и не указывали причину его заказа.

Этот пример показывает, что ИИ можно использовать как дополнение, чтобы помочь врачам справиться с ошибками, пропусками и ошибками ИИ, которые можно использовать для обучения и улучшения приложений ИИ.

ИИ в здравоохранении существует для поддержки врачей и медсестер, упрощения рабочих процессов, улучшения доступа пациентов к медицинской помощи и минимизации упущений. Хотя они не могут полностью заменить сочувствие, интуицию и реальный опыт, которые человеческие поставщики медицинских услуг привносят в дело, эти инструменты предлагают отличные аналитические и экономящие время преимущества. Когда лидеры здравоохранения тратят время на тщательное соблюдение правил HIPAA, прозрачное общение с пациентами и надлежащее обучение сотрудников, они могут внедрять эти инструменты безопасно и уверенно.