Чтобы преобразовать здравоохранение и науки о жизни, ИИ должен быть заслуживающим доверия

Искусственный интеллект (ИИ) быстро становится неотъемлемой частью организаций здравоохранения и наук о жизни. Однако большинство организаций используют его в отдельных областях, а не масштабируют его для значительного улучшения производительности на уровне всего предприятия. Среди проблем: ИИ в этих отраслях должен соответствовать самым высоким стандартам качества, конфиденциальности и надежности, и он должен быть заслуживающим доверия.

Инструменты ИИ на основе больших языковых моделей (LLM) являются мощными, но большинство LLM не предназначены для требований операций в области здравоохранения и наук о жизни. Они могут производить непоследовательные выходные данные, и их производительность может варьироваться при изменении информации и контекста. Общий ИИ, в частности, обучается на широких, публичных данных – с ограниченной медицинской курированием – и не предназначен для выполнения медицинских, научных или нормативных требований.

Эти проблемы являются недопустимыми в операциях, где решения имеют не только финансовые, но и клинические, научные, юридические и, в конечном итоге, человеческие последствия.

Итог: необходим более высокий стандарт ИИ.

Если организации здравоохранения и наук о жизни хотят использовать ИИ для преобразования своих коммерческих и регулируемых операций, им нужен ИИ, заслуживающий доверия.

Что нужно для создания заслуживающего доверия ИИ

Заслуживающий доверия ИИ производит надежные результаты, последовательно работает при изменении данных и соответствует требованиям и оправдан.

Для достижения этого требуется как научная, так и техническая экспертиза, а также строгий подход, учитывающий каждый аспект ответственного проектирования, использования и мониторинга ИИ. Как это выглядит на практике?

Первый шаг – понять конечную цель: каково требование конечного пользователя, которое должно быть решено ИИ-решением, и как выглядит успех? Это предполагает понимание ролей тех, кто будет использовать ИИ-решение, их потребностей и рабочих процессов, а также либо коммерческих целей, которые они хотят достичь, либо нормативных требований, которым они должны соответствовать.

Эти детали помогут проинформировать ключевые технические решения, такие как выбор подходящих моделей для ИИ-решения, проектирование рамок проверки и установление метрик, по которым будет оцениваться решение.

Заслуживающие доверия системы также учитывают эксперта в цикле ngay с начала процесса проектирования, а не как после мысли. Это предполагает использование человеческих экспертов – включая клинических, научных, нормативных и коммерческих экспертов – для обеспечения правильного проектирования и развертывания ИИ-решения и рассмотрения того, как решение повлияет на работу конечного пользователя.

Конечно, доверие не только зарабатывается на этапе проектирования – оно должно поддерживаться на протяжении всего срока службы ИИ-решения. Механизмы, такие как ИИ-данные, или циклы обучения, которые непрерывно обновляют модели новыми данными, чтобы они оставались актуальными, точными и заслуживающими доверия. Армирование и ограничители, запрограммированные в ИИ-решения, также могут помочь сохранить их производительность на уровне, определенного набора правил.

Реальные применения

ИИ уже принимается и заслуживает доверия и оказывает влияние в реальных случаях использования для некоторых из крупнейших компаний в области наук о жизни.

В одном случае ведущая фармацевтическая компания стремилась улучшить взаимодействие с медицинскими специалистами (МС) на нескольких брендах и рынках. Способность компании взаимодействовать с МС и оптимизировать маркетинговые стратегии была осложнена такими проблемами, как проблемы управления данными, отсутствие информации на уровне клиентов и трудности с адаптацией.

Компания реализовала решение для взаимодействия в нескольких каналах. Оно объединило прогностические сигналы для взаимодействия МС с рекомендациями “следующего лучшего действия”, которые помогли командам решить, как темперировать выход и какие последующие действия предпринять. Компания увидела четырехкратное улучшение способности выявлять высокоценных пациентов, а также увеличение на 20% и 36% новых пациентов для двух своих брендов.

Другим примером является обзор литературы, необходимый для разработки лекарств. Проведение этих обзоров может занять месяцы и требует глубокой экспертизы в области, тщательного планирования, значительных ручных усилий и многое другое. Они также могут быть трудными для масштабирования и восприимчивыми к ошибкам.

Решения ИИ могут автоматизировать основные части обзоров литературы, от разработки протокола до поиска и отбора, извлечения данных и анализа и отчетности. Для любой работы, которую выполняет ИИ-решение, исследователи или другие могут просмотреть логику каждого решения.

Теперь с ИИ обзоры, которые ранее занимали месяцы, могут быть завершены всего за несколько дней и с меньшим количеством ошибок. В одном случае ИИ-решение помогло крупной фармацевтической компании достичь первоначального экрана для научно-литературного обзора семь раз быстрее, чем традиционный ручной процесс. Это сократило предполагаемое время скрининга с 20 дней до менее трех дней.

ИИ также создает новые возможности в этой области. Например, он позволил компаниям создавать “живые” обзоры, которые могут быть непрерывно обновлены с последними опубликованными данными.

Сотрудничество является необходимым

Создание заслуживающих доверия ИИ-решений для здравоохранения и наук о жизни требует сочетания экспертизы, которую ни одна организация не может предоставить самостоятельно. Это почему подобные компании сотрудничают, объединяя технические и предметные знания и возможности, необходимые для создания полных, проверенных ИИ-систем, которые могут масштабироваться как на регулируемых, так и на коммерческих рабочих процессах.

Правильный технический партнер, например, привносит инженерную глубину и обширный опыт для развертывания и запуска ИИ на уровне предприятия. Они могут предоставить открытые модели для обеспечения прозрачности, необходимой для заслуживающего доверия ИИ, и программные компоненты, которые позволяют строить ИИ-решения быстрее. И их опыт создания заслуживающих доверия ИИ-решений для других отраслей может помочь им предвидеть проблемы и укрепить конструкции.

С другой стороны, эффективный сотрудник на стороне предметной области привносит не только глубокую экспертизу клинического развития и коммерциализации, но и доказанный опыт создания заслуживающих доверия ИИ-решений. У них есть необходимые ингредиенты для создания этих решений, такие как экспертиза в области науки о данных, нормативные знания и история безопасного и ответственного использования данных. Но они также могут предложить больше для поддержки развертывания ИИ, от готовности оспорить общественные бенчмарки, чтобы убедиться, что ИИ-решение работает так, как ожидается, до ресурсов, таких как инженеры, развернутые вперед, которые могут помочь интегрировать ИИ-решения в рабочие процессы конечных пользователей, учитывая уникальные конфигурации ИТ-систем и политики конечного пользователя.

Изменение того, как выполняется работа

ИИ не является просто еще одним инструментом для организаций здравоохранения и наук о жизни. Сделанный правильно, он меняет то, как выполняется работа и как решаются проблемы. Заслуживающий доверия ИИ, в частности, уже доказывает, что он может сократить сроки, улучшить точность и помочь командам более ловко решать сложные проблемы, переосмысливая рабочие процессы для эпохи ИИ.

По мере того, как ИИ переходит от генерации идей к принятию решений и выполнению сложных рабочих процессов, организации, которые принимают эту эволюцию, смогут разблокировать новые операционные модели, которые сделают их более эффективными, более информированными и более отзывчивыми к быстро меняющимся требованиям в здравоохранении и науках о жизни.