Чат-боты с искусственным интеллектом многообещающи, но ограничены в содействии изменению здорового поведения

В последние годы в сфере здравоохранения наблюдается значительный рост использования чат-ботов, основанных на больших языковых моделях, или генеративных диалоговых агентов. Эти инструменты на базе искусственного интеллекта применяются для различных целей, включая обучение пациентов, оценку их состояния и управление ими. По мере роста популярности этих чат-ботов исследователи из Иллинойсского университета в Урбане-Шампейне ДЕЙСТВИЕ Лаборатория более внимательно рассмотрели их потенциал в содействии изменению здорового поведения.

Мишель Бак, докторант в области информационных наук, и профессор Джесси Чин недавно опубликовали свои выводы в журнале Журнал Американской ассоциации медицинской информатикиЦелью их исследования было определить, способны ли большие языковые модели эффективно определять мотивационные состояния пользователей и предоставлять необходимую информацию для поддержки их движения к более здоровым привычкам.

Дизайн исследования

Чтобы оценить возможности большие языковые модели Чтобы способствовать изменению поведения, Бак и Чин разработали комплексное исследование с участием трех известных моделей чат-ботов: ChatGPT, Google Bard и Llama 2. Исследователи создали серию из 25 сценариев, каждый из которых ориентирован на конкретные потребности здоровья, такие как низкая физическая активность, диета и питание. проблемы, проблемы психического здоровья, скрининг и диагностика рака, заболевания, передающиеся половым путем, и зависимость от психоактивных веществ.

Сценарии были тщательно разработаны, чтобы представить пять различных мотивационных стадий изменения поведения:

1. Сопротивление переменам и недостаточная осведомленность о проблемном поведении.
2. Повышенная осведомленность о проблемном поведении, но двойственное отношение к внесению изменений.
3. Намерение действовать небольшими шагами к переменам
4. Инициирование изменения поведения с обязательством поддерживать его.
5. Успешное поддержание изменения поведения в течение шести месяцев с обязательством поддерживать его.

Оценивая ответы чат-ботов на каждый сценарий на разных этапах мотивации, исследователи стремились определить сильные и слабые стороны больших языковых моделей в поддержке пользователей на протяжении всего процесса изменения их поведения.

Что обнаружило исследование?

Исследование выявило как многообещающие результаты, так и существенные ограничения способности больших языковых моделей поддерживать изменение поведения. Бак и Чин обнаружили, что чат-боты могут эффективно определять мотивационные состояния и предоставлять соответствующую информацию, когда пользователи установили цели и твердо намерены действовать. Это говорит о том, что люди, которые уже находятся на более поздних стадиях изменения поведения, например те, кто инициировал изменения или успешно поддерживал их в течение некоторого времени, могут извлечь выгоду из руководства и поддержки, предоставляемых этими инструментами на базе искусственного интеллекта.

Однако исследователи также обнаружили, что большие языковые модели с трудом распознают начальные стадии мотивации, особенно когда пользователи сопротивляются изменениям или неоднозначно относятся к внесению изменений в свое поведение. В этих случаях чат-боты не смогли предоставить адекватную информацию, которая помогла бы пользователям оценить их проблемное поведение и его последствия, а также оценить, как их окружение повлияло на их действия. Например, столкнувшись с пользователем, который сопротивляется увеличению своей физической активности, чат-боты часто по умолчанию предоставляют информацию о посещении тренажерного зала, а не эмоционально вовлекают пользователя, подчеркивая негативные последствия малоподвижного образа жизни.

Более того, исследование показало, что большие языковые модели не дают достаточных рекомендаций по использованию систем вознаграждения для поддержания мотивации или снижения воздействия внешних стимулов, которые могут увеличить риск рецидива, даже для пользователей, которые уже предприняли шаги по изменению своего поведения. Бак отметил: «Чат-боты, основанные на больших языковых моделях, предоставляют ресурсы для получения внешней помощи, например, социальной поддержки. Им не хватает информации о том, как контролировать окружающую среду, чтобы устранить стимул, подкрепляющий проблемное поведение».

Последствия и будущие исследования

Результаты данного исследования подчёркивают существующие ограничения больших языковых моделей в понимании мотивационных состояний в разговорах на естественном языке. Чин пояснил, что эти модели обучены отражать релевантность языка пользователя, но им сложно отличить пользователя, который обдумывает изменения, но всё ещё колеблется, от пользователя, имеющего твёрдое намерение действовать. Кроме того, семантическое сходство запросов пользователей на разных этапах мотивации затрудняет для моделей точное определение готовности пользователя к изменениям исключительно на основе его языка.

Несмотря на эти ограничения, исследователи полагают, что чат-боты на основе больших языковых моделей могут оказать ценную поддержку пользователям, обладающим сильной мотивацией и готовым к действию. Чтобы полностью реализовать этот потенциал, будущие исследования будут сосредоточены на тонкой настройке этих моделей для лучшего понимания мотивационных состояний пользователей посредством использования языковых сигналов, моделей поиска информации и социальных детерминант здоровья. Оснащая модели более конкретными знаниями и улучшая их способность распознавать различные стадии мотивации и реагировать на них, исследователи надеются повысить эффективность этих инструментов на базе ИИ в содействии здоровому изменению поведения.

Чат-боты с искусственным интеллектом в изменении поведения

Исследование, проведённое в лаборатории ACTION при Иллинойсском университете в Урбане-Шампейне, пролило свет на потенциал и ограничения чат-ботов с большими языковыми моделями в содействии здоровому изменению поведения. Хотя эти инструменты на базе искусственного интеллекта продемонстрировали многообещающие результаты в поддержке пользователей, стремящихся к позитивным изменениям, им всё ещё сложно эффективно распознавать и реагировать на начальные стадии мотивации, такие как сопротивление и амбивалентность. По мере того, как исследователи продолжают совершенствовать и улучшать эти модели, есть надежда, что они станут всё более эффективными в сопровождении пользователей на всех этапах процесса изменения поведения, в конечном итоге способствуя улучшению результатов в области здоровья как отдельных людей, так и целых сообществ.