Майкл МакТир, профессор-эмеритус Университета Ольстера – Серия интервью

Майкл МакТир является профессором-эмеритом Университета Ольстера. Он занимается исследованиями в области системspoken диалоговых систем более 20 лет и является автором нескольких книг, включая последнюю Conversational AI: Dialogue Systems, Conversational Agents, and Chatbots (Springer Link 2021). Майкл прочитал ключевые доклады и семинары на многих академических конференциях и семинарах. В настоящее время Майкл участвует в нескольких исследовательских и разработочных проектах, изучающих использование разговорных агентов в поддержке психического здоровья и домашнем мониторинге пожилых людей.

Что изначально привлекло вас к машинному обучению?

До недавнего времени я работал с подходами, основанными на правилах, к разговорному ИИ, в частности, в области управления диалогом, где основная идея заключается в разработке правил, которые определяют стратегии агента в диалоге. Однако с недавними достижениями в машинном обучении, сначала в обучении с подкреплением, а затем в глубоком обучении, я обнаружил, что эти подходы могут потенциально решить некоторые проблемы, с которыми сталкиваются методы, основанные на правилах, такие как проблема масштабирования и необходимость написания нескольких правил для более сложных потоков диалога.

Вы работаете над голосом и разговорным ИИ более 20 лет, что заставило вас сосредоточиться на этой области?

Я давно интересуюсь тем, как работает разговор. В моей диссертации я изучал развитие разговорных компетенций у молодых детей, и это была тема моей первой книги. Позже я стал увлекаться идеей того, что компьютеры могут вступать в разговоры в человеческом стиле, и с тех пор я следил за развитием в этой области. Сначала это была очень небольшая область внутри ИИ, но за последние несколько лет она стала очень важной, поскольку крупные технологические компании приняли ее в качестве области стратегического интереса для себя.

Одним из ваших последних проектов, над которым вы сосредоточились, является ChatPAL для содействия психическому благополучию в сельских районах. Можете ли вы обсудить проблемы, связанные с созданием чат-бота для пользователей, которые могут не быть熟ы с технологиями или не знакомы с концепцией чат-ботов?

Многие люди знакомы с голосовыми помощниками на своих смартфонах и в качестве умных колонок, таких как Amazon Alexa. Молодые люди используют свои телефоны в основном для отправки сообщений, поэтому они знакомы с идеей взаимодействия с текстовым чат-ботом. Однако, когда речь идет о взаимодействии с чат-ботом, специализированным для конкретной области, как в нашем проекте Chatpal, разработанном для содействия психическому благополучию в сельских районах, мы обнаружили, что некоторые пользователи имели ожидания о технологии, основанные на их опыте с Alexa и другими подобными чат-ботами, которые превышали то, что мы могли предложить с более ограниченными ресурсами. Мы попытались решить проблему пользователей, которые не были熟ы с технологиями или не знакомы с чат-ботами, через первоначальные сессии живой лаборатории, а также обеспечивая, чтобы взаимодействие с чат-ботом было естественным и интуитивным.

Какие некоторые из проблем, связанных с созданием чат-ботов, ориентированных на психическое здоровье?

Существует опасность того, что некоторые пользователи могут ожидать от чат-бота больше, чем это возможно с текущей технологией. Мы не хотели заниматься диагностикой, поскольку считали, что это слишком рискованно, и были сообщения о ответах чат-ботов в таких ситуациях, которые могли быть считаны вредными или даже опасными. Мы руководствовались требованиями различных этических комитетов, а также признанными стандартами для проектирования и разработки чат-ботов. Другой проблемой является то, что мы обнаружили, что между пользователями были различия в том, как они использовали чат-бот. Некоторые пользователи быстро отказались, когда столкнулись с техническими проблемами, тогда как другие были готовы продолжать. Также было возрастное различие, поскольку молодые пользователи были счастливы взаимодействовать с нашим текстовым чат-ботом, тогда как старшие пользователи были менее счастливы с таким интерфейсом.

Некоторые из приложений, над которыми вы работали, предлагают планы действий для пользователей, как вы эффективно генерируете мотивацию пользователя в приложении?

Для этого необходимо создать и поддерживать профили для каждого пользователя, отражающие такие вещи, как их предстоящие назначения, лекарства, общие предпочтения и то, что они обсуждали в предыдущих разговорах с чат-ботом. Пользователи часто заявляют, что хотят, чтобы чат-бот был осведомлен об их индивидуальных потребностях и отслеживал то, что было обсуждено ранее, а не предоставлял более общую и менее адаптивную интеракцию.

Однако против этого есть проблемы с конфиденциальностью данных, и пользователи также выражают обеспокоенность по поводу использования их личной информации. Здесь необходимо найти тонкий баланс, и, конечно, есть все больше и больше законодательства, регулирующего этическое использование ИИ в общественной и частной жизни.

Какие некоторые этические соображения при создании чат-ботов?

Одним из основных этических соображений при создании чат-ботов является то, укрепляют ли они гендерные стереотипы. Традиционно женщины занимали вспомогательные роли на рабочем месте, тогда как мужчины занимали лидерские роли. Реализация чат-бота с женской персоной могла бы укрепить такие гендерные стереотипы.

Другой важной этической проблемой является то, должны ли чат-боты принять человеческие ценности и вести себя так, чтобы вдохновлять доверие. Это известно как проблема согласования. Чат-боты должны быть разработаны так, чтобы они не нарушали человеческие права и не создавали предвзятости, и их решения должны быть прозрачны для человеческих пользователей.

Кроме того, как упоминалось ранее, чат-боты должны уважать конфиденциальность пользователей и законы о защите данных. В настоящее время много исследований и усилий посвящено этим этическим соображениям.

В мире, который сосредоточен на англоязычных чат-ботах, какие некоторые проблемы за созданием многоязычных и международных чат-ботов?

Все зависит от наличия языковых ресурсов, таких как языковые модели и, для голосовых систем, двигателей распознавания и синтеза речи. Это не проблема для широко распространенных языков, но сложно для языков с ограниченными ресурсами, которые могут быть говорены большим количеством людей и где есть определенная потребность в услугах чат-бота. Одним из возможных решений является использование переносного обучения от модели, предварительно обученной на языке, таком как английский, и уточнения ее с данными из языка с ограниченными ресурсами.

Большинство приложений, которые вы разработали, используют программное обеспечение с открытым исходным кодом, какие некоторые из лучших инструментов с открытым исходным кодом?

Использование программного обеспечения с открытым исходным кодом было требованием агентств, которые финансировали наши проекты.

Мы использовали Rasa в наших проектах, поскольку это программное обеспечение с открытым исходным кодом, но также очень мощное, поскольку оно использует последние разработки в технологиях разговорного ИИ. Помимо Rasa, есть несколько отличных продуктов программного обеспечения для разговорного ИИ с открытым исходным кодом, включая: Botpress, Microsoft Bot Framework, OpenDialog и DeepPavlov, чтобы упомянуть только несколько.

Вы будете выступать на предстоящей Футуре чат-ботов и разговорного ИИ Саммите, организованном Group futurista, о чем вы будете говорить?

В моем докладе я буду сравнивать традиционные подходы к разработке чат-ботов, основанные на лучших практиках, известных как проектирование разговора, с новыми подходами, основанными на больших языковых моделях, таких как ChatGPT. Я расскажу о плюсах и минусах каждого подхода и буду утверждать, что, хотя подходы, основанные на больших языковых моделях, предлагают много потенциала для будущего развития чат-ботов, все еще есть много проблем с неуправляемым использованием больших языковых моделей, особенно в таких областях, как здравоохранение и бизнес, поэтому все еще есть необходимость в дизайнерах разговора, которые могут обеспечить объяснимый, прозрачный и этический разговорный ИИ.

Спасибо за отличный интервью, читатели, которые хотят услышать Майкла МакТира, должны посетить Футуре чат-ботов и разговорного ИИ Саммите организованный Group futurista.