Майкл МакТир, эмеритус-профессор Университета Ольстера – Интервью

Майкл МакТир является эмеритус-профессором Университета Ольстера. Он занимался исследованиями в области системspoken диалоговых систем более 20 лет и является автором нескольких книг, включая最近 выпущенную книгу “Conversational AI: Dialogue Systems, Conversational Agents и Chatbots” (Springer Link 2021). Майкл прочитал ключевые доклады и семинары на многих академических конференциях и семинарах. В настоящее время Майкл участвует в нескольких исследовательских и разработочных проектах, изучающих использование разговорных агентов в поддержке психического здоровья и домашнем мониторинге пожилых людей.

Что изначально привлекло вас к машинному обучению?

До недавнего времени я работал с подходами, основанными на правилах, к разговорному ИИ, в частности в области управления диалогами, где основная идея заключается в разработке правил, определяющих стратегии агента в диалоге. Однако с недавними достижениями в машинном обучении, сначала в обучении с подкреплением, а затем в глубоком обучении, я обнаружил, что эти подходы могут потенциально решить некоторые проблемы, с которыми сталкиваются методы, основанные на правилах, такие как проблема масштабирования и необходимость написания нескольких правил для более сложных потоков диалога.

Вы работаете над голосовыми и разговорными ИИ более 20 лет, что заставило вас сосредоточиться на этой области?

Я давно интересуюсь тем, как работает разговор. В meiner диссертации я изучал развитие разговорных компетенций у маленьких детей, и это была тема моей первой книги. Позже я стал очарован идеей, что компьютеры могут вести разговоры в человеческом стиле, и с тех пор я следил за развитием в этой области. Сначала это была довольно незначительная область внутри ИИ, но в последние годы она стала очень важной, поскольку крупные технологические компании приняли ее в качестве области стратегического интереса.

Одним из ваших последних проектов, над которым вы работали, является ChatPAL для содействия психическому благополучию в сельских районах. Можете ли вы рассказать о проблемах, с которыми вы столкнулись при создании чат-бота для пользователей, которые могут не быть熟悉ы с технологиями или концепцией чат-ботов?

Многие люди знакомы с голосовыми помощниками на своих смартфонах и в умных колонках, таких как Amazon Alexa. Молодые люди используют свои телефоны в основном для отправки сообщений, поэтому они знакомы с идеей взаимодействия с текстовым чат-ботом. Однако, когда речь идет о взаимодействии с чат-ботом, специально разработанным для определенной области, как в нашем проекте Chatpal, который был разработан для содействия психическому благополучию в сельских районах, мы обнаружили, что некоторые пользователи имели ожидания о технологии, основанные на их опыте с Alexa и другими подобными чат-ботами, которые превышали то, что мы могли предложить с более ограниченными ресурсами. Мы попытались решить проблему пользователей, которые не были熟悉ы с технологиями или чат-ботами, через первоначальные живые лабораторные сессии, а также обеспечивая, чтобы взаимодействие с чат-ботом было естественным и интуитивным.

Какие проблемы возникают при создании чат-ботов, ориентированных на психическое здоровье?

Существует опасность, что некоторые пользователи могут ожидать от чат-бота больше, чем возможно с текущей технологией. Мы не хотели заниматься диагностикой, поскольку считали это слишком рискованным, и были сообщения о вредных или даже опасных ответах чат-ботов в таких ситуациях. Мы руководствовались требованиями различных этических комитетов, а также признанными стандартами для разработки чат-ботов. Другой проблемой является то, что мы обнаружили различия между пользователями в том, как они использовали чат-бот. Некоторые пользователи быстро отказались, когда столкнулись с техническими проблемами, в то время как другие были готовы продолжать. Также существовали возрастные различия, поскольку более молодые пользователи были счастливы взаимодействовать с нашим текстовым чат-ботом, в то время как более старшие пользователи были менее счастливы с таким интерфейсом.

Некоторые из приложений, над которыми вы работали, предлагают планы действий для пользователей, как вы эффективно генерируете мотивацию пользователей в приложении?

Для этого необходимо создавать и поддерживать профили для каждого пользователя, отражающие такие вещи, как их предстоящие встречи, лекарства, общие предпочтения и то, что они обсуждали в предыдущих разговорах с чат-ботом. Пользователи часто заявляют, что хотят, чтобы чат-бот был осведомлен об их индивидуальных потребностях и отслеживал то, что было обсуждено ранее, а не предоставлял более общую и менее адаптивную интеракцию.

Однако против этого существуют проблемы с защитой данных и пользователями, которые также выражают обеспокоенность по поводу использования их частной информации. Здесь необходимо найти тонкий баланс, и, конечно, существует все больше законодательства, регулирующего этичное использование ИИ в общественной и частной жизни.

Какие этические соображения возникают при создании чат-ботов?

Одним из основных этических соображений при создании чат-ботов является то, что они не укрепляют гендерные стереотипы. Традиционно женщины занимали вспомогательные роли на рабочем месте, в то время как мужчины занимали руководящие роли. Реализация чат-бота с женским персонажем могла бы укрепить такие гендерные стереотипы.

Другим важным этическим вопросом является то, должны ли чат-боты принять человеческие ценности и вести себя так, чтобы вызывать доверие. Это известно как проблема соответствия. Чат-боты должны быть разработаны так, чтобы они избегали нарушения прав человека и создания предвзятости, и их решения должны быть прозрачны для человеческих пользователей.

Кроме того, как упоминалось ранее, чат-боты должны уважать конфиденциальность пользователей и законы о защите данных. В настоящее время проводятся многочисленные исследования и работы по этим этическим соображениям.

В мире, который фокусируется на англоязычных чат-ботах, какие проблемы возникают при проектировании многоязычных и международных чат-ботов?

Все зависит от наличия языковых ресурсов, таких как языковые модели и, для голосовых систем, двигателей распознавания и синтеза речи. Это не является проблемой для широко распространенных языков, но затруднительно для языков с ограниченными ресурсами, которые могут быть распространены среди большого числа людей и где существует явная необходимость в услугах чат-бота. Одним из возможных решений является использование передачи обучения от модели, предварительно обученной на языке, таком как английский, и дообучение ее с данными из языка с ограниченными ресурсами.

Большинство приложений, которые вы разработали, используют программное обеспечение с открытым исходным кодом, какие из них являются лучшими?

Использование программного обеспечения с открытым исходным кодом было требованием агентств, которые финансировали наши проекты.

Мы использовали Rasa в наших проектах, поскольку это программное обеспечение с открытым исходным кодом, но также очень мощное, поскольку оно использует последние достижения в технологиях разговорного ИИ. Помимо Rasa, существует несколько отличных программных продуктов для разговорного ИИ с открытым исходным кодом, включая Botpress, Microsoft (MSFT ) Bot Framework, OpenDialog и DeepPavlov, чтобы упоминать только несколько.

Вы будете выступать на предстоящей конференции Future of Chatbots & Conversational AI Summit, организованной Group futurista, о чем вы будете говорить?

В моем докладе я буду сравнивать традиционные подходы к разработке чат-ботов, основанные на лучших практиках, известных как разговорный дизайн, с новыми подходами, основанными на больших языковых моделях, таких как ChatGPT. Я расскажу о плюсах и минусах каждого подхода и буду утверждать, что, хотя подходы, основанные на больших языковых моделях, предлагают много потенциала для будущего развития чат-ботов, все еще существуют многие проблемы с неуправляемым использованием больших языковых моделей, особенно в таких областях, как здравоохранение и бизнес, поэтому все еще существует необходимость в разговорных дизайнерах, которые могут обеспечить объяснимый, прозрачный и этичный разговорный ИИ.

Спасибо за отличное интервью, читатели, которые хотят услышать Майкла МакТира, должны посетить конференцию Future of Chatbots & Conversational AI Summit, организованную Group futurista.