Доктор Нил Ягер, сооснователь и главный ученый Phrasee – Интервью

Доктор Нил Ягер является главным ученым Phrasee, и архитектором метода Phrasee, инструмента копирайтинга, работающего на основе искусственного интеллекта, который помог оптимизировать маркетинговые тексты для некоторых из самых известных брендов мира, включая eBay, Groupon и Virgin, а также многие другие, из Австралии до Америки, на более чем 20 языках, от английского до японского.

Доктор Ягер написал более десятка академических публикаций, автор книги о=data mining, и владеет несколькими патентами. Как один из ведущих экспертов в мире по коммерциализации искусственного интеллекта, он имеет степень доктора философии в области компьютерных наук Университета Нового Южного Уэльса в Австралии.

Вы – ветеран индустрии технологий с 20-летним стажем, какие были некоторые из ваших предыдущих ролей, связанных с искусственным интеллектом?

Я занимаюсь работой, связанной с искусственным интеллектом, с момента получения степени доктора философии в середине 2000-х годов. Однако область прошла через несколько ребрендингов с тех пор. Например, 15 лет назад я изучал “статистическое распознавание образов”. Через несколько лет это стало более известно как “machine learning”, что является более привлекательным названием. Более недавно machine learning (и “глубокое обучение” в частности) стали синонимами “искусственного интеллекта” в целом. У меня есть смешанные чувства по этому поводу. С одной стороны, моя работа с Phrasee научила меня важности брендинга. С другой стороны, термин “искусственный интеллект” несет в себе багаж и может привести к заблуждениям о технологии. Я задаюсь вопросом, где бы мы были, если бы все еще называли это “статистическим распознаванием образов”.

Большая часть моей предыдущей работы была в области обработки сигналов и компьютерного зрения. У меня не было большого опыта в области обработки естественного языка до Phrasee. Я с тех пор узнал, что язык, вероятно, является самой сложной проблемой в области искусственного интеллекта.

В 2008 году вы написали книгу под названием ‘Biometric System and Data Analysis: Design, Evaluation, and Data Mining‘, которая объединяет аспекты статистики и machine learning для предоставления всестороннего руководства по оценке, интерпретации и пониманию биометрических данных. Помимо большего количества вычислительных ресурсов, считаете ли вы, что эта область эволюционировала с момента публикации этой книги? Можете ли вы описать, как?

Глубокое обучение революционизировало области компьютерного зрения, обработки языка и machine learning с момента написания мной этой книги. Было бы невозможно написать эту книгу сегодня без раздела о глубоком обучении.

Революция глубокого обучения действительно началась в 2012 году, когда модель глубокого обучения выиграла соревнование под названием ImageNet. ImageNet – это набор данных визуального распознавания объектов, где компьютер определяет, что находится на изображении (например, “собака” или “шар”). На протяжении десятилетий исследователи добились небольших успехов на таких наборах данных. Каждая подобласть работала независимо и сильно полагалась на экспертизу в конкретной области. Почти за одну ночь все модели, которые были тщательно построены за многие годы, стали устаревшими. Алгоритмы глубокого обучения, разработанные посторонними, выигрывали соревнования с значительным отрывом. Это преобразило индустрию искусственного интеллекта.

Область все еще развивается быстро и эволюционировала даже с момента основания Phrasee несколько лет назад. Например, инструменты глубокого обучения, которые мы сейчас используем, не существовали, когда мы основали компанию. Темп инноваций несет в себе свои собственные проблемы.

Можете ли вы поделиться с нами тем, что Phrasee может сделать для бизнеса?

Phrasee решает две проблемы для бизнеса. Во-первых, существует проблема написания маркетинговых текстов. Сейчас существует больше каналов рекламы, чем когда-либо прежде (например, электронная почта, AdWords, социальные сети, печать, подкасты и т. д.). Трудно написать тексты для всех этих каналов, которые были бы высокого качества и соответствовали бы стилю и тону бренда. Phrasee решает проблему масштаба, автоматически генерируя тексты. Во-вторых, важно, чтобы все используемые языки были эффективными. Phrasee не только генерирует язык, но также использует machine learning для прогнозирования воздействия сообщений и оптимизации соответственно.

Что привлекло вас к идее использования обработки естественного языка (NLP) и глубокого обучения для улучшения силы рекламных текстов?

Использование искусственного интеллекта для максимизации воздействия цифровых маркетинговых кампаний не является новой идеей. Существуют команды людей с степенями доктора философии по физике, которые были привлечены для работы над оптимизацией рекламы. Однако в большинстве случаев они фокусируются на таких вещах, как сегментация аудитории, персонализация, время доставки, размещение рекламы, шрифты и т. д. Когда мы впервые обсуждали идеи для Phrasee, мы заметили, что почти все в рекламе оптимизируется, кроме самого языка, используемого! Мы определили это как пробел на рынке и огромную возможность.

Phrasee может улучшить маркетинговые тексты на более чем 20 языках, включая японский. Можете ли вы обсудить некоторые уникальные проблемы обработки естественного языка, с которыми вы столкнулись при работе с иностранными языками?

Самым недавним дополнением к нашему набору поддерживаемых языков является русский. Это славянский язык, и он довольно отличается от других индоевропейских языков. В этом случае нам пришлось ввести новые правила в нашу систему генерации языка, чтобы вывод был плавным и грамматически правильным. Это не только проблема языка. Это также проблема разработки программного обеспечения. Когда вывод нашей системы находится на родном языке разработчика, относительно легко обнаружить ошибки и проверить, что все работает правильно. Однако, когда мы работаем с русским или японским, мы можем выдавать бессмыслицу и не иметь представления об этом. Важно иметь носителя языка, тесно участвующего в процессе контроля качества.

Проблема не только в иностранных языках. Существуют также интересные региональные различия. Например, английский язык имеет вариации орфографии для США, Великобритании, Австралии, Канады и т. д. Кроме того, существуют грамматические различия. В британском английском вы “have a look”, а в американском английском вы “take a look”. Значение слов также может варьироваться от места к месту. “Руббер” – это ластик в Великобритании, но презерватив в Северной Америке! Чтобы системы генерации языка могли быть использованы для бизнес-приложений, они должны обрабатывать все эти нюансы.

Можете ли вы также поделиться некоторыми подробностями о том, как глубокое обучение используется в Phrasee?

Существуют два основных компонента искусственного интеллекта в технологии Phrasee. Первый – это генерация естественного языка (NLG), которая фактически производит язык. Второй – это глубокое обучение, и здесь фокусируется на производительности. Производительность может означать разные вещи в зависимости от контекста. Например, цель электронного письма с темой – заманить получателя открыть письмо и увидеть содержимое внутри. Для Facebook (META ) цель может заключаться в максимизации лайков или обменов. Учитывая большие объемы исторических данных, возможно найти тонкие тенденции и закономерности, которые никогда не будут замечены человеком. Это стандартная проблема machine learning.

Глубокое обучение предлагает несколько преимуществ перед традиционным подходом к machine learning. С традиционным machine learning существует сильный фокус на “инженерии функций”. Это означает, что разработчику необходимо решить, какие функции языка, по его мнению, являются наиболее важными. Например, слова, длина, использование эмодзи и т. д. Проблема заключается в том, что это ограничено умениями и воображением инженера. Однако с глубоким обучением сырой текст подается в модель, и она строит свое собственное машинное представление языка (это известно как обучение от конца к концу). Следовательно, оно свободно от предубеждений человека и является мощным подходом. Однако недостатком является то, что может быть трудно понять, почему модель ведет себя таким образом. “Объяснимость” – это активная область исследований в сообществе глубокого обучения. Однако существует фундаментальный компромисс между сложностью системы и нашей способностью понять ее. Человеческий язык запутан, поэтому успешные решения NLP обычно имеют высокую степень сложности.

Одной из функций Phrasee является возможность писать в уникальном тоне бренда, можете ли вы подробнее рассказать о том, как это делается?

Когда мы подписываем нового клиента, первое, что мы делаем, – это собираем информацию о стиле общения бренда. Это включает в себя любые официальные руководства по бренду, исторические маркетинговые кампании и серию вопросников, которые мы разработали для этой цели. Все эта информация используется нашей внутренней командой языковых техников для построения модели языка, специфичной для клиента. Наши модели языка являются генеративными, то есть они могут производить ранее не виденный язык в уникальном стиле клиента.

Модели языка можно обновлять в любое время. Например, сейчас мы находимся на пике кризиса COVID-19. Наша языковая команда проверяет наши модели, чтобы убедиться, что в них не может быть создан неподходящий язык. Фраза “Эти предложения становятся вирусными!” могла быть безобидной несколько месяцев назад, но сейчас она явно неуместна в разгар глобальной пандемии. Это демонстрирует гибкость нашей системы.

Какого рода данные необходимы компании, которая хочет начать работать с Phrasee?

Честно говоря, для начала работы с нами не требуется много данных. Первый шаг – это определить подходящую область проекта. Например, это может быть тема электронных писем для еженедельных промо-акций. Идеально, если это будет иметь относительно большую аудиторию и регулярные коммуникации. Как только проект определен, нам необходимо информацию о предполагаемой теме и голосе бренда, чтобы построить модель языка. Phrasee требует результатов производительности на постоянной основе. Поскольку наше решение использует machine learning, важно измерять и отслеживать ключевые метрики с течением времени. Эта информация передается обратно в нашу систему, чтобы она могла постоянно оптимизироваться для вовлеченности.

Есть ли что-то еще, что вы хотели бы поделиться о Phrasee?

Когда Парри, Виктория и я основали Phrasee пять лет назад, мы были уверены, что это будет только вопрос времени, прежде чем многие другие стартапы появятся с подобными продуктами. Наш план был – опередить конкурентов и оставаться на шаг впереди. Однако мы были удивлены отсутствием участников на этом рынке. Где все остальные? Я думаю, что есть несколько причин для этого, но одна из основных – это то, что язык является такой сложной проблемой. Я подозреваю, что другие пытались создать подобные продукты, но потерпели неудачу на ранних стадиях исследований и разработок. Это свидетельствует о том, насколько уникальна наша технология.

Спасибо за информативное интервью о обработке естественного языка, генерации естественного языка и глубоком обучении. Чтобы узнать больше, посетители могут посетить Phrasee.