Донни Уайт, генеральный директор и соучредитель Satisfi Labs – серия интервью

Satisfi Labs, основанная в 2016 году, является ведущей компанией в области диалогового искусственного интеллекта. Ранний успех пришел благодаря сотрудничеству с New York Mets, Macy's и US Open, что позволило легко получить доступ к информации, часто недоступной на веб-сайтах.

Донни проработал 15 лет в Bloomberg, прежде чем войти в мир стартапов и получил степень MBA Корнелльского университета и степень бакалавра Баруха-колледжа. Под руководством Донни Satisfi Labs добилась значительного роста в секторах спорта, развлечений и туризма, получив инвестиции от Google, MLB и Red Light Management.

Вы проработали в Bloomberg 14 лет, когда впервые почувствовали предпринимательский зуд. Почему деятельность предпринимателя внезапно оказалась на вашем радаре?

На первом курсе колледжа я подал заявление о приеме на работу секретарем в Bloomberg. Как только я вошел в дверь, я сказал своим коллегам, что, если они захотят меня учить, я смогу научиться быстро. К последнему году обучения я работал полный рабочий день и перевел все занятия на вечерние, чтобы иметь возможность заниматься и тем, и другим. Вместо того, чтобы пойти на выпускной в колледже в 21 год, я посвятил это время управлению своей первой командой. С этого момента мне посчастливилось работать в меритократии, и меня неоднократно повышали. К 25 годам у меня уже был собственный отдел. После этого я перешел на региональное управление, а затем на разработку продуктов, пока, в конечном итоге, не стал заниматься продажами по всей Америке. К 2013 году я начал задаваться вопросом, смогу ли я сделать что-то большее. Я прошел несколько собеседований в молодых технологических компаниях, и один из их основателей сказал мне: «Мы не знаем, хороши ли вы или Bloomberg». Именно тогда я понял, что что-то нужно изменить, и шесть месяцев спустя я стал вице-президентом по продажам в своем первом стартапе Datahug. Вскоре после этого меня наняла группа инвесторов, которые хотели подорвать Yelp. Хотя Yelp по-прежнему хорош и процветает, в 2016 году мы пришли к новому видению, и я вместе с теми же инвесторами стал соучредителем Satisfi Labs.

Не могли бы вы рассказать историю создания Satisfi Labs?

Я был на бейсбольном матче в Citi Field с Рэнди, нынешним техническим директором и соучредителем Satisfi, когда услышал об одном из их фирменных блюд — беконе на палочке. Мы обошли вестибюль и спросили об этом персонал, но нигде не смогли его найти. Оказывается, он был спрятан в одном конце стадиона, что привело к осознанию того, что было бы гораздо удобнее напрямую связаться с командой через чат. Здесь родилась наша первая идея. Мы с Рэнди оба имеем опыт работы в сфере финансов и алгоритмической торговли, что привело нас к использованию концепции сопоставления запросов с ответами для создания нашего собственного НЛП для сверхспецифичных запросов, которые будут задаваться в локациях. Первоначальная идея заключалась в создании отдельных ботов, каждый из которых был бы экспертом в определенной области знаний, особенно в тех знаниях, которые нелегко найти на веб-сайте. После этого в нашей системе будет «проводник», который сможет подключить каждого бота, когда это необходимо. Это оригинальная архитектура системы, которая используется до сих пор.

Satisfi Labs разработала собственный движок NLP и собиралась опубликовать пресс-релиз, когда OpenAI взорвала ваш технологический стек выпуском ChatGPT. Можете ли вы рассказать об этом периоде времени и о том, как это заставило Satisfi Labs изменить свой бизнес?

У нас был запланированный пресс-релиз, в котором было объявлено о нашем запатентованном обновлении NLP на основе контекста, которое выйдет 6 декабря 2022 года. 30 ноября 2022 года OpenAI анонсировала ChatGPT. Объявление ChatGPT изменило не только нашу дорожную карту, но и мир. Первоначально мы, как и все остальные, стремились понять возможности и ограничения ChatGPT и понять, что это значит для нас. Вскоре мы поняли, что наша контекстная система НЛП не может конкурировать с ChatGPT, но действительно может улучшить опыт LLM. Это привело к быстрому решению стать корпоративными партнерами OpenAI. Поскольку наша система началась с идеи понимания вопросов и ответов на них на детальном уровне, мы смогли объединить дизайн системы «бот-проводник» и данные о намерениях за семь лет, чтобы обновить систему, включив в нее LLM.

Satisfi Labs недавно запустила патент на систему реагирования Context LLM, что это конкретно?

В июле этого года мы представили нашу запатентованную систему реагирования Context LLM. Новая система сочетает в себе мощь нашей запатентованной системы контекстного ответа с широкими возможностями языковой модели для усиления всей системы Answer Engine. Новая технология Context LLM объединяет широкие возможности языковой модели по всей платформе, начиная от улучшения маршрутизации намерений и заканчивая генерацией ответов и индексацией намерений, что также обеспечивает ее уникальные возможности отчетности. Платформа выводит диалоговый искусственный интеллект за рамки традиционного чат-бота, используя возможности LLM, таких как GPT-4. Наша платформа позволяет брендам отвечать как генеративными ответами искусственного интеллекта, так и заранее написанными ответами, в зависимости от необходимости контроля ответа.

Можете ли вы обсудить нынешний разрыв между веб-сайтами большинства компаний и платформами LLM в предоставлении фирменных ответов?

ChatGPT обучен понимать широкий спектр информации и, следовательно, не имеет того уровня детальной подготовки, который необходим для ответа на отраслевые вопросы с уровнем специфичности, которого ожидают большинство брендов. Кроме того, точность ответов, которые дают LLM, настолько хороша, насколько хороши предоставленные данные. Когда вы используете ChatGPT, он собирает данные из Интернета, которые могут быть неточными. ChatGPT не отдает приоритет данным бренда над другими данными. На протяжении последних семи лет мы обслуживаем различные отрасли, получая ценную информацию о миллионах вопросов, которые задают клиенты каждый день. Это позволило нам понять, как настроить систему с учетом большего контекста для каждой отрасли и обеспечить надежные и детальные возможности отчетности о намерениях, что имеет решающее значение с учетом появления больших языковых моделей. Хотя LLM эффективно понимают намерения и дают ответы, они не могут сообщать о задаваемых вопросах. Используя многолетние обширные данные о намерениях, мы эффективно создали стандартизированную отчетность с помощью своей системы индексации намерений.

Какую роль лингвисты играют в расширении возможностей технологий LLM?

С появлением этой новой технологии появилась роль инженера подсказок, которая требует от человека разрабатывать и совершенствовать подсказки, вызывающие конкретную реакцию ИИ. Лингвисты прекрасно разбираются в структуре языка, такой как синтаксис и семантика, среди прочего. Один из наших самых успешных инженеров по искусственному интеллекту имеет лингвистическое образование, что позволяет ей очень эффективно находить новые и тонкие способы подсказки ИИ. Незначительные изменения в подсказке могут оказать глубокое влияние на то, насколько точным и эффективным будет генерируемый ответ, что имеет решающее значение, когда мы обрабатываем миллионы вопросов от нескольких клиентов.

Как выглядит тонкая настройка на бэкэнде?

У нас есть собственная модель данных, которую мы используем для поддержания соответствия LLM. Это позволяет нам строить собственные ограждения, чтобы держать LLM под контролем, вместо того, чтобы искать ограждения. Во-вторых, мы можем использовать инструменты и функции, которые используют другие платформы, что позволяет нам поддерживать их на наших платформах.

Точная настройка данных обучения и использование обучения с подкреплением (RL) на нашей платформе могут помочь снизить риск дезинформации. Точная настройка, в отличие от запроса к базе знаний для добавления конкретных фактов, создает новую версию LLM, которая обучается на этих дополнительных знаниях. С другой стороны, RL обучает агента обратной связи с людьми и изучает политику ответа на вопросы. Это доказало свою эффективность в создании моделей меньшего размера, которые становятся экспертами в решении конкретных задач.

Можете ли вы обсудить процесс подключения нового клиента и интеграции диалоговых решений искусственного интеллекта?

Поскольку мы фокусируемся на таких направлениях и впечатлениях, как спорт, развлечения и туризм, новые клиенты получают выгоду от тех, кто уже находится в сообществе, что делает регистрацию очень простой. Новые клиенты определяют, где находятся их самые актуальные источники данных, например веб-сайт, справочники сотрудников, блоги и т. д. Мы принимаем данные и обучаем систему в режиме реального времени. Поскольку мы работаем с сотнями клиентов в одной отрасли, наша команда может быстро предоставить рекомендации о том, какие ответы лучше всего подходят для заранее написанных ответов, а не для сгенерированных ответов. Кроме того, мы настроили управляемые потоки, такие как наш динамический поиск продуктов питания и напитков, чтобы клиентам никогда не приходилось иметь дело с разработчиком ботов.

Satisfi Labs в настоящее время тесно сотрудничает со спортивными командами и компаниями. Каким вы видите будущее компании?

Мы видим будущее, в котором больше брендов захотят контролировать больше аспектов своего общения в чате. Это приведет к увеличению потребности в нашей системе в предоставлении большего доступа на уровне разработчика. Брендам не имеет смысла нанимать разработчиков для создания собственных диалоговых систем искусственного интеллекта, поскольку необходимый опыт будет ограниченным и дорогим. Однако благодаря нашей системе, питающей серверную часть, их разработчики могут больше сосредоточиться на взаимодействии с клиентами и их пути, имея больший контроль над подсказками, подключая собственные данные для большей персонализации и управляя пользовательским интерфейсом чата для конкретных потребностей пользователей. Satisfi Labs станет технической основой взаимодействия брендов.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Satisfi Labs.