Донни Уайт, CEO и сооснователь Satisfi Labs – Серия интервью

Основанная в 2016 году, Satisfi Labs является ведущей компанией в области разговорного ИИ. Ранний успех пришел от работы с New York Mets, Macy’s и US Open, обеспечивая легкий доступ к информации, часто недоступной на веб-сайтах.

Донни провел 15 лет в Bloomberg, прежде чем войти в мир стартапов, и имеет степень МБА в Корнелльском университете и степень бакалавра в колледже Барух. Под руководством Донни Satisfi Labs увидела значительный рост в спортивной, развлекательной и туристической отраслях, получив инвестиции от Google, MLB и Red Light Management.

Вы были в Bloomberg 14 лет, когда впервые почувствовали предпринимательский зуд. Почему быть предпринимателем вдруг стало вашим приоритетом?

Во время моего третьего курса университета я подал заявку на работу в качестве рецепциониста в Bloomberg. Как только я ступил на порог, я сказал своим коллегам, что если они будут готовы меня учить, я могу быстро учиться. К концу моего четвертого курса я уже был полноценным сотрудником и перевел все свои занятия на вечерние, чтобы иметь возможность совмещать работу и учебу. Вместо того, чтобы посещать свою церемонию выпуска в возрасте 21 года, я провел это время, управляя своей первой командой. С того момента мне повезло работать в меритократии и неоднократно получать повышения. К 25 годам я уже руководил своим отделом. Оттуда я перешел на региональный менеджмент, а затем на разработку продукта, пока в конечном итоге не стал负责 за продажи во всех Америках. К 2013 году я начал задумываться, смогу ли я сделать что-то большее. Я прошел несколько собеседований в молодых технологических компаниях, и один из основателей сказал мне: «Мы не знаем, хороши ли вы или хороши ли в Bloomberg». Тогда я понял, что что-то должно измениться, и через шесть месяцев я стал вице-президентом по продажам в своем первом стартапе, Datahug. Вскоре после этого меня пригласили группа инвесторов, которые хотели нарушить Yelp. Хотя Yelp все еще хорош и процветает, в 2016 году мы согласились на новое видение, и я стал сооснователем Satisfi Labs с теми же инвесторами.

Можете ли вы рассказать историю создания Satisfi Labs?

Я был на бейсбольном матче на стадионе Сити Филд с Рэнди, текущим техническим директором и сооснователем Satisfi, когда услышал об одном из их специалитетов, беконе на палочке. Мы прошли по конкурсу и спросили персонал о нем, но не смогли найти его нигде. Оказалось, что он был спрятан в одном конце стадиона, что привело к осознанию того, что было бы гораздо удобнее спросить команду напрямую через чат. Вот где родилась наша первая идея. Рэнди и я оба пришли из финансов и алгоритмической торговли, что привело нас к разработке нашего собственного НЛП для гиперспецифических запросов, которые будут задаваться в местах. Первоначальная идея заключалась в том, чтобы построить отдельные боты, каждый из которых будет экспертом в определенной области знаний, особенно знаний, которые не легко доступны на веб-сайте. Оттуда наша система будет иметь «дирижера», который сможет подключаться к каждому боту при необходимости. Это исходная архитектура системы, которая все еще используется сегодня.

Satisfi Labs разработала свой собственный движок НЛП и была на пороге публикации пресс-релиза, когда OpenAI нарушила ваш технологический стек с выпуском ChatGPT. Можете ли вы рассказать об этом периоде и о том, как это заставило Satisfi Labs изменить свой бизнес?

У нас был запланированный пресс-релиз, чтобы объявить о нашей запатентованной контекстно-зависимой системе НЛП для 6 декабря 2022 года. 30 ноября 2022 года OpenAI объявила о ChatGPT. Объявление о ChatGPT изменило не только нашу дорожную карту, но и весь мир. Первоначально мы, как и все остальные, спешили понять силу и пределы ChatGPT и понять, что это значит для нас. Мы вскоре осознали, что наша контекстно-зависимая система НЛП не конкурирует с ChatGPT, а может фактически улучшить опыт LLM. Это привело к быстрому решению стать партнерами OpenAI. Поскольку наша система началась с идеи понимания и ответа на вопросы на самом мелком уровне, мы смогли объединить систему «дирижера ботов» и семь лет интент-данных, чтобы модернизировать систему и включить в нее LLM.

Satisfi Labs недавно запустила патент на контекстную систему ответов LLM, что это конкретно?

В этом июле мы представили нашу запатентованную контекстную систему ответов LLM. Новая система объединяет силу нашей запатентованной контекстно-зависимой системы ответов с возможностями крупномасштабных языковых моделей, чтобы укрепить всю систему Answer Engine. Новая технология Context LLM интегрирует возможности крупномасштабных языковых моделей во всей платформе, от улучшения маршрутизации интентов до генерации ответов и индексации интентов, что также стимулирует ее уникальные возможности отчетности. Платформа выводит разговорный ИИ за пределы традиционного чат-бота, используя силу LLM, таких как GPT-4. Наша платформа позволяет брендам отвечать как с помощью сгенерированных ответов ИИ, так и с помощью предварительно написанных ответов, в зависимости от необходимости контроля ответа.

Можете ли вы рассказать о текущем разрыве между большинством веб-сайтов компаний и платформами LLM в доставке ответов бренда?

ChatGPT обучена понимать широкий спектр информации и, следовательно, не имеет уровня гранулярной подготовки, необходимой для ответа на отраслевые вопросы с уровнем конкретности, который большинство брендов ожидают. Кроме того, точность ответов, предоставляемых LLM, такая же хороша, как и данные, которые они получают. Когда вы используете ChatGPT, она черпает данные из всего интернета, что может быть неточно. ChatGPT не отдает приоритет данным бренда над другими данными. Мы обслуживали различные отрасли в течение последних семи лет, получая ценные знания о миллионах вопросов, задаваемых клиентами каждый день. Это позволило нам понять, как настроить систему с большим контекстом на каждую отрасль и предоставить прочные и гранулярные возможности отчетности об интентах, которые являются важными, учитывая рост крупномасштабных языковых моделей. Хотя LLM эффективны в понимании интентов и генерации ответов, они не могут отчитываться о задаваемых вопросах. Используя годы обширных данных об интентах, мы эффективно создали стандартизированную отчетность через систему Индексации Интентов.

Какую роль играют лингвисты в улучшении возможностей технологий LLM?

Роль инженера-пrompt появилась с этой новой технологией, которая требует от человека разработать и усовершенствовать подсказки, которые вызывают определенный ответ от ИИ. Лингвисты имеют глубокое понимание структуры языка, такой как синтаксис и семантика, среди прочего. Одна из наших наиболее успешных инженеров ИИ имеет образование в области лингвистики, что позволяет ей быть очень эффективной в нахождении новых и нюансовых способов подсказки ИИ. Небольшие изменения в подсказке могут иметь глубокие эффекты на то, насколько точно и эффективно генерируется ответ, что имеет все значение, когда мы обрабатываем миллионы вопросов по нескольким клиентам.

Что такое тонкая настройка на бэкэнде?

У нас есть своя собственная проприетарная модель данных, которую мы используем, чтобы держать LLM в порядке. Это позволяет нам строить свои собственные ограждения, чтобы держать LLM под контролем, а не искать ограждения. Во-вторых, мы можем использовать инструменты и функции, которые другие платформы используют, что позволяет нам поддерживать их на наших платформах.

Тонкая настройка обучающих данных и использование обучения с подкреплением (RL) на нашей платформе может помочь смягчить риск дезинформации. Тонкая настройка, в отличие от запроса к базе знаний для конкретных фактов, чтобы добавить, создает новую версию LLM, обученную на этом дополнительном знании. С другой стороны, RL обучает агента с помощью обратной связи человека и учит политику ответов на вопросы. Это оказалось успешным в построении моделей с меньшим следом, которые становятся экспертами в конкретных задачах.

Можете ли вы рассказать о процессе подключения нового клиента и интеграции решений разговорного ИИ?

Поскольку мы фокусируемся на направлениях и опыте, таких как спорт, развлечения и туризм, новые клиенты получают пользу от тех, кто уже присутствует в сообществе, что делает подключение очень простым. Новые клиенты определяют, где живут их наиболее актуальные источники данных, такие как веб-сайт, справочники сотрудников, блоги и т. д. Мы поглощаем данные и обучаем систему в режиме реального времени. Поскольку мы работаем со сотнями клиентов в одной и той же отрасли, наша команда может быстро предоставить рекомендации о том, какие ответы лучше всего подходят для предварительно написанных ответов или сгенерированных ответов. Кроме того, мы настраиваем управляемые потоки, такие как наша динамическая система поиска еды и напитков, так что клиентам никогда не нужно иметь дело с бот-строителем.

Satisfi Labs в настоящее время тесно сотрудничает со спортивными командами и компаниями, каково ваше видение будущего компании?

Мы видим будущее, где больше брендов будут хотеть контролировать больше аспектов своего опыта чата. Это приведет к увеличению потребности в нашей системе для предоставления более расширенного доступа для разработчиков. Не имеет смысла, чтобы бренды нанимали разработчиков для создания своих собственных систем разговорного ИИ, поскольку необходимая экспертиза будет редкой и дорогой. Однако с нашей системой, питающей бэкэнд, их разработчики смогут сосредоточиться больше на опыте клиента и пути, имея больший контроль над подсказками, подключая проприетарные данные для большей персонализации и управляя интерфейсом чата для конкретных потребностей пользователя. Satisfi Labs станет техническим основанием для разговорных опытов брендов.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Satisfi Labs.