Донни Уайт, генеральный директор и сооснователь Satisfi Labs – Интервью

Основанная в 2016 году, Satisfi Labs является ведущей компанией в области разговорного ИИ. Ранний успех пришел от работы с командой «Нью-Йорк Метс», Macy’s (M ) и US Open, обеспечивая легкий доступ к информации, часто недоступной на веб-сайтах.

Донни провел 15 лет в Bloomberg, прежде чем войти в мир стартапов, и имеет степень МБА в Корнелльском университете и степень бакалавра в колледже Барух. Под руководством Донни Satisfi Labs пережила значительный рост в спортивной, развлекательной и туристической отраслях, получив инвестиции от Google (GOOGL ), MLB и Red Light Management.

Вы были в Bloomberg 14 лет, когда у вас впервые возникло желание стать предпринимателем. Почему быть предпринимателем вдруг стало вашим приоритетом?

Во время моего третьего курса университета я подал заявление на должность реCEPTIONиста в Bloomberg. Как только я получил работу, я сказал своим коллегам, что если они будут готовы меня учить, я могу быстро учиться. К концу моего четвертого курса я стал полноценным сотрудником и перевел все свои занятия на вечерние, чтобы иметь возможность работать и учиться одновременно. Вместо того, чтобы посещать церемонию выпуска в возрасте 21 года, я провел это время, управляя своей первой командой. С тех пор я был удачлив, работая в компании, где заслуги оцениваются по достоинству, и был повышен несколько раз. К 25 годам я руководил своим собственным отделом. Затем я перешел на руководящие должности в региональном управлении и разработке продукта, и в конечном итоге стал отвечать за продажи во всей Америке. К 2013 году я начал задумываться, могу ли я сделать что-то большее. Я прошел несколько собеседований в молодых технологических компаниях, и один из основателей сказал мне: «Мы не знаем, хороши ли вы или хороши ли в Bloomberg». Тогда я понял, что что-то должно измениться, и через шесть месяцев я стал вице-президентом по продажам в своей первой стартап-компании Datahug. Позже меня пригласили группа инвесторов, которые хотели нарушить монополию Yelp. Хотя Yelp все еще хорош и процветает, в 2016 году мы согласились на новое видение, и я стал сооснователем Satisfi Labs вместе с этими же инвесторами.

Можете ли вы рассказать историю создания Satisfi Labs?

Я был на бейсбольном матче в Citi Field с Рэнди, текущим техническим директором и сооснователем Satisfi, когда услышал о одном из их специалитетов – беконе на палочке. Мы прошли по конкурсу и спросили персонал о нем, но не смогли найти его нигде. Оказалось, что он был спрятан в одном конце стадиона, что привело к осознанию того, что было бы гораздо удобнее спросить команду напрямую через чат. Вот где родилась наша первая идея. Рэнди и я оба пришли из финансов и алгоритмической торговли, что привело нас к разработке собственного NLP для гипер-специфических запросов, которые будут задаваться в местах. Первоначальная идея заключалась в том, чтобы построить отдельные боты, каждый из которых будет экспертом в конкретной области знаний, особенно знаний, которые не легко доступны на веб-сайте. Оттуда наша система будет иметь «дирижера», который сможет подключиться к каждому боту по мере необходимости. Это исходная архитектура системы, которая все еще используется сегодня.

Satisfi Labs разработала свою собственную систему NLP и была на пороге публикации пресс-релиза, когда OpenAI нарушила вашу технологическую стек с выпуском ChatGPT. Можете ли вы обсудить этот период и то, как это заставило Satisfi Labs изменить направление своего бизнеса?

У нас был запланированный пресс-релиз, чтобы объявить о нашей запатентованной контекстно-зависимой системе NLP 6 декабря 2022 года. 30 ноября 2022 года OpenAI объявила о ChatGPT. Объявление о ChatGPT изменило не только нашу дорожную карту, но и весь мир. Первоначально мы, как и все остальные, спешили понять возможности и ограничения ChatGPT и понять, что это значит для нас. Мы вскоре поняли, что наша контекстно-зависимая система NLP не конкурирует с ChatGPT, а может фактически улучшить опыт LLM. Это привело к быстрому решению стать партнерами OpenAI. Поскольку наша система началась с идеи понимания и ответа на вопросы на самом мелком уровне, мы смогли объединить систему «бот-дирижер» и семь лет данных об интентах, чтобы улучшить систему и включить в нее LLM.

Satisfi Labs недавно запустила патент на систему контекстного ответа LLM, что это конкретно?

В этом июле мы представили нашу запатентованную систему контекстного ответа LLM. Новая система объединяет силу нашей запатентованной контекстно-зависимой системы ответов с возможностями крупномасштабных языковых моделей, чтобы укрепить всю систему Answer Engine. Новая технология Context LLM интегрирует возможности крупномасштабных языковых моделей во всей платформе, от улучшения маршрутизации интентов до генерации ответов и индексирования интентов, что также обеспечивает уникальные возможности отчетности. Платформа выводит разговорный ИИ за пределы традиционного чат-бота, используя силу LLM, таких как GPT-4. Наша платформа позволяет брендам отвечать как сгенерированными ответами ИИ, так и предзаписанными ответами, в зависимости от необходимости контроля в ответе.

Можете ли вы обсудить текущий разрыв между большинством веб-сайтов компаний и платформами LLM в предоставлении брендированных ответов?

ChatGPT обучена понимать широкий спектр информации и, следовательно, не имеет уровня гранулярной подготовки, необходимой для ответа на отраслевые вопросы с уровнем конкретности, который большинство брендов ожидают. Кроме того, точность ответов, предоставляемых LLM, такая же хороша, как и данные, которые были предоставлены. Когда вы используете ChatGPT, она черпает данные из всего интернета, которые могут быть неточными. ChatGPT не отдает приоритет данным бренда над другими данными. Мы обслуживали различные отрасли в течение последних семи лет, получая ценные знания о миллионах вопросов, задаваемых клиентами каждый день. Это позволило нам понять, как настроить систему с большим контекстом на отрасль и предоставить прочные и гранулярные возможности отчетности об интентах, которые имеют решающее значение, учитывая рост крупномасштабных языковых моделей. Хотя LLM эффективны в понимании интентов и генерации ответов, они не могут сообщать о вопросах, которые были заданы. Используя годы обширных данных об интентах, мы эффективно создали стандартизированную отчетность через свою систему индексирования интентов.

Какую роль играют лингвисты в улучшении возможностей технологий LLM?

Роль инженера-пromptа возникла с этой новой технологией, которая требует от человека разработать и усовершенствовать промпты, которые вызывают конкретный ответ от ИИ. Лингвисты имеют глубокое понимание структуры языка, такой как синтаксис и семантика, среди прочего. Одна из наших самых успешных инженеров ИИ имеет лингвистическое образование, что позволяет ей быть очень эффективной в нахождении новых и нюансовых способов промптов ИИ. Небольшие изменения в промпте могут иметь глубокое влияние на то, насколько точно и эффективно генерируется ответ, что имеет все значение, когда мы обрабатываем миллионы вопросов по нескольким клиентам.

Как выглядит тонкая настройка на бэкенде?

У нас есть своя собственная проприетарная модель данных, которую мы используем, чтобы держать LLM в порядке. Это позволяет нам строить свои собственные ограничения, чтобы держать LLM под контролем, а не искать ограничения. Во-вторых, мы можем использовать инструменты и функции, которые другие платформы используют, что позволяет нам поддерживать их на наших платформах.

Тонкая настройка обучающих данных и использование обучения с подкреплением (RL) на нашей платформе может помочь снизить риск дезинформации. Тонкая настройка, в отличие от запроса к базе знаний для добавления конкретных фактов, создает новую версию LLM, обученную на этих дополнительных знаниях. С другой стороны, RL обучает агента с помощью обратной связи человека и учит его политику ответов на вопросы. Это оказалось успешным в построении более мелких моделей, которые становятся экспертами в конкретных задачах.

Можете ли вы обсудить процесс подключения нового клиента и интеграции решений разговорного ИИ?

Поскольку мы фокусируемся на направлениях и опыте, таких как спорт, развлечения и туризм, новые клиенты получают пользу от тех, кто уже в сообществе, что делает подключение очень простым. Новые клиенты определяют, где живут их самые актуальные источники данных, такие как веб-сайт, руководства для сотрудников, блоги и т. д. Мы поглощаем данные и обучаем систему в реальном времени. Поскольку мы работаем со сотнями клиентов в одной и той же отрасли, наша команда может быстро предоставить рекомендации о том, какие ответы лучше всего подходят для предзаписанных ответов или сгенерированных ответов. Кроме того, мы настраиваем управляемые потоки, такие как наша динамическая система поиска еды и напитков, так что клиентам никогда не нужно иметь дело с бот-строителем.

Satisfi Labs в настоящее время тесно сотрудничает со спортивными командами и компаниями, каково ваше видение будущего компании?

Мы видим будущее, где больше брендов будут хотеть контролировать больше аспектов своего опыта чата. Это приведет к увеличению потребности в нашей системе для предоставления более расширенного доступа разработчикам. Не имеет смысла, чтобы бренды нанимали разработчиков для построения своих собственных систем разговорного ИИ, поскольку необходимая экспертиза будет редкой и дорогой. Однако с нашей системой, обеспечивающей бэкенд, их разработчики могут сосредоточиться на опыте и пути клиента, имея больший контроль над промптами, подключая проприетарные данные для большей персонализации и управляя интерфейсом чата для конкретных потребностей пользователей. Satisfi Labs станет технической основой для опыта разговорного ИИ брендов.

Благодарим за отличное интервью, читателям, которые хотят узнать больше, следует посетить Satisfi Labs.