Шон Уайтли, основатель и президент Qualified – Интервью-серия

Вы успешно основали три компании, включая одну, приобретенную Salesforce, и другую – SurveyMonkey. Что вдохновило вас на создание Qualified, и как оно вписывается в более широкую эволюцию ИИ в корпоративном программном обеспечении?

Крейг и я основали компанию по поисковому маркетингу, которая была приобретена Salesforce. Это было в начале облачной революции, и практически все маркетинговые программы быстро переходили в цифровую форму. Стало сразу очевидно, что существует огромный разрыв в том, как продавцы связываются с покупателями в этом новом мире. Компании тратили миллионы на привлечение трафика на свои сайты, но когда эти покупатели с высоким потенциалом показались, опыт взаимодействия не эволюционировал. Это было похоже на организацию и оплату вечеринки для ваших потенциальных клиентов, но забыть ответить на дверь, когда они прибыли.

Именно оттуда появилась идея Qualified. Мы хотели создать способ для команд продаж встречать квалифицированных покупателей в момент их посещения сайта – с актуальностью, контекстом и опытом в режиме реального времени, которые являются представительными для того, чего хотят покупатели. Перемотаем вперед до сегодняшнего дня, и мы эволюционировали эту концепцию в нечто гораздо большее: агентский маркетинговый слой, который выполняет каждый рабочий процесс входящего маркетингового процесса, охватывающий взаимодействия в режиме реального времени на сайте и асинхронные взаимодействия по электронной почте. Qualified построен для этой следующей волны корпоративного программного обеспечения, где ИИ-работники не только выполняют задачи и рабочие процессы, но также принимают контекстно-обусловленные решения от имени вашей компании.

Как изменилось ваше видение ИИ с ранних дней в поисковом маркетинге до настоящего времени, с Piper, автоматизирующим входящие продажи в масштабе?

Очевидно, что появление больших языковых моделей (LLM) полностью изменило игру в целом. Когда мы начали нашу первую компанию, это были ранние облачные дни, которые представляли собой фундаментальный сдвиг в модели доставки программного обеспечения. Такие вещи, как общая инфраструктура, многопользовательская аренда и оплата по мере использования, проложили путь для бизнеса, чтобы переместить критически важные приложения и процессы в облако. Скоро после этого платформа и инфраструктура стали доступны в виде коллекции сервисов, что было снова огромным стимулом для бизнеса, чтобы переложить значительную нагрузку на облачных поставщиков. Все изменилось.

Перемотаем вперед на десятилетие, и революция ИИ взорвалась. Только несколько лет назад, когда мы впервые начали Qualified, машинное обучение (ML) представляло собой новый способ использования интеллекта из огромных наборов данных. Теперь, конечно, LLM изменили все в отношении нашей способности переместить значительную нагрузку на ИИ. Но что более важно, LLM делают ИИ доступным для всех, и люди имеют возможность взаимодействовать с компьютерами, приложениями или данными, используя свой естественный язык. И даже хотя мы только в начале, ясно, что многое из того, что мы делали исторически, будет переписано и сделано новыми способами. Это не только относится к тому, как мы живем, но и к тому, как мы работаем.

Одна из наших мантр в Qualified – бросать вызов всему, что мы делали исторически, и оценивать, как это будет преобразовано с помощью ИИ. ИИ не только изменит природу того, как мы строим системы, но и откроет новые процессы, операции и организационные структуры.

Первая волна этой трансформации ИИ проявилась в агентах. Каждый бизнес вводит агентские слои в различные функции по всему бизнесу. Наш ИИ-агент SDR был очень популярным местом для начала в отношении введения агентского слоя в маркетинговое движение. И становится все более ясно, что не только Piper может автоматизировать практически все задачи и рабочие процессы входящего пайплайна, которые исторически выполнялись человеческими SDR, но она также может начать обрабатывать многие рабочие процессы, традиционно выполняемые платформами маркетинговой автоматизации.

Piper – это мощный пример автономного ИИ-агента в действии. Где вы лично проводите границу между полезной автоматизацией и рискованной автономией?

Автономия не может существовать безопасно без подотчетности. Доверие можно получить или потерять экспоненциально в агентской системе. Мы больше не строим облачные инструменты. Мы теперь развертываем автономных работников, которые принимают решения от имени клиентов. Есть более высокие ставки для надежности и доверия, чем когда-либо прежде. Неправильное или неуместное поведение агента должно быть главным приоритетом для всех, кто разрабатывает агентов. Так же важно инвестировать в возможности вокруг обучения, настройки, тонкой настройки, прозрачности, цитат и контроля, как и возможность для клиента построить основу управления для агента.

С Piper мы намеренно построили полезную автономию – ИИ, который работает в пределах четко определенных ограничений, питаемый нашей богатой историей партнерства с нашими клиентами, использующими наши продукты сегодня. Граница для меня довольно ясна: автоматизация никогда не должна заменять суждение в моменты, которые требуют контекста, эмпатии или нюансов.

Piper не пытается владеть полным путешествием покупателя изначально. Есть важный процесс наращивания, чтобы обеспечить, что агент работает не только эффективно, но и точно, и в пределах границ, определенных клиентом. Вы не можете просто выпустить агента в производство, который взаимодействует с вашими потенциальными клиентами и клиентами, не понимая, как это повлияет на полный цикл покупки.

Итак, для меня граница проводится через доверие, наблюдаемость и контроль. Если мы не можем предоставить объяснимость или измерить его производительность, то он не готов. Большинство компаний, с которыми я говорю, становятся намного более образованными и думают об этих вещах правильно, но это наша работа – помочь нашим клиентам установить правильные ограничения, модерацию и лучшие практики управления.

Учитывая растущие возможности ИИ-агентов, как вы обеспечиваете, чтобы Piper оставался в пределах этических и контекстных границ – особенно при взаимодействии с реальными человеческими лидами в высокорисковых сценариях?

В рамках приложения Qualified вы можете запрограммировать Piper, чтобы он оставался в определенных границах, контролировал ее тон и обеспечивал, что она соблюдает политику компании. Это абсолютные истины и правила взаимодействия, которые не могут быть нарушены при взаимодействии с посетителями. Мы предоставляем значительную модерацию и ограничения в ядре нашего ИИ, что означает, что мы удаляем риски, связанные с данными (PII) и конфиденциальной информацией, полностью. Кроме того, мы позволяем компаниям добавлять дополнительные ограничения, инструкции и правила взаимодействия.

Мы также наделяем Piper возможностью мягко направлять разговор, который отклоняется от темы. Кроме того, если мы понимаем, что на одном конце взаимодействия есть плохой актор, Piper может просто закончить разговор, если он движется в область, которая:

• Не связана с компанией, продуктами, услугами или отраслью
• Случайна или бессмысленна
• Явная, неуместная или оскорбительная
• Полностью вне сферы того, что должен обрабатывать ИИ-агент SDR

Эти строгие ограничения обеспечивают, что Piper остается в пределах своих назначенных границ, давая нашим клиентам полную уверенность и контроль над его поведением.

Вы говорили о необходимости систем откатов и возможностей переопределения. Можете ли вы пройти нас через меры безопасности и контроля, которые вы построили в платформу Qualified, чтобы предотвратить или смягчить ошибки ИИ?

Доверие и прозрачность/объяснимость идут рука об руку. Доверие начинается с предоставления информации о том, что происходит, почему это происходит, и как повлиять на то, как это работает в будущем. Есть основные принципы, такие как цитаты, обратные связи, петли и тонкая настройка. Но мы также приняли дополнительные шаги, чтобы наши пользователи могли предоставить слой наблюдаемости для ИИ, который легко доступен и может предоставить обратную связь человека в цикле.

Например, мы предоставляем возможность симулировать различные обстоятельства и легко увидеть, что сделает ИИ, и предоставить обратную связь или коррекцию на каждом гипотетическом сценарии. Как и вы наращиваете сотрудника, прежде чем он получит автономию, вы должны сделать то же самое с ИИ.

В свете тенденций регулирования ИИ и недавних заголовков о провалах ИИ, как вы видите роль соблюдения политики и формирования будущего ИИ-агентов в продажах и маркетинге?

Регулирование и управление более важны, чем когда-либо. Не трудно подумать о повышенном риске, который агенты могут представлять, если не развертываются ответственно. Мы все видели результаты выпуска ИИ без контекста или подотчетности. В B2B, особенно в продажах и маркетинге, где мы играем, мы обрабатываем много корпоративных данных и некоторую степень лично идентифицируемой информации (PII). Нам нужно держать себя и наших клиентов на высоких стандартах, чтобы защитить опыт покупателей.

Мы строим Piper с соблюдением политики на уровне предприятия, начиная с уровня PRD. Это означает, что мы думаем о конфиденциальности, безопасности и управлении с момента концепции всего нового, что мы строим и отправляем. По мере эволюции ИИ стандарты вокруг обычных подозреваемых в нашей отрасли, таких как SOC 2, GDPR, CCPA, управление согласием и т. д., также будут меняться – это все то, о чем мы думаем, когда отправляем функции. Но проверка коробок не достаточно. Мы создаем культуру прозрачности и строим свою собственную этическую основу до более формальных правил.

Эти части головоломки ИИ не могут ждать официальной политики – если вы еще не устанавливаете эти стандарты внутри своих команд, вы отстаете.

Думаете ли вы, что компании движутся слишком быстро, давая ИИ-агентам слишком большую автономию без построения адекватных структур человеческого надзора?

Мы все видели заголовки, когда эти вещи сходят с рельсов – есть, безусловно, компании, которые движутся слишком быстро и смотрят на ИИ как на инструменты для реализации, а не на полную бизнес-трансформацию.

Автоматизация не является стратегией. Это часть этой более крупной картины, но она требует инфраструктуры и долгосрочного мышления, чтобы избежать совершения огромных ошибок, которые в конечном итоге подрывают доверие к вашим клиентам. Вы не можете вернуть это.

Человеческий надзор не является препятствием для успеха с автоматизацией – это облегчитель. ИИ будет выполнять тяжелую работу, но люди в цикле необходимы для масштабирования ответственно.

Как вы балансируете скорость и эффективность ИИ с уникальными человеческими навыками, такими как суждение, этика и нюансы в взаимодействиях с клиентами?

Мы смотрим на Piper как на товарища. Его сильные стороны – всегда включен, скорость, мгновенное воспоминание, бесконечный масштаб – делают его мощным ИИ-агентом SDR, но мы знаем, что он не может владеть каждым взаимодействием с конечными пользователями. Люди всегда будут нужны в высокорисковых разговорах, где нюансированный эмоциональный интеллект лучше служит покупателю. Использование ИИ в правильных случаях является ключом к балансированию автоматизации и человеческих навыков. Piper молниеносно быстр, но он знает, когда остановиться и вовлечь людей.

Мы позволяем ИИ делать то, что делает ИИ лучше всего, чтобы люди могли делать то, что делают люди лучше всего.

Вы находитесь на переднем крае агентского маркетинга. Что вас больше всего вдохновляет в ближайшие 2-3 года в этой области?

Я чувствую, что эра ИИ дала нам всех второе дыхание после трудных нескольких лет в технологическом пространстве. Агентский маркетинг – это мощное инновационное решение, которое открывает двери для всех видов новых технологий, и оно почти выровняло игровое поле для компаний в отрасли.

Мы все находимся на этом американских горках вместе, и мы, наконец, проходим мимо той первоначальной фазы гиммиков и видим, какие применения действительно полезны.

Следующие два-три года будут все о оркестровке – когда все больше и больше ИИ-агентов появляются, задача будет заключаться в том, чтобы построить наиболее мощные технологические стэки, которые работают вместе как одна команда, чтобы выполнить сложные рабочие процессы.

Какие отрасли, по вашему мнению, меньше всего готовы к последствиям автономных ИИ-агентов – и что они должны делать сейчас, чтобы опережать?

Отрасли, которые имеют жесткие иерархии и устаревшие технологические стэки, находятся в группе риска. Для агентского маркетинга необходимо иметь современный образ мышления вокруг гигиены данных и программного обеспечения, и некоторые из этих более крупных операций движутся медленно и имеют много технологического долга, который необходимо преодолеть. Иронично, что эти организации больше всего выигрывают от ИИ-агентов – их рабочие процессы готовы к автоматизации.

Ключом сейчас является начало с инфраструктуры, а не технологий. Им нужно привести свои дома в порядок сначала с помощью стратегического планирования вокруг рабочих процессов, где агенты добавляют ценность. Им понадобятся основы вокруг соблюдения политики и безопасности. Затем они могут начать пилотировать некоторые из этих программ.

Это не только ИТ-проект – это полная организационная трансформация, сверху донизу.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Qualified.