Уилл Боудвес, сооснователь и генеральный директор Phonely — интервью

Уилл Боудвес — сооснователь и генеральный директор Phonely, компании, разрабатывающей голосовой ИИ и помогающей бизнесу отвечать на звонки и повышать эффективность общения с клиентами. До основания компании он занимался исследованиями в рамках PhD в University of Melbourne, изучая прикладной искусственный интеллект и системы, способные следовать инструкциям и при этом общаться естественно. Ранее он основал стартап в сфере аудиотехнологий, а также участвовал в соревнованиях NCAA по лыжным гонкам и сверхдлинным велогонкам. В Phonely он применяет свой исследовательский опыт для решения практических задач внедрения голосовых агентов, включая надежность диалога, задержки, интеграции и постоянную оптимизацию процессов записи на прием, продаж и обслуживания клиентов.

Phonely — платформа голосовых ИИ-агентов, которая позволяет компаниям автоматизировать телефонные разговоры, записывать клиентов на прием, оценивать потенциальных клиентов, маршрутизировать звонки и связывать взаимодействия с клиентами с уже используемым программным обеспечением. Ее инструменты объединяют настраиваемые сценарии диалогов с историей звонков, аналитикой и A/B-тестированием, чтобы команды могли оценивать эффективность и со временем улучшать результаты. Компания работает с организациями самых разных масштабов — от малого бизнеса до крупных предприятий — и заявляет, что обслуживает более 10 000 компаний и обрабатывает свыше 120 000 звонков в день. Phonely также разрабатывает собственные разговорные модели, в том числе Alma, стремясь сделать автоматизированные звонки быстрее, надежнее и лучше приспособленными к реальному деловому общению.

Вы начали создавать Phonely, работая над PhD по ИИ в University of Melbourne, и на раннем этапе сосредоточились на разработке систем, способных «следовать инструкциям, как робот, и разговаривать, как человек». Что убедило вас в том, что голосовой ИИ уже достиг уровня, позволяющего создать на его основе самостоятельную компанию, и какие возможности на рынке вы заметили раньше других?

В то время не было никаких доказательств того, что голосовой ИИ способен стать основой самостоятельной компании. Им занимались несколько компаний, у которых было около пяти или десяти пользователей, но никому не удалось успешно внедрить голосовой ИИ, не являвшийся системой IVR. Поэтому, когда мы основали Phonely, это была ставка. Тогда все внимание было сосредоточено на чатах, поэтому голос стал новым каналом взаимодействия. Эту проблему еще никто не решил, и мы подумали: «Почему бы не взяться за нее? Почему бы не попробовать ее решить?»

Целью вашего исследования в рамках PhD была разработка ИИ, который мог бы «следовать инструкциям, как робот, и разговаривать, как человек». Какие технические прорывы убедили вас, что это исследование может стать основой коммерческой платформы голосового ИИ?

Это исследование было ценным и важным для понимания фундаментальных технологий, лежащих в основе происходящего. Оно помогло мне заглянуть за горизонт и увидеть, что уже готовится. Я понимал, что представляют собой эти модели и как они работают, и это позволило мне рискнуть. В частности, я хотел создать компанию и оказать влияние, а эта область была ближе всего к тому, что я знал и видел на горизонте. Мне хотелось стать частью этого.

Вы говорили, что каждый телефонный звонок — это этап воронки продаж, эффективность которого компании исторически не могли систематически повышать. Что на практике означает оптимизация телефонного разговора и как ИИ может со временем повысить конверсию, долю решенных вопросов или качество обслуживания клиентов?

Представим, что вы записываетесь на прием к сантехнику. Человека на телефоне обучили собирать ваши данные и назначать время, но в зависимости от того, как он задает вопросы, он может рассказать вам и о других услугах компании, о которых вы не знали. Вы записываетесь из-за проблем с водопроводом, а выясняется, что вам нужно еще и починить раковину. Хорошо обученный голосовой ИИ-агент делает то же самое: помогает компании предлагать клиентам дополнительные услуги и увеличивать выручку. Он может предложить дополнительный продукт, о котором новый администратор не знал, и добавить еще одну позицию в заказ — клиент останется доволен, а результат для бизнеса будет лучше. Обычный голосовой интерфейс ChatGPT так работать не умеет. Для этого нужен специально созданный и обученный продукт.

Кроме того, люди могут пропускать звонки, не отвечать на них или перенаправлять их на голосовую почту. Для малого бизнеса в Америке это губительно. У таких компаний нет сотрудников, которые отвечали бы на звонки; качество обслуживания непостоянно, а способов его оптимизировать нет. С помощью ИИ мы можем улучшать результат звонка, если он не соответствует ожиданиям компании, опираясь на имеющиеся у нас данные. Благодаря скорости ИИ мы можем менять ход разговора — с людьми это происходило бы гораздо медленнее.

Сейчас все рассматривают ИИ прежде всего как способ сократить расходы. Но мы считаем, что на ИИ стоит смотреть как на инструмент роста. Внедряя ИИ, компании действительно могут расти и работать лучше, чем раньше.

Голосовому ИИ приходится решать задачи, которых текстовый ИИ часто может избежать: задержки, перебивания, акценты, фоновый шум, эмоциональные сигналы и непредсказуемость диалогов. Какая из этих проблем оказалась самой сложной для надежного решения в масштабах крупных компаний?

Сложнее всего оказалось справиться с задержкой. Сейчас мы уже решили эту проблему, но на первых порах она доставляла массу хлопот по двум причинам.

Во-первых, мы строили решение на базе стартапов, которые не отличались надёжностью. Значительная часть запросов к API OpenAI завершалась ошибкой, и мы не получали ответа. Если вы разговариваете по телефону, это всё равно что повесить трубку, поэтому нам пришлось предусмотреть повторные попытки.

Вторая проблема заключалась в пропускной способности. Когда вы отправляли запрос в OpenAI, он вставал в очередь за сотнями или тысячами других запросов, и вы не знали, какое место занимаете. Ответ мог приходить через 30 секунд. Чтобы обойти эту проблему, мы изучили расположение конечных точек OpenAI по всему миру и переключались между ними в зависимости от того, в каких странах была ночь и спрос был низким. Нам пришлось создать всю эту инфраструктуру лишь для того, чтобы находить конечные точки с наименьшей нагрузкой в данный момент. Это была довольно интересная техническая задача. Теперь мы обучаем собственные модели, в том числе Alma, поэтому нам не приходится об этом беспокоиться: мы сами управляем вычислительными ресурсами и спросом.

Сейчас Phonely обрабатывает более 120 000 звонков в день для тысяч компаний. Что вы узнали, эксплуатируя голосовых агентов в таком масштабе, чего нельзя было предвидеть, когда вы создавали первую версию платформы?

Очень важно, чтобы система работала 100% времени. Одна из самых сложных инженерных задач, над которыми мы работали, — обеспечить надёжность и скорость. Сфера ИИ развивается невероятно быстро, и мы тоже движемся быстро — даже по меркам компании в сфере ИИ. В Y Combinator есть поговорка: «Двигайся быстро и ломай вещи». Но когда ваши клиенты совершают 120 000 звонков в день, вы не можете позволить себе что-либо сломать. Поэтому значительная часть нашей работы заключалась в том, чтобы понять, как выпускать обновления с необходимой скоростью, оставаться актуальными и совершенствовать продукт, одновременно поддерживая удовлетворённость корпоративных клиентов и стабильную работу сервиса, пока мы разрабатываем новые функции и стремимся опережать рынок. Надёжность, вероятно, была одной из главных проблем, с которыми мы столкнулись при создании компании.

Генеративные системы ИИ могут вести себя непредсказуемо, однако телефонный агент, взаимодействующий с клиентами, может обрабатывать платежи и бронирования, отвечать на вопросы о здоровье или участвовать в других ответственных взаимодействиях. Как вы проектируете голосовых агентов, чтобы они оставались гибкими и поддерживали естественный диалог, не галлюцинировали и не выходили за установленные для них рамки?

Мы пришли к этому решению непростым путём около двух лет назад, а теперь оно довольно широко распространено во всей отрасли. Мы поняли, что главная проблема больших языковых моделей — контекст. Если включить в запрос слишком много информации, например страницы инструкций, вероятность ошибки возрастает.

Поэтому мы разработали систему оркестрации из восьми агентов, которые передают задачу друг другу; у каждого агента свой локальный контекст. Это похоже на то, как человек следует сценарию во время звонка: получает информацию, переходит к следующему этапу и так далее. Благодаря этому мы можем разделить этапы на уровне кода. Если перед возвратом денег мне нужно собрать ваше имя, адрес электронной почты, номер телефона и дату рождения, я могу гарантировать, что эти сведения будут собраны на уровне кода, прежде чем система перейдёт дальше. Если полагаться только на большую языковую модель, такой гарантии не будет. Благодаря этому слою оркестрации агентов можно добиться 100% надёжности: все этапы фиксируются до передачи задачи новому агенту, у которого сохраняется контекст, но который ограничен собственными инструкциями.

Сообщается, что одно из внедрений Phonely принесло клиенту 10 миллионов долларов дополнительной чистой выручки всего за три месяца. Благодаря чему ИИ обеспечил такой измеримый эффект для бизнеса и где, по вашему мнению, голосовой ИИ сегодня приносит наибольшую отдачу от инвестиций?

Мы смогли этого добиться, потому что располагали показателями клиента. Поскольку речь шла о входящих звонках, компания стремилась увеличить продажи и квалифицировала звонящих, поэтому мы могли отслеживать результаты. В зависимости от дня доля звонков, завершавшихся продажей в их кол-центре, составляла примерно от 35% до 42%. Получив эти данные от клиента, мы взяли его сценарии и оптимизировали агента. Изначально доля продаж составляла около 20%. В последующие месяцы мы вносили изменения, корректировали детали и оптимизировали систему, пока в большинстве случаев она не стала превосходить кол-центр клиента по этому показателю. Доля продаж продолжала расти, потому что мы выявляли проблемы и обеспечивали безупречный и одинаковый опыт при каждом звонке. В итоге мы смогли превзойти кол-центр.

По мере того как голосовые агенты становятся всё функциональнее, где компаниям следует проводить границу между разговорами, которые можно полностью автоматизировать, и ситуациями, в которых необходимо участие человека?

Компании должны иметь возможность автоматизировать любой достаточно чётко определённый повторяющийся процесс, который они хотят выполнять по заданному сценарию.

Однако в некоторых случаях автоматизация затруднена. Первая проблема — интеграции без API. Допустим, вам нужна интеграция, но у соответствующей программы нет API. Обойти это сложно, хотя можно использовать некоторые средства автоматизации браузера. Другая проблема — несколько последовательных передач задачи от агента человеку и обратно. Третья — пробелы в контексте. Допустим, я забыл кошелёк в ресторане. ИИ никогда не сможет решить эту проблему, потому что он не знает, есть ли у вас при себе кошелёк, и не может проверить, остался ли он в ресторане.

В некоторых ситуациях участие человека всегда будет необходимо, как и при более сложной работе, затрагивающей несколько систем. В таких случаях не следует использовать агента.

Недавно Phonely привлекла 16 млн долларов в рамках раунда серии A, после того как число компаний-клиентов превысило 10 000. Как будет выглядеть следующий этап развития компании и какие технические возможности, по вашему мнению, выделят платформы голосового ИИ нового поколения?

Следующий этап — расширение команды и дальнейшие инвестиции в неё. Мы полностью вкладываемся в эту идею. Многие компании осваивают голосовой ИИ и, вероятно, будут достаточно успешно применять его в разных областях. Но мы не просто создаём голосового агента. Мы разрабатываем платформу оптимизации и используем голос как канал взаимодействия. Мы сосредоточены на оптимизации ИИ-агентов для компаний, которым важны потенциальные клиенты и доход, который приносят телефонные звонки, чтобы агенты помогали достигать желаемых клиентами результатов. Думайте о Phonely как о компании, занимающейся оптимизацией: её клиенты хотят совершенствовать своих агентов, чтобы те работали лучше.

В своих академических исследованиях вы также изучали, как с помощью ИИ и технологий интеллектуальных счётчиков расширить доступ к энергии и экологически чистым способам приготовления пищи в странах с развивающейся экономикой. Если говорить не только о Phonely, как, по-вашему, ИИ можно применять для решения масштабных проблем реального мира, таких как доступ к энергии, и надеетесь ли вы в будущем вернуться к этой сфере?

ИИ может принести много пользы, но многие существующие проблемы созданы самими людьми, поэтому изменения должны происходить и с их стороны. Не все проблемы можно решить с помощью технологий. Но если технологические и общественные изменения будут происходить одновременно, это в целом пойдёт миру на пользу.

Спасибо за интересное интервью. Читатели, желающие узнать больше, могут посетить Phonely.