Вілл Боудвес, співзасновник і генеральний директор Phonely — цикл інтерв’ю

Will Bodewes — співзасновник і генеральний директор Phonely, компанії, що розробляє голосовий ШІ та допомагає бізнесам відповідати на дзвінки й покращувати результати спілкування з клієнтами. До заснування компанії він навчався в докторантурі в University of Melbourne, де досліджував прикладний штучний інтелект і системи, здатні виконувати інструкції та спілкуватися природно. Раніше він заснував стартап у сфері аудіотехнологій, а також брав участь у змаганнях NCAA з лижних перегонів і велоперегонів на ультрадовгі дистанції. У Phonely він застосовує свій дослідницький досвід для розв’язання практичних завдань, пов’язаних із впровадженням голосових агентів, зокрема забезпечення надійності діалогів, зменшення затримок, інтеграції та постійного вдосконалення процесів бронювання, продажів і обслуговування клієнтів.

Phonely — платформа голосових агентів на основі ШІ, яка дає бізнесам змогу автоматизувати телефонні розмови, призначати зустрічі, кваліфікувати потенційних клієнтів, перенаправляти дзвінки та пов’язувати взаємодії з клієнтами з наявним програмним забезпеченням. Її інструменти поєднують гнучко налаштовувані сценарії розмов із журналами дзвінків, аналітикою та A/B-тестуванням, щоб команди могли оцінювати ефективність і з часом покращувати результати. Компанія працює з організаціями — від малого бізнесу до великих підприємств — і заявляє, що обслуговує понад 10 000 компаній та обробляє більш ніж 120 000 дзвінків на день. Phonely також розробляє власні розмовні моделі, зокрема Alma, прагнучи зробити автоматизовані дзвінки швидшими, надійнішими та краще пристосованими до реальних ділових розмов.

Ви почали створювати Phonely, навчаючись у докторантурі з ШІ в University of Melbourne, і спершу зосередилися на системах, здатних виконувати інструкції та спілкуватися природно. Що переконало вас, що голосовий ШІ вже досяг рівня, на якому міг стати основою окремої компанії, і що ви помітили на ринку такого, чого не бачили інші?

Тоді не було жодних доказів того, що голосовий ШІ здатен стати основою окремої компанії. Ним займалися кілька компаній, у яких було близько п’яти чи десяти користувачів, але нікому не вдалося успішно впровадити голосовий ШІ, який не був би системою IVR. Тож коли ми заснували Phonely, це була ставка. На той час усі зосередилися на чаті, тож голос був новим каналом взаємодії. Цю проблему ще не розв’язали, тому ми подумали: «Чому б не взятися за неї? Чому б не спробувати її розв’язати?»

Ви розповідали, що почали свої докторські дослідження з метою створити ШІ, який міг би «виконувати інструкції, як робот, і говорити, як людина». Які технічні прориви дали вам зрозуміти, що ці дослідження можуть стати основою комерційної платформи голосового ШІ?

Ці дослідження були цінними й важливими для розуміння фундаментальних технологічних процесів. Вони дали мені змогу зазирнути за горизонт і побачити, що з’являється в розробці. Я розумів, що являють собою ці моделі та як вони працюють, і завдяки цьому міг наважитися зробити ставку. Зокрема, я хотів створити компанію та справити помітний вплив, а ця сфера найбільше відповідала тому, що я знав і передбачав. Я хотів стати її частиною.

Ви казали, що кожен телефонний дзвінок — це етап воронки продажів, ефективність якого бізнеси історично не могли систематично підвищувати. Як на практиці виглядає оптимізація телефонної розмови та як ШІ може з часом покращити конверсію, частку вирішених звернень або клієнтський досвід?

Уявімо, що ви записуєтеся на прийом до сантехніка. Людину, яка відповідає на дзвінок, навчили збирати ваші дані й призначати зустріч, але залежно від того, як вона ставить запитання, вона може розповісти вам про послуги, про які ви не знали, що вони входять до переліку послуг цієї компанії. Тож ви можете записатися на прийом через проблему з водопроводом, а згодом з’ясувати, що вам також потрібно відремонтувати раковину. Добре навчений голосовий агент на основі ШІ робить те саме: допомагає бізнесу пропонувати клієнтам додаткові товари й послуги та збільшувати дохід. Він може запропонувати товар, про який новому адміністратору не розповіли під час навчання, і додати ще одну позицію до замовлення — клієнт буде задоволеніший, а результат для бізнесу покращиться. Звичайний голосовий ChatGPT цього не вміє. Для цього потрібен спеціально створений і навчений продукт.

Крім того, люди можуть пропустити дзвінок, не відповісти на нього або перенаправити його на голосову пошту. Це згубно для малого бізнесу в Америці. Там часто немає кому відповідати на дзвінки, якість обслуговування нестабільна, а можливості її покращувати відсутні. Завдяки ШІ, якщо дзвінок не дає бізнесу бажаного результату, ми можемо оптимізувати процес, спираючись на наявні дані. ШІ працює швидко, тож ми можемо змінювати перебіг розмови — з людьми це було б незрівнянно повільніше.

Зараз усі розглядають ШІ як спосіб скоротити витрати. Але ми вважаємо, що його варто сприймати як інструмент зростання. Завдяки впровадженню ШІ бізнеси справді можуть розвиватися й працювати краще, ніж раніше.

Голосовому ШІ доводиться долати проблеми, яких текстовий ШІ часто може уникнути: затримки, перебивання співрозмовника, акценти, фоновий шум, емоційні сигнали та непередбачуваний перебіг розмови. Яку з цих проблем було найважче надійно розв’язати в масштабі великих підприємств?

Найбільша проблема — затримка. Тепер ми її розв’язали, але на початку вона завдавала чимало клопоту з двох причин.

По-перше, ми спиралися на стартапи, які не забезпечували надійної роботи. Значна частина запитів до API OpenAI завершувалася помилкою, і відповіді ми не отримували. Під час телефонної розмови це рівнозначно тому, що покласти слухавку, тож нам довелося налаштувати повторні спроби.

Другою проблемою була пропускна здатність. Коли ви надсилали запит до OpenAI, він потрапляв у чергу за сотнями або тисячами інших запитів, і ви не знали, на якому місці опинитеся. Відповідь могла надходити аж через 30 секунд. Щоб обійти цю проблему, ми з’ясували, де OpenAI розмістила кінцеві точки по всьому світу, і перемикалися між ними залежно від того, у яких країнах була ніч і попит був низьким. Нам довелося створити всю цю інфраструктуру лише для того, щоб знаходити кінцеві точки з найнижчим попитом у певний момент. Це була доволі цікава технічна задача. Тепер ми навчаємо власні моделі, зокрема Alma, тож нам не потрібно про це турбуватися, адже ми самі керуємо обчислювальними ресурсами та попитом.

Тепер Phonely обробляє понад 120 000 дзвінків на день для тисяч компаній. Чого ви навчилися, керуючи голосовими агентами в таких масштабах, про що не здогадувалися, коли створювали першу версію платформи?

Дуже важливо, щоб система працювала безперебійно 100% часу. Одним із найскладніших інженерних завдань, над якими ми працювали, було забезпечення надійності та швидкодії. Сфера ШІ розвивається неймовірно швидко, і ми теж рухаємося швидко — навіть за мірками компанії у сфері ШІ. У Y Combinator є такий вислів: «Рухайся швидко й ламай речі». Але якщо клієнти здійснюють 120 000 дзвінків на день, ми не можемо дозволити собі щось зламати. Тому значна частина нашої роботи полягала в тому, щоб з’ясувати, як випускати оновлення з потрібною швидкістю — аби не втрачати актуальності й постійно вдосконалювати продукт, водночас задовольняючи корпоративних клієнтів і забезпечуючи стабільну роботу, поки ми створюємо нові функції, щоб залишатися попереду конкурентів. Надійність, мабуть, була одним із найбільших викликів, із якими ми зіткнулися, створюючи компанію.

Генеративні системи ШІ можуть поводитися непередбачувано, але телефонний агент, який взаємодіє з клієнтами, може обробляти платежі, бронювання, запитання про здоров’я та інші важливі звернення. Як ви проєктуєте голосових агентів, які залишаються гнучкими й підтримують розмову, але водночас не вигадують фактів і не виходять за межі наданих їм повноважень?

Ми з’ясували це на власному досвіді приблизно два роки тому, а тепер такий підхід досить широко застосовують у галузі. Ми зрозуміли, що найбільша проблема великих мовних моделей — контекст. Якщо додати до запиту забагато інформації, наприклад сторінки інструкцій, імовірність помилки зростає.

Тож ми розробили систему оркестрації з вісьмома агентами, у якій завдання передається від одного агента до іншого, а кожен агент має власний контекст. Це схоже на те, як людина дотримується сценарію під час дзвінка: отримує певну інформацію, переходить до наступного етапу і так далі. Завдяки цьому ми можемо розділити етапи на рівні коду. Якби перед поверненням коштів мені потрібно було зібрати ваше ім’я, адресу електронної пошти, номер телефону й дату народження, я міг би гарантувати, що всю цю інформацію буде зібрано на рівні коду, перш ніж перейти далі. Якщо покладатися лише на велику мовну модель, такої гарантії немає. Завдяки цьому рівню оркестрації агентів можна забезпечити 100% надійність, адже всі етапи фіксуються до того, як завдання передається новому агенту. Він зберігає контекст, але обмежений власними інструкціями.

Повідомлялося, що одне впровадження Phonely принесло клієнту 10 мільйонів доларів додаткового чистого доходу лише за три місяці. Завдяки чому ШІ забезпечив такий вимірюваний вплив на бізнес і де, на вашу думку, голосовий ШІ сьогодні дає найвищу рентабельність інвестицій?

Ми змогли цього досягти, тому що мали доступ до показників клієнта. Оскільки йшлося про вхідні дзвінки, клієнт прагнув збільшити продажі, а оператори кваліфікували потенційних покупців, тож ми могли відстежувати результати. Залежно від дня частка дзвінків, що завершувалися продажем у їхньому кол-центрі, становила приблизно від 35% до 42%. Отримавши ці дані від клієнта, ми взяли його сценарії та оптимізували агента. Спочатку частка продажів становила приблизно 20%. У наступні місяці ми вдосконалювали рішення, коригували його й оптимізували, аж поки в більшості випадків не перевершили показники їхнього кол-центру. Частка продажів і далі зростала, бо ми виявляли проблеми й забезпечили незмінно бездоганний досвід щоразу. Нам вдалося перевершити результати кол-центру.

У міру того як голосові агенти стають функціональнішими, де компаніям слід провести межу між розмовами, які можна повністю автоматизувати, і ситуаціями, у яких має брати участь людина?

Компанії мають бути спроможні автоматизувати будь-який повторюваний процес, якого вони хочуть дотримуватися і який достатньо чітко визначено.

Однак у деяких сферах автоматизація дається складно. Одна з них — інтеграції без API. Скажімо, вам потрібна інтеграція, але відповідне програмне забезпечення не має API. Це складно обійти, хоча можна налаштувати певну автоматизацію роботи в браузері. Інша проблема виникає, коли завдання кілька разів передають від агента людині й знову агенту. Третя — прогалини в контексті. Уявімо, що я забув гаманець у ресторані. ШІ ніколи не зможе розв’язати таку проблему, бо не знає, чи є у вас гаманець, і не може перевірити, чи залишився він у ресторані.

У деяких ситуаціях завжди буде потрібна людина, так само як і для складніших завдань, що охоплюють кілька систем. Для таких випадків не варто використовувати агента.

Нещодавно Phonely залучила 16 мільйонів доларів у межах раунду фінансування серії A, а кількість компаній-клієнтів перевищила 10 000. Яким буде наступний етап розвитку компанії та які технічні можливості, на вашу думку, вирізнятимуть нове покоління платформ голосового ШІ?

Наступний етап — розширення команди й подальші інвестиції в її розвиток. Ми повністю зосереджені на цій ідеї. Багато компаній виходять на ринок голосового ШІ й, імовірно, досить добре працюватимуть у різних сферах. Але ми не просто створюємо голосового агента. Ми розробляємо платформу оптимізації, використовуючи голос як канал взаємодії. Для компаній, яким важливі потенційні клієнти й дохід, що його генерують телефонні канали, головне для нас — оптимізувати агентів ШІ, щоб вони досягали бажаних клієнтами результатів. Думайте про Phonely як про компанію з оптимізації, до якої звертаються, щоб поліпшити роботу своїх агентів.

У своїх академічних дослідженнях ви також вивчали, як за допомогою ШІ та технологій інтелектуальних лічильників розширити доступ до енергії й забезпечити екологічно чисте приготування їжі в країнах, що розвиваються. Якщо поглянути за межі Phonely, як, на вашу думку, можна застосовувати ШІ для розв’язання масштабних проблем фізичного світу, як-от доступ до енергії, і чи хотіли б ви зрештою повернутися до цієї сфери?

За допомогою ШІ можна зробити багато доброго, але чимало проблем виникають через дії людей, тож зміни мають відбутися й з їхнього боку. Не всі проблеми можна розв’язати за допомогою технологій. Але якщо технологічні зміни відбуватимуться одночасно зі змінами в поведінці людей, це матиме позитивний вплив на світ.

Дякуємо за чудове інтерв’ю! Читачі, які хочуть дізнатися більше, можуть відвідати сайт Phonely.