Рендалл Ньюман, головний технічний та продуктовий директор і співзасновник Satisfi Labs — серія інтерв’ю

Randall Newman, головний технічний та продуктовий директор і співзасновник Satisfi Labs, є лідером у сфері технологій і продукту з великим досвідом створення AI‑платформ, фінтеху та високопродуктивних систем. З моменту співзаснування Satisfi Labs, Ньюман відіграє ключову роль у формуванні, розробці та масштабуванні технології розмовного ШІ компанії, одночасно керуючи розробкою продукту, архітектурою, інженерними командами та стратегічними інтеграціями. До Satisfi Labs він працював головою продукту в Satisfi Inc. і співзаснував компанію мобільного маркетингу Right On Mobile. На початку кар’єри Ньюман провів понад 17 років у CIBC World Markets, де займав старші керівні посади, що охоплювали стратегічний ризик, високочастотну торгівлю та арбітраж акцій, поєднуючи експертизу кількісної торгівлі з практичною розробкою технологій.

Satisfi Labs — це AI‑компанія, орієнтована на розгортання спеціалізованих AI‑агентів для спорту, розваг, туризму, атракціонів та інших бізнесів, що працюють у сфері живих вражень. Заснована у 2016 році, компанія еволюціонувала від розмовного ШІ та його Answer Engine до агентської платформи, призначеної допомагати організаціям автоматизувати підтримку гостей, підвищувати конверсії продажу квитків та комерції та отримувати інсайти з розмов з клієнтами. Її AI‑агенти працюють більш ніж 50 мовами і підключаються до систем продажу квитків, CRM, управління контентом та інших бізнес‑систем, виконуючи дії, такі як продаж квитків, ескалація розмов до людського персоналу, збір інформації про клієнта та надання персоналізованих відповідей. Satisfi Labs стверджує, що її технологія зараз довіряє понад 775 брендів, а інтеграції та партнерства охоплюють компанії, такі як Ticketmaster, Simpleview, MappedIn, Ventrata та Vozzi.

Ви провели майже два десятиліття у фінансових ринках, включаючи створення низьколатентних торгових систем та керування стратегіями високочастотної торгівлі в CIBC, перш ніж перейти до технологічного підприємництва і в кінцевому підсумку співзаснувати Satisfi Labs. Які уроки з операційних систем, де швидкість, надійність та управління ризиками були критичними, найбільше вплинули на те, як ви будуєте виробничі AI‑агенти сьогодні?

Торгівля навчила мене, що хороша ідея і хороший бізнес — це дві різні речі. Ви можете правильно визначити можливість, але все одно втратити гроші, якщо ваша реалізація повільна, витрати занадто високі або ризикові припущення неправильні. ШІ — те саме. Можливості моделі — лише один вхідний параметр. Бізнес залежить від того, чи зможете ви перетворити цю можливість у повторюваний результат за прийнятною вартістю та ризиком.

Управління книгою індексного арбітражу також навчає вас дивитися поза окремими рішеннями. Невелика помилка, повторена по всьому портфелю, перетворюється на дуже великий ризик. У ШІ ви можете мати тисячі агентів, які приймають окремо розумні рішення, але колективно створюють проблему. Вони всі залежать від одних і тих же поганих даних або повторно звертаються до того самого несправного сервісу. Потрібно керувати системою, а не лише окремою відповіддю.

Швидкість має значення лише тоді, коли вона покращує результат. У торгівлі були моменти, коли мікросекунди мали значення. У ШІ я радше витрачу ще одну секунду на підтвердження транзакції, ніж миттєво доставлю неправильний результат. Дисципліна полягає у розумінні, де швидкість створює цінність, а де лише прискорює помилку.

Останній урок — це той, який започаткував весь бізнес. Перевага полягає у виявленні неправильного ціноутворення раніше за інших. Я вважаю, що наразі неправильне ціноутворення полягає в тому, що більшість компаній розглядають AI‑агентів лише як спосіб скоротити витрати на підтримку. У Satisfi Labs ми бачимо їх як канал доходу. У наших спортивних аренах близько 40 відсотків розмов агентів стосуються квитків. Ці фанати не приходять скаржитися. Вони приходять з готівкою в руках, запитуючи, де сісти. Знайдіть те, що ринок оцінює неправильно, і захопіть це. Та ж інстинкт, що і в арбітражному бізнесі.

Satisfi Labs була заснована у 2017 році, задовго до поточного буму генеративного ШІ, і еволюціонувала від контекстуальної обробки природної мови та розмовного ШІ до агентської платформи. Які були найбільші архітектурні зміни, необхідні для переходу від систем, розрахованих головним чином на відповіді на запитання, до агентів, здатних виконувати дії від імені користувачів?

Ми провели десятиліття, створюючи тисячі AI‑агентів для понад 800 корпоративних клієнтів, включаючи команди MLB/NFL, розважальні майданчики та туристичні організації. Найбільша зміна полягає в тому, що ви надаєте системі повноваження, а не лише інформацію.

Якщо помічник повідомляє вам, які квитки доступні, це лише відповідь. Якщо він обмінює ваші квитки, це змінює інвентар, записи клієнтів і потенційно гроші. Тепер вам потрібно знати, хто уповноважив дію, що саме сталося і як відновити процес, якщо він зупинився на півшляху.

Тому ми розділяємо судження моделі та повноваження на виконання. Модель може інтерпретувати запит і запропонувати наступний крок. Системи під нею забезпечують дотримання дозволів, бізнес‑правил та лімітів транзакцій. Переконливе пояснення від моделі не може обійти ці контролі.

Вам також потрібне чітке розрізнення між “агент сказав, що завдання виконано” і “бізнес‑система підтвердила завершення”. Це не одне й те саме. Якщо запит на покупку завершується тайм‑аутом, краще з’ясувати, чи покупка відбулася, перш ніж пробувати знову.

Стратегічно кращі моделі не повинні змушувати вас перебудовувати ваші бізнес‑контроли. Я хочу скористатися кожним покращенням у мисленні, не переузгоджуючи, що системі дозволено робити щоразу, коли з’являється нова модель.

Термін «агентний ШІ» тепер застосовується до широкого спектра продуктів. З інженерної точки зору, де ви проводите межу між просунутим чат‑ботом, AI‑копілотом і справді автономним AI‑агентом?

Я б поставив одне запитання: яку відповідальність фактично делегувала особа?

Чат‑бот надає інформацію. Копілот допомагає виконувати роботу, проте ви все ще керуєте та затверджуєте важливі кроки. Автономний агент має дозвіл самостійно приймати деякі з цих рішень, переслідуючи певну мету.

Інтерфейс не підказує, який саме ви бачите. Розмовний продукт може мати реальну автономність під капотом. Те, що позиціонується як агент, все ж може вимагати схвалення кожної корисної дії людиною.

Для підприємства автономність має бути чітким договором: ця система може виконувати певні дії, для певних користувачів, в межах заданих обмежень, і повинна зупинятись за визначених умов. Це те, що можна реально протестувати та керувати.

Я також не ставив би максимальну автономність за мету. Іноді найкращий продукт ставить одне вчасне запитання і решту справляється сам. Видалення цього запитання робить демонстрацію вражаючішою, а бізнес – менш безпечним. Мета полягає у усуненні непотрібної людської праці, а не необхідного людського судження.

Satisfi Labs нещодавно запустила Satisfi Forward, практику інженерії, розгорнутої безпосередньо у клієнта. Яку прогалину ви помічали між створенням потужної AI‑платформи та реальним надійним функціонуванням агентів у реальному середовищі замовника, що змусило вас створити цю модель?

Останній етап став вузьким місцем. Платформа може багато стандартизувати, але не може припускати, що бізнес кожного клієнта працює однаково. Їхня система квитків має певні обмеження. Процес затвердження проходить через три відділи. Їхнє визначення кваліфікованого ліда відрізняється від наступного клієнта. Ці деталі вирішують, чи є впровадження дійсно корисним.

Ви можете придбати готову платформу «з коробки» і скласти демонстрацію, що вражає людей. Комерціалізувати її як надійний досвід для реальних користувачів – це інше. Саме тут вступають інженери, розгорнуті безпосередньо у клієнта. Завдання нашої команди в Satisfi Forward – зрозуміти результат, з’ясувати, що його блокує, і побудувати робочі процеси та інтеграції поверх платформи, які це забезпечать.

Але ми встановлюємо чіткі межі для кожного залучення. Перш ніж почати розробку, ми погоджуємося, що означає успіх, хто володіє бізнес‑процесом, що залежить від клієнта, і хто підтримуватиме його після запуску. Інакше проєкт останнього етапу перетворюється на необмежене зобов’язання. І залучення не завершується, коли код відправляється. Воно завершується, коли робочий процес працює в операціях клієнта, і хтось відповідає за його підтримку.

Вартість розробки коду також значно знизилася, що робить цю модель набагато практичнішою, ніж раніше. Але я не розглядаю Satisfi Forward як сервісний підрозділ, приєднаний до SaaS‑продукту. Кожне залучення навчає нас, яким має бути наступний продукт. Коли три клієнти просять один і той самий робочий процес, це не навантаження на підтримку. Це саме створення дорожньої карти, з підключеними платними клієнтами. Старий SaaS‑модель вгадувала функції і чекала на докази. Таким чином ми спочатку отримуємо докази і дохід, поки їх збираємо. Я вважаю, що саме так будуються продуктові компанії в еру ШІ.

Ваші агенти можуть підключатися до систем квитків, платформ управління взаємовідносинами з клієнтами, систем управління контентом та інших джерел реальної інформації в режимі реального часу. Коли агенти отримують можливість здійснювати транзакції та ініціювати дії, як ви балансуєте доступ до даних у реальному часі та низьку затримку з обґрунтуванням, безпекою та захистом від неправильних дій?

По‑перше, я ніколи не дозволив би швидкості компенсувати помилку безпеки. Деякі вимоги є обмеженнями. Ви оптимізуєте в їх межах.

Потім ви розрізняєте типи роботи. Відповідь на питання про паркування та завершення покупки квитка не потребують однакової актуальності даних чи однакових контролів. Стабільну інформацію можна кешувати. Коли гроші переходять з рук в руки, потрібна авторитетна система транзакцій для підтвердження ціни, доступності та завершення.

Небезпечні випадки – це коли система не знає, що сталося. бекенд приймає покупку, але відповідь ніколи не надходить. Якщо агент припускає збій і повторює спробу, у вас отримуються два покупки. Це не проблема мови, а проблема відновлення транзакції.

І ви вимірюєте досвід за умов, які дійсно важливі. Середня затримка у спокійну вівторок майже нічого не каже. Якщо подія скасовується через дощ, раптом тисячі людей одночасно запитують, що станеться з їхніми квитками. Якщо планувати лише за середнім трафіком за хвилину, ви пропустите необхідну пропускну здатність під час такого сплеску. Я навчився цьому безпосередньо від торгових систем.

Тут також є рішення щодо вартості. Не кожен запит потребує найдорожчої моделі або ланцюжка агентів. Використовуйте найпростіший шлях, який задовольняє вимогу, і витрачайте додатковий час або обчислювальні ресурси там, де це матеріально покращує рішення. Користувач повинен отримати чесний результат, включаючи чесне повідомлення про те, що щось не вдалося підтвердити.

Satisfi Labs описує модель, у якій спеціалізовані агенти можуть працювати разом як AI‑робоча сила. Які найскладніші технічні проблеми пов’язані з оркеструванням кількох спеціалізованих агентів, зокрема щодо маршрутизації, спільного контексту, конфліктних рішень і визначення, який агент має діяти?

Найскладніше — зберегти відповідальність, коли ви розподіляєте роботу.

Почніть з питання, чи потрібен вам ще один агент. Іноді потрібен спеціаліст. Іноді потрібен лише виклик інструмента або простий робочий процес. Кожен доданий агент — це ще одна інтерпретація запиту, ще одна залежність, ще одне місце для помилки. І кількість агентів, що працюють за лаштунками, має залишатися невидимою для користувача.

Коли кілька агентів виправдані, я хочу, щоб один агент керував взаємодією. Спеціалісти можуть надавати інформацію або виконувати обмежену роботу. Агент з продажу квитків обробляє інвентар і обміни, агент служби підтримки клієнтів — політики. Але хтось має узгодити результати і вирішити, чи отримав користувач те, за що він прийшов.

Маршрутизація складна, бо люди не ставлять питання у чітко визначених категоріях. Один запит може стосуватися трьох агентів. Система повинна вирішити: чи може один агент впоратися, чи потрібно кілька агентів працювати послідовно, або чи слід задати користувачеві ще одне питання перед будь‑якою дією.

Те ж саме щодо контексту. Ви не надсилаєте все кожному агенту. Це збільшує затримку, створює шум і може розкрити інформацію, яка агенту не потрібна. І припущення агента не повинно ставати фактом лише тому, що його передали наступному агенту.

Якщо два агенти не погоджуються, я не хочу, щоб вони сперечалися, доки один не здасться переконливішим. Потрібна чітка модель авторитету. Система продажу квитків встановлює доступність. Бізнес встановлює політику обміну. Дані в реальному часі переважають кешовані дані, бізнес‑правила переважають судження моделі, і якщо все ще не вдається вирішити, ви запитуєте користувача або залучаєте людину. Складність не в тому, щоб змусити агентів спілкуватися між собою, а в тому, щоб точно відтворити, який агент що зробив і де лежала відповідальність.

Satisfi Labs все більше зосереджується на вимірюванні агентів за цілями та бізнес‑результатами, а не за метриками, такими як обсяг розмов. Що саме підприємства мають вимірювати, щоб визначити, чи AI‑агент працює добре, і як оцінювати надійність перед наданням агенту більшої автономії?

Почніть з бізнес‑результату, а потім запитайте, яку частину цього результату фактично спричинив агент.

Якщо хтось купує квитки після розмови з агентом, це не означає автоматично, що агент створив продаж. Вони могли купити і без цього. Якщо можливо, потрібні контрольовані порівняння або достовірна базова лінія, а не лише кредит останній взаємодії. Для клієнта з продажу квитків це означає вимірювати, чи отримав фан місце, а не чи агент відповів ввічливо. Для закладу, який намагається скоротити черги в касі, це означає вимірювати, що агент вирішив до того, як хтось змусив стояти в черзі.

Потім розгляньте економіку успішного результату: вартість моделі, інфраструктура, людський перегляд, ескалації та вартість виправлення помилок. Агент, який здається дешевим, доки не підрахуєте людей, що виправляють його роботу, не є дешевим.

Надійність потребує власної оцінки. Завершеність, правильність, несанкціоновані дії, відновлення після збоїв, якість ескалації. Ви не можете усереднювати серйозний інцидент з конфіденційністю в хороший коефіцієнт конверсії.

Для більшої автономії я вимагав би доказів щодо конкретного класу дій, які делегуються. Протестуйте, спостерігайте під наглядом, розширюйте в межах обмежень і зберігайте можливість зупинити. Хороший загальний бал точності не доводить, що система готова до кожної транзакції. І будьте обережні з інцентивами. Іноді залучення людини — правильний результат. Якщо ви винагороджуєте агента лише за уникнення передачі, не дивуйтеся, коли він залишає проблеми, які мав ескалувати.

Нещодавно ви стверджували, що голосовий AI має бути розроблений навколо вимірюваних результатів, а не розглядатися як ще один інтерфейс для існуючого чат‑бота. Які технічні прориви ще потрібні, щоб голосові агенти стали основним інтерфейсом для складних, реального часу взаємодій, зокрема в середовищах, таких як стадіони, атракціони та живі події?

Багато клієнтів запитують: чи можна просто взяти чат‑додаток і підключити до нього голос? Ми можемо. Але це не означає, що це буде хороший досвід. Наступне реальне поліпшення — це не більш людський голос. Це взаємодія, яка витримує умови, у яких люди його фактично використовують.

На стадіоні хтось говорить над шумом натовпу, використовує незнайоме ім’я гравця, змінює думку посеред речення і намагається завершити покупку до того, як відкриються ворота. Система повинна справлятися з перериванням, невизначеністю та затримками бекенду, не втрачаючи завдання.

Звертайте особливу увагу на критичні деталі. Неправильно зрозуміти випадкову фразу — це одне. Неправильно зрозуміти кількість квитків або дату події — інше. Агент має підтвердити деталі, які змінюють наслідок дії, не роблячи всю розмову нудною.

І голос не повинен бути змушений робити все. Порівнювати двадцять варіантів розташування сидінь краще на екрані. Хтось може почати вводити текст, сісти в машину і захотіти продовжити ту ж розмову, говорячи. Система повинна зберігати цей контекст і використовувати голос, текст і візуальні елементи так, як найкраще підходить у даний момент.

Деякі частини цього потребують кращих моделей. Багато чого потребує кращої інтеграції та дизайну взаємодії. Очікування прориву не виправить робочий процес, який був спроектований навколо тексту, а потім зачитаний вголос. Я б оцінював прогрес так: чи люди виконують завдання точно, з меншими зусиллями, у реальних умовах?

Коли агенти переходять від надання інформації до продажу квитків, збору даних клієнтів, персоналізації досвіду та взаємодії з операційними системами, як компанії мають визначати, які рішення агент може приймати автономно, а які завжди повинні вимагати людського контролю?

Це управління ризиками. Якщо це піде не так, яку шкоду це може завдати? Чи відкриває агент двері, яку не зможе закрити?

Зворотність — корисний перший тест, але треба також розглядати загальну експозицію. Один відшкодування може бути невеликим і зворотним. Десять тисяч неправильних відшкодувань, поки ніхто не помітив, — інша проблема. Потрібні обмеження на окремі дії та на сукупну активність системи.

Якщо дія має низький ризик і зворотна, дайте їй більше автономії: оновити налаштування, перевірити замовлення, зарезервувати товар. З підвищенням наслідків додавайте підтвердження або схвалення. Покупка може вимагати підтвердження ціни клієнтом. Велике відшкодування може потребувати підпису співробітника. Загроза безпеці негайно ескалюється. І деякі рішення мають залишатися лише у людини, без виключень.

Згода клієнта та схвалення компанії — це різні речі, до речі. Підтвердження покупки клієнтом не дає агенту права порушувати політику компанії. Схвалення виключення співробітником не означає, що клієнт погодився на стягнення.

Обмеження мають бути впроваджені системами, які виконують дію, а не лише описані у підказці. Ви не даєте агенту широкі повноваження, а потім покладаєтеся на підказку, яка каже йому бути обережним. І коли потрібна людина, надайте їй достатньо контексту для реального рішення. Дати комусь сотні схвалень без інформації — це створити штамп, а не контроль. Спрямовуйте людську увагу туди, де вона знижує значний ризик. Не розпорошуйте її по кожній взаємодії.

Дивлячись у майбутнє, чи очікуєте ви, що технології, такі як Model Context Protocol та комунікація агент‑до‑агента, фундаментально змінять спосіб створення корпоративних AI‑систем, перемістивши нас від ізольованих агентів до екосистем, у яких агенти можуть виявляти інструменти, обмінюватися контекстом і координувати дії між компаніями та платформами?

Я вважаю, що протоколи — це засіб до мети. MCP надає AI‑додаткам спільний спосіб доступу до інструментів і контексту. Протоколи агент‑до‑агента забезпечують співпрацю між агентами. Це цінно. Вам не повинно доводитися будувати індивідуальну інтеграцію щоразу, коли агент потребує інструмент. Це схоже на те, що API зробили для програмних інтеграцій.

Але спільний формат не означає, що два бізнеси погоджуються, що означає дія, хто може її уповноважити або що станеться у випадку збою. Той факт, що агент може виявити інструмент, не означає, що йому дозволено його використовувати. Потрібно все ще вирішувати питання ідентифікації, дозволів, довіри, підзвітності. Якщо один агент просить іншого виконати щось і це йде не так, хто несе відповідальність за це рішення?

Ось що, на мою думку, дійсно змінюється. Сьогодні у закладу є веб‑сайт і додаток. Через кілька років у нього буде агент, з яким інші агенти будуть вести переговори. Персональний асистент фаната запитує агента закладу про два місця за певною ціною, плюс про проїзний, і вся транзакція відбувається між двома агентами. Знайти потрібні можливості — легка частина. Знати, чи має клієнт право витрачати, підтвердити сумарну ціну та обробити випадок, коли квитки успішно придбані, а паркування не вдається — це справжні проблеми.

І я не вірю, що управління агентом автоматично передає вам відносини з клієнтом. Це треба заслужити. Але я також не вірю, що заклади передадуть ці транзакції пошуковій компанії чи маркетплейсу квитків. Наша мета в Satisfi Labs — бути агентом, який представляє заклад у цій економіці, тим, на кого бізнес готовий поставити своє ім’я. Все, що ми створили навколо надійності, дозволів і підзвітності, саме це і забезпечує нам це місце.

Дякуємо за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати Satisfi Labs.