Донні Вайт, генеральний директор та співзасновник Satisfi Labs – Серія інтерв’ю

Заснована у 2016 році, Satisfi Labs є провідною компанією з розвитку розмовного штучного інтелекту. Ранні успіхи компанії були пов’язані з роботою з командою «Нью-Йорк Метс», «Мейсі» та «US Open», що забезпечило легкий доступ до інформації, часто недоступної на веб-сайтах.

Донні провів 15 років у «Блумберзі», перш ніж вступити у світ стартапів, і має ступінь МВА у Корнелльському університеті та ступінь бакалавра у коледжі Баруха. Під керівництвом Донні «Satisfi Labs» досягла значного зростання у сфері спорту, розваг та туризму, отримавши інвестиції від «Гугл», «МЛБ» та «Ред Лайт Менеджмент».

Ви працювали у «Блумберзі» 14 років, коли у вас виникло бажання стати підприємцем. Чому бути підприємцем раптом стало вашим пріоритетом?

Під час свого молодшого року у коледжі я подав заявку на роботу секретаря у «Блумберзі». Як тільки я потрапив до компанії, я сказав своїм колегам, що якщо вони будуть мене навчати, я зможу швидко вивчити все. До кінця свого молодшого року я став повноцінним працівником і перевів усі свої заняття на вечірні, щоб мати можливість працювати та вивчати одночасно. Натомість відвідування церемонії закінчення навчання у віці 21 року, я провів цей час, керуючи своєю першою командою. З того часу мені пощастило працювати у компанії, де панує меритократія, і мене кілька разів підвищували у посаді. До 25 років я керував своїм власним відділом. Потім я перейшов на регіональний менеджмент, а згодом на розвиток продукції, аж доки не став керувати продажами по всій Америці. До 2013 року я почав думати про те, чи можу я зробити щось більш суттєве. Я пройшов кілька інтерв’ю у молодих технологічних компаніях, і один із засновників сказав мені: «Ми не знаємо, чи ви хороший, чи «Блумберг» хороший». Тоді я зрозумів, що щось потрібно змінити, і через шість місяців я став віце-президентом з продажів у своєму першому стартапі «Datahug». Невдовзі після цього мене запросили інвестори, які хотіли змінити «Yelp». Хоча «Yelp» і досі є хорошим, у 2016 році ми вирішили створити нову концепцію, і я став співзасновником «Satisfi Labs» разом з цими інвесторами.

Можете розповісти про історію створення Satisfi Labs?

Я був на бейсбольному матчі на стадіоні «Сіті Філд» з Ренді, теперішнім технічним директором та співзасновником «Satisfi», коли я дізнався про одну зі спеціальностей – бекон на паличці. Ми пройшли по концесіонній зоні та запитали у персоналу про це, але не змогли знайти нічого. Виявилося, що це було сховано в одному з кінців стадіону, що спонукало мене до висновку, що було б набагато зручніше запитати команду напряму через чат. Саме тут народилася наша перша ідея. Ренді та я походили з фінансової сфери та алгоритмічної торгівлі, що спонукало нас взяти концепцію зіставлення запитів з відповідями та створити власний NLP для гіперспецифічних запитів, які будуть задаватися на місцях. Перша ідея полягала у створенні окремих ботів, кожний з яких буде експертом у певній галузі знань, особливо у тих, які не легко доступні на веб-сайтах. Наша система мала «директора», який міг звернутися до кожного бота за потреби. Це оригінальна система архітектури, яка використовується досі.

Satisfi Labs розробила власний двигун NLP і була на порозі публікації прес-релізу, коли OpenAI змінила вашу технологічну базу з випуском ChatGPT. Можете розповісти про цей період та про те, як це змусило Satisfi Labs змінити свій бізнес?

У нас був запланований прес-реліз, щоб оголосити про наш патентований контекстний NLP-апгрейд 6 грудня 2022 року. 30 листопада 2022 року OpenAI оголосила про ChatGPT. Оголошення про ChatGPT змінило не лише нашу дорожню карту, а й увесь світ. Спочатку ми, як і всі інші, намагалися зрозуміти можливості та обмеження ChatGPT та зрозуміти, що це означає для нас. Невдовзі ми зрозуміли, що наш контекстний NLP-система не конкурує з ChatGPT, а може фактично покращити досвід LLM. Це призвело до швидкого рішення стати партнерами OpenAI. Оскільки наша система почалася з ідеї розуміння та відповідей на питання на гранульованому рівні, ми змогли поєднати систему «бот-кондуктор» та сім років даних про наміри, щоб оновити систему та включити до неї LLM.

Satisfi Labs недавно запустила патент на контекстну систему відповідей LLM, що це конкретно?

У липні ми представили наш патентований контекстний LLM-відповідь-система. Нова система поєднує потужність нашої патентованої контекстної відповідної системи з можливостями великих мовних моделей, щоб посилити всю систему Answer Engine. Нова контекстна LLM-технологія інтегрує можливості великих мовних моделей по всій платформі, починаючи від покращення маршрутизації намірів та генерації відповідей та індексування намірів, що також забезпечує унікальні можливості звітності. Платформа переводить розмовний штучний інтелект за межі традиційних чат-ботів, використовуючи потужність LLM, таких як GPT-4. Наша платформа дозволяє брендам відповідати як генеративними AI-відповідями, так і попередньо написаними відповідями, залежно від потреби у контролі відповіді.

Можете розповісти про поточну роз’єднаність між більшість корпоративних веб-сайтів та платформами LLM у доставці відповідей, відповідних бренду?

ChatGPT навченій розуміти широкий спектр інформації, тому вона не має рівня гранульованої підготовки, необхідної для відповідей на галузеві питання з тим рівнем специфіки, який очікує більшість брендів. Крім того, точність відповідей, які надають LLM, залежить лише від якості наданої інформації. Коли ви використовуєте ChatGPT, вона джерелує дані з усього інтернету, які можуть бути неточними. ChatGPT не пріоритезує дані бренду над іншими даними. Ми протягом семи років обслуговували різні галузі, отримуючи цінні знання про мільйони запитів клієнтів щодня. Це дозволило нам зрозуміти, як налаштувати систему з більш контекстним рівнем на галузь та забезпечити потужні та гранульовані можливості звітності про наміри, які є важливими у світлі зростання великих мовних моделей. Хоча LLM ефективні у розумінні намірів та генерації відповідей, вони не можуть звітувати про запитання. Використовуючи роки обширних даних про наміри, ми ефективно створили стандартизовану звітність через систему індексування намірів.

Яка роль лінгвістів у покращенні можливостей технологій LLM?

Роль інженера-промушника виникла з цією новою технологією, яка вимагає людини, щоб проектувати та уточнювати промови, які викликають конкретну відповідь від штучного інтелекту. Лінгвісти мають глибоке розуміння структури мови, такої як синтаксис та семантика, серед іншого. Одна з наших найуспішніших інженерів штучного інтелекту має лінгвістичну освіту, яка дозволяє їй бути дуже ефективною у знаходженні нових та нюансівших способів промовляти штучний інтелект. Незначні зміни у промові можуть мати глибокий вплив на те, як точно та ефективно генерується відповідь, що робить велику різницю, коли ми обробляємо мільйони запитів по всім клієнтам.

Як виглядає тонка настройка на бекенді?

У нас є власна пропрієтарна модель даних, яку ми використовуємо для утримання LLM у межах. Це дозволяє нам будувати自己的 огорожі, щоб утримувати LLM під контролем, а не шукати огорожі. Другою річчю є те, що ми можемо використовувати інструменти та функції, які інші платформи використовують, що дозволяє нам підтримувати їх на наших платформах.

Тонка настройка навчальних даних та використання системи підкріплення у нашій платформі можуть допомогти пом’якшити ризик дезінформації. Тонка настройка, на відміну від запиту до бази знань для додавання конкретних фактів, створює нову версію LLM, яка навченій на цих додаткових знаннях. З іншого боку, система підкріплення навчає агента з допомогою людської зворотної зв’язку та вчиться політиці щодо відповідей на запитання. Це виявилося успішним у створенні моделей з меншим слідом, які стають експертами у конкретних завданнях.

Можете розповісти про процес підключення нового клієнта та інтеграції рішень розмовного штучного інтелекту?

Оскільки ми фокусуємося на місцях та досвіді, таких як спорт, розваги та туризм, нові клієнти користуються тим, що вже є у спільноті, що робить підключення дуже простим. Нові клієнти визначають, де розташовані їхні поточні джерела даних, такі як веб-сайт, книги працівників, блоги тощо. Ми приймаємо дані та тренуємо систему в реальному часі. Оскільки ми працюємо з сотнями клієнтів у тій же галузі, наша команда може швидко надати рекомендації щодо того, які відповіді найкраще підходять для попередньо написаних відповідей чи згенерованих відповідей. Крім того, ми встановлюємо керовані потоки, такі як наш динамічний пошук харчування та напоїв, щоб клієнти ніколи не мали справу з бот-білдером.

Satisfi Labs зараз працює у тісній співпраці зі спортивними командами та компаніями, яка у вас видіння майбутнього компанії?

Ми бачимо майбутнє, у якому бренди будуть хотіти контролювати більше аспектів свого чат- досвіду. Це призведе до збільшення потреби у нашій системі для надання більшого доступу на рівні розробника. Не має сенсу, щоб бренди наймали розробників для створення власних систем розмовного штучного інтелекту, оскільки необхідна експертиза буде рідкісною та дорогою. Однак з нашою системою, яка живить бекенд, їхні розробники можуть зосередитися на досвіді клієнта та шляху, маючи більший контроль над промовами, підключенням власних даних для персоналізації та управління інтерфейсом чату для конкретних потреб користувачів. Satisfi Labs буде технічною основою розмовних досвідів брендів.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Satisfi Labs.