Дмитро Масін, CEO та співзасновник Gradient Labs – Інтерв’ю Серія

Дмитро Масін є CEO та співзасновником Gradient Labs, стартапом, який будує автономних агентів підтримки клієнтів, спеціально розроблених для регульованих галузей, таких як фінансові послуги. До заснування Gradient Labs у 2023 році Масін обіймав керівні посади у Monzo Bank, включаючи віце-президента з науки про дані, фінансових злочинів та шахрайства, а раніше працював у Google. Під його керівництвом Gradient Labs швидко набула популярності, досягнувши £1 мільйона річної рекурентної виручки протягом п’яти місяців після запуску. Масін зосереджується на розробці систем штучного інтелекту, які поєднують високу продуктивність з суворим дотриманням нормативних вимог, забезпечуючи безпечну та масштабовану автоматизацію складних операцій з клієнтами.

Що спонукало вас запустити Gradient Labs після такої успішної кар’єри у Monzo?

У Monzo ми роками працювали над автоматизацією підтримки клієнтів, зазвичай націлюючись на скромні 10% підвищення ефективності. Але на початку 2023 року ми стали свідками технічного землетрусу з виходом GPT-4. Раптом стало можливим повністю автономно автоматизувати 70-80% ручної, повторюваної роботи за допомогою штучного інтелекту.

Ця технологічна революція, яку ми зараз переживаємо, спонукала нас до створення Gradient Labs. У моєму житті я бачив дві такі революційні хвилі: мобільну революцію (яка відбулася на початку моєї кар’єри) та зараз штучний інтелект. Коли ви розумієте, що ви перебуваєте в центрі такої трансформації, яка повністю змінить світ, ви повинні схопити момент. Наша команда знала – це час.

У Monzo ви допомогли компанії пройти через масове гіперзростання. Які були найважливіші уроки з цього досвіду, які ви зараз застосовуєте у Gradient Labs?

По-перше, баланс автономії та напрямку. У Monzo ми спочатку припускали, що люди просто процвітають на автономії – що це те, що їх найбільше мотивує. Однак тепер це уявлення здається надто простим. Я вважаю, що люди також цінують керівництво. Справжня автономія не полягає у тому, щоб сказати людям “робіть, що хочете”, а радше у тому, щоб надати їм чітке керівництво, одночасно надаючи їм свободу вирішувати добре визначені проблеми своїм способом.

По-друге, найкращий талант вимагає найкращої оплати. Якщо ви хочете найняти найкращих 5% у вашій галузі, ви повинні платити відповідним чином. В іншому випадку великі технологічні компанії наймуть їх, як тільки стане відомо, що у вас є найкращий талант, який недооплачується.

По-третє, не винаходьте колесо. У Monzo ми намагалися створити інноваційні підходи до структури роботи, систем компенсації та кар’єрних сходинок. Основний висновок полягає у тому, що не варто витрачати енергію на інновації у сфері організаційних основ – тисячі компаній вже встановили найкращі практики. Я все ще бачу публікації у LinkedIn про “звільнення від усіх титулів і ієрархії” – я бачив, як це відбувається знову і знову, і майже всі компанії врешті-решт повертаються до традиційних структур.

Gradient Labs зосереджується на регульованих галузях, які традиційно мають складні потреби. Як ви підходили до створення агента штучного інтелекту (як Отто), який може ефективно працювати в цьому середовищі?

Ми обрали незвичайний підхід, відкинувши звичайну пораду випустити продукт швидко та ітерувати над ним у живому режимі. Замість цього ми витратили 14 місяців перед випуском Отто, підтримуючи дуже високу планку якості з самого початку. Нам потрібно було створити щось, чим би довіряли банки та фінансові установи для повністю автономної підтримки клієнтів.

Ми не будували співпілотів – ми будували повну автоматизацію підтримки клієнтів. З нашим досвідом у сфері фінансових послуг у нас був чіткий внутрішній стандарт “чого таке добро”, що дозволяло нам оцінювати якість без звернення до зворотної зв’язності клієнтів. Це дало нам можливість займатися якістю, одночасно швидко ітеруючи. Без живих клієнтів ми могли робити більші стрибки, вільно ламати речі та швидко змінюватися – врешті-решт доставляючи вищий продукт при запуску.

Отто перевершує відповіді на прості питання та обробляє складні робочі процеси. Чи можете ви описати, як Отто керує багатоступеневими або високоризикованими завданнями, яких звичайні агенти штучного інтелекту можуть не впоратися?

Ми побудували Отто навколо концепції стандартних операційних процедур (SOP) – фактично керівних документів, написаних простою мовою, які деталізують, як обробляти конкретні питання, подібно до того, що ви дали б людині-агенту.

Два ключових архітектурних рішення роблять Отто особливо ефективним у керуванні складними робочими процесами:

По-перше, ми обмежуємо вплив інструментів. Типовим режимом відмови агентів штучного інтелекту є вибір неправильного інструменту з багатьох варіантів. Для кожної процедури ми відкриваємо тільки малий підмножину відповідних інструментів для Отто. Наприклад, у робочому процесі заміни карти Отто може бачити тільки 1-2 інструменти замість усіх 30 зареєстрованих у системі. Це суттєво покращує точність, зменшуючи простір прийняття рішень.

По-друге, ми перебудували значну частину типової інфраструктури агентів штучного інтелекту, щоб забезпечити розширені ланцюгові висновки. Замість того, щоб просто кидати процедури на асистента OpenAI або Anthropic, наша архітектура дозволяє здійснювати декілька обробних кроків між вхідними та вихідними даними. Це дозволяє здійснювати глибші висновки та більш надійні результати.

Gradient Labs згадує про досягнення “надлюдської якості” у підтримці клієнтів. Що означає для вас “надлюдська якість”, і як ви вимірюєте її внутрішньо?

Надлюдська якість означає надання підтримки клієнтів, яка суттєво краща за те, чого можуть досягнути люди. Наступні три приклади ілюструють це:

По-перше, повне знання. Агенти штучного інтелекту можуть обробляти величезну кількість інформації та мати детальне знання компанії. На відміну від цього, люди зазвичай вивчають тільки малий підмножину інформації, а коли вони не знають чогось, їм потрібно звертатися до баз знань або передавати запит до колег. Це призводить до розчаровуючого досвіду, коли клієнтів передають між командами. Агент штучного інтелекту, навпаки, має глибоке розуміння компанії та її процесів, забезпечуючи послідовні, повні відповіді – без необхідності передавання.

По-друге, не лінькі пошуки – штучний інтелект швидко збирає інформацію. У той час як люди намагаються заощадити час, запитуючи клієнтів питання до початку розслідування, штучний інтелект активно вивчає інформацію про обліковий запис, прапори, попередження та повідомлення про помилки до початку розмови. Отже, коли клієнт невиразно говорить “у мене проблема з X”, штучний інтелект може негайно запропонувати рішення, замість того, щоб запитувати декілька уточнюючих питань.

По-третє, терпіння та послідовна якість. На відміну від людей, які відчувають тиск щодо обробки певної кількості відповідей за годину, наш штучний інтелект підтримує послідовно високу якість, терпіння та лаконічну комунікацію. Він відповідає терпливо, поки це потрібно, без поспішності.

Ми вимірюємо це в основному через показники задоволеності клієнтів. Для всіх наших клієнтів ми досягаємо показників задоволеності клієнтів (CSAT) у середньому 80-90% – зазвичай вище, ніж у їхніх людських команд.

Ви свідомо уникнули прив’язки Gradient Labs до одного постачальника великих мовних моделей. Чому це рішення було важливим, і як воно впливає на продуктивність та надійність для ваших клієнтів?

За останні два роки ми спостерігали, що наші найбільші покращення продуктивності були пов’язані з нашою здатністю перейти до наступної найкращої моделі, щоразу, коли OpenAI або Anthropic випускали щось швидше, краще чи точніше. Гнучкість моделі була ключовим фактором.

Ця гнучкість дозволяє нам постійно покращувати якість, одночасно керуючи витратами. Деякі завдання вимагають більш потужних моделей, інші – менш потужних. Наша архітектура дозволяє нам адаптуватися та еволюціонувати з часом, вибираючи оптимальну модель для кожної ситуації.

Врешті-решт ми підтримаємо приватні відкриті мовні моделі, розміщені на інфраструктурі клієнтів. Через нашу архітектуру це буде простим переходом, який особливо важливий для обслуговування банків, які можуть мати конкретні вимоги щодо розгортання моделей.

Gradient Labs не просто будує чат-бота – ви націлені на обробку процесів бек-офісу. Які найбільші технічні чи операційні виклики при автоматизації таких завдань за допомогою штучного інтелекту?

Є дві різні категорії процесів, кожна зі своїми власними викликами:

Для простіших процесів технологія в основному вже існує. Основним викликом є інтеграція – підключення до багатьох спеціалізованих систем та інструментів бек-офісу, які використовують фінансові установи, оскільки більшість операцій з клієнтами включають численні внутрішні системи.

Для складних процесів залишаються суттєві технічні виклики. Ці процеси зазвичай вимагають від людей шести- чи дванадцятимісячної підготовки для розвитку експертизи, наприклад, розслідування шахрайства чи оцінки відмивання грошей. Викликом тут є передача знань – як ми надаємо агентам штучного інтелекту ту саму галузеву експертизу? Це важка проблема, яку всі у цій сфері ще намагаються вирішити.

Як Gradient Labs балансують потребу у швидкості та ефективності штучного інтелекту з суворими вимогами щодо дотримання нормативних вимог у регульованих галузях?

Це певний баланс, але на рівні розмови наш агент просто бере більше часу для思考у. Він оцінює декілька факторів: чи розумію я, про що запитує клієнт? Чи даю я правильну відповідь? Чи показує клієнт ознаки вразливості? Чи хоче клієнт подати скаргу?

Цей свідомий підхід збільшує затримку – наш середній час відповіді може становити 15-20 секунд. Але для фінансових інститутів це справедливий компроміс. Відповідь за 15 секунд все одно значно швидша, ніж відповідь людини, а гарантії якості значно важливіші для регульованих компаній, з якими ми працюємо.

Чи бачите ви майбутнє, у якому агенти штучного інтелекту будуть довіряти не тільки для підтримки, але й для завдань прийняття рішень вищого рівня всередині фінансових інститутів?

Фінансові інститути вже використовували традиційніші техніки штучного інтелекту для високорівневих рішень до поточної хвилі генерації штучного інтелекту. Там, де я бачу справжню можливість зараз, полягає в оркеструванні – не прийнятті рішення, а координації всього процесу.

Наприклад, клієнт завантажує документи, агент штучного інтелекту перенаправляє їх до системи верифікації, отримує підтвердження валідності, а потім запускає відповідні дії та комунікації з клієнтом. Це оркестрування – там, де агенти штучного інтелекту особливо успішні.

Для самих високорівневих рішень я не бачу великих змін у найближчому майбутньому. Ці моделі вимагають пояснюваності, запобігання упередженості та затвердження через комітети ризиків моделей. Великі мовні моделі зіткнуться з суттєвими викликами щодо дотримання нормативних вимог у цих контекстах.

Як, на вашу думку, штучний інтелект змінить досвід клієнтів для банків, фінтех-компаній та інших регульованих секторів протягом наступних 3-5 років?

Я бачу п’ять основних тенденцій, які змінюють досвід клієнтів:

По-перше, справжня омні-канальна взаємодія. Представіть собі початок чату у вашому банківському застосунку, а потім безшовний перехід до голосової розмови з тим самим агентом штучного інтелекту.

По-друге, адаптивні інтерфейси користувача, які мінімізують навігацію всередині застосунку. Замість того, щоб шукати конкретні функції в меню, клієнти просто висловлюють свої потреби: “Будь ласка, збільште мої ліміти” – і дія відбувається негайно через розмову.

По-третє, краща економіка одиниць. Підтримка та операції – це величезні центри витрат. Зниження цих витрат могло б дозволити банкам обслуговувати раніше некомерційних клієнтів або передавати заощадження користувачам – особливо в недообслуговуваних сегментах.

По-четверте, виняткова підтримка у масштабі. Наразі стартапи з небагатьма клієнтами можуть забезпечувати персоналізовану підтримку, але якість зазвичай погіршується, коли компанії зростають. Штучний інтелект робить велику підтримку масштабованою, а не просто можливою.

По-п’яте, підтримка клієнтів перетвориться з розчаровуючої необхідності на справжньо корисну службу. Вона вже не буде розглядатися як трудомісткий інфраструктурний витрат, а як цінний, ефективний контактний пункт клієнта, який підвищує загальний досвід.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, варто відвідати Gradient Labs.