Дмитрий Масин, генеральный директор и сооснователь Gradient Labs – Интервью

Дмитрий Масин является генеральным директором и сооснователем Gradient Labs, стартапом, разрабатывающим автономных агентов поддержки клиентов, специально предназначенных для регулируемых отраслей, таких как финансовые услуги. До основания Gradient Labs в 2023 году Масин занимал руководящие должности в банке Monzo, включая вице-президента по науке о данных, финансовым преступлениям и мошенничеству, и ранее работал в Google. Под его руководством Gradient Labs быстро набрал обороты, достигнув £1 миллиона годового рекurring дохода в течение пяти месяцев после запуска. Масин сосредоточен на разработке систем ИИ, которые сочетают высокую производительность с строгим соблюдением нормативных требований, обеспечивая безопасную и масштабируемую автоматизацию сложных операций с клиентами.

Что вдохновило вас запустить Gradient Labs после такого успешного пути в Monzo?

В Monzo мы потратили годы на автоматизацию поддержки клиентов, обычно стремясь к скромным 10% улучшению эффективности. Но в начале 2023 года мы стали свидетелями значительного технологического сдвига с выпуском GPT-4. Внезапно стало возможным полностью автономно автоматизировать 70-80% ручной, повторяющейся работы с помощью ИИ.

Этот технологический прорыв, который мы сейчас переживаем, вдохновил нас на создание Gradient Labs. На протяжении моей карьеры я видел два таких революционных волны: мобильную революцию (которая произошла в начале моей карьеры) и теперь ИИ. Когда вы понимаете, что вы находитесь в середине такого преобразования, которое полностью изменит то, как работает мир, вы должны воспользоваться моментом. Наша команда знала – это время.

В Monzo вы помогли компании пройти через массивный гиперрост. Какие были самые большие уроки из этого опыта, которые вы сейчас применяете в Gradient Labs?

Во-первых, баланс автономии и направления. В Monzo мы изначально предполагали, что люди просто процветают на автономии – что это то, что их больше всего мотивирует. Однако этот взгляд теперь кажется过度 упрощенным. Я считаю, что люди также ценят руководство. Истинная автономия не означает сказать людям “делайте все, что вы решите”, а скорее предоставить им четкое направление, давая им свободу решать хорошо определенные проблемы своими способами.

Во-вторых, лучший талант требует лучшей компенсации. Если вы стремитесь нанять лучшие 5% в вашей функции, вы должны платить соответствующую зарплату. В противном случае крупные технологические компании наняли бы их, как только станет известно, что у вас есть лучший талант, который недооценен.

В-третьих, не изобретайте колесо. В Monzo мы пытались создать инновационные подходы к структурам работы, системам компенсации и карьерным лестницам. Основной вывод: не тратите энергию на инновации в организационных фундаментальных вопросах – тысячи компаний уже установили лучшие практики. Я все еще вижу посты в LinkedIn о “ликвидации всех титулов и иерархии” – я наблюдал за этим неоднократно, и почти все компании в конечном итоге возвращаются к традиционным структурам.

Gradient Labs фокусируется на регулируемых отраслях, которые традиционно имеют сложные потребности. Как вы подходили к созданию агента ИИ (например, Otto), который может работать эффективно в этой среде?

Мы выбрали нестандартный подход, отклонив типичный совет выпустить быстро и усовершенствовать продукт на живом рынке. Вместо этого мы потратили 14 месяцев на разработку Otto до его выпуска, поддерживая очень высокую планку качества с самого начала. Нам нужно было создать что-то, чему банки и финансовые учреждения могли бы доверять для полностью автономной поддержки клиентов.

Мы не строили ко-пилотов – мы строили автоматизацию поддержки клиентов от начала до конца. С нашим опытом в финансовых услугах у нас был точный внутренний эталон для “хорошего качества”, что позволяло нам оценить качество без опоры на обратную связь клиентов. Это дало нам возможность сосредоточиться на качестве, быстро совершенствуя и совершенствуя продукт.

Otto выходит за рамки ответов на простые вопросы и обрабатывает сложные рабочие процессы. Можете ли вы рассказать нам, как Otto управляет многоступенчатыми или высокорисковыми задачами, с которыми типичные агенты ИИ могут не справиться?

Мы построили Otto вокруг концепции SOP (Стандартные операционные процедуры) – по сути, это руководства, написанные на простом языке, которые описывают, как обрабатывать конкретные проблемы, аналогично тому, что вы дали бы человеческому агенту.

Два ключевых архитектурных решения делают Otto особенно эффективным в управлении сложными рабочими процессами:

Во-первых, мы ограничиваем воздействие инструментов. Типичная ошибка агентов ИИ заключается в неправильном выборе из слишком многих вариантов. Для каждой процедуры мы подвергаем Otto только небольшому подмножеству соответствующих инструментов. Например, в рабочем процессе замены карты Otto может видеть только 1-2 инструмента вместо всех 30 зарегистрированных в системе. Это значительно улучшает точность, уменьшая пространство решений.

Во-вторых, мы перестроили большую часть типичной инфраструктуры помощников ИИ, чтобы обеспечить обширное цепочечное рассуждение. Вместо того, чтобы просто бросать процедуры на помощника OpenAI или Anthropic, наша архитектура позволяет выполнять несколько шагов обработки между входными и выходными данными. Это позволяет более глубокому рассуждению и более надежным результатам.

Gradient Labs упоминает достижение “сверхчеловеческого качества” в поддержке клиентов. Что означает “сверхчеловеческое качество” для вас, и как вы измеряете его внутри компании?

Сверхчеловеческое качество означает предоставление поддержки клиентов, которая значительно лучше, чем та, которую могут обеспечить люди. Следующие три примера иллюстрируют это:

Во-первых, всесторонние знания. Агенты ИИ могут обрабатывать огромные объемы информации и иметь подробные знания о компании. В отличие от этого, люди обычно учатся только небольшому подмножеству информации, и когда они не знают чего-то, они должны консультироваться с базами знаний или передавать запросы коллегам. Это приводит к разочаровывающему опыту, когда клиентов передают между командами. Агент ИИ, с другой стороны, имеет глубокое понимание компании и ее процессов, предоставляя последовательные, полные ответы – без необходимости эскалации.

Во-вторых, нетерпеливые запросы – ИИ быстро собирает информацию. В то время как люди пытаются сэкономить время, задавая клиентам вопросы до расследования, ИИ активно исследует информацию об учетной записи, флаги, предупреждения и сообщения об ошибках до начала разговора. Итак, когда клиент расплывчато говорит “У меня проблема с X”, ИИ может сразу же предложить решение, вместо того, чтобы задавать несколько уточняющих вопросов.

Наконец, терпение и последовательность качества. В отличие от людей, которые сталкиваются с давлением, чтобы обработать определенное количество ответов в час, наш ИИ поддерживает последовательно высокое качество, терпение и краткое общение. Он отвечает терпеливо столько, сколько необходимо, не спеша.

Мы измеряем это в основном через показатели удовлетворенности клиентов. Для всех текущих клиентов мы достигаем показателей удовлетворенности в среднем 80-90% – обычно выше, чем у их человеческих команд.

Вы намеренно избегали привязки Gradient Labs к единственному поставщику LLM. Почему было важно это решение, и как оно влияет на производительность и надежность для ваших клиентов?

За последние два года мы наблюдали, что наши наиболее значительные улучшения производительности были связаны с нашей способностью переключаться на лучшую модель всякий раз, когда OpenAI или Anthropic выпускали что-то быстрее, лучше или более точное. Гибкость модели была ключом.

Эта гибкость позволяет нам непрерывно улучшать качество, управляя затратами. Некоторые задачи требуют более мощных моделей, другие – менее мощных. Наша архитектура позволяет нам адаптироваться и эволюционировать с течением времени, выбирая оптимальную модель для каждой ситуации.

В конечном итоге мы будем поддерживать частные открытые LLM, размещенные на инфраструктуре клиентов. Благодаря нашей архитектуре это будет простым переходом, который особенно важен при обслуживании банков, которые могут иметь конкретные требования к развертыванию моделей.

Gradient Labs не только строит чат-бота – вы также стремитесь обработать задачи бэк-офиса. Каковы наиболее значительные технические или операционные проблемы в автоматизации этих задач с помощью ИИ?

Существует две разные категории процессов, каждая со своими проблемами:

Для более простых процессов технология в основном уже существует. Основная проблема заключается в интеграции – подключении к многочисленным специализированным системам и инструментам, которые используют финансовые учреждения, поскольку большинство операций с клиентами включают многочисленные внутренние системы.

Для сложных процессов остаются значительные технические проблемы. Эти процессы обычно требуют от людей быть нанятыми и обученными в течение 6-12 месяцев, чтобы развить экспертизу, например, расследования мошенничества или оценки отмывания денег. Проблема здесь заключается в передаче знаний – как мы можем дать агентам ИИ ту же экспертизу в области? Это трудная проблема, которую все в этой области все еще пытаются решить.

Как Gradient Labs балансирует необходимость скорости и эффективности ИИ с жесткими требованиями соблюдения нормативных требований в регулируемых отраслях?

Это определенно баланс, но на уровне разговора наш агент просто тратит больше времени на размышления. Он оценивает множество факторов: понимает ли он, о чем спрашивает клиент? Дает ли он правильный ответ? Показывает ли клиент признаки уязвимости? Хочет ли клиент подать жалобу?

Этот намеренный подход увеличивает задержку – наша медианная время ответа может составлять 15-20 секунд. Но для финансовых учреждений это справедливая сделка. 15-секундный ответ все еще намного быстрее, чем ответ человека, а гарантии качества намного важнее для регулируемых компаний, с которыми мы работаем.

Предвидите ли вы будущее, в котором агенты ИИ будут доверены не только для поддержки, но и для задач принятия решений высокого уровня внутри финансовых учреждений?

Финансовые учреждения уже использовали более традиционные методы ИИ для принятия решений высокого уровня до текущей волны генеративного ИИ. Где я вижу реальную возможность сейчас, так это в оркестровке – не принятии решения, а координации всего процесса.

Например, клиент загружает документы, агент ИИ передает их в систему проверки, получает подтверждение их действительности и затем запускает соответствующие действия и коммуникации с клиентом. Эта функция оркестровки – это то, где агенты ИИ превосходят.

Для самих решений высокого уровня я не вижу значительных изменений в ближайшем будущем. Эти модели требуют объяснимости, предотвращения предвзятости и утверждения через комитеты по риску моделей. Большие языковые модели столкнутся с значительными проблемами соблюдения нормативных требований в этих контекстах.

По вашему мнению, как ИИ изменит опыт клиентов для банков, финтех-компаний и других регулируемых секторов в течение следующих 3-5 лет?

Я вижу пять основных тенденций, которые изменят опыт клиентов:

Во-первых,真正ая многоканальная интеракция. Представьте, что вы начинаете чат в своем банковском приложении, а затем без проблем переключаетесь на голос с тем же агентом ИИ. Голос, звонки и чат сольются в единый непрерывный опыт.

Во-вторых, адаптивные интерфейсы, которые минимизируют навигацию внутри приложения. Вместо того, чтобы искать конкретные функции в меню, клиенты просто выражают свои потребности: “Пожалуйста, увеличьте мои лимиты” – и действие происходит сразу через разговор.

В-третьих, лучшая экономика единицы. Поддержка и операции – это огромные центры затрат. Снижение этих затрат позволит банкам обслуживать ранее нерентабельных клиентов или передавать сбережения пользователям – особенно в недобанковских сегментах.

В-четвертых, исключительная поддержка в масштабе. В настоящее время стартапы с небольшим количеством клиентов могут предоставлять персонализированную поддержку, но качество обычно ухудшается, когда компании растут. ИИ делает отличную поддержку масштабируемой, а не просто возможной.

Наконец, поддержка клиентов преобразуется из раздражающей необходимости в действительно полезную услугу. Она больше не будет рассматриваться как трудоемкая инфраструктурная стоимость, а как ценная, эффективная точка контакта с клиентом, которая улучшает общий опыт.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Gradient Labs.