Джаянт Свами, главный корпоративный архитектор в Genpact — серия интервью

Jayant Swamy, главный корпоративный архитектор в Genpact, является лидером в области технологий и данных с более чем двадцатилетним опытом, охватывающим корпоративную архитектуру, искусственный интеллект, инженерию данных, облачные технологии и масштабные цифровые трансформации. До того как присоединился к Genpact в 2024 году, он занимал должности CTO и главного архитектора в Xtrac8.Tech, а также CTO и соучредителя стартапа в области ИИ, сосредоточенного на технологиях, включая генеративный ИИ и большие языковые модели. Ранее Свами провел более десяти лет в Accenture, где его руководящие роли включали CTO, глобального руководителя и глобального управляющего директора Института прикладного интеллекта, управляющего директора и глобального бизнес‑руководителя направления Data on Cloud, а также главного архитектора данных и глобального руководителя инженерии данных и инноваций в данных. В начале карьеры он более семи лет работал в Fannie Mae, контролируя технологические и бизнес‑информационные инициативы, связанные с обслуживанием и управлением кредитными потерями, после нескольких лет в качестве старшего специалиста в Oracle (ORCL ).

Genpact — глобальная технологическая и бизнес‑сервисная компания, сосредоточенная на помощи предприятиям в трансформации сложных операций с помощью искусственного интеллекта, данных, процессного интеллекта и отраслевой экспертизы. Компания восходит к инициативе 1997 года в рамках GE Capital, стала независимой в 2005 году и вышла на биржу Нью‑Йоркской фондовой биржи в 2007 году. Сегодня Genpact работает с организациями в различных отраслях, включая банковское дело, страхование, финансы, цепочки поставок, товары широкого потребления, здравоохранение и технологии, с растущим акцентом на генеративный ИИ, агентные системы, автоматизацию и операции предприятий, поддерживаемые ИИ.

Ваша карьера привела вас от ролей в области корпоративной архитектуры и руководства данными в Oracle, Fannie Mae и Accenture к стартап‑окружениям и текущей должности главного корпоративного архитектора в Genpact. Как этот опыт сформировал ваше представление о том, где автономия ИИ создает реальную ценность для предприятия, а где человеческое суждение остаётся необходимым? 

На протяжении всей своей карьеры я понял, что масштаб, управление, интеграция и риск имеют такое же значение, как и инновации. Опыт работы в крупных компаниях показывает, что впечатляющие технологии всё равно терпят неудачу, если они не могут работать внутри организации; стартапы подчеркивают ценность быстрого движения, экспериментов и простоты и адаптивности архитектуры. Автономия ИИ работает лучше всего, когда объединяются оба подхода — инновации с высокой скоростью при сохранении прочных основ. Таким образом, ИИ действительно может трансформировать рабочие процессы в организации. Выводы нашего недавнего исследования ясно подтверждают эту точку зрения.

Самая модель — лишь одна часть уравнения. Окружающая архитектура — данные, системы, рабочие процессы, контроль и интеграции — определяет, создаёт ли ИИ ценность в масштабе. Это то, что мы подразумеваем под «нет искусственного интеллекта без процессного интеллекта». Это также основа нашей практической работы с ИИ в Genpact Labs, где мы берём новые возможности ИИ и превращаем их в готовые к эксплуатации, готовые к использованию клиентами решения. Каждая возможность привязана к измеримому бизнес‑результату и встроена в рабочий процесс, данные и необходимые для работы контрольные механизмы.

ИИ следует предоставлять пространство для действия там, где цель ясна, данные надёжны, а границы хорошо понятны. Человеческое суждение остаётся необходимым для решений, которые имеют высокие ставки, неоднозначны, субъективны, регулируются или требуют ответственности и эмпатии. Автономия не подразумевает исключения людей из системы. Речь идёт о проектировании системы так, чтобы каждый знал, где ИИ может действовать независимо, где людям нужна видимость, а где человеческое суждение должно взять на себя управление.

Многие компании оценивают клиент‑ориентированный ИИ в первую очередь по скорости, показателям удержания и экономии средств. Почему эти метрики могут создавать искажённую картину того, действительно ли технология улучшает опыт клиента?

Проблема в том, что эти показатели в первую очередь измеряют эффективность. Они показывают, как система работала, но не обязательно отражают опыт клиента. Возьмём удержание: высокий показатель может выглядеть успешным внутри компании, но может скрывать плохие результаты, если клиент сдаётся, повторяет запросы, получает неполные ответы или не может связаться с человеком, когда это необходимо. Удержание показывает, что ИИ оставил клиента в системе, а не то, что клиент получил нужное. То же самое относится к экономии средств, которая может происходить за счёт доверия, удовлетворённости или качества решения.

Системы ИИ оптимизируются под те сигналы, которые им задают, поэтому предприятиям необходимо с самого начала встраивать в систему измерительные сигналы — связывая фронт‑энд метрики, такие как скорость и удержание, с последующими сигналами, такими как решение проблемы и возникновение новых проблем. В конечном итоге клиент‑ориентированный ИИ следует оценивать по тому, решает ли он базовую проблему конечного пользователя точно, справедливо и с необходимым уровнем человеческой поддержки.

Какие сигналы должен использовать ИИ‑агент, чтобы распознать неопределённость, фрустрацию, срочность или ситуацию, выходящую за пределы его установленного рабочего процесса? 

Нет единственного «магического» сигнала — важно предоставить системе достаточно контекста и наблюдаемости, чтобы она могла распознать, когда её уверенность, полномочия или информация становятся недостаточными. Это может проявляться как противоречивая информация, повторные неудачные попытки или зацикливание агента. Это также может быть изменение в языке клиента — явный сигнал фрустрации или срочности — или сама задача, требующая информации, доступа или полномочий, которых у агента нет.

Система также должна знать свои собственные границы. Если проблема выходит за пределы её разработанного рабочего процесса, требует недоступных данных или пересекает установленный порог риска, это должно инициировать иной путь. Цель не в том, чтобы агент справлялся со всеми возможными сценариями, а в том, чтобы он знал, когда остановиться, эскалировать или запросить помощь.

Как компании могут различить взаимодействие, которое лишь сложное, и то, которое действительно требует человеческого суждения или эмпатии?

Разделяющая черта не в сложности задачи. Она в том, насколько решение требует суждения, последствий и человеческого контекста. Организация агентных операций, где машины обрабатывают, а люди проверяют, требует понимания, где человеческую ценность нельзя заменить.

ИИ может справляться с очень сложными задачами, когда цель ясна, данные надёжны, процесс определён, а результаты измеримы. Сложность сама по себе не требует участия человека, если система понимает границы, в которых ей разрешено работать. Человек нужен, когда намерения клиента неясны, ситуация требует дискретности, существует несколько допустимых исходов или решение несёт значительные финансовые, юридические, медицинские или репутационные последствия. Некоторые взаимодействия также требуют уверения, объяснения, переговоров или эмпатии — а не просто ответа. Человеческое участие в этом так же важно, как и техническая точность. Архитектура должна отражать это различие. Такие точки вмешательства следует проектировать в рабочий процесс заранее, а не принимать решения после возникновения проблемы.

Как должен выглядеть эффективный процесс эскалации, чтобы клиентам не пришлось повторять информацию или начинать взаимодействие заново, когда берёт на себя человек‑агент?

Хорошая эскалация — это не просто передача клиента, а передача контекста, чтобы следующий сотрудник мог сразу перейти к решению. Когда человек берёт управление, у него уже должна быть история разговора, идентификация и профиль клиента, а также то, что уже попытался сделать ИИ — достаточно, чтобы не просить клиента начинать всё заново.

Это в значительной степени архитектурная проблема: если ИИ присутствует только в интерфейсе чата на фронтенде, не связанном с CRM, ERP, источниками знаний, рабочими процессами и слоем оркестрации, бесшовная передача становится невозможной.

Должны ли пороги эскалации изменяться в зависимости от факторов, таких как финансовый риск, уязвимость клиента, регуляторные требования или потенциальные последствия неверного решения?

Правила эскалации должны зависеть от уровня риска. Чем больше последствия ошибки, тем быстрее должен быть привлечён человек.

Сброс пароля может быть полностью автоматизирован, но спорная финансовая транзакция требует более строгого контроля. В страховых выплатах или взысканиях это может означать полную автономию для рутинных обновлений статуса, но обязательную проверку человеком, когда дело превышает определённый денежный порог или появляется индикатор трудностей. Чем более регулируемым или значимым является решение, тем сильнее должен быть надзор. Уязвимый клиент может требовать более раннего вмешательства человека, а решения с необратимыми последствиями должны иметь более низкие пороги автономии.

Эти пороги также не должны оставаться на усмотрение отдельных агентов в режиме реального времени. Их необходимо встроить в архитектуру и слой оркестрации, с чёткими правилами о том, что агент может делать, что требует дополнительной валидации и что должно быть эскалировано.

Возможность заключается в том, чтобы масштабировать автономию в зависимости от риска — полная скорость для низко‑рисковых задач, более строгий контроль там, где это важно. В Genpact мы встроили эту градацию непосредственно в процесс проектирования агентных рабочих процессов — позволяя рутинным случаям работать автономно, а всё, что превышает установленный риск или денежный порог, автоматически направлять человеку без необходимости агенту принимать решение об эскалации. Предприятия, предоставляющие каждой интеракции одинаковый уровень автономии, быстро превращают удобство в дорогостоящие ошибки.

Помимо выполнения задачи, какие метрики организации должны использовать для оценки того, приносит ли автономная система обслуживания клиентов положительные результаты для клиентов?

Выполнение задачи полезно, но далеко не достаточно. Вопрос не должен звучать «завершил ли агент задачу?», а «оказался ли клиент в лучшем положении?». Это разница между обещанием результата и ответственностью за него.

Это означает, что нужно смотреть дальше времени обработки и учитывать такие метрики, как точность ответов, решение при первом контакте, количество повторных обращений, качество эскалаций, удовлетворённость клиентов, справедливость и согласованность результатов. Также необходимо измерять не только отдельное взаимодействие. Агент может выглядеть успешным в одной части пути клиента, создавая проблему дальше по цепочке. Например, случай, закрытый быстро, может вызвать новый звонок через несколько недель, влияя на настроение клиента и в конечном итоге требуя вмешательства человека, поэтому стоит отслеживать, решён ли он через 30 дней.

Также важно знать, решает ли система действительно базовую потребность клиента, а не просто закрывает взаимодействие, считая его победой. Для этого требуется сквозная наблюдаемость всего рабочего процесса, а не только метрики из интерфейса ИИ. Измерение результатов для клиента и бизнеса, а не активности, раскрывает реальную отдачу от ИИ.

Как бизнес может предотвратить, чтобы ИИ‑агенты оптимизировались под операционные цели, такие как снижение количества звонков или времени обработки, в ущерб справедливости, доверию или базовым потребностям клиента?

Системы ИИ удивительно хорошо достигают любой поставленной цели. Это и плюс, и минус: если агентной системе сказать, что единственная цель — скорость, она пожертвует всем остальным, чтобы её достичь.

Бизнесу необходимо предоставить ИИ сбалансированный набор целей, где эффективность важна, но одновременно учитываются результаты для клиента, риск, справедливость, точность и доверие. Это достигается установкой чётких ограничений приемлемого поведения, тестированием на предвзятость и непредвиденные результаты, поддержанием механизмов человеческого вмешательства, постоянным мониторингом решений и обеспечением прослеживаемости и аудируемости выводов. Управление не может быть добавлено после запуска системы; оно должно быть встроено в архитектуру с самого начала.

Контекст клиента может быть распределён по предыдущим разговорам, транзакциям, каналам и корпоративным системам. Как компании могут предоставить ИИ‑агентам достаточный контекст для принятия лучших решений, не создавая новых рисков конфиденциальности, безопасности или управления?

Ответ на проблему фрагментированного контекста не в предоставлении ИИ‑агенту доступа ко всему. Речь идёт о предоставлении управляемого доступа к нужной информации в нужный момент. Предприятиям нужен надёжный слой данных и интеграции, который соединяет агентов с авторитетными системами учёта, контролируя, что каждый агент может видеть и делать. Это включает доступ, основанный на ролях и целях, минимально необходимый набор данных, отслеживание происхождения, журналы аудита и защиту конфиденциальной информации.

Больше контекста улучшает решения ИИ, но только при управляемом доступе. Иначе решение одной проблемы может породить гораздо более серьёзную проблему конфиденциальности или безопасности. При правильном управлении контекст усиливается, когда система учится на предыдущих исключениях, делая будущие взаимодействия умнее без создания новых рисков.

По мере того как клиент‑ориентированный ИИ становится более автономным, как вы ожидаете развитие отношений между ИИ‑агентами и сотрудниками, и какие возможности необходимо сейчас построить в организациях, чтобы обеспечить успешное сотрудничество?

Роль человека будет всё больше смещаться от выполнения каждого шага процесса к управлению, надзору и улучшению системы агентов, берущих на себя объём работы. Люди будут тратить больше времени на постановку целей, обработку исключений, применение суждения, валидацию решений с высоким риском, уточнение рабочих процессов, мониторинг поведения агентов и улучшение архитектуры и управления этими агентными системами. Это также меняет набор навыков, необходимых компаниям. Важным будет владение ИИ, но также критическое мышление, отраслевой опыт, оркестрация агентов, наблюдаемость и способность оспаривать систему ИИ, когда что‑то выглядит неверно.

Это не только проблема рабочей силы. Организациям нужна архитектура, поддерживающая такое сотрудничество, соединяющая агентов с нужными данными и системами, координирующая их совместную работу и предоставляющая людям видимость их действий. Управление, возможность человеческого вмешательства и эскалация должны быть спроектированы с самого начала.

В своей роли главного корпоративного архитектора я считаю своим долгом обеспечить, чтобы вся организация знала не только как использовать ИИ, но и когда ему доверять, ставить под вопрос и брать контроль в свои руки. Таким образом, архитектура становится дверью к подотчётному ИИ, который укрепляет доверие и создаёт реальное влияние.

Спасибо за отличное интервью, читатели, желающие узнать больше, должны посетить Genpact.