Jayant Swamy, Головний корпоративний архітектор у Genpact – Серія інтерв’ю

Jayant Swamy, Головний корпоративний архітектор у Genpact, є лідером у галузі технологій та даних з понад двадцятирічним досвідом, що охоплює корпоративну архітектуру, штучний інтелект, інженерію даних, хмарні технології та масштабну цифрову трансформацію. Перш ніж приєднатися до Genpact у 2024 році, він працював CTO та головним архітектором у Xtrac8.Tech, а також CTO і співзасновником стартапу в галузі ШІ, орієнтованого на технології, включаючи генеративний ШІ та великі мовні моделі. Раніше Свамі провів понад десять років у Accenture, де його керівні ролі включали CTO, глобального лідера та глобального керуючого директора Інституту прикладного інтелекту, керуючого директора та глобального бізнес‑лідера підрозділу Data on Cloud, а також головного архітектора даних та глобального лідера інженерії даних і інновацій у даних. На початку кар’єри він понад сім років працював у Fannie Mae, керуючи технологічними та бізнес‑інформаційними ініціативами, пов’язаними з обслуговуванням та управлінням кредитними збитками, після кількох років у ролі Старшого спеціаліста в Oracle (ORCL ).

Genpact — це глобальна технологічна та бізнес‑сервісна компанія, орієнтована на допомогу підприємствам у трансформації складних операцій за допомогою штучного інтелекту, даних, інтелекту процесів та галузевої експертизи. Компанія бере свій початок від ініціативи 1997 року в рамках GE Capital, стала незалежною у 2005 році та вийшла на біржу NYSE у 2007 році. Сьогодні Genpact співпрацює з організаціями в різних галузях, включаючи банківську справу, страхування, фінанси, ланцюги постачання, товари широкого споживання, охорону здоров’я та технології, приділяючи все більше уваги генеративному ШІ, агентським системам, автоматизації та операціям підприємств, що підтримуються ШІ.

Ваша кар’єра пройшла від ролей у корпоративній архітектурі та лідерстві в області даних у Oracle, Fannie Mae та Accenture до стартап‑середовища та вашої нинішньої посади головного корпоративного архітектора у Genpact. Як цей досвід сформував ваше уявлення про те, де автономія ШІ створює справжню цінність для підприємства, а де людське судження залишається необхідним? 

Протягом моєї кар’єри я зрозумів, що масштаб, управління, інтеграція та ризик мають таке ж значення, як і інновації. Досвід у великих корпораціях показує, що вражаючі технології все одно зазнають невдачі, якщо вони не можуть функціонувати в межах організації; стартапи підкреслюють цінність швидкого руху, експериментів і простоти та адаптивності архітектури. Автономія ШІ працює найкраще, коли поєднуються обидва підходи — інновації у високій швидкості при збереженні міцних фундаментів. Таким чином, ШІ може справді трансформувати процеси роботи в організації. Результати нашого недавнього дослідження чітко підтверджують цей висновок.

Само модель — лише одна частина рівняння. Оточуюча архітектура — дані, системи, робочі процеси, контролі та інтеграції — визначає, чи створює ШІ цінність у масштабі. Це те, що ми маємо на увазі під «без штучного інтелекту без інтелекту процесів». Це також основа нашої практичної роботи з ШІ у Genpact Labs, де ми беремо нові можливості ШІ та перетворюємо їх у готові до виробництва, готові до клієнта рішення. Кожна можливість пов’язана з вимірюваним бізнес‑результатом і інтегрована у робочий процес, дані та необхідні контролі.

ШІ повинен мати простір для дії там, де мета чітка, дані надійні, а межі добре зрозумілі. Людське судження залишається важливим для рішень, які мають високі ставки, є неоднозначними, суб’єктивними, регульованими або вимагають відповідальності та емпатії. Автономія не полягає у виключенні людей із системи. Це про проєктування системи таким чином, щоб усі знали, де ШІ може діяти самостійно, де людям потрібна видимість, і де людське судження має брати на себе керування.

Багато компаній оцінюють ШІ, орієнтований на клієнтів, переважно за швидкістю, рівнем утримання та економією витрат. Чому ці метрики можуть створювати хибну картину того, чи технологія дійсно покращує досвід клієнта?

Проблема в тому, що це, в першу чергу, показники ефективності. Вони демонструють, як система працювала, але не обов’язково, як це сприймав клієнт. Візьмемо утримання: високий рівень може виглядати успішним всередині компанії, проте може приховувати погані результати, якщо клієнт здається, повторює запитання, отримує неповні відповіді або не може дістатися до людини, коли це потрібно. Утримання показує, що ШІ залишив клієнта в системі, а не те, що він отримав потрібне. Те ж саме стосується економії витрат, яка може йти за рахунок довіри, задоволеності або якості вирішення.

Системи ШІ оптимізуються за сигналами, які ви їм надаєте, тому підприємствам потрібно з самого початку впроваджувати вимірювальні підказки в систему — зв’язуючи метрики фронт‑енд, такі як швидкість і утримання, з нижчими сигналами, такими як вирішення проблеми та чи створив результат інші проблеми. В кінцевому підсумку, ШІ, орієнтований на клієнтів, має оцінюватися за тим, чи він точно, справедливо та з належним рівнем людської підтримки вирішує базову проблему кінцевого користувача.

Які сигнали має використовувати агент ШІ, щоб розпізнати невизначеність, розчарування, терміновість або ситуацію, що виходить за межі його встановленого робочого процесу? 

Не існує єдиного «чарівного» сигналу — важливо надати системі достатньо контексту та спостережуваності, щоб вона могла розпізнати, коли її впевненість, повноваження або інформація вже не є достатніми. Це може проявлятися у вигляді конфліктної інформації, повторюваних невдалих спроб або коли агент крутиться в колі. Це також може бути зміна у мові клієнта — явний сигнал розчарування або терміновості — або сама задача, що потребує інформації, доступу або повноважень, яких агент не має.

Система також повинна знати свої власні межі. Якщо проблема виходить за межі її розробленого робочого процесу, потребує недоступних даних або перевищує визначений поріг ризику, це має активувати інший шлях. Мета не в тому, щоб агент обробляв кожен можливий сценарій — а в тому, щоб він знав, коли зупинитися, ескалувати або запросити допомогу.

Як компанії можуть розрізнити взаємодію, яка лише складна, і ту, що дійсно вимагає людського судження або емпатії?

Розмежування не залежить від складності завдання. Воно визначається тим, скільки судження, наслідків та людського контексту несе рішення. Налагодження агентських операцій, де машини обробляють, а люди верифікують, вимагає розуміння, де людська цінність ніколи не може бути замінена.

ШІ може справлятися з дуже складними завданнями, коли мета чітка, дані надійні, процес визначений, а результати вимірювані. Складність сама по собі не вимагає залучення людини, якщо система розуміє межі, у яких їй дозволено працювати. Людину треба залучати, коли намір клієнта неясний, ситуація вимагає розсудливості, існує кілька допустимих результатів або рішення має суттєві фінансові, юридичні, медичні чи репутаційні наслідки. Деякі взаємодії також потребують запевнення, пояснення, переговорів або емпатії — а не лише відповіді. Людське втручання в цьому випадку так само важливе, як і технічна точність. Архітектура повинна відображати цю різницю. Точки втручання мають бути закладені в робочий процес заздалегідь, а не визначені після того, як щось пішло не так.

Як має виглядати ефективний процес ескалації, щоб клієнтам не доводилося повторюватися або починати взаємодію заново, коли бере на себе людський агент?

Хороша ескалація — це не лише передача клієнта, а передача контексту, щоб наступна особа могла одразу перейти до вирішення. Коли людина бере на себе управління, вона вже повинна мати історію розмови, ідентифікацію та профіль клієнта, а також те, що вже спробував ШІ — достатньо, щоб не просити клієнта починати заново.

Це в основному архітектурна проблема: якщо ШІ розташований лише у фронт‑енд чат‑інтерфейсі, відокремленому від CRM, ERP, джерел знань, робочих процесів та шару оркестрації, безшовна передача стає неможливою.

Чи мають пороги ескалації змінюватися залежно від факторів, таких як фінансовий ризик, вразливість клієнта, регуляторні вимоги чи потенційні наслідки помилкового рішення?

Правила ескалації мають залежати від рівня ризику. Чим більші наслідки помилки, тим швидше має бути залучена людина.

Скидання пароля може бути повністю автоматизованим, але спірна фінансова транзакція повинна мати жорсткіший контроль. У випадках претензій або збору боргів це може означати повну автономію для рутинних оновлень статусу, але обов’язкову перевірку людиною, коли випадок перевищує певний грошовий поріг або з’являється позначка про труднощі. Чим більш регульоване або наслідкове рішення, тим суворіший нагляд має бути. Вразливий клієнт може вимагати раннього втручання людини, а рішення з незворотними наслідками мають мати нижчі пороги автономії.

Ці пороги також не повинні залишатися на розсуд окремих агентів у реальному часі. Вони мають бути вбудовані в архітектуру та шар оркестрації з чіткими правилами щодо того, що агент має право робити, що потребує додаткової верифікації та що має бути ескаловано.

Можливість полягає в тому, щоб дозволити автономії масштабуватись разом з ризиком — повна швидкість для низько‑ризикових завдань, жорсткіший контроль там, де це важливо. У Genpact ми вбудували таке розрізнення безпосередньо в дизайн агентських робочих процесів — дозволяючи рутинним випадкам працювати автономно, а все, що перевищує визначений ризик або грошовий поріг, автоматично перенаправляється до людини без необхідності рішення агента про ескалацію. Підприємства, які надають кожній взаємодії однаковий рівень автономії, швидко перетворюють зручність у дорогі помилки.

Окрім виконання завдань, які метрики мають використовувати організації для оцінки того, чи автономна система обслуговування клієнтів приносить позитивні результати для клієнтів?

Виконання завдання корисне, але далеке від достатнього. Питання не має звучати «чи завершив агент завдання?», а «чи опинився клієнт у кращому становищі?». Це різниця між обіцянкою результату та відповідальністю за нього.

Тобто потрібно дивитися поза часом обробки і враховувати метрики, такі як точність відповіді, вирішення при першому контакті, повторні контакти, якість ескалації, задоволеність клієнтів, а також справедливість і послідовність результатів. Це також означає вимірювання не лише окремої взаємодії. Агент може виглядати успішним у одній частині шляху клієнта, створюючи проблему в подальшому. Наприклад, випадок, який швидко закривається, може викликати інший дзвінок через кілька тижнів, впливаючи на настрій клієнта і в кінцевому підсумку вимагаючи людського втручання, тому варто відстежувати, чи він все ще вирішений через 30 днів.

Також важливо знати, чи система дійсно вирішує базову потребу клієнта, а не просто закриває взаємодію і вважає це успіхом. Для цього потрібна сквозна спостережуваність у всьому робочому процесі, а не лише метрики з інтерфейсу ШІ. Вимірювання результатів для клієнтів і бізнесу, а не просто активності, розкриває реальний ROI ШІ.

Як бізнеси можуть запобігти тому, щоб агенти ШІ оптимізувалися під операційні цілі, такі як зменшення кількості дзвінків чи часу обробки, на шкоду справедливості, довірі або базовим потребам клієнта?

Системи ШІ надзвичайно добре досягають будь‑якої поставленої мети. Це і перевага, і підводний камінь: якщо сказати агентській системі, що швидкість — єдина мета, вона пожертвує всім іншим, щоб її досягти.

Бізнесу потрібно надати ШІ збалансований набір цілей, де ефективність важлива, але вона також співіснує з результатами для клієнтів, ризиком, справедливістю, точністю та довірою. Це досягається шляхом встановлення чітких обмежень щодо прийнятної поведінки, тестування на упередженість і небажані результати, підтримки механізмів людського переваги, постійного моніторингу рішень та забезпечення простежуваності та аудиту виходів. Управління не може бути доданим після запуску системи; його слід вбудовувати в архітектуру з самого початку.

Контекст клієнта може бути розподілений між попередніми розмовами, транзакціями, каналами та корпоративними системами. Як компанії можуть надати агентам ШІ достатньо контексту для кращих рішень, не створюючи нових ризиків щодо конфіденційності, безпеки чи управління?

Відповідь на проблему фрагментованого контексту не полягає у наданні агенту ШІ доступу до всього. Потрібен керований доступ до потрібної інформації у потрібний момент. Підприємствам потрібен потужний шар даних та інтеграції, який з’єднує агентів з авторитетними системами запису, контролюючи, що кожен агент може бачити і робити. Це включає доступ, заснований на ролі та меті, мінімальний необхідний обсяг даних, відстеження походження, журнали аудиту та захист чутливої інформації.

Більший контекст покращує рішення ШІ, але лише за умови управління. Інакше вирішення однієї проблеми може створити значно більшу проблему конфіденційності або безпеки. При правильному підході контекст наростає, оскільки система навчається на попередніх винятках, роблячи майбутні взаємодії розумнішими без створення нових ризиків.

У міру того, як ШІ, орієнтований на клієнтів, стає більш автономним, як ви очікуєте, що зміниться взаємовідношення між агентами ШІ та людськими співробітниками, і які можливості організаціям потрібно розвивати вже зараз, щоб забезпечити успішну співпрацю?

Роль людини все більше буде переходити від виконання кожного кроку процесу до керування, контролю та вдосконалення системи агентів, що беруть на себе обсяг роботи. Люди будуть витрачати більше часу на встановлення цілей, обробку винятків, застосування судження, верифікацію високоризикових рішень, уточнення робочих процесів, моніторинг поведінки агентів та покращення архітектури й управління цих агентських систем. Це також змінює навички, які потрібні компаніям. Володіння ШІ буде важливим, так само як і критичне мислення, галузеві знання, оркестрація агентів, спостережуваність та здатність кидати виклик системі ШІ, коли щось виглядає підозріло.

Це не лише виклик для робочої сили. Організаціям потрібна архітектура, що підтримує таку співпрацю, з’єднуючи агентів з потрібними даними та системами, координуючи їхню спільну роботу та надаючи людям видимість їх дій. Управління, можливість людського переваги та ескалація мають бути закладені з самого початку.

У своїй ролі головного корпоративного архітектора я вважаю своїм обов’язком забезпечити, щоб уся організація знала не лише як користуватися ШІ, а й коли йому довіряти, ставити під сумнів і брати контроль у свої руки. Таким чином, архітектура стає воротою до відповідального ШІ, який створює довіру та реальний вплив.

Дякуємо за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати Genpact.