Jayant Swamy, Główny Architekt Korporacyjny w Genpact – Seria wywiadów

Jayant Swamy, Główny Architekt Korporacyjny w Genpact, jest liderem technologicznym i danych z ponad dwudziestoletnim doświadczeniem obejmującym architekturę korporacyjną, sztuczną inteligencję, inżynierię danych, technologie chmurowe oraz transformację cyfrową na dużą skalę. Przed dołączeniem do Genpact w 2024 roku pełnił funkcję CTO i Głównego Architekta w Xtrac8.Tech oraz CTO i współzałożyciela startupu AI skoncentrowanego na technologiach, w tym generatywnej AI i dużych modelach językowych. Swamy spędził ponad dekadę w Accenture, gdzie jego role przywódcze obejmowały stanowiska CTO, Global Lead i Global Managing Director Instytutu Zastosowanej Inteligencji, Managing Director i Global Business Lead ds. biznesu Data on Cloud oraz Głównego Architekta Danych i Global Lead ds. Inżynierii Danych i Innowacji Danych. Na wcześniejszym etapie kariery pracował ponad siedem lat w Fannie Mae, nadzorując inicjatywy technologiczne i informacyjne związane z obsługą i zarządzaniem stratami kredytowymi, po kilku latach jako Senior Principal w Oracle (ORCL ).

Genpact jest globalną firmą technologiczną i świadczącą usługi biznesowe, skoncentrowaną na pomocy przedsiębiorstwom w transformacji złożonych operacji przy użyciu sztucznej inteligencji, danych, inteligencji procesowej i ekspertyzy branżowej. Firma wywodzi się z inicjatywy z 1997 roku w ramach GE Capital, stała się niezależna w 2005 roku i zadebiutowała na New York Stock Exchange w 2007 roku. Dziś Genpact współpracuje z organizacjami w różnych sektorach, w tym bankowości, ubezpieczeń, finansów, łańcucha dostaw, dóbr konsumpcyjnych, opieki zdrowotnej i technologii, z rosnącym naciskiem na generatywną AI, systemy agentowe, automatyzację oraz operacje przedsiębiorstw wspierane przez AI.

Twoja kariera przeniosła Cię z ról w architekturze korporacyjnej i przywództwie danych w Oracle, Fannie Mae i Accenture, przez środowiska startupowe, aż do obecnej pozycji Głównego Architekta Korporacyjnego w Genpact. Jak to doświadczenie ukształtowało Twoje spojrzenie na to, gdzie autonomia AI tworzy prawdziwą wartość dla przedsiębiorstwa, a gdzie ludzka ocena pozostaje niezbędna? 

Na przestrzeni mojej kariery nauczyłem się, że skala, zarządzanie, integracja i ryzyko są tak samo ważne jak innowacja. Doświadczenie korporacyjne pokazuje, że imponująca technologia nadal zawodzą, jeśli nie mogą funkcjonować w ramach organizacji; startupy podkreślają wartość szybkiego działania, eksperymentowania i utrzymywania architektury prostej i elastycznej. Autonomia AI działa najlepiej, gdy połączymy oba podejścia — innowację w wysokim tempie przy jednoczesnym utrzymaniu solidnych fundamentów. W ten sposób AI może naprawdę przekształcić sposób, w jaki praca przepływa w organizacji. Wyniki naszego najnowszego badania wyraźnie potwierdzają tę tezę.

Sam model to tylko jedna część równania. Otaczająca go architektura — dane, systemy, przepływy pracy, kontrole i integracje — decyduje o tym, czy AI tworzy wartość na dużą skalę. To właśnie rozumiemy pod hasłem „brak sztucznej inteligencji bez inteligencji procesowej”. To także podstawa naszej pracy nad zastosowaną AI w Genpact Labs, gdzie przekształcamy pojawiające się możliwości AI w rozwiązania gotowe do produkcji i przygotowane dla klientów. Każda funkcja jest powiązana z wymiernym wynikiem biznesowym i wbudowana w przepływ pracy, dane oraz niezbędne kontrole.

AI powinno mieć możliwość działania tam, gdzie cel jest jasny, dane są wiarygodne, a granice dobrze zrozumiane. Ludzka ocena pozostaje niezbędna przy decyzjach o wysokim ryzyku, niejednoznacznych, subiektywnych, regulowanych lub wymagających odpowiedzialności i empatii. Autonomia nie polega na wykluczaniu ludzi z systemu. Chodzi o zaprojektowanie systemu tak, aby każdy wiedział, gdzie AI może działać samodzielnie, gdzie ludzie potrzebują wglądu, a gdzie ludzka ocena musi przejąć kontrolę.

Wiele firm ocenia AI skierowane do klientów głównie pod kątem szybkości, wskaźników zatrzymania i oszczędności kosztów. Dlaczego te metryki mogą tworzyć mylny obraz tego, czy technologia faktycznie poprawia doświadczenie klienta?

Problem polega na tym, że są to głównie miary efektywności. Pokazują, jak system działał, ale niekoniecznie, jak doświadczył go klient. Weźmy wskaźnik zatrzymania: wysoki wskaźnik może wyglądać na sukces wewnętrzny, ale może ukrywać słabe wyniki, jeśli klient się poddaje, powtarza pytania, otrzymuje niekompletne odpowiedzi lub nie może skontaktować się z osobą, gdy tego potrzebuje. Zatrzymanie pokazuje, że AI utrzymało klienta w systemie, a nie że otrzymał to, czego potrzebował. To samo dotyczy oszczędności kosztów, które mogą odbywać się kosztem zaufania, satysfakcji lub jakości rozwiązania.

Systemy AI optymalizują się wokół sygnałów, które im dostarczamy, dlatego przedsiębiorstwa muszą od samego początku projektować w systemie wskaźniki pomiarowe — łącząc metryki front‑endowe, takie jak szybkość i zatrzymanie, z sygnałami dalszymi, takimi jak rozwiązanie problemu i to, czy rezultat nie wywołał problemów w innych obszarach. Ostatecznie AI skierowane do klientów powinno być oceniane pod kątem tego, czy rozwiązuje podstawowy problem użytkownika końcowego dokładnie, sprawiedliwie i z odpowiednim poziomem wsparcia ludzkiego.

Jakie sygnały powinien wykorzystywać agent AI, aby rozpoznać niepewność, frustrację, pilność lub sytuację wykraczającą poza ustalony przepływ pracy? 

Nie ma jednego magicznego sygnału — liczy się zapewnienie systemowi wystarczającego kontekstu i możliwości obserwacji, aby rozpoznał, kiedy jego pewność, uprawnienia lub informacje nie są już wystarczające. Może to objawiać się sprzecznymi informacjami, powtarzającymi się nieudanymi próbami lub agentem kręcącym się w kółko. Może to być także zmiana w języku klienta — wyraźny sygnał frustracji lub pilności — lub sama czynność wymagająca informacji, dostępu lub uprawnień, których agent nie posiada.

System musi również znać własne granice. Jeśli problem wykracza poza zaprojektowany przepływ pracy, wymaga niedostępnych danych lub przekracza określony próg ryzyka, powinno to uruchomić inną ścieżkę. Celem nie jest, aby agent radził sobie ze wszystkimi możliwymi scenariuszami — chodzi o to, aby wiedział, kiedy przestać, eskalować lub poprosić o pomoc.

Jak firmy mogą odróżnić interakcję, która jest jedynie złożona, od tej, która naprawdę wymaga ludzkiej oceny lub empatii?

Granica nie zależy od trudności zadania. Zależy od tego, ile oceny, konsekwencji i ludzkiego kontekstu niesie decyzja. Ustanowienie operacji agentowych, w których maszyny przetwarzają, a ludzie weryfikują, wymaga zrozumienia, gdzie wartość ludzka nigdy nie może zostać zastąpiona.

AI może obsługiwać bardzo złożone zadania, gdy cel jest jasny, dane wiarygodne, proces określony, a wyniki mierzalne. Sama złożoność nie wymaga człowieka, jeśli system rozumie granice, w których może działać. Człowiek powinien zostać zaangażowany, gdy intencja klienta jest niejasna, sytuacja wymaga dyskrecji, istnieje wiele prawidłowych rezultatów lub decyzja niesie ze sobą istotne konsekwencje finansowe, prawne, medyczne lub reputacyjne. Niektóre interakcje wymagają także zapewnienia, wyjaśnienia, negocjacji lub empatii — nie tylko odpowiedzi. Zaangażowanie człowieka jest wtedy tak ważne, jak techniczna precyzja. Architektura powinna odzwierciedlać tę różnicę. Punkty interwencji należy zaprojektować w przepływie pracy z góry, a nie decydować po wystąpieniu problemu.

Jak powinien wyglądać skuteczny proces eskalacji, aby klienci nie musieli powtarzać swoich wypowiedzi ani rozpoczynać interakcji od nowa, gdy przejmuje ją agent ludzki?

Dobra eskalacja to nie tylko przekazanie klienta — to przekazanie kontekstu, aby kolejna osoba mogła od razu przejść do rozwiązania. Gdy przejmuje ją człowiek, powinien już mieć historię rozmowy, tożsamość i profil klienta oraz to, co AI już podjęło — wystarczająco, aby nie zmuszać klienta do zaczynania od nowa.

To w dużej mierze kwestia architektury: jeśli AI znajduje się wyłącznie w interfejsie czatu front‑end, odłączonym od CRM, ERP, źródeł wiedzy, przepływów pracy i warstwy orkiestracji, płynne przekazanie staje się niemożliwe.

Czy progi eskalacji powinny się zmieniać w zależności od czynników, takich jak ryzyko finansowe, wrażliwość klienta, wymogi regulacyjne czy potencjalne konsekwencje błędnej decyzji?

Zasady eskalacji powinny zależeć od poziomu ryzyka. Im większe konsekwencje pomyłki, tym szybciej powinien być zaangażowany człowiek.

Resetowanie hasła może być w pełni zautomatyzowane, ale sporna transakcja finansowa powinna podlegać ściślejszym kontrolom. W roszczeniach lub windykacji może to oznaczać pełną autonomię przy rutynowych aktualizacjach statusu, ale obowiązkową kontrolę ludzką, gdy sprawa przekracza określony próg dolarowy lub pojawia się sygnał trudnej sytuacji. Im bardziej regulowana lub konsekwentna decyzja, tym silniejszy powinien być nadzór. Wrażliwy klient może wymagać wcześniejszej interwencji ludzkiej, a decyzje o nieodwracalnych konsekwencjach powinny mieć niższe progi autonomii.

Te progi nie powinny być pozostawione do interpretacji przez poszczególnych agentów w czasie rzeczywistym. Muszą być wbudowane w architekturę i warstwę orkiestracji, z jasnymi zasadami określającymi, co agent może zrobić, co wymaga dodatkowej weryfikacji i co musi być eskalowane.

Szansą jest umożliwienie skalowania autonomii wraz z ryzykiem — pełna prędkość przy zadaniach o niskim ryzyku, ściślejsza kontrola tam, gdzie ma to znaczenie. W Genpact wbudowaliśmy to warstwowanie bezpośrednio w projektowanie przepływów agentowych — pozwalając rutynowym przypadkom działać autonomicznie, a wszystko, co przekracza określony próg ryzyka lub kwoty, kierując automatycznie do człowieka, bez konieczności decyzji agenta o eskalacji. Przedsiębiorstwa, które przyznają każdej interakcji ten sam poziom autonomii, szybko zamieniają wygodę w kosztowne błędy.

Poza realizacją zadania, jakie metryki powinny wykorzystywać organizacje, aby ocenić, czy autonomiczny system obsługi klienta przynosi pozytywne rezultaty dla klientów?

Zrealizowanie zadania jest przydatne, ale zdecydowanie niewystarczające. Pytanie nie powinno brzmieć: „czy agent zakończył zadanie?”, lecz: „czy klient znalazł się w lepszej sytuacji?”. To różnica między obietnicą wyniku a odpowiedzialnością za niego.

Oznacza to spojrzenie poza czas obsługi na metryki takie jak dokładność odpowiedzi, rozwiązanie przy pierwszym kontakcie, powtarzające się kontakty, jakość eskalacji, satysfakcja klienta oraz sprawiedliwość i spójność wyników. To także pomiar wykraczający poza pojedynczą interakcję. Agent może wydawać się skuteczny w jednej części ścieżki klienta, jednocześnie tworząc problem w dalszej części. Na przykład sprawa, która szybko się zamyka, może wywołać kolejny telefon kilka tygodni później, wpływając na odczucia klienta i ostatecznie wymagając interwencji ludzkiej, więc warto śledzić, czy po 30 dniach problem nadal jest rozwiązany.

Ważne jest także, aby wiedzieć, czy system rzeczywiście rozwiązuje podstawową potrzebę klienta, a nie tylko zamyka interakcję i uznaje to za sukces. Wymaga to pełnej obserwowalności od początku do końca przepływu pracy, a nie jedynie metryk z interfejsu AI. Pomiar wyników dla klienta i biznesu, a nie aktywności, ujawnia rzeczywisty zwrot z inwestycji AI.

Jak firmy mogą zapobiec, aby agenci AI optymalizowali się pod kątem celów operacyjnych, takich jak redukcja liczby połączeń czy czasu obsługi, kosztem sprawiedliwości, zaufania lub podstawowych potrzeb klienta?

Systemy AI są niezwykle skuteczne w osiąganiu wyznaczonego im celu. To zarówno zaleta, jak i pułapka: jeśli powiesz systemowi agentowemu, że jedynym celem jest szybkość, poświęci on wszystko inne, aby to osiągnąć.

Firmy muszą dawać AI zrównoważony zestaw celów, w którym efektywność ma znaczenie, ale równocześnie uwzględnione są wyniki dla klientów, ryzyko, sprawiedliwość, dokładność i zaufanie. Osiąga się to poprzez wyznaczenie jasnych granic akceptowalnego zachowania, testowanie pod kątem uprzedzeń i niezamierzonych skutków, utrzymywanie mechanizmów nadpisywania przez człowieka, ciągłe monitorowanie decyzji oraz zapewnienie, że wyniki są śledzone i audytowalne. Zarządzanie nie może być jedynie dodatkiem po uruchomieniu systemu. Powinno być wbudowane w architekturę od samego początku.

Kontekst klienta może być rozproszony w poprzednich rozmowach, transakcjach, kanałach i systemach korporacyjnych. Jak firmy mogą zapewnić agentom AI wystarczający kontekst do lepszych decyzji, nie tworząc nowych zagrożeń prywatności, bezpieczeństwa czy zarządzania?

Odpowiedź na rozproszony kontekst nie polega na dawaniu agentowi AI dostępu do wszystkiego. Chodzi o zapewnienie mu zarządzanego dostępu do właściwych informacji w odpowiednim momencie. Przedsiębiorstwa potrzebują silnej warstwy danych i integracji, która łączy agentów z autorytatywnymi systemami źródłowymi, jednocześnie kontrolując, co każdy agent może widzieć i robić. Obejmuje to dostęp oparty na roli i celu, minimalne niezbędne dane, śledzenie pochodzenia, logi audytu oraz ochronę wrażliwych informacji.

Więcej kontekstu poprawia decyzje AI, ale tylko pod warunkiem, że jest zarządzany. W przeciwnym razie rozwiązanie jednego problemu może spowodować znacznie większy problem prywatności lub bezpieczeństwa. Przy odpowiednim zarządzaniu kontekst kumuluje się, gdy system uczy się na podstawie wcześniejszych wyjątków, czyniąc przyszłe interakcje inteligentniejszymi bez tworzenia nowych ryzyk.

W miarę jak AI skierowane do klientów staje się bardziej autonomiczne, jak przewidujesz, że zmieni się relacja między agentami AI a pracownikami ludzkimi i jakie kompetencje organizacje muszą teraz zbudować, aby ta współpraca odniosła sukces?

Rola człowieka będzie coraz bardziej przechodzić od wykonywania każdego kroku procesu do kierowania, nadzorowania i doskonalenia systemu agentów przejmujących dużą część pracy. Ludzie będą poświęcać więcej czasu na wyznaczanie celów, obsługę wyjątków, stosowanie oceny, weryfikację decyzji wysokiego ryzyka, udoskonalanie przepływów pracy, monitorowanie zachowań agentów oraz ulepszanie architektury i zarządzania stojących za tymi systemami agentowymi. Zmienia to także wymagane umiejętności w firmach. Biegłość w AI będzie istotna, ale równie ważne będą myślenie krytyczne, wiedza branżowa, orkiestracja agentów, obserwowalność oraz umiejętność kwestionowania systemu AI, gdy coś wydaje się nie tak.

To nie tylko wyzwanie związane z siłą roboczą. Organizacje potrzebują architektury wspierającej tę współpracę, łączącej agentów z właściwymi danymi i systemami, koordynującej ich współdziałanie oraz dającej ludziom wgląd w ich działania. Zarządzanie, możliwość nadpisania przez człowieka i eskalacja muszą być zaprojektowane od samego początku.

W roli głównego architekta korporacyjnego uważam za swój obowiązek zapewnić, że cała organizacja wie nie tylko, jak korzystać z AI, ale także kiedy jej ufać, kwestionować ją i przejmować kontrolę. W ten sposób architektura staje się bramą do odpowiedzialnej AI, która buduje zaufanie i realny wpływ.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Genpact.