Jayant Swamy, Arhitect Șef al Întreprinderii la Genpact – Seria de Interviuri

Jayant Swamy, Arhitect Șef al Întreprinderii la Genpact, este un lider în tehnologie și date cu peste două decenii de experiență ce acoperă arhitectura de întreprindere, inteligența artificială, ingineria datelor, tehnologiile cloud și transformarea digitală la scară largă. Înainte de a se alătura Genpact în 2024, a ocupat funcțiile de CTO și Chief Architect la Xtrac8.Tech și de CTO și co-fondator al unei startup-uri AI axate pe tehnologii precum inteligența artificială generativă și modelele lingvistice mari. Swamy a petrecut anterior peste un deceniu la Accenture, unde rolurile sale de conducere au inclus CTO, Global Lead și Global Managing Director al Institute of Applied Intelligence, Managing Director și Global Business Lead pentru afacerea Data on Cloud, și Chief Data Architect și Global Lead pentru Data Engineering și Data Innovation. În perioada timpurie a carierei, a lucrat peste șapte ani la Fannie Mae supravegheând inițiativele tehnologice și de informații de business legate de servicii și gestionarea pierderilor de credit, după câțiva ani ca Senior Principal la Oracle (ORCL ).

Genpact este o companie globală de tehnologie și servicii de business, axată pe ajutorul întreprinderilor în transformarea operațiunilor complexe prin inteligență artificială, date, inteligență de proces și expertiză de domeniu. Compania își urmărește originile într-o inițiativă din 1997 în cadrul GE Capital, a devenit independentă în 2005 și a fost listată la Bursa de Valori din New York în 2007. Astăzi, Genpact colaborează cu organizații din diverse industrii, inclusiv banking, asigurări, finanțe, lanț de aprovizionare, bunuri de consum, sănătate și tehnologie, punând un accent tot mai mare pe AI generativ, sisteme agentice, automatizare și operațiuni de întreprindere susținute de AI.

Cariera dumneavoastră v-a purtat de la roluri de arhitectură de întreprindere și conducere a datelor la Oracle, Fannie Mae și Accenture, la medii de startup și la poziția actuală de Arhitect Șef al Întreprinderii la Genpact. Cum a influențat această experiență perspectiva dumneavoastră asupra locurilor în care autonomia AI generează valoare reală pentru întreprindere și unde judecata umană rămâne esențială? 

Pe parcursul carierei mele, am învățat că dimensiunea, guvernanța, integrarea și riscul contează la fel de mult ca inovația. Experiența în întreprindere arată că tehnologia impresionantă eșuează dacă nu poate funcționa în cadrul organizației; startup-urile subliniază valoarea mișcării rapide, a experimentării și a menținerii unei arhitecturi simple și adaptabile. Autonomia AI funcționează cel mai bine când combinați ambele mentalități — inovare rapidă și menținerea unor fundații solide. În acest fel, AI poate transforma cu adevărat modul în care munca curge într-o organizație. Constatările din cercetarea noastră recentă susțin clar acest punct.

Modelul în sine reprezintă doar o parte a ecuației. Arhitectura înconjurătoare — date, sisteme, fluxuri de lucru, controale și integrări — determină dacă AI generează valoare la scară. Aceasta este ideea noastră de „nici o inteligență artificială fără inteligență de proces”. Este, de asemenea, premisa din spatele muncii noastre de AI aplicat în Genpact Labs, unde transformăm capabilitățile AI emergente în soluții de nivel producție, gata pentru clienți. Fiecare capabilitate este legată de un rezultat de business cuantificabil și integrată în fluxul de lucru, date și controalele necesare pentru operare.

AI ar trebui să aibă libertatea de a acționa acolo unde obiectivul este clar, datele sunt fiabile și limitele sunt bine înțelese. Judecata umană rămâne esențială pentru decizii cu impact major, ambigue, subiective, reglementate sau care necesită responsabilitate și empatie. Autonomia nu înseamnă eliminarea oamenilor din sistem. Este vorba despre proiectarea sistemului astfel încât toată lumea să știe unde AI poate acționa independent, unde oamenii au nevoie de vizibilitate și unde judecata umană trebuie să preia controlul.

Multe companii evaluează AI‑ul orientat spre client în principal prin viteză, rate de reținere și economii de costuri. De ce pot aceste metrici să ofere o imagine înșelătoare privind dacă tehnologia îmbunătățește cu adevărat experiența clientului?

Problema este că acestea sunt în primul rând măsuri ale eficienței. Ele arată cum a funcționat sistemul, dar nu neapărat cum a perceput clientul. Luați în considerare reținerea: un procent ridicat poate părea un succes intern, dar poate ascunde rezultate slabe dacă un client renunță, își repetă cererea, primește răspunsuri incomplete sau nu poate contacta o persoană când are nevoie. Reținerea arată că AI a menținut clientul în sistem, nu că i-a furnizat ceea ce avea nevoie. Același lucru se aplică economiilor de costuri, care pot veni în detrimentul încrederii, satisfacției sau calității rezolvării.

Sistemele AI se optimizează în funcție de semnalele pe care le primiți, așa că întreprinderile trebuie să proiecteze indicii de măsurare în sistem încă de la început — conectând metricile de front‑end, cum ar fi viteza și reținerea, la semnalele ulterioare, cum ar fi rezolvarea problemelor și dacă rezultatul a generat probleme în alte zone. În final, AI‑ul orientat spre client ar trebui evaluat în funcție de capacitatea sa de a rezolva problema de bază a utilizatorului final cu acuratețe, echitate și cu nivelul potrivit de sprijin uman.

Ce semnale ar trebui să folosească un agent AI pentru a recunoaște incertitudinea, frustrarea, urgența sau o situație care iese din fluxul său de lucru stabilit? 

Nu există un singur semnal magic — ceea ce contează este să oferi sistemului suficient context și observabilitate pentru a recunoaște când încrederea, autoritatea sau informațiile sale nu mai sunt suficiente. Acest lucru poate apărea ca informații contradictorii, încercări repetate eșuate sau agentul care se învârte în cercuri. De asemenea, poate fi o schimbare în limbajul clientului — un semnal clar de frustrare sau urgență — sau sarcina în sine care necesită informații, acces sau autoritate pe care agentul nu le deține.

Sistemul trebuie, de asemenea, să cunoască propriile limite. Dacă o problemă iese din fluxul de lucru proiectat, necesită date inaccesibile sau depășește un prag de risc definit, ar trebui să declanșeze o cale diferită. Scopul nu este ca agentul să gestioneze fiecare scenariu posibil — ci să știe când să se oprească, să escaladeze sau să solicite ajutor.

Cum pot companiile să distingă între o interacțiune care este doar complexă și una care necesită cu adevărat judecată umană sau empatie?

Linia de demarcație nu este dificultatea sarcinii. Este cantitatea de judecată, consecință și context uman pe care decizia le implică. Implementarea operațiunilor agentice în care mașinile procesează și oamenii validează necesită înțelegerea locurilor în care valoarea umană nu poate fi înlocuită.

AI poate gestiona sarcini foarte complexe atunci când obiectivul este clar, datele sunt fiabile, procesul este definit și rezultatele sunt cuantificabile. Complexitatea în sine nu impune prezența unui om dacă sistemul înțelege limitele în care are voie să opereze. Un om trebuie implicat când intenția clientului este neclară, situația necesită discreție, există multiple rezultate valide sau decizia are consecințe financiare, juridice, medicale sau de reputație semnificative. Unele interacțiuni necesită, de asemenea, reasigurare, explicație, negociere sau empatie — nu doar un răspuns. Implicarea umană în aceste cazuri este la fel de importantă ca acuratețea tehnică. Arhitectura ar trebui să reflecte această distincție. Punctele de intervenție trebuie proiectate în fluxul de lucru de la început, nu stabilite după ce apare o problemă.

Cum ar trebui să arate un proces eficient de escaladare astfel încât clienții să nu fie nevoiți să-și repete informațiile sau să reînceapă interacțiunea când preia un agent uman?

O escaladare bună nu înseamnă doar transferul clientului — ci și al contextului, astfel încât persoana următoare să poată merge direct spre rezolvare. Când un om preia, ar trebui să aibă deja istoricul conversației, identitatea și profilul clientului și ce a încercat deja AI‑ul — suficient pentru a evita să îi ceară clientului să reînceapă.

Acesta este în mare parte o problemă de arhitectură: dacă AI‑ul se află doar în experiența de chat din front‑end, deconectat de CRM, ERP, sursele de cunoștințe, fluxurile de lucru și stratul de orchestrare, o predare fără cusur devine imposibilă.

Ar trebui pragurile de escaladare să se modifice în funcție de factori precum riscul financiar, vulnerabilitatea clientului, cerințele de reglementare sau consecințele potențiale ale unei decizii incorecte?

Regulile de escaladare ar trebui să depindă de nivelul de risc. Cu cât consecințele unei greșeli sunt mai mari, cu atât un om ar trebui implicat mai repede.

Resetarea parolei poate fi complet automatizată, dar o tranzacție financiară contestată ar trebui să aibă controale mai stricte. În domeniul reclamațiilor sau colectărilor, aceasta poate însemna autonomie totală pentru actualizări de stare de rutină, dar o verificare obligatorie de către om când un caz depășește un prag financiar sau apare un semnal de dificultate. Cu cât decizia este mai reglementată sau are consecințe majore, cu atât supravegherea trebuie să fie mai puternică. Un client vulnerabil poate necesita intervenție umană mai timpurie, iar deciziile cu consecințe ireversibile ar trebui să aibă praguri de autonomie mai scăzute.

Aceste praguri nu ar trebui lăsate la interpretarea individuală a agenților în timp real. Ele trebuie integrate în arhitectură și în stratul de orchestrare, cu reguli clare privind ce este autorizat să facă agentul, ce necesită validare suplimentară și ce trebuie escaladat.

Oportunitatea constă în a permite autonomiei să se scaleze în funcție de risc — viteză maximă pentru sarcini cu impact redus, control mai strict acolo unde contează. La Genpact, am integrat această ierarhizare direct în modul în care proiectăm fluxurile de lucru agentice — lăsând cazurile de rutină să ruleze autonom, în timp ce tot ce depășește un prag de risc sau financiar este direcționat automat către un om, fără ca agentul să trebuiască să decidă escaladarea. Întreprinderile care oferă fiecărei interacțiuni același nivel de autonomie transformă rapid comoditatea în erori costisitoare.

Dincolo de finalizarea sarcinii, ce metrici ar trebui să folosească organizațiile pentru a evalua dacă un sistem autonom de servicii pentru clienți produce rezultate pozitive pentru clienți?

Finalizarea sarcinii este utilă, dar nu este deloc suficientă. Întrebarea nu ar trebui să fie „a terminat agentul sarcina?” ci „a ajuns clientul într-o situație mai bună?”. Este diferența dintre a promite un rezultat și a fi responsabil pentru el.

Acest lucru înseamnă să ne uităm dincolo de timpul de gestionare, către metrici precum acuratețea răspunsurilor, rezolvarea la primul contact, contactele repetate, calitatea escaladării, satisfacția clientului și echitatea și consistența rezultatelor. De asemenea, implică măsurarea dincolo de o interacțiune individuală. Un agent poate părea de succes într-o parte a călătoriei clientului, dar să creeze o problemă ulterior. De exemplu, un caz închis rapid poate declanșa un alt apel săptămâni mai târziu, afectând sentimentul clientului și necesitând în final remediere umană, așa că merită să se monitorizeze dacă rămâne rezolvat și la 30 de zile.

De asemenea, este important să știm dacă sistemul rezolvă cu adevărat nevoia de bază a clientului, nu doar închide interacțiunea și o consideră un succes. Acest lucru necesită observabilitate de la capăt la capăt în fluxul de lucru, nu doar metrici din interfața AI. Măsurarea rezultatelor pentru client și afacere, în loc de activitate, dezvăluie ROI‑ul real al AI‑ului.

Cum pot afacerile să împiedice agenții AI să se optimizeze pentru obiective operaționale, cum ar fi reducerea volumului de apeluri sau a timpului de gestionare, în detrimentul echității, încrederii sau nevoilor de bază ale clientului?

Sistemele AI sunt remarcabil de bune în a atinge orice țintă le este atribuită. Acesta este avantajul și capcana: spuneți unui sistem agentic că viteza este singurul scop și el va sacrifica tot restul pentru a o atinge.

Afacerile trebuie să ofere AI‑ului un set echilibrat de obiective în care eficiența contează, dar este aliniat și cu rezultatele pentru client, riscul, echitatea, acuratețea și încrederea. Acest lucru se realizează prin stabilirea unor bariere clare privind comportamentul acceptabil, testarea pentru părtinire și rezultate neintenționate, menținerea mecanismelor de intervenție umană, monitorizarea continuă a deciziilor și asigurarea trasabilității și auditabilității rezultatelor. Guvernanța nu poate fi adăugată ulterior, după ce sistemul este deja în funcțiune. Trebuie integrată în arhitectură de la început.

Contextul clientului poate fi dispersat în conversații anterioare, tranzacții, canale și sisteme de întreprindere. Cum pot companiile oferi agenților AI suficient context pentru a lua decizii mai bune fără a crea noi riscuri de confidențialitate, securitate sau guvernanță?

Răspunsul la contextul fragmentat nu constă în a oferi unui agent AI acces la tot. Este vorba despre a-i oferi acces guvernat la informația corectă în momentul potrivit. Întreprinderile au nevoie de un strat solid de date și integrare care să conecteze agenții la sistemele autoritare de înregistrare, controlând totodată ce poate vedea și face fiecare agent. Aceasta include acces bazat pe rol și scop, date minime necesare, urmărirea provenienței, jurnale de audit și protecția informațiilor sensibile.

Mai mult context îmbunătățește deciziile AI, dar numai dacă este guvernat. În caz contrar, rezolvarea unei probleme poate genera o problemă mult mai mare de confidențialitate sau securitate. Gestionat corect, contextul se acumulează pe măsură ce sistemul învață din excepțiile anterioare, făcând interacțiunile viitoare mai inteligente fără a crea noi riscuri.

Pe măsură ce AI‑ul orientat spre client devine mai autonom, cum anticipați evoluția relației dintre agenții AI și angajații umani și ce capabilități trebuie să construiască acum organizațiile pentru a asigura o colaborare de succes?

Rolul uman se va muta tot mai mult de la executarea fiecărui pas al unui proces la dirijarea, supravegherea și îmbunătățirea sistemului de agenți care preiau volumul de muncă. Oamenii vor petrece mai mult timp stabilind obiective, gestionând excepții, exercitând judecata, validând decizii cu risc ridicat, rafinând fluxurile de lucru, monitorizând comportamentul agenților și îmbunătățind arhitectura și guvernanța din spatele acestor sisteme agentice. Acest lucru modifică și competențele de care companiile au nevoie. Fluenta în AI va conta, dar la fel și gândirea critică, expertiza de domeniu, orchestrarea agenților, observabilitatea și abilitatea de a contesta un sistem AI când ceva pare greșit.

Acesta nu este doar o provocare legată de forța de muncă. Organizațiile au nevoie de arhitectura care să susțină această colaborare, conectând agenții la datele și sistemele potrivite, coordonând modul în care lucrează împreună și oferind oamenilor vizibilitate asupra a ceea ce fac. Guvernanța, intervenția umană și escaladarea trebuie proiectate încă de la început.

În rolul meu de arhitect șef al întreprinderii, consider că este datoria mea să mă asigur că întreaga organizație știe nu doar cum să folosească AI, ci și când să aibă încredere în el, să-l pună sub semnul întrebării și să preia controlul. În acest fel, arhitectura devine poarta către un AI responsabil care generează încredere și impact real.

Vă mulțumim pentru interviul excelent, cititorii care doresc să afle mai multe ar trebui să viziteze Genpact.