Jayant Swamy, Chief Enterprise Architect di Genpact – Serie di Interviste

Jayant Swamy, Chief Enterprise Architect di Genpact, è un leader tecnologico e dei dati con oltre due decenni di esperienza che coprono architettura d’impresa, intelligenza artificiale, ingegneria dei dati, tecnologie cloud e trasformazione digitale su larga scala. Prima di entrare in Genpact nel 2024, è stato CTO e Chief Architect presso Xtrac8.Tech e CTO e co-fondatore di una startup AI focalizzata su tecnologie tra cui generative AI e large language models. In precedenza, Swamy ha trascorso più di un decennio in Accenture, dove ha ricoperto ruoli di leadership tra cui CTO, Global Lead e Global Managing Director dell’Institute of Applied Intelligence, Managing Director e Global Business Lead per il business Data on Cloud, e Chief Data Architect e Global Lead per Data Engineering e Data Innovation. All’inizio della sua carriera, ha lavorato per più di sette anni in Fannie Mae supervisionando iniziative tecnologiche e di informazione aziendale relative a servizi e gestione delle perdite di credito, dopo diversi anni come Senior Principal in Oracle (ORCL ).

Genpact è una società globale di tecnologia e servizi aziendali focalizzata nell’aiutare le imprese a trasformare operazioni complesse tramite intelligenza artificiale, dati, process intelligence e competenza di settore. L’azienda traccia le sue origini a un’iniziativa del 1997 all’interno di GE Capital, è diventata indipendente nel 2005 e ha quotato in borsa al New York Stock Exchange nel 2007. Oggi, Genpact collabora con organizzazioni di diversi settori, tra cui bancario, assicurativo, finanziario, supply chain, beni di consumo, sanità e tecnologia, con un’enfasi crescente su generative AI, sistemi agentici, automazione e operazioni aziendali abilitate dall’AI.

La tua carriera ti ha portato da ruoli di architettura d’impresa e leadership dei dati presso Oracle, Fannie Mae e Accenture a contesti startup e alla tua attuale posizione di Chief Enterprise Architect in Genpact. In che modo questa esperienza ha plasmato la tua visione su dove l’autonomia dell’AI genera valore reale per l’impresa e dove il giudizio umano rimane essenziale? 

Nel corso della mia carriera, ho imparato che scala, governance, integrazione e rischio sono importanti quanto l’innovazione. L’esperienza d’impresa dimostra che una tecnologia impressionante fallisce se non riesce a funzionare all’interno dell’organizzazione; le startup sottolineano il valore di muoversi rapidamente, sperimentare e mantenere un’architettura semplice e adattabile. L’autonomia dell’AI funziona al meglio quando si combinano entrambe le mentalità — innovare a velocità elevata mantenendo solide fondamenta. In questo modo, l’AI può davvero trasformare il flusso di lavoro in un’organizzazione. I risultati della nostra ricerca recente rafforzano chiaramente questo punto.

Il modello stesso è solo una parte dell’equazione. L’architettura circostante — dati, sistemi, flussi di lavoro, controlli e integrazioni — determina se l’AI crea valore su larga scala. È ciò che intendiamo con “no artificial intelligence without process intelligence”. È anche il presupposto alla base del nostro lavoro di AI applicata in Genpact Labs, dove trasformiamo le capacità emergenti dell’AI in soluzioni pronte per la produzione e per i clienti. Ogni capacità è collegata a un risultato di business misurabile e integrata nel flusso di lavoro, nei dati e nei controlli necessari per operare.

L’AI dovrebbe avere spazio per operare quando l’obiettivo è chiaro, i dati sono affidabili e i confini ben compresi. Il giudizio umano rimane essenziale per decisioni ad alto rischio, ambigue, soggettive, regolamentate o che richiedono responsabilità ed empatia. L’autonomia non consiste nell’eliminare gli esseri umani dal sistema, ma nel progettare il sistema in modo che tutti sappiano dove l’AI può agire in modo indipendente, dove gli esseri umani hanno bisogno di visibilità e dove il giudizio umano deve intervenire.

Molte aziende valutano l’AI a contatto con il cliente principalmente attraverso velocità, tassi di contenimento e risparmio sui costi. Perché questi metrici possono creare un quadro fuorviante su se la tecnologia sta realmente migliorando l’esperienza del cliente?

Il problema è che questi sono principalmente indicatori di efficienza. Mostrano come il sistema ha funzionato, ma non necessariamente come il cliente l’ha percepito. Prendiamo il contenimento: un tasso elevato può apparire positivo internamente, ma può nascondere risultati scadenti se un cliente si arrende, ripete la stessa domanda, riceve risposte incomplete o non riesce a contattare una persona quando necessario. Il contenimento indica che l’AI ha mantenuto il cliente all’interno del sistema, non che abbia ottenuto ciò di cui aveva bisogno. Lo stesso vale per il risparmio sui costi, che può avvenire a scapito della fiducia, della soddisfazione o della qualità della risoluzione.

I sistemi AI si ottimizzano in base ai segnali che gli vengono forniti, quindi le imprese devono progettare fin dall’inizio indicatori di misurazione nel sistema — collegando metriche front‑end come velocità e contenimento a segnali a valle come la risoluzione dei problemi e se il risultato ha creato problemi altrove. In definitiva, l’AI a contatto con il cliente dovrebbe essere valutata in base alla sua capacità di risolvere il problema di base dell’utente finale in modo accurato, equo e con il giusto livello di supporto umano.

Quali segnali dovrebbe utilizzare un agente AI per riconoscere incertezza, frustrazione, urgenza o una situazione che esce dal suo flusso di lavoro stabilito? 

Non esiste un segnale unico e magico — ciò che conta è fornire al sistema un contesto e una osservabilità sufficienti per riconoscere quando la sua fiducia, autorità o informazione non sono più adeguate. Questo può manifestarsi come informazioni contrastanti, tentativi falliti ripetuti o l’agente che gira in tondo. Può anche essere un cambiamento nel linguaggio del cliente — un chiaro segnale di frustrazione o urgenza — o il compito stesso che richiede informazioni, accessi o autorità che l’agente non possiede.

Il sistema deve anche conoscere i propri limiti. Se un problema esce dal flusso di lavoro progettato, richiede dati inaccessibili o supera una soglia di rischio definita, dovrebbe attivare un percorso diverso. L’obiettivo non è che l’agente gestisca ogni scenario possibile — è che sappia quando fermarsi, scalare o chiedere aiuto.

Come possono le aziende distinguere tra un’interazione semplicemente complessa e una che richiede realmente il giudizio o l’empatia umana?

Il confine non è la difficoltà del compito. È la quantità di giudizio, conseguenza e contesto umano che la decisione comporta. Configurare operazioni agentiche in cui le macchine elaborano e gli esseri umani convalidano richiede di comprendere dove il valore umano non può mai essere sostituito.

L’AI può gestire compiti molto complessi quando l’obiettivo è chiaro, i dati sono affidabili, il processo è definito e i risultati sono misurabili. La complessità di per sé non richiede un umano se il sistema comprende i confini entro i quali è autorizzato a operare. Un umano deve intervenire quando l’intento del cliente è poco chiaro, la situazione richiede discrezione, ci sono molteplici risultati validi o la decisione comporta conseguenze finanziarie, legali, mediche o reputazionali significative. Alcune interazioni richiedono anche rassicurazione, spiegazioni, negoziazione o empatia — non solo una risposta. Il coinvolgimento umano è così importante quanto la precisione tecnica. L’architettura dovrebbe riflettere questa distinzione. tali punti di intervento devono essere progettati nel flusso di lavoro fin dall’inizio, non decisi dopo che qualcosa è andato storto.

Come dovrebbe essere un processo di escalation efficace affinché i clienti non debbano ripetere le proprie richieste o ricominciare l’interazione quando un operatore umano prende il controllo?

Una buona escalation non consiste solo nel trasferire il cliente — ma nel trasferire il contesto, così la persona successiva può procedere direttamente verso la risoluzione. Quando un umano prende il controllo, dovrebbe già disporre della cronologia della conversazione, dell’identità e del profilo del cliente, e di ciò che l’AI ha già provato — quanto basta per evitare di chiedere al cliente di ricominciare.

Questo è in gran parte un problema di architettura: se l’AI è presente solo nell’esperienza di chat front‑end, scollegata da CRM, ERP, fonti di conoscenza, flussi di lavoro e layer di orchestrazione, un passaggio senza soluzione di continuità diventa impossibile.

Le soglie di escalation dovrebbero variare in base a fattori come il rischio finanziario, la vulnerabilità del cliente, i requisiti normativi o le potenziali conseguenze di una decisione errata?

Le regole di escalation dovrebbero dipendere dal livello di rischio. Maggiori sono le conseguenze di un errore, prima dovrebbe intervenire un umano.

Il reset di una password può avvenire completamente in modo automatico, ma una transazione finanziaria contestata richiede controlli più stringenti. In ambito sinistri o recuperi crediti, ciò potrebbe significare piena autonomia per gli aggiornamenti di stato di routine, ma un controllo umano obbligatorio quando un caso supera una soglia monetaria o appare un flag di difficoltà. Più una decisione è regolamentata o ha conseguenze, più forte dovrebbe essere la supervisione. Un cliente vulnerabile può richiedere un intervento umano più precoce, e decisioni con conseguenze irreversibili dovrebbero avere soglie di autonomia più basse.

Queste soglie non dovrebbero essere lasciate all’interpretazione spontanea degli agenti. Devono essere integrate nell’architettura e nel layer di orchestrazione, con regole chiare su ciò che l’agente è autorizzato a fare, ciò che richiede una validazione aggiuntiva e ciò che deve essere escalato.

L’opportunità è far scalare l’autonomia in base al rischio — massima velocità per i compiti a basso impatto, controllo più stretto dove conta. In Genpact, abbiamo integrato questa stratificazione direttamente nel modo in cui progettiamo i flussi di lavoro agentici — consentendo ai casi di routine di funzionare autonomamente, mentre tutto ciò che supera una soglia di rischio o monetaria viene indirizzato automaticamente a un umano, senza che l’agente debba decidere di escalare. Le imprese che concedono lo stesso livello di autonomia a ogni interazione trasformano rapidamente la comodità in errori costosi.

Oltre al completamento del compito, quali metriche dovrebbero utilizzare le organizzazioni per valutare se un sistema di assistenza clienti autonomo sta producendo risultati positivi per i clienti?

Il completamento del compito è utile, ma di gran lunga non è sufficiente. La domanda non dovrebbe essere “l’agente ha terminato il compito?” ma “il cliente è finito in una situazione migliore?”. È la differenza tra promettere un risultato e esserne responsabili.

Ciò significa guardare oltre il tempo di gestione verso metriche come accuratezza della risposta, risoluzione al primo contatto, contatti ripetuti, qualità dell’escalation, soddisfazione del cliente e equità e coerenza dei risultati. Significa anche misurare al di là di un’interazione singola. Un agente può apparire efficace in una fase del percorso cliente creando però un problema a valle. Per esempio, un caso chiuso rapidamente può comunque generare una nuova chiamata settimane dopo, influenzando il sentiment del cliente e richiedendo eventualmente un intervento umano; quindi è utile monitorare se rimane risolto anche dopo 30 giorni.

È anche importante sapere se il sistema risolve realmente il bisogno fondamentale del cliente, anziché semplicemente chiudere l’interazione e considerarla un successo. Ciò richiede osservabilità end‑to‑end del flusso di lavoro, non solo metriche dall’interfaccia AI. Misurare i risultati per il cliente e per il business, piuttosto che l’attività, è ciò che rivela il vero ROI dell’AI.

Come possono le aziende impedire agli agenti AI di ottimizzare per obiettivi operativi, come la riduzione del volume di chiamate o del tempo di gestione, a scapito di equità, fiducia o dei bisogni fondamentali del cliente?

I sistemi AI sono straordinariamente bravi a raggiungere qualsiasi obiettivo a loro assegnato. Questo è il vantaggio e la trappola: se si dice a un sistema agentico che la velocità è l’unico obiettivo, sacrificherà tutto il resto per ottenerla.

Le aziende devono fornire all’AI un insieme equilibrato di obiettivi in cui l’efficienza conta, ma affiancata a risultati per il cliente, rischio, equità, precisione e fiducia. Ciò si ottiene imponendo linee guida chiare sul comportamento accettabile, testando bias e risultati non intenzionali, mantenendo meccanismi di override umano, monitorando continuamente le decisioni e rendendo gli output tracciabili e verificabili. La governance non può essere aggiunta a posteriori, ma deve essere integrata nell’architettura fin dall’inizio.

Il contesto del cliente può essere distribuito su conversazioni precedenti, transazioni, canali e sistemi aziendali. Come possono le aziende fornire agli agenti AI abbastanza contesto per prendere decisioni migliori senza creare nuovi rischi di privacy, sicurezza o governance?

La risposta al contesto frammentato non è dare a un agente AI l’accesso a tutto. È concedere un accesso governato alle informazioni giuste al momento giusto. Le imprese hanno bisogno di un solido layer di dati e integrazione che colleghi gli agenti ai sistemi di registro autorevoli, controllando ciò che ciascun agente può vedere e fare. Ciò include accessi basati su ruolo e scopo, dati minimi necessari, tracciamento della provenienza, log di audit e protezione delle informazioni sensibili.

Più contesto migliora le decisioni dell’AI, ma solo se è governato. Altrimenti, risolvere un problema può generare un problema di privacy o sicurezza molto più grande. Se gestito correttamente, il contesto si accumula man mano che il sistema apprende dalle eccezioni precedenti, rendendo le interazioni future più intelligenti senza creare nuovi rischi.

Con l’AI a contatto con il cliente che diventa più autonoma, come prevedi che evolverà il rapporto tra agenti AI e dipendenti umani, e quali capacità dovranno sviluppare le organizzazioni ora per rendere efficace questa collaborazione?

Il ruolo umano si sposterà sempre più dal eseguire ogni passaggio di un processo al dirigere, supervisionare e migliorare il sistema di agenti che gestisce il volume di lavoro. Le persone dedicheranno più tempo a definire obiettivi, gestire eccezioni, esercitare giudizio, convalidare decisioni ad alto rischio, perfezionare i flussi di lavoro, monitorare il comportamento degli agenti e migliorare l’architettura e la governance di questi sistemi agentici. Questo modifica anche le competenze richieste alle aziende. La padronanza dell’AI sarà importante, ma lo saranno anche il pensiero critico, l’expertise di dominio, l’orchestrazione degli agenti, l’osservabilità e la capacità di mettere in discussione un sistema AI quando qualcosa sembra errato.

Non è solo una sfida legata alla forza lavoro. Le organizzazioni hanno bisogno di un’architettura che supporti questa collaborazione, collegando gli agenti ai dati e ai sistemi giusti, coordinando il loro lavoro congiunto e fornendo alle persone visibilità su ciò che stanno facendo. Governance, override umano ed escalation devono essere progettati fin dall’inizio.

Nel mio ruolo di chief enterprise architect, considero mio dovere assicurare che l’intera organizzazione sappia non solo come utilizzare l’AI, ma quando fidarsi di essa, metterla in discussione e prenderne il controllo. In questo modo, l’architettura diventa la porta d’accesso a un’AI responsabile che genera fiducia e impatto reale.

Grazie per la fantastica intervista, i lettori che desiderano saperne di più dovrebbero visitare Genpact.