Jayant Swamy, Chief Enterprise Architect på Genpact – Intervjuserie

Jayant Swamy, Chief Enterprise Architect på Genpact, är en teknik- och dataledare med mer än två decennier av erfarenhet som spänner över företagsarkitektur, artificiell intelligens, dataengineering, molnteknologier och storskalig digital transformation. Innan han började på Genpact 2024 tjänstgjorde han som CTO och Chief Architect på Xtrac8.Tech samt som CTO och medgrundare av en AI-startup inriktad på teknologier som generativ AI och stora språkmodeller. Swamy tillbringade tidigare mer än ett decennium på Accenture, där hans ledande roller inkluderade CTO, Global Lead och Global Managing Director för Institute of Applied Intelligence, Managing Director och Global Business Lead för Data on Cloud-verksamheten samt Chief Data Architect och Global Lead för Data Engineering och Data Innovation. Tidigare i sin karriär arbetade han i över sju år på Fannie Mae med att leda teknik- och affärsinformationsinitiativ relaterade till service och kreditförlusthantering, efter flera år som Senior Principal på Oracle (ORCL ).

Genpact är ett globalt teknik- och affärstjänstföretag som fokuserar på att hjälpa företag att transformera komplexa verksamheter genom artificiell intelligens, data, processintelligens och domänexpertis. Företaget spårar sina rötter till ett initiativ 1997 inom GE Capital, blev självständigt 2005 och börsnoterades på New York Stock Exchange 2007. Idag samarbetar Genpact med organisationer inom branscher som bank, försäkring, finans, försörjningskedja, konsumentvaror, sjukvård och teknik, med ett växande fokus på generativ AI, agentiska system, automation och AI‑stödda företagsoperationer.

Ditt yrkesliv har tagit dig från roller inom företagsarkitektur och dataledning på Oracle, Fannie Mae och Accenture till startup-miljöer och din nuvarande position som Chief Enterprise Architect på Genpact. Hur har den erfarenheten format din syn på var AI‑autonomi skapar verkligt affärsvärde och var mänskligt omdöme fortfarande är avgörande? 

Genom hela min karriär har jag lärt mig att skala, styrning, integration och risk är lika viktiga som innovation. Erfarenhet från stora företag visar att imponerande teknik ändå misslyckas om den inte kan fungera inom organisationen; startups understryker värdet av att agera snabbt, experimentera och hålla arkitekturen enkel och anpassningsbar. AI‑autonomi fungerar bäst när man kombinerar båda tankesätten – att innovera i hög hastighet samtidigt som man behåller starka grunder. På så sätt kan AI verkligen förändra hur arbete flödar i en organisation. Resultaten från vår senaste forskning bekräftar tydligt den poängen.

Modellen i sig är bara en del av ekvationen. Den omgivande arkitekturen – data, system, arbetsflöden, kontroller och integrationer – avgör om AI kan skapa värde i skala. Det är vad vi menar med ”ingen artificiell intelligens utan processintelligens”. Det är också grunden för vårt tillämpade AI‑arbete i Genpact Labs, där vi tar framväxande AI‑kapabiliteter och omvandlar dem till produktionsklara, kundklara lösningar. Varje kapabilitet är kopplad till ett mätbart affärsresultat och integrerad i arbetsflödet, data och de kontroller som behövs för att driva den.

AI bör få utrymme att agera där målet är tydligt, data är pålitlig och gränserna är väl förstådda. Mänskligt omdöme är fortfarande avgörande för beslut som är högrisk, tvetydiga, subjektiva, reglerade eller som kräver ansvarstagande och empati. Autonomi handlar inte om att ta bort människor från systemet. Det handlar om att utforma systemet så att alla vet var AI kan agera självständigt, var människor behöver insyn och var mänskligt omdöme måste ta över.

Många företag utvärderar kund‑inriktad AI främst genom hastighet, hanteringsgrad och kostnadsbesparingar. Varför kan dessa mått ge en missvisande bild av huruvida tekniken faktiskt förbättrar kundupplevelsen?

Problemet är att dessa främst är mått på effektivitet. De visar hur systemet presterade, men inte nödvändigtvis hur kunden upplevde det. Ta hanteringsgrad: en hög andel kan se framgångsrik ut internt, men den kan dölja dåliga resultat om en kund ger upp, upprepar sig, får ofullständiga svar eller inte kan nå en person när det behövs. Hanteringsgrad visar att AI höll kunden inom systemet, inte att kunden fick det de behövde. Detsamma gäller kostnadsbesparingar, som kan ske på bekostnad av förtroende, tillfredsställelse eller lösningskvalitet.

AI‑systemen optimerar kring de signaler du ger dem, så företag måste designa mätindikatorer i systemet från början – koppla front‑end‑mått som hastighet och hanteringsgrad till efterföljande signaler som ärende‑lösning och om resultatet skapar problem någon annanstans. I slutändan bör kund‑inriktad AI mätas på om den löser slutanvändarens underliggande problem på ett korrekt, rättvist och med rätt nivå av mänskligt stöd.

Vilka signaler bör en AI‑agent använda för att känna igen osäkerhet, frustration, brådska eller en situation som ligger utanför dess etablerade arbetsflöde? 

Det finns ingen enskild magisk signal – det som räknas är att ge systemet tillräckligt med kontext och observerbarhet för att kunna identifiera när dess förtroende, befogenhet eller information inte längre är tillräcklig. Det kan visa sig som motstridig information, upprepade misslyckade försök eller att agenten går i cirklar. Det kan också vara ett skifte i kundens språk – en tydlig signal om frustration eller brådska – eller själva uppgiften som kräver information, åtkomst eller befogenhet som agenten saknar.

Systemet måste också känna till sina egna gränser. Om ett ärende ligger utanför det designade arbetsflödet, kräver otillgänglig data eller överskrider en definierad risktröskel, bör det utlösa en annan väg. Målet är inte att agenten ska hantera varje tänkbart scenario – utan att den ska veta när den ska stoppa, eskalera eller be om hjälp.

Hur kan företag skilja mellan en interaktion som bara är komplex och en som verkligen kräver mänskligt omdöme eller empati?

Gränsen är inte hur svår uppgiften är. Det handlar om hur mycket omdöme, konsekvens och mänsklig kontext beslutet innebär. Att etablera agentiska operationer där maskiner bearbetar och människor validerar kräver förståelse för var mänskligt värde aldrig kan ersättas.

AI kan hantera mycket komplexa uppgifter när målet är tydligt, data är pålitlig, processen är definierad och resultaten är mätbara. Komplexitet i sig kräver inte en människa om systemet förstår de gränser inom vilka det får operera. En människa måste involveras när kundens avsikt är oklar, situationen kräver diskretion, det finns flera giltiga utfall eller beslutet har betydande finansiella, juridiska, medicinska eller reputationsmässiga konsekvenser. Vissa interaktioner kräver också trygghet, förklaring, förhandling eller empati – inte bara ett svar. Mänsklig medverkan är lika viktig som teknisk korrekthet. Arkitekturen bör återspegla den distinktionen. Dessa interventionspunkter bör designas in i arbetsflödet från början, inte bestämmas efter att något gått fel.

Hur bör en effektiv eskaleringsprocess se ut så att kunder inte behöver upprepa sig eller starta om interaktionen när en mänsklig agent tar över?

En bra eskalering handlar inte bara om att överföra kunden – utan om att överföra kontext, så att nästa person kan gå direkt mot en lösning. När en människa tar över bör de redan ha samtalshistoriken, kundens identitet och profil samt vad AI redan har försökt – tillräckligt för att undvika att be kunden börja om.

Detta är i stor utsträckning en arkitekturfråga: om AI bara sitter i front‑end‑chattupplevelsen, fristående från CRM, ERP, kunskapskällor, arbetsflöden och orkestreringslagret, blir en sömlös överlämning omöjlig.

Bör eskaleringströsklar förändras beroende på faktorer som finansiell risk, kundens sårbarhet, regulatoriska krav eller de potentiella konsekvenserna av ett felaktigt beslut?

Eskalationsregler bör bero på risknivån. Ju större konsekvenserna blir av ett fel, desto tidigare bör en människa involveras.

Ett lösenordsreset kan köras helt automatiskt, men en tvistad finansiell transaktion bör ha striktare kontroller. Vid skadeärenden eller indrivning kan det innebära full autonomi för rutinmässiga statusuppdateringar, men en obligatorisk mänsklig kontroll när ett ärende passerar en dollartröskel eller en svårighetsflagga aktiveras. Ju mer reglerad eller betydelsefull beslutet är, desto starkare bör tillsynen vara. En sårbar kund kan motivera tidigare mänsklig intervention, och beslut med irreversibla konsekvenser bör ha lägre autonomitrösklar.

Dessa trösklar bör inte heller lämnas åt enskilda agenter att tolka i farten. De måste byggas in i arkitekturen och orkestreringslagret, med tydliga regler för vad agenten får göra, vad som kräver ytterligare validering och vad som måste eskaleras.

Möjligheten är att låta autonomi skala med risk – full hastighet på lågriskarbete, striktare kontroll där det räknas. På Genpact har vi byggt in den lagringen direkt i hur vi designar agentiska arbetsflöden – låter rutinärenden köras autonomt samtidigt som allt som passerar en definierad risk‑ eller dollartreshold dirigeras till en människa, automatiskt och utan att agenten behöver besluta om eskalering. Företag som ger varje interaktion samma nivå av autonomi förvandlar snabbt bekvämligheten till kostsamma fel.

Förutom att slutföra uppgifter, vilka mått bör organisationer använda för att utvärdera om ett autonomt kundtjänstsystem ger positiva resultat för kunderna?

Att slutföra en uppgift är användbart, men långt ifrån tillräckligt. Frågan bör inte vara ”avslutade agenten uppgiften?” utan ”hamnade kunden i en bättre situation?”. Det är skillnaden mellan att lova ett resultat och att vara ansvarig för det.

Det innebär att titta förbi hanteringstid till mått som svarsnoggrannhet, första‑kontakt‑lösning, återkommande kontakter, eskaleringskvalitet, kundnöjdhet samt rättvisa och konsekvens i resultaten. Det innebär också att mäta bortom enskild interaktion. En agent kan verka framgångsrik i en del av kundresan men skapa ett problem längre fram. Till exempel kan ett ärende som avslutas snabbt ändå utlösa ett nytt samtal veckor senare, vilket påverkar kundens känsla och så småningom kräver mänsklig åtgärd, så det är värt att följa om ärendet fortfarande är löst efter 30 dagar.

Det är också viktigt att veta om systemet faktiskt löser kundens underliggande behov, snarare än att bara avsluta interaktionen och betrakta den som en seger. Det kräver end‑to‑end‑observabilitet över arbetsflödet, inte bara mått från AI‑gränssnittet. Att mäta kund‑ och affärsresultat, snarare än aktivitet, avslöjar AI:s verkliga avkastning.

Hur kan företag förhindra att AI‑agenter optimerar för operativa mål, som att minska samtalsvolym eller hanteringstid, på bekostnad av rättvisa, förtroende eller kundens underliggande behov?

AI‑system är anmärkningsvärt bra på att nå det mål de får tilldelat. Det är både fördel och fallgropp: om du säger till ett agentiskt system att hastighet är det enda målet, kommer det att offra allt annat för att uppnå det.

Företag måste ge AI en balanserad uppsättning mål där effektivitet är viktigt, men som också står bredvid kundresultat, risk, rättvisa, noggrannhet och förtroende. Detta uppnås genom att sätta tydliga skyddsräcken kring acceptabelt beteende, testa för bias och oavsiktliga resultat, upprätthålla mänskliga överskrivningsmekanismer, kontinuerligt övervaka beslut och göra resultat spårbara och granskbara. Styrning kan inte bara läggas till efter att systemet redan körs. Det bör byggas in i arkitekturen från början.

Kundkontext kan vara spridd över tidigare konversationer, transaktioner, kanaler och företagssystem. Hur kan företag ge AI‑agenter tillräckligt med kontext för att fatta bättre beslut utan att skapa nya integritets-, säkerhets- eller styrningsrisker?

Svaret på fragmenterad kontext är inte att ge en AI‑agent tillgång till allt. Det handlar om att ge den styrd åtkomst till rätt information vid rätt tidpunkt. Företag behöver ett starkt data‑ och integrationslager som kopplar agenter till auktoritativa registersystem samtidigt som det kontrollerar vad varje agent får se och göra. Det inkluderar roll‑ och ändamålsbaserad åtkomst, minsta nödvändiga data, spårning av härkomst, audit‑loggar och skydd av känslig information.

Mer kontext förbättrar AI‑beslut, men endast om den styrs. Annars kan lösningen på ett problem skapa ett mycket större integritets‑ eller säkerhetsproblem. Om det hanteras väl, bygger kontexten på varandra när systemet lär sig av tidigare undantag, vilket gör framtida interaktioner smartare utan att skapa nya risker.

Allteftersom kund‑inriktad AI blir mer autonom, hur förväntar du dig att förhållandet mellan AI‑agenter och mänskliga medarbetare utvecklas, och vilka förmågor behöver organisationer bygga nu för att göra samarbetet framgångsrikt?

Den mänskliga rollen kommer i allt högre grad att skifta från att utföra varje steg i en process till att styra, övervaka och förbättra systemet av agenter som tar hand om arbetsvolymen. Människor kommer att lägga mer tid på att sätta mål, hantera undantag, utöva omdöme, validera hög‑risk‑beslut, förfina arbetsflöden, övervaka agentbeteende och förbättra arkitekturen och styrningen bakom dessa agentiska system. Det förändrar också de färdigheter som företag behöver. AI‑kunskap blir viktigt, men även kritiskt tänkande, domänexpertis, agent‑orkestrering, observabilitet och förmågan att utmana ett AI‑system när något verkar fel.

Det är inte bara en personalutmaning. Organisationer behöver arkitekturen för att stödja det samarbetet, koppla agenter till rätt data och system, samordna hur de arbetar tillsammans och ge människor insyn i vad de gör. Styrning, mänsklig överskrivning och eskalering måste alla designas in från början.

I min roll som chief enterprise architect ser jag det som min uppgift att säkerställa att hela organisationen inte bara vet hur man använder AI, utan också när man ska lita på den, ifrågasätta den och ta kontroll. På så sätt blir arkitekturen en port till ansvarstagande AI som skapar förtroende och verklig påverkan.

Tack för den fantastiska intervjun, läsare som vill lära sig mer bör besöka Genpact.