Jayant Swamy, Chief Enterprise Architect hos Genpact – Intervjuserie

Jayant Swamy, Chief Enterprise Architect hos Genpact, er en teknolog- og dataleder med mer enn to tiår med erfaring innen bedriftsarkitektur, kunstig intelligens, data engineering, skyteknologier og storskala digital transformasjon. Før han begynte i Genpact i 2024, var han CTO og Chief Architect i Xtrac8.Tech og CTO og medgründer av en AI‑oppstart med fokus på teknologier som generativ AI og store språkmodeller. Swamy tilbrakte tidligere mer enn et tiår i Accenture, hvor hans lederroller inkluderte CTO, Global Lead og Global Managing Director for Institute of Applied Intelligence, Managing Director og Global Business Lead for Data on Cloud‑virksomheten, samt Chief Data Architect og Global Lead for Data Engineering og Data Innovation. Tidligere i karrieren jobbet han i over syv år i Fannie Mae med å lede teknolog- og forretningsinformasjonstiltak knyttet til service og kredittapshåndtering, etter flere år som Senior Principal i Oracle (ORCL ).

Genpact er et globalt teknolog- og forretningstjenesteselskap som hjelper virksomheter med å transformere komplekse operasjoner gjennom kunstig intelligens, data, prosessintelligens og domenekompetanse. Selskapet har sin opprinnelse i et initiativ fra 1997 innen GE Capital, ble selvstendig i 2005 og ble børsnotert på New York Stock Exchange i 2007. I dag samarbeider Genpact med organisasjoner på tvers av bransjer som bank, forsikring, finans, forsyningskjede, forbrukervarer, helsevesen og teknologi, med økende fokus på generativ AI, agentbaserte systemer, automatisering og AI‑drevet bedriftsdrift.

Din karriere har tatt deg fra roller innen bedriftsarkitektur og dataledelse i Oracle, Fannie Mae og Accenture til oppstartsmiljøer og din nåværende stilling som Chief Enterprise Architect i Genpact. Hvordan har den erfaringen påvirket ditt syn på hvor AI‑autonomi skaper reell bedriftsverdi og hvor menneskelig dømmekraft fortsatt er avgjørende? 

Gjennom min karriere har jeg lært at skala, styring, integrasjon og risiko er like viktige som innovasjon. Erfaring fra store virksomheter viser at imponerende teknologi fortsatt mislykkes hvis den ikke kan fungere innen organisasjonen; oppstartsselskaper understreker verdien av å handle raskt, eksperimentere og holde arkitekturen enkel og tilpasningsdyktig. AI‑autonomi fungerer best når du kombinerer begge tankesett – innovasjon i høy hastighet samtidig som du opprettholder solide grunnlag. På den måten kan AI virkelig forandre hvordan arbeidet flyter i en organisasjon. Funnene fra vår siste forskning understreker dette tydelig.

Modellen i seg selv er bare én del av ligningen. Den omkringliggende arkitekturen – data, systemer, arbeidsflyter, kontroller og integrasjoner – avgjør om AI skaper verdi i stor skala. Det er det vi mener med «ingen kunstig intelligens uten prosessintelligens». Det er også premisset bak vårt anvendte AI‑arbeid i Genpact Labs, hvor vi tar fremvoksende AI‑kapasiteter og gjør dem til produksjonsklare, kundeklare løsninger. Hver kapasitet er knyttet til et målbart forretningsresultat og integrert i arbeidsflyt, data og kontroller som trengs for drift.

AI bør få rom til å handle når målet er klart, dataene er pålitelige og grensene er godt forstått. Menneskelig dømmekraft forblir essensiell for beslutninger som er høyrisiko, tvetydige, subjektive, regulerte eller krever ansvarlighet og empati. Autonomi handler ikke om å fjerne mennesker fra systemet. Det handler om å designe systemet slik at alle vet hvor AI kan handle selvstendig, hvor mennesker trenger innsikt, og hvor menneskelig dømmekraft må ta over.

Mange selskaper evaluerer kunde‑fokusert AI primært gjennom hastighet, håndteringsgrad og kostnadsbesparelser. Hvorfor kan disse målene gi et misvisende bilde av om teknologien faktisk forbedrer kundeopplevelsen?

Problemet er at dette hovedsakelig er mål på effektivitet. De viser hvordan systemet presterte, men ikke nødvendigvis hvordan kunden opplevde det. Ta håndteringsgrad: en høy rate kan se vellykket ut internt, men kan skjule dårlige resultater dersom en kunde gir opp, gjentar seg, får ufullstendige svar eller ikke får kontakt med en person når det trengs. Håndteringsgrad viser at AI holdt kunden i systemet, ikke at de fikk det de trengte. Det samme gjelder kostnadsbesparelser, som kan gå på bekostning av tillit, tilfredshet eller løsningskvalitet.

AI‑systemer optimaliserer rundt signalene du gir dem, så bedrifter må designe måleindikatorer inn i systemet fra starten – koble front‑end‑målinger som hastighet og håndteringsgrad til etterfølgende signaler som saksløsning og om utfallet skapte problemer andre steder. Til syvende og sist bør kunde‑fokusert AI måles på om den løser sluttbrukerens underliggende problem nøyaktig, rettferdig og med riktig grad av menneskelig støtte.

Hvilke signaler bør en AI‑agent bruke for å gjenkjenne usikkerhet, frustrasjon, hastverk eller en situasjon som faller utenfor dens etablerte arbeidsflyt? 

Det finnes ikke ett enkelt magisk signal – det som teller er å gi systemet nok kontekst og observabilitet til å innse når tilliten, autoriteten eller informasjonen ikke lenger er tilstrekkelig. Det kan vise seg som motstridende informasjon, gjentatte mislykkede forsøk, eller at agenten går i sirkler. Det kan også være et skifte i kundens språk – et tydelig signal om frustrasjon eller hastverk – eller oppgaven selv som krever informasjon, tilgang eller autoritet agenten ikke har.

Systemet må også kjenne sine egne grenser. Hvis en sak faller utenfor den designede arbeidsflyten, krever utilgjengelige data, eller overskrider en definert risikogrense, bør det utløse en annen vei. Målet er ikke at agenten skal håndtere hver mulig scenario – det er at den skal vite når den skal stoppe, eskalere eller be om hjelp.

Hvordan kan selskaper skille mellom en interaksjon som bare er kompleks og en som virkelig krever menneskelig dømmekraft eller empati?

Skillelinjen er ikke hvor vanskelig oppgaven er. Den handler om hvor mye dømmekraft, konsekvens og menneskelig kontekst beslutningen bærer. Å sette opp agentbaserte operasjoner der maskiner prosesserer og mennesker validerer krever forståelse av hvor menneskelig verdi aldri kan erstattes.

AI kan håndtere svært komplekse oppgaver når målet er klart, dataene er pålitelige, prosessen er definert og resultatene er målbare. Kompleksitet i seg selv krever ikke et menneske dersom systemet forstår grensene det har lov til å operere innenfor. Et menneske må involveres når kundens intensjon er uklar, situasjonen krever skjønn, det finnes flere gyldige utfall, eller beslutningen har betydelige økonomiske, juridiske, medisinske eller omdømmemessige konsekvenser. Noen interaksjoner krever også beroligelse, forklaring, forhandling eller empati – ikke bare et svar. Menneskelig involvering er da like viktig som teknisk nøyaktighet. Arkitekturen bør reflektere dette skillet. Disse intervensjonspunktene bør designes inn i arbeidsflyten på forhånd, ikke bestemmes etter at noe har gått galt.

Hvordan bør en effektiv eskaleringsprosess se ut slik at kunder ikke må gjenta seg eller starte interaksjonen på nytt når en menneskelig agent tar over?

En god eskalering handler ikke bare om å overføre kunden – den handler om å overføre kontekst, slik at neste person kan gå rett på løsningen. Når et menneske tar over, bør de allerede ha samtalehistorikken, kundens identitet og profil, samt hva AI allerede har forsøkt – nok til å unngå at kunden må starte på nytt.

Dette er i stor grad et arkitekturspørsmål: hvis AI bare sitter i front‑end‑chat‑opplevelsen, frakoblet fra CRM, ERP, kunnskapskilder, arbeidsflyter og orkestreringslag, blir en sømløs overlevering umulig.

Skal eskaleringsgrenser endres avhengig av faktorer som økonomisk risiko, kundesårbarhet, regulatoriske krav eller potensielle konsekvenser av en feil beslutning?

Eskaleringregler bør avhenge av risikonivået. Jo større konsekvensene av å ta feil, jo tidligere bør et menneske involveres.

Et passord‑reset kan kjøres helt automatisert, men en omstridt finansiell transaksjon bør ha strengere kontroller. I krav eller inkasso kan det bety full autonomi for rutinemessige statusoppdateringer, men en obligatorisk menneskelig sjekk når en sak krysser en pengeverdi eller en vanskelighetsflagg dukker opp. Jo mer regulert eller konsekvensrik beslutningen er, desto sterkere bør tilsynet være. En sårbar kunde kan kreve tidligere menneskelig inngripen, og beslutninger med irreversible konsekvenser bør ha lavere autonomigrenser.

Disse grensene bør heller ikke overlates til individuelle agenter for å tolke i øyeblikket. De må bygges inn i arkitekturen og orkestreringslaget, med klare regler om hva agenten har autorisasjon til, hva som krever ekstra validering, og hva som må eskaleres.

Muligheten er å la autonomi skaleres med risiko – full fart på lav‑risiko‑arbeid, strengere kontroll der det teller. Hos Genpact har vi bygget denne lagdelingen direkte inn i hvordan vi designer agentbaserte arbeidsflyter – slik at rutine‑saker kjører autonomt mens alt som krysser en definert risikogrense eller pengeverdi automatisk rutes til et menneske, uten at agenten selv må bestemme å eskalere. Bedrifter som gir hver interaksjon samme autonominivå, gjør raskt bekvemmelighet om til kostbare feil.

Utover oppgavefullføring, hvilke måleparametre bør organisasjoner bruke for å vurdere om et autonomt kundeservicesystem gir positive resultater for kundene?

Oppgavefullføring er nyttig, men langt fra tilstrekkelig. Spørsmålet bør ikke være «fullførte agenten oppgaven?», men «havde kunden et bedre resultat?». Det er forskjellen mellom å love et resultat og å være ansvarlig for det.

Det betyr å se utover håndteringstid til måleparametre som svarnøyaktighet, første‑kontakt‑løsning, gjentatte henvendelser, eskaleringskvalitet, kundetilfredshet, samt rettferdighet og konsistens i resultater. Det betyr også å måle utover en enkelt interaksjon. En agent kan virke vellykket i én del av kundereisen, men skape et problem senere i prosessen. For eksempel kan en sak som lukkes raskt fortsatt utløse en ny samtale uker senere, påvirke kundens følelser og til slutt kreve menneskelig inngripen, så det er verdt å følge opp om den fortsatt er løst etter 30 dager.

Det er også viktig å vite om systemet faktisk løser kundens underliggende behov, i stedet for bare å avslutte interaksjonen og betrakte det som en seier. Det krever ende‑til‑ende‑observabilitet gjennom arbeidsflyten, ikke bare målinger fra AI‑grensesnittet. Å måle kunde‑ og forretningsresultater, snarere enn aktivitet, avslører AI‑s ekte avkastning.

Hvordan kan bedrifter hindre AI‑agenter fra å optimalisere for operative mål, som å redusere samtalevolum eller håndteringstid, på bekostning av rettferdighet, tillit eller kundens underliggende behov?

AI‑systemer er bemerkelsesverdig flinke til å treffe ethvert mål de får tildelt. Det er både fordelen og fellen: gi et agentbasert system beskjed om at hastighet er det eneste målet, så vil det ofre alt annet for å oppnå det.

Bedrifter må gi AI et balansert sett med mål hvor effektivitet er viktig, men som også står ved siden av kundeutfall, risiko, rettferdighet, nøyaktighet og tillit. Dette oppnås ved å sette klare retningslinjer for akseptabel oppførsel, teste for skjevhet og utilsiktede resultater, opprettholde menneskelig overstyringsmekanismer, kontinuerlig overvåke beslutninger, og gjøre output sporbar og reviderbar. Styring kan ikke være noe du legger til etter at systemet allerede er i drift. Det bør bygges inn i arkitekturen fra starten.

Kundekontekst kan være spredt over tidligere samtaler, transaksjoner, kanaler og bedriftsystemer. Hvordan kan selskaper gi AI‑agenter nok kontekst til å ta bedre beslutninger uten å skape nye personvern‑, sikkerhets‑ eller styringsrisikoer?

Svaret på fragmentert kontekst er ikke å gi en AI‑agent tilgang til alt. Det er å gi den styrt tilgang til riktig informasjon på riktig tidspunkt. Bedrifter trenger et sterkt data‑ og integrasjonslag som kobler agenter til autoritative systemer, samtidig som det kontrollerer hva hver agent kan se og gjøre. Det inkluderer rolle‑ og formålsbasert tilgang, minimum nødvendige data, sporingslinje, revisjonslogger og beskyttelse av sensitiv informasjon.

Mer kontekst forbedrer AI‑beslutninger, men bare hvis den er styrt. Ellers kan løsning av ett problem skape et mye større personvern‑ eller sikkerhetsproblem. Når det håndteres riktig, bygger kontekst på seg selv etter hvert som systemet lærer av tidligere unntak, og gjør fremtidige interaksjoner smartere uten å skape nye risikoer.

Når kunde‑fokusert AI blir mer autonom, hvordan forventer du at forholdet mellom AI‑agenter og menneskelige ansatte vil utvikle seg, og hvilke evner må organisasjoner bygge nå for å få dette samarbeidet til å lykkes?

Den menneskelige rollen vil i økende grad flytte fra å utføre hvert steg i en prosess til å styre, overvåke og forbedre systemet av agenter som håndterer arbeidsmengden. Folk vil bruke mer tid på å sette mål, håndtere unntak, utøve dømmekraft, validere høy‑risiko‑beslutninger, finpusse arbeidsflyter, overvåke agentatferd og forbedre arkitekturen og styringen bak disse agentbaserte systemene. Det endrer også hvilke ferdigheter selskapene trenger. AI‑kompetanse vil bli viktig, men også kritisk tenkning, domenekunnskap, agentorchestration, observabilitet og evnen til å utfordre et AI‑system når noe ser feil ut.

Dette er ikke bare en utfordring for arbeidsstyrken. Organisasjoner trenger arkitekturen som støtter dette samarbeidet, ved å koble agenter til riktig data og systemer, koordinere hvordan de jobber sammen, og gi folk innsyn i hva de gjør. Styring, menneskelig overstyring og eskalering må designes inn fra starten.

I min rolle som chief enterprise architect ser jeg det som min plikt å sørge for at hele organisasjonen vet ikke bare hvordan man bruker AI, men når man skal stole på den, stille spørsmål ved den og ta kontroll. På denne måten blir arkitektur døren til ansvarlig AI som skaper tillit og reell innvirkning.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Genpact.