Jayant Swamy, Chief Enterprise Architect hos Genpact – Interviewserie

Jayant Swamy, Chief Enterprise Architect hos Genpact, er en teknologisk og dataledende med mere end to årtiers erfaring inden for enterprise‑arkitektur, kunstig intelligens, data engineering, cloud‑teknologier og stor‑skala digital transformation. Før han sluttede sig til Genpact i 2024, var han CTO og Chief Architect hos Xtrac8.Tech samt CTO og medstifter af en AI‑startup med fokus på teknologier som generativ AI og store sprogmodeller. Swamy tilbragte tidligere mere end et årti hos Accenture, hvor hans ledelsesroller omfattede CTO, Global Lead og Global Managing Director for Institute of Applied Intelligence, Managing Director og Global Business Lead for Data on Cloud‑forretningen samt Chief Data Architect og Global Lead for Data Engineering og Data Innovation. Tidligere i sin karriere arbejdede han over syv år hos Fannie Mae med at overse teknologi‑ og forretningsinformationsinitiativer relateret til service og kredit‑tabshåndtering, efter flere år som Senior Principal hos Oracle (ORCL ).

Genpact er en global teknologi‑ og forretningsservicevirksomhed, der fokuserer på at hjælpe virksomheder med at transformere komplekse operationer gennem kunstig intelligens, data, procesintelligens og domæneekspertise. Virksomheden kan spore sine rødder til et initiativ i 1997 inden for GE Capital, blev selvstændig i 2005 og gik på børsen på New York Stock Exchange i 2007. I dag samarbejder Genpact med organisationer på tværs af brancher, herunder bank, forsikring, finans, forsyningskæde, forbrugsvarer, sundhedssektoren og teknologi, med en stigende vægt på generativ AI, agentbaserede systemer, automatisering og AI‑drevet virksomhedsdrift.

Din karriere har taget dig fra roller inden for enterprise‑arkitektur og data‑ledelse hos Oracle, Fannie Mae og Accenture til startup‑miljøer og din nuværende stilling som Chief Enterprise Architect hos Genpact. Hvordan har den erfaring formet din opfattelse af, hvor AI‑autonomi skaber reel virksomheds‑værdi, og hvor menneskelig dømmekraft stadig er afgørende? 

Gennem min karriere har jeg lært, at skala, styring, integration og risiko er lige så vigtige som innovation. Erfaring fra store virksomheder viser, at imponerende teknologi stadig fejler, hvis den ikke kan fungere inden for organisationen; startups understreger værdien af at handle hurtigt, eksperimentere og holde arkitekturen enkel og tilpasningsdygtig. AI‑autonomi fungerer bedst, når man kombinerer begge tankegange – at innovere med høj hastighed samtidig med at man bevarer stærke fundamenter. På den måde kan AI virkelig transformere, hvordan arbejdet flyder i en organisation. Resultaterne fra vores seneste forskning bekræfter dette tydeligt.

Modellen i sig selv er kun én del af ligningen. Den omgivende arkitektur – data, systemer, arbejdsprocesser, kontrolmekanismer og integrationer – bestemmer, om AI skaber værdi i skala. Det er, hvad vi mener med “ingen kunstig intelligens uden procesintelligens.” Det er også grundlaget for vores anvendte AI‑arbejde i Genpact Labs, hvor vi tager nye AI‑kapabiliteter og omsætter dem til produktionsklare, kunde‑klare løsninger. Hver kapabilitet er knyttet til et målbart forretningsresultat og integreret i arbejdsprocessen, data og de nødvendige kontrolmekanismer.

AI bør få plads til at handle, hvor målet er klart, data er pålidelige, og grænserne er veldefinerede. Menneskelig dømmekraft forbliver afgørende for beslutninger, der er højt indsat, tvetydige, subjektive, regulerede eller kræver ansvarlighed og empati. Autonomi handler ikke om at fjerne mennesker fra systemet. Det handler om at designe systemet, så alle ved, hvor AI kan handle selvstændigt, hvor mennesker har brug for indsigt, og hvor menneskelig dømmekraft skal overtage.

Mange virksomheder vurderer kunde‑rettet AI primært ud fra hastighed, indeholdelses‑rater og omkostningsbesparelser. Hvorfor kan disse målinger give et misvisende billede af, om teknologien faktisk forbedrer kundeoplevelsen?

Problemet er, at disse primært er mål for effektivitet. De viser, hvordan systemet præsterede, men nødvendigvis ikke, hvordan kunden oplevede det. Tag indeholdelse: en høj rate kan se succesfuld ud internt, men den kan skjule dårlige resultater, hvis en kunde giver op, gentager sig, modtager ufuldstændige svar eller ikke kan nå en person, når det er nødvendigt. Indeholdelse viser, at AI holdt kunden i systemet, ikke at de fik, hvad de havde brug for. Det samme gælder for omkostningsbesparelser, som kan ske på bekostning af tillid, tilfredshed eller løsningskvalitet.

AI‑systemer optimerer ud fra de signaler, du giver dem, så virksomheder skal designe måle‑indikatorer ind i systemet fra starten – ved at forbinde front‑end‑målinger som hastighed og indeholdelse med downstream‑signal som sagsløsning og om resultatet skabte problemer andre steder. I sidste ende bør kunde‑rettet AI måles på, om den løser slutbrugerens underliggende problem præcist, retfærdigt og med den rette grad af menneskelig støtte.

Hvilke signaler skal en AI‑agent bruge til at genkende usikkerhed, frustration, hastværk eller en situation, der falder uden for dens etablerede arbejdsproces? 

Der er ikke ét enkelt magisk signal – det vigtige er at give systemet nok kontekst og observerbarhed til at genkende, hvornår dets selvtillid, autoritet eller information ikke længere er tilstrækkelig. Det kan vise sig som modstridende information, gentagne mislykkede forsøg eller at agenten går i cirkler. Det kan også være et skift i kundens sprog – et tydeligt signal om frustration eller hastværk – eller selve opgaven, der kræver information, adgang eller autoritet, som agenten ikke har.

Systemet skal også kende sine egne grænser. Hvis et problem falder uden for den designede arbejdsproces, kræver utilgængelige data eller overskrider en defineret risikotærskel, bør det udløse en anden vej. Målet er ikke, at agenten skal håndtere hver eneste mulige situation – men at den skal vide, hvornår den skal stoppe, eskalere eller bede om hjælp.

Hvordan kan virksomheder skelne mellem en interaktion, der blot er kompleks, og en der virkelig kræver menneskelig dømmekraft eller empati?

Skillelinjen er ikke, hvor vanskelig opgaven er. Det er, hvor meget dømmekraft, konsekvens og menneskelig kontekst beslutningen indebærer. At etablere agentbaserede operationer, hvor maskiner behandler og mennesker validerer, kræver forståelse for, hvor menneskelig værdi aldrig kan erstattes.

AI kan håndtere meget komplekse opgaver, når målet er klart, data er pålidelige, processen er defineret, og resultaterne er målbare. Kompleksitet i sig selv kræver ikke nødvendigvis et menneske, hvis systemet forstår de grænser, det må operere indenfor. Et menneske skal inddrages, når kundens intention er uklar, situationen kræver skøn, der er flere gyldige udfald, eller beslutningen har betydelige finansielle, juridiske, medicinske eller omdømmemæssige konsekvenser. Nogle interaktioner kræver også beroligelse, forklaring, forhandling eller empati – ikke blot et svar. Menneskelig involvering er der lige så vigtig som teknisk nøjagtighed. Arkitekturen bør afspejle denne sondring. De indgrebspunkter skal designes ind i arbejdsprocessen på forhånd, ikke besluttes efter at noget er gået galt.

Hvordan skal en effektiv eskaleringsproces se ud, så kunder ikke behøver at gentage sig selv eller starte interaktionen forfra, når en menneskelig agent overtager?

En god eskalering handler ikke kun om at overføre kunden – men om at overføre konteksten, så den næste person kan gå direkte mod en løsning. Når et menneske overtager, skal de allerede have samtalehistorikken, kundens identitet og profil samt hvad AI allerede har forsøgt – nok til at undgå at bede kunden om at starte forfra.

Dette er i høj grad et arkitekturspørgsmål: hvis AI kun sidder i front‑end‑chat‑oplevelsen, adskilt fra CRM, ERP, videnskilder, arbejdsprocesser og orkestreringslaget, bliver en problemfri overdragelse umulig.

Skal eskalerings‑tærskler ændres afhængigt af faktorer som finansiel risiko, kundesårbarhed, regulatoriske krav eller de potentielle konsekvenser af en forkert beslutning?

Eskalationsregler bør afhænge af risikoniveauet. Jo større konsekvenserne af at begå en fejl er, jo hurtigere bør et menneske inddrages.

En adgangskode‑nulstilling kan køre fuldt automatiseret, men en omstridt finansiel transaktion bør have strengere kontrol. I krav eller inddrivelse kan det betyde fuld autonomi for rutinemæssige statusopdateringer, men et obligatorisk menneskeligt tjek, når en sag overskrider en dollar‑tærskel eller en vanskeligheds‑flag dukker op. Jo mere reguleret eller konsekvensfuld beslutningen er, desto stærkere bør tilsynet være. En sårbar kunde kan berettige tidligere menneskelig indgriben, og beslutninger med irreversible konsekvenser bør have lavere autonomi‑tærskler.

Disse tærskler bør heller ikke overlades til individuelle agenter at fortolke i øjeblikket. De skal indbygges i arkitekturen og orkestreringslaget med klare regler for, hvad agenten har tilladelse til at gøre, hvad der kræver yderligere validering, og hvad der skal eskaleres.

Muligheden er at lade autonomi skalere med risiko – fuld hastighed på lavrisiko‑opgaver, strammere kontrol hvor det betyder noget. Hos Genpact har vi indbygget denne lagdeling direkte i, hvordan vi designer agentbaserede arbejdsprocesser – så rutine‑sager kører autonomt, mens alt, der overskrider en defineret risiko‑ eller dollar‑tærskel, automatisk dirigeres til et menneske uden at agenten behøver at beslutte at eskalere. Virksomheder, der giver hver interaktion samme niveau af autonomi, forvandler hurtigt bekvemmelighed til kostbare fejl.

Udover opgavefuldførelse, hvilke målinger bør organisationer bruge til at vurdere, om et autonomt kundeservicesystem leverer positive resultater for kunderne?

Opgavefuldførelse er nyttig, men langt fra tilstrækkelig. Spørgsmålet bør ikke være, “fuldførte agenten opgaven?” Men “havde kunden endt i en bedre situation?” Det er forskellen mellem at love et resultat og at være ansvarlig for det.

Det betyder, at man ser ud over håndteringstid til målinger som svarnøjagtighed, første‑kontakt‑løsning, gentagne henvendelser, eskaleringskvalitet, kundetilfredshed samt retfærdighed og konsistens i resultaterne. Det betyder også at måle ud over en enkelt interaktion. En agent kan synes succesfuld i en del af kunderejsen, mens den skaber et problem senere i processen. For eksempel kan en sag, der afsluttes hurtigt, stadig udløse et nyt opkald uger senere, påvirke kundens følelser og til sidst kræve menneskelig indgriben, så det er værd at spore, om den stadig er løst efter 30 dage.

Det er også vigtigt at vide, om systemet faktisk løser kundens underliggende behov, i stedet for blot at lukke interaktionen og betragte det som en sejr. Det kræver ende‑til‑ende‑observabilitet på tværs af arbejdsprocessen, ikke kun målinger fra AI‑grænsefladen. At måle kunde‑ og forretningsresultater i stedet for aktivitet er, hvad der afslører AI’s reelle ROI.

Hvordan kan virksomheder forhindre AI‑agenter i at optimere for operationelle mål, som at reducere opkaldsvolumen eller behandlingstid, på bekostning af retfærdighed, tillid eller kundens underliggende behov?

AI‑systemer er bemærkelsesværdigt dygtige til at ramme ethvert mål, de får tildelt. Det er både fordel og faldgrube: hvis man fortæller et agentbaseret system, at hastighed er det eneste mål, vil det ofre alt andet for at opnå det.

Virksomheder skal give AI et balanceret sæt mål, hvor effektivitet er vigtigt, men samtidig ligger ved siden af kunde‑resultater, risiko, retfærdighed, nøjagtighed og tillid. Dette opnås ved at opstille klare retningslinjer for acceptabel adfærd, teste for bias og utilsigtede resultater, opretholde menneskelige overstyringsmekanismer, løbende overvåge beslutninger og gøre output sporbare og auditérbare. Styring kan ikke blot pålægges, når systemet allerede kører. Det skal indbygges i arkitekturen fra starten.

Kunde‑kontekst kan være spredt over tidligere samtaler, transaktioner, kanaler og virksomheds‑systemer. Hvordan kan virksomheder give AI‑agenter nok kontekst til at træffe bedre beslutninger uden at skabe nye privatlivs‑, sikkerheds‑ eller styringsrisici?

Svaret på fragmenteret kontekst er ikke at give en AI‑agent adgang til alt. Det er at give den styret adgang til den rette information på det rette tidspunkt. Virksomheder har brug for et stærkt data‑ og integrationslag, der forbinder agenter til autoritative registre, mens de kontrollerer, hvad hver agent kan se og gøre. Det inkluderer rolle‑ og formålsbaseret adgang, minimum nødvendige data, sporings‑linje, revisionslogfiler og beskyttelse af følsomme oplysninger.

Mere kontekst forbedrer AI‑beslutninger, men kun hvis den er styret. Ellers kan løsning af ét problem skabe et meget større privatlivs‑ eller sikkerhedsproblem. Når det håndteres korrekt, forstærkes kontekst, efterhånden som systemet lærer af tidligere undtagelser, hvilket gør fremtidige interaktioner smarter uden at skabe nye risici.

Efterhånden som kunde‑rettet AI bliver mere autonom, hvordan forventer du, at forholdet mellem AI‑agenter og menneskelige medarbejdere vil udvikle sig, og hvilke kompetencer skal organisationer opbygge nu for at gøre dette samarbejde succesfuldt?

Den menneskelige rolle vil i stigende grad flytte sig fra at udføre hvert trin i en proces til at lede, overvåge og forbedre systemet af agenter, der håndterer arbejdsmængden. Folk vil bruge mere tid på at sætte mål, håndtere undtagelser, udøve dømmekraft, validere højriskodecisioner, forfine arbejdsprocesser, overvåge agentadfærd og forbedre arkitekturen og styringen bag disse agentbaserede systemer. Det ændrer også de færdigheder, som virksomheder har brug for. AI‑flydende vil være vigtigt, men også kritisk tænkning, domæneekspertise, agent‑orkestrering, observabilitet og evnen til at udfordre et AI‑system, når noget ser forkert ud.

Dette er ikke kun en udfordring for arbejdsstyrken. Organisationer har brug for arkitekturen til at understøtte dette samarbejde, ved at forbinde agenter til de rette data og systemer, koordinere hvordan de arbejder sammen, og give folk indsigt i, hvad de laver. Styring, menneskelig overstyring og eskalering skal alle designes ind fra starten.

I min rolle som chief enterprise architect ser jeg det som min pligt at sikre, at hele organisationen ikke kun ved, hvordan man bruger AI, men også hvornår man skal stole på den, stille spørgsmål ved den og tage kontrol. På denne måde bliver arkitekturen til indgangen for ansvarlig AI, der skaber tillid og reel indflydelse.

Tak for det gode interview, læsere der ønsker at lære mere, bør besøge Genpact.