Deepak Kinger, strategidirektør og medstifter af EvoluteIQ – interviewserie

Deepak Kinger, strategidirektør og medstifter af EvoluteIQ, er en erfaren leder inden for teknologi og erhvervsliv med mere end to årtiers erfaring inden for virksomhedstransformation, finansielle tjenester, automatisering og kunstig intelligens. Hos EvoluteIQ er han med til at udforme virksomhedens overordnede strategi, samtidig med at han leder centrale teknologialliancer, partnerskaber om løsninger, markedsføring og relationer til analytikere. Før han var med til at grundlægge EvoluteIQ i 2019, havde Kinger ledende stillinger hos GALE Partners, Virtusa, Sapient, Headstrong, Wipro og Mphasis. Her spændte hans ansvarsområder fra ledelse af forretninger inden for finansielle tjenester i Asien og Stillehavsområdet og rådgivning af topledere om digital transformation til opbygning af nye forretningsområder og ledelse af omfattende teknologiprojekter. Hans erfaring spænder over strategi, forretningsudvikling, kunderelationsstyring, resultat- og tabsstyring (P&L), drift og nye teknologier, herunder AI, maskinlæring, robotbaseret procesautomatisering, blockchain og datalogi.

EvoluteIQ er en virksomhed inden for AI til erhvervslivet og intelligent automatisering, der fokuserer på at hjælpe organisationer med at automatisere og koordinere komplekse forretningsprocesser fra start til slut. Virksomhedens EIQ Platform samler agentisk AI, generativ AI, proces- og beslutningsautomatisering, intelligent RPA, hændelsesbehandling, datavæv, analyse, virksomhedskonnektorer og udvikling af flerkanalsapplikationer i et miljø med low-code/no-code. Platformen er udviklet til at gøre det muligt for virksomheder at forbinde eksisterende systemer, opbygge og implementere AI-agenter og automatiserede arbejdsgange, overvåge resultater og udvide automatiseringen til områder som kundeoplevelse, økonomi, drift, salg og forsyningskædestyring. EvoluteIQ blev grundlagt i 2019 og har udvidet sit fokus til agentisk automatisering af virksomheder med teknologier som AI Workbench og Agentic Mesh Architecture. I 2025 annoncerede virksomheden en minoritetsinvestering på 53 millioner dollars til vækst, ledet af Baird Capital, som skal understøtte global ekspansion og yderligere investeringer i virksomhedens forsknings- og udviklingsaktiviteter i Bengaluru.

Før du var med til at grundlægge EvoluteIQ i 2019, arbejdede du i to årtier inden for finansielle tjenester, virksomhedsteknologi og digital transformation. Hvilke tilbagevendende problemer så du i store organisationer, som til sidst overbeviste dig om, at der var en mulighed for at opbygge EvoluteIQ, og hvad ønskede du at gribe anderledes an?

Før EvoluteIQ arbejdede jeg 25 år som konsulent, og en stor del af tiden hjalp jeg store finansielle institutioner med transformationsinitiativer. Det omfattede tidlige programmer inden for digital bankvirksomhed samt handel, risikostyring og bredere transformation fra start til slut. Med tiden så jeg en stigende efterspørgsel efter automatisering, og vi hjalp virksomheder med at implementere platforme fra nogle af de største leverandører.

Det, der i sidste ende motiverede os til at starte EvoluteIQ, var muligheden for at gå fra at implementere andres teknologi til selv at bygge noget. Vi så en mulighed for en mere integreret tilgang til automatisering, så virksomheder ikke behøvede at samle flere teknologier, licenser og integrationslag. Det blev en del af motivationen for at starte EvoluteIQ i 2019.

I vores tidligere interview med Unite.AI talte din medstifter Sameet Gupte om EvoluteIQs bredere vision om at føre virksomheder fra opgavebaseret automatisering over til AI-baserede, selvstyrende processer fra start til slut. Hvordan illustrerer håndtering af regelændringer, hvorfor det er nødvendigt at gå fra at automatisere enkelte opgaver til at koordinere hele forretningsprocesser?

Regelændringer påvirker sjældent kun én isoleret opgave. I 2020 udviklede vi en løsning i forbindelse med overgangen fra LIBOR. Bankerne stod over for en omfattende ændring, der påvirkede eksisterende kontrakter og krævede, at driftsteams, juridiske assistenter og forretningsteams gennemgik og afhjulp de dem. Mange institutioner reagerede i praksis ved at sætte flere medarbejdere på opgaven. Læren af LIBOR var, at de konkrete regler ændrer sig, men at den underliggende udfordring gentager sig. Regelændringer og overholdelse af regler er løbende driftskrav.

Med de nyere foreslåede ændringer fra FinCen vedrørende bekæmpelse af hvidvask af penge og finansiering af terrorisme (AML/CFT) ser vi en bevægelse væk fra en meget regelstyret, »afkrydsningsbaseret« model for overholdelse af regler. Det skærper faktisk kravene til overholdelse af regler i stedet for at gøre opgaven lettere, fordi institutionerne skal fortolke reglerne, formulere deres egne risici og afgøre, hvad disse risici betyder for deres driftsmodel. Denne ændring berører i sagens natur forskellige afdelinger og funktioner på tværs af en organisation, ikke kun compliance- og revisionsteams.

Du har argumenteret for, at banker bør holde op med at behandle hver større regelændring som et nyt transformationsprojekt og i stedet gøre håndteringen af regelændringer til en permanent driftskapacitet. Hvordan ville en sådan driftsmodel se ud i praksis, og hvorfor har finansielle institutioner historisk haft svært ved at opbygge den?

Den nye driftsmodel skal bygge på forståelsen af, at forandringer er kontinuerlige; det er ikke længere en proces, der skal udrulles hvert kvartal eller først sættes i gang, når revisorerne banker på. Arbejdet med at udvikle en løsning til LIBOR viste os, at selvom en regulatorisk ændring på et tidspunkt kan blive implementeret, forsvinder behovet for at tilpasse sig ikke. Det vil også være nødvendigt at forstå ændringen, omsætte den til operationelle krav og opdatere processerne, når den næste regulatoriske ændring kommer.

Den nye driftsmodel må heller ikke være isoleret i compliancefunktionen. I en mere risikobaseret model kan compliancefunktionen stadig i sidste ende have ansvaret for efterlevelsen, men drift, jura og i nogle tilfælde modpartsrisikostyring får alle større betydning. En af de fejl, institutioner kan begå, er at undervurdere, hvor bredt regulatoriske ændringer påvirker organisationen.

Historisk har det været vanskeligt, fordi virksomheder har opbygget fragmenterede teknologilandskaber og siloopdelte driftsmodeller. Når forskellige forretningsenheder benytter separate platforme til RPA, BPM, rapportering og andre formål, bliver håndteringen af et nyt krav i sig selv et integrationsprojekt.

Når en ny regulering indføres, kan en bank være nødt til at fastslå, hvilke kunder, produkter, kontrakter, systemer og processer der berøres. Hvor kan AI forbedre denne konsekvensanalyse væsentligt, og hvilke dele af processen kræver stadig deterministiske regler eller menneskelig vurdering?

AI kan reducere det manuelle arbejde, der kræves for at forstå og implementere regulatoriske ændringer, betydeligt. Mere specifikt kan AI hjælpe med at analysere og kategorisere store informationsmængder og med at indkredse, hvor menneskelig opmærksomhed især bør rettes mod. EvoluteIQs funktioner til håndtering af regulatoriske krav kan for eksempel kategorisere og prioritere kontrakter efter kunde og aktivtype, forbinde oplysningerne med virksomhedens systemer og eksterne datakilder og derefter koordinere det efterfølgende arbejde på tværs af jura, risikostyring og drift. Det giver institutioner mulighed for at gå fra at identificere, hvad der muligvis berøres, til faktisk at håndtere de ændringer, det medfører, på tværs af hele processen.

Menneskelig kontrol og overvågning er stadig afgørende. I nogle dele af en reguleret proces har en institution brug for klart definerede forretningsregler, betingelser, undtagelser og eskaleringsveje. Den model, vi tror på, kombinerer AI’s tilpasningsevne med deterministisk automatisering og menneskelig vurdering, hvor det er relevant. AI kan hjælpe med at fortolke og fremhæve, hvad der muligvis kræver handling; deterministiske regler kan styre, hvordan fastlagte beslutninger udføres; og undtagelser eller beslutninger, der kræver vurdering, kan eskaleres til den rette person.

Implementering af reguleringer går ofte på tværs af juridiske afdelinger, compliance-, risiko-, drifts-, data- og teknologiafdelinger. Hvordan kan AI og procesorkestrering hjælpe disse grupper med at arbejde ud fra en fælles fortolkning af en regulering frem for at oprette separate arbejdsgange og potentielt modstridende forretningsregler?

En af de vigtigste konsekvenser af en mere risikobaseret compliance-model er, at ansvaret fordeles bredere i organisationen. Det endelige ansvar ligger muligvis stadig hos compliance, men drift, jura og modpartsrisikoteams spiller alle en vigtig rolle. Derfor skal institutioner undgå at betragte implementeringen som noget, compliancefunktionen kan udføre isoleret.

Derfor er en integreret platform afgørende. I en stor organisation skal forskellige registreringssystemer og forretningsregler integreres i den nye model, men det betyder også, at man må tage højde for sikkerhedsmæssige kompleksiteter. En samlet tilgang kan mindske risikoen for, at forskellige dele af organisationen implementerer den samme ændring ved hjælp af helt separate teknologistakke.

Generativ AI kan fortolke komplekse reguleringsdokumenter, men banker har ikke råd til hallucinationer eller inkonsekvente fortolkninger, når der træffes beslutninger om compliance. Hvilke sikkerhedsforanstaltninger bør indbygges i AI-systemer, der bruges til regulatoriske ændringer, og hvornår bør menneskelige eksperter fortsat indgå i beslutningsprocessen?

For det første bør AI-agenter ikke implementeres isoleret, da det kan føre til en ukontrolleret spredning af agenter uden passende styring.

For det andet begrænses det, en organisation kan automatisere, ikke kun af dens tekniske muligheder, men også af regulering, privatlivshensyn og regler for, hvilke data der lovligt kan deles.

Det grundlæggende designprincip, der skal følges, er, at AI skal fremskynde fortolkningsarbejdet uden at have ansvaret for beslutningen. Ansvaret for compliance forbliver hos navngivne personer, som tilsynsmyndighederne forventer. Sikkerhedsforanstaltningerne falder i to grupper: kontrol med, hvad AI producerer, og bevidst placering af menneskelige beslutningspunkter. Hvert output fra AI skal være forankret i en autoritativ kilde, og der skal være fastlagt værn for input og output i AI-systemet.

Endelig bør der for hvert output føres et revisionsspor med kildens bestemmelser, versionerne af modellen og prompten, konfidensniveauet, den person, der har gennemgået resultatet, beslutningen og begrundelsen.

Muligheden for at efterprøve beslutninger er særligt vigtig i finanssektoren. Hvis AI hjælper med at fortolke en regulering, udarbejde forretningsregler, identificere berørte kunder og igangsætte arbejdsgange, hvordan kan institutioner så bevare et tydeligt dokumentationsspor, der viser tilsynsmyndighederne præcist, hvordan og hvorfor hver enkelt beslutning blev truffet?

I stærkt regulerede brancher er det ikke nok blot at dokumentere den endelige beslutning; sporbarheden skal række videre. Det er langt mere værdifuldt at kunne rekonstruere forløbet, der førte til beslutningen, ved at vise, hvilke oplysninger der blev brugt, hvilke regler der blev anvendt, hvilke beslutninger der blev truffet, hvilke ændringer der blev foretaget undervejs, og hvor mennesker greb ind, samt hvad de godkendte.

Når flere agenter, forretningsregler og arbejdsgange interagerer, bliver sporbarhed endnu vigtigere. Muligheden for at efterprøve forløbet bør indbygges i orkestreringslaget. Beslutningsspor kan registrere beslutninger, regelændringer og begrundelserne for dem, mens sporbarhed af agenter fra start til slut giver indsigt i en kæde af autonome handlinger.

Hvis en tilsynsmyndighed spørger, hvorfor en bestemt kunde, kontrakt eller transaktion blev behandlet på en bestemt måde, bør finansinstituttet kunne spore resultatet tilbage gennem de data, regler, AI-baserede beslutninger, godkendelser og handlinger, der førte til det. Det er det, der gør forklarlighed til mere end et spørgsmål om modeller og til en operationel evne.

Store banker har systemer og infrastruktur, der har været i drift i årtier, og vigtige kunde- og transaktionsdata er spredt på tværs af mange systemer. Hvordan kan de opbygge et genanvendeligt, AI-baseret compliance-lag uden at forsøge sig med en dyr udskiftning af den underliggende teknologiske infrastruktur? 

Enhver ny funktion i en virksomhed skal kunne fungere inden for den eksisterende infrastruktur. Det er urimeligt at forvente andet. Konsolidering er også vigtig, fordi vi i stigende grad hører fra kunder, at de har flere RPA-platforme eller et ældre BPM-system med flere separate rapporteringsløsninger på tværs af virksomheden. Vores kunder lægger stadig større vægt på at fokusere på de værktøjer og systemer, der skaber et investeringsafkast, frem for at finde en erstatning. Et genanvendeligt compliance-lag skal derfor fungere på tværs af det eksisterende systemlandskab i stedet for at forudsætte, at alt under det bliver udskiftet.

Du har arbejdet med finansinstitutter gennem flere teknologiske generationer – fra traditionelle kernesystemer til robotstyret procesautomatisering, maskinlæring og nu agentisk AI. Hvad er grundlæggende anderledes ved den aktuelle AI-omstilling, og hvor risikerer finansinstitutter efter din mening at gentage fejl fra tidligere automatiseringsbølger?

De tidligere generationer af automatisering blev brugt til opgaver, der allerede var klart defineret. Kernesystemer til bankvirksomhed kodificerede registreringer og transaktioner. RPA automatiserede tastetryk på tværs af skærmbilleder. Maskinlæring lavede afgrænsede forudsigelser, f.eks. svindelscorer og kreditrisiko, på strukturerede data med målbar nøjagtighed. I alle tilfælde besluttede et menneske eller en fast regel, hvad der skulle ske som det næste, og teknologien fulgte en kendt fremgangsmåde.

Agentisk AI ændrer dette på flere måder:

• Den håndterer ustrukturerede opgaver, der kræver skøn, mere effektivt. Banker automatiserer ikke længere kun opgaver. De uddelegerer resultater, og systemet vælger selv, hvordan det når frem til dem.
• Den fejler i det skjulte. Når en bank ændrede skærmlayoutet, gik en RPA-bot tydeligt i stykker, og nogen rettede fejlen. En sprogmodel, der tager fejl, giver et velformuleret, plausibelt og selvsikkert svar. Det er et problem.
• Dens adfærd er probabilistisk, og derfor er det yderst vigtigt at forankre den i virksomhedens kontekst for at undgå hallucinationer.
• Endelig er det blevet billigt at udvikle med AI, og forretningsbrugere kan nu skabe fungerende agenter på en eftermiddag. Tidligere var automatisering begrænset af IT-kapaciteten; nu er flaskehalsen kapaciteten til at føre tilsyn.

Finansinstitutter bør også være opmærksomme på ikke at glemme erfaringerne fra den traditionelle automatiseringsæra. Her er nogle eksempler:

• Automatisering af ødelagte processer. RPA’s største eftermæle var tusindvis af bots, der blev lagt oven på processer, som ingen havde redesignet. Det skabte skrøbelig teknisk gæld, som bankerne stadig betaler for at vedligeholde. Hvis man lægger agenter oven på de samme fragmenterede arbejdsgange, gentager man fejlen på et mere avanceret niveau. Bankerne bør først redesigne arbejdet og derefter beslutte, hvad der skal uddelegeres.
• At jagte overfladiske måltal: Proof of concept-projekter går i stå, hvis der ikke er finansiering og en plan for at sætte løsningen i drift. At tælle antallet af udrullede agenter gentager RPA-vanen med at tælle bots i stedet for at måle reelle forretningsresultater.
• Underinvestering i datagrundlaget. Maskinlæring viste, at modellernes kvalitet begrænses af datakvaliteten. Agenter, der henter oplysninger fra forældede politikker, dublerede dokumenter eller modstridende kilder, vil ræsonnere selvsikkert ud fra fejlagtige præmisser.

Ser man fremad, tror du så, at regulatorisk compliance vil udvikle sig i retning af en form for løbende eller endda delvist autonom compliance, hvor AI-systemer opdager ændringer i reglerne, vurderer deres konsekvenser, opdaterer arbejdsgange og kun eskalerer de undtagelser, der kræver menneskeligt skøn? Hvad skal der til, før banker og tilsynsmyndigheder føler sig trygge ved den grad af autonomi?

Ja, men autonomien vil blive indført gradvist. Registrering, indledende vurdering, kortlægning af konsekvenser og opdatering af arbejdsgange ved klart definerede ændringer vil i vid udstrækning foregå løbende og automatisk. Vurderingen af tvetydige regler, risikogodkendelse og regulatoriske holdninger vil fortsat ligge hos mennesker. Et realistisk slutmål er »overvåget autonomi«, hvor maskiner som udgangspunkt gennemfører processen, og mennesker fører tilsyn med undtagelser.

For at dette kan lade sig gøre, skal tilsynsmyndighederne også offentliggøre regler i strukturerede formater med versionsstyring og bygge videre på initiativer som FCA’s og Bank of Englands arbejde med digital indberetning af lovpligtige oplysninger.

Der vil også være behov for at indbygge reversibilitet og nødstop i eksekveringssystemerne, så autonome ændringer af arbejdsgange nemt kan rulles tilbage, når der opdages uregelmæssigheder, fejlprocenter eller ændringer i modellen. Tilsynsførende vil hurtigere føle sig trygge, hvis de selv bruger lignende værktøjer. Det skaber et fælles sprog for test og måske med tiden mulighed for direkte tilsyn fra maskine til maskine.

Tak for et godt interview. Læsere, der gerne vil vide mere, kan besøge EvoluteIQ.