Deepak Kinger, strategidirektør og medgrunnlegger av EvoluteIQ – intervjuserie

Deepak Kinger, strategidirektør og medgrunnlegger av EvoluteIQ, er en erfaren teknologi- og næringslivsleder med mer enn to tiårs erfaring innen virksomhetstransformasjon, finansielle tjenester, automatisering og kunstig intelligens. I EvoluteIQ bidrar han til å utforme selskapets overordnede strategi, samtidig som han leder viktige teknologiallianser, løsningssamarbeid, markedsføring og relasjoner med analytikere. Før han var med på å grunnlegge EvoluteIQ i 2019, hadde Kinger ledende stillinger i GALE Partners, Virtusa, Sapient, Headstrong, Wipro og Mphasis. Arbeidsoppgavene hans omfattet alt fra å lede virksomheter innen finansielle tjenester i Asia-Stillehavsregionen og gi råd til toppledere om digital transformasjon til å bygge opp nye forretningsområder og lede omfattende teknologioppdrag. Erfaringen hans omfatter strategi, forretningsutvikling, kunderelasjonshåndtering, resultat- og tapsansvar, drift og fremvoksende teknologier som KI, maskinlæring, robotisert prosessautomatisering, blokkjede og datavitenskap.

EvoluteIQ er et selskap innen KI for næringslivet og intelligent automatisering, med fokus på å hjelpe organisasjoner med å automatisere og samordne komplekse forretningsprosesser fra start til slutt. EIQ-plattformen samler agentisk KI, generativ KI, prosess- og beslutningsautomatisering, intelligent RPA, hendelsesbehandling, datavev, analyse, virksomhetskoblinger og utvikling av flerkanalsapplikasjoner i et lavkode-/nullkode-miljø. Plattformen er utviklet for å gjøre det mulig for virksomheter å koble sammen eksisterende systemer, bygge og ta i bruk KI-agenter og automatiserte arbeidsflyter, følge med på resultater og skalere automatisering innen områder som kundeopplevelse, økonomi, drift, salg og forsyningskjedeledelse. EvoluteIQ ble grunnlagt i 2019 og har utvidet satsingen mot agentisk automatisering i virksomheter med teknologier som AI Workbench og Agentic Mesh Architecture. I 2025 kunngjorde selskapet en minoritetsinvestering for vekst på 53 millioner dollar, ledet av Baird Capital, for å støtte global ekspansjon og økte investeringer i selskapets forsknings- og utviklingsvirksomhet i Bengaluru.

Før du var med på å grunnlegge EvoluteIQ i 2019, hadde du i to tiår jobbet innen finansielle tjenester, virksomhetsteknologi og digital transformasjon. Hvilke tilbakevendende problemer så du i store organisasjoner som til slutt overbeviste deg om at det fantes en mulighet til å bygge EvoluteIQ, og hva ønsket du å gjøre annerledes?

Før EvoluteIQ jobbet jeg 25 år som konsulent, og mye av tiden gikk med til å hjelpe store finansinstitusjoner med transformasjonsprosjekter. Det omfattet både tidlige programmer for digital bankvirksomhet og arbeid med handel, risikostyring og bredere transformasjon fra start til slutt. Etter hvert så jeg en økende etterspørsel etter automatisering, og vi hjalp virksomheter med å innføre plattformer fra noen av de største leverandørene.

Det som til slutt motiverte oss til å starte EvoluteIQ, var muligheten til å gå fra å implementere andres teknologi til å bygge noe selv. Vi så en mulighet til å tilby en mer helhetlig tilnærming til automatisering, i stedet for at virksomheter måtte sette sammen flere teknologier, lisenser og integrasjonslag. Dette ble en del av motivasjonen for å starte EvoluteIQ i 2019.

I vårt tidligere Unite.AI-intervju med medgründeren din Sameet Gupte snakket han om EvoluteIQs bredere visjon om å hjelpe virksomheter med å gå fra oppgavebasert automatisering til KI-baserte, helhetlige og autonome driftsprosesser. Hvordan viser håndtering av regulatoriske endringer hvorfor dette skiftet fra å automatisere enkeltoppgaver til å samordne hele forretningsprosesser er nødvendig?

Regulatoriske endringer påvirker sjelden bare én enkeltstående oppgave. I 2020 utviklet vi en løsning knyttet til overgangen fra LIBOR. Bankene sto overfor en omfattende endring som påvirket eksisterende kontrakter og krevde at driftsteam, juridiske medarbeidere og forretningsteam gjennomgikk og utbedret dem. Mange institusjoner forsøkte i praksis å løse problemet ved å sette inn flere folk. Lærdommen vi trakk av LIBOR, var at den konkrete reguleringen endres, men at den underliggende utfordringen gjentar seg. Regulatoriske endringer og etterlevelse er løpende driftskrav.

Med FinCens nyere foreslåtte endringer i regelverket mot hvitvasking av penger og finansiering av terrorisme (AML/CFT) ser vi en dreining bort fra en svært detaljstyrt, «kryss-av-i-boksen»-modell for etterlevelse. Dette skjerper faktisk kravene til etterlevelse i stedet for å gjøre arbeidet enklere, fordi institusjonene må tolke regelverket, beskrive sine egne risikoer og avgjøre hva disse risikoene betyr for driftsmodellen deres. Denne dreiningen berører i seg selv ulike avdelinger og funksjoner i en organisasjon, ikke bare teamene for etterlevelse og revisjon.

Du har hevdet at banker bør slutte å behandle hver større regulatoriske endring som et nytt transformasjonsprosjekt, og i stedet bygge opp håndtering av regulatoriske endringer som en permanent driftskapasitet. Hvordan ville en slik driftsmodell fungere i praksis, og hvorfor har finansinstitusjoner historisk sett hatt problemer med å etablere den?

Den nye driftsmodellen må bygge på en forståelse av at endring er kontinuerlig; det er ikke lenger en prosess som må rulles ut hvert kvartal eller når revisorene banker på døren. Arbeidet med å bygge en løsning for LIBOR viste oss at selv om én regulatorisk endring etter hvert kan bli implementert, forsvinner ikke behovet for tilpasning. Å forstå endringen, omsette den til operative krav og oppdatere prosesser vil være nødvendig også ved neste regulatoriske endring.

Den nye driftsmodellen må heller ikke være avgrenset til etterlevelsesfunksjonen. I en mer risikobasert modell kan etterlevelsesfunksjonen fortsatt ha det overordnede ansvaret for etterlevelsen, men drift, juridisk avdeling og i noen tilfeller motpartsrisikostyring blir også viktigere. En feil institusjoner kan gjøre, er å undervurdere hvor bredt regulatoriske endringer påvirker organisasjonen.

Historisk har dette vært vanskelig fordi virksomheter har bygget opp fragmenterte teknologilandskap og siloorganiserte driftsmodeller. Når ulike forretningsenheter er avhengige av separate plattformer for RPA, BPM, rapportering og annet, blir det i seg selv et integrasjonsprosjekt å håndtere et nytt krav.

Når en ny forskrift innføres, kan en bank måtte fastslå hvilke kunder, produkter, kontrakter, systemer og prosesser som berøres. På hvilke områder kan KI forbedre konsekvensanalysen vesentlig, og hvilke deler av prosessen krever fortsatt deterministiske regler eller menneskelig skjønn?

KI kan redusere mengden manuelt arbeid som kreves for å forstå og implementere regulatoriske endringer, betydelig. Mer konkret kan KI bidra til å analysere og kategorisere store informasjonsmengder og finne ut hvor det er viktigst å sette inn menneskelig innsats. EvoluteIQs funksjoner for håndtering av regulatoriske endringer kan for eksempel kategorisere og prioritere kontrakter etter kunde og aktivatype, knytte denne informasjonen til virksomhetssystemer og eksterne datakilder og deretter koordinere det videre arbeidet på tvers av juridisk avdeling, risiko og drift. Dermed kan institusjoner gå fra å identifisere hva som kan bli berørt, til faktisk å håndtere endringene som følger av dette gjennom hele prosessen.

Menneskelig kontroll og tilsyn er fortsatt avgjørende. I deler av en regulert prosess trenger institusjonen tydelig definerte forretningsregler, vilkår, unntak og eskaleringsrutiner. Modellen vi har tro på, kombinerer KI-ens tilpasningsevne med deterministisk automatisering og menneskelig skjønn der det er hensiktsmessig. KI kan bidra til å tolke og synliggjøre hva som kan kreve handling; deterministiske regler kan styre hvordan definerte beslutninger gjennomføres; og unntak eller beslutninger som krever skjønn, kan eskaleres til riktig person.

Regulatorisk implementering involverer ofte juridisk avdeling, etterlevelse, risiko, drift, data- og teknologiteam. Hvordan kan KI og prosessorkestrering hjelpe disse gruppene med å ta utgangspunkt i en felles tolkning av en forskrift, i stedet for å opprette separate arbeidsflyter og potensielt motstridende forretningsregler?

En av de viktigste konsekvensene av en mer risikobasert etterlevelsesmodell er at ansvaret fordeles bredere i organisasjonen. Ansvaret kan fortsatt til syvende og sist ligge hos etterlevelsesfunksjonen, men drift, juridisk avdeling og teamene for motpartsrisiko har alle viktige roller. Det betyr at institusjoner må unngå å behandle implementering som noe etterlevelsesfunksjonen kan gjennomføre alene.

Derfor er en integrert plattform avgjørende. I en stor organisasjon må ulike kildesystemer og forretningsregler integreres i denne nye modellen, men det innebærer også at man må ta hensyn til sikkerhetsmessige utfordringer. En helhetlig tilnærming kan redusere risikoen for at ulike deler av organisasjonen gjennomfører den samme endringen ved hjelp av helt separate teknologiplattformer.

Generativ KI kan tolke komplekse regulatoriske dokumenter, men banker kan ikke risikere hallusinasjoner eller inkonsekvente tolkninger når beslutninger om etterlevelse skal tas. Hvilke sikkerhetstiltak bør bygges inn i KI-systemer som brukes til å håndtere regulatoriske endringer, og hvor i beslutningsprosessen bør fageksperter fortsatt delta?

For det første må KI-agenter ikke tas i bruk isolert, siden de kan føre til en ukontrollert spredning av agenter uten forsvarlig styring.

For det andre begrenses ikke hva en organisasjon kan automatisere, bare av dens tekniske kapasitet, men også av regelverket, personvernet og hvilke data som lovlig kan deles.

Det grunnleggende designprinsippet som må følges, er at KI skal gjøre tolkningsarbeidet raskere, men ikke eie beslutningen. Navngitte personer beholder ansvaret for etterlevelsen, slik tilsynsmyndighetene forventer. Sikkerhetstiltakene deles i to grupper: kontroll av hva KI-en produserer, og bevisst plassering av punkter der mennesker tar beslutninger. Hvert resultat KI-en produserer, må være forankret i en autoritativ kilde, og det må være etablert rammer for både input og output i KI-systemet.

Til slutt bør det for hvert resultat føres en revisjonssporing som dokumenterer kildebestemmelsene, versjonene av modellen og promptene, konfidensnivået, kontrolløren, beslutningen og begrunnelsen.

Revisjonssporbarhet er særlig viktig i finanssektoren. Hvis KI bidrar til å tolke en forskrift, utarbeide forretningsregler, identifisere berørte kunder og sette i gang arbeidsflyter, hvordan kan institusjoner bevare et tydelig dokumentasjonsspor som viser tilsynsmyndighetene nøyaktig hvordan og hvorfor hver beslutning ble tatt?

I sterkt regulerte bransjer må sporbarheten gå lenger enn å dokumentere den endelige beslutningen. Det er langt mer verdifullt å kunne rekonstruere prosessen som førte fram til beslutningen, ved å vise hvilken informasjon som ble brukt, hvilke regler som ble anvendt, hvilke beslutninger som ble tatt, hvilke endringer som ble gjort underveis, og hvor mennesker grep inn og hva de godkjente.

Når flere agenter, forretningsregler og arbeidsflyter samhandler, blir sporbarhet enda viktigere. Muligheten for revisjon bør bygges inn i orkestreringslaget. Beslutningsspor kan følge beslutninger, regelendringer og begrunnelsene for dem, mens sporbarhet for agenter fra start til slutt gir innsyn i en kjede av autonome handlinger.

Hvis en tilsynsmyndighet spør hvorfor en bestemt kunde, kontrakt eller transaksjon ble håndtert på en bestemt måte, bør finansinstitusjonen kunne spore utfallet tilbake gjennom dataene, reglene, KI-drevne beslutningene, godkjenningene og handlingene som førte til det. Det er dette som gjør forklarbarhet til mer enn et spørsmål om modellen, og til en operativ evne.

Store banker har virksomhet på tvers av flere tiår med eldre infrastruktur, og viktige kunde- og transaksjonsdata er spredt på mange systemer. Hvordan kan de bygge et gjenbrukbart, KI-drevet etterlevelseslag uten å forsøke en kostbar utskifting av den underliggende teknologiske infrastrukturen? 

Alle nye kapasiteter for virksomheten må fungere innenfor den eksisterende infrastrukturen. Det er urimelig å forvente noe annet. Konsolidering er også viktig, for vi hører stadig oftere fra kunder at de har flere RPA-plattformer eller et eldre BPM-system med flere separate rapporteringsløsninger på tvers av virksomheten. Kundene våre er stadig tydeligere på at de vil fokusere på verktøyene og systemene som gir avkastning på investeringen, framfor å finne en erstatning. Et gjenbrukbart etterlevelseslag må derfor fungere på tvers av det eksisterende systemlandskapet, i stedet for å legge til grunn at alt under det skal skiftes ut.

Du har samarbeidet med finansinstitusjoner gjennom flere teknologigenerasjoner, fra tradisjonelle kjernesystemer til robotisert prosessautomatisering, maskinlæring og nå agentisk KI. Hva er grunnleggende annerledes ved den pågående KI-overgangen, og hvor tror du finansinstitusjoner risikerer å gjenta feil fra tidligere automatiseringsbølger?

De tidligere generasjonene av automatisering var laget for oppgaver som allerede var klart definert. Kjernesystemer for bankvirksomhet kodifiserte registreringer og transaksjoner. RPA automatiserte tastetrykk på tvers av skjermbilder. Maskinlæring ga avgrensede prediksjoner, som svindelskårer og kredittrisiko, basert på strukturerte data og med målbar nøyaktighet. I alle tilfeller avgjorde et menneske eller en fast regel hva som skulle skje videre, og teknologien fulgte en kjent prosess.

Agentisk KI endrer dette på flere måter:

• Den håndterer ustrukturerte oppgaver som krever skjønn, langt mer effektivt. Bankene automatiserer ikke lenger bare oppgaver. De delegerer resultater, og systemet velger selv hvordan det skal oppnå dem.
• Den feiler i det stille. Når en bank endret utformingen av et skjermbilde, brøt en RPA-bot tydelig sammen, og noen rettet feilen. En språkmodell som tar feil, gir et velformulert, troverdig og selvsikkert svar. Det er et problem.
• Atferden er probabilistisk, og derfor er det helt avgjørende å forankre den i virksomhetens kontekst for å unngå hallusinasjoner.
• Til slutt har det blitt billig å utvikle med KI, og forretningsbrukere kan nå lage fungerende agenter på en ettermiddag. Tidligere var automatisering begrenset av IT-kapasiteten; nå er det styringskapasiteten som setter grensene.

Finansinstitusjoner bør også passe på at lærdommene fra den tradisjonelle automatiseringsepoken ikke går i glemmeboken. Noen eksempler på dette er:

• Automatisering av dårlige prosesser. Den største arven etter RPA var tusenvis av boter lagt oppå prosesser som ingen hadde redesignet. Det skapte skjør teknisk gjeld, som bankene fortsatt betaler for å vedlikeholde. Å legge agenter oppå de samme fragmenterte arbeidsflytene gjentar feilen, bare på et mer avansert nivå. Bankene bør redesigne arbeidet først og deretter avgjøre hva som skal delegeres.
• Å jage etter overfladiske måltall: Konseptbevis stopper opp uten en finansiert vei til produksjon. Å telle hvor mange agenter som er tatt i bruk, gjentar RPA-vanen med å telle boter i stedet for å måle reelle forretningsresultater.
• Å investere for lite i datagrunnlaget. Maskinlæring lærte oss at modellkvaliteten begrenses av datakvaliteten. Agenter som henter informasjon fra utdaterte retningslinjer, dupliserte dokumenter eller motstridende kilder, vil trekke sikre slutninger på feilaktig grunnlag.

Ser vi framover, tror du at regelverksetterlevelse vil utvikle seg mot en form for kontinuerlig eller til og med delvis autonom etterlevelse, der KI-systemer oppdager regelendringer, vurderer konsekvensene, oppdaterer arbeidsflyter og bare løfter fram unntak som krever menneskelig skjønn? Hva må skje før banker og tilsynsmyndigheter blir komfortable med et slikt nivå av autonomi?

Ja, men autonomien vil komme gradvis. Oppdagelse, sortering, kartlegging av konsekvenser og oppdatering av arbeidsflyter ved klart definerte endringer vil i stor grad bli kontinuerlig og automatisert. Mennesker vil fortsatt vurdere tvetydige regler, aksept av risiko og regulatoriske standpunkter. Et realistisk sluttmål er «overvåket autonomi», der maskiner som hovedregel gjennomfører hele prosessen, mens mennesker styrer når unntak oppstår.

For at dette skal kunne skje, må tilsynsmyndighetene også publisere regler i strukturerte formater med versjonskontroll, med utgangspunkt i initiativer som FCA og Bank of Englands arbeid med digital rapportering av regelverkskrav.

Det vil også være nødvendig å bygge inn mulighet for å reversere endringer og nødstoppfunksjoner i gjennomføringssystemene, slik at autonome endringer i arbeidsflyter enkelt kan rulles tilbake når avvik, feilrater eller modellendringer oppdages. Tilsynsførere vil raskere bli fortrolige med dette når de selv bruker lignende verktøy. Det skaper et felles språk for testing og kan kanskje med tiden legge til rette for direkte tilsyn fra maskin til maskin.

Takk for et flott intervju. Lesere som ønsker å lære mer, kan besøke EvoluteIQ.