Deepak Kinger, ředitel strategie a spoluzakladatel společnosti EvoluteIQ – série rozhovorů

Deepak Kinger, ředitel strategie a spoluzakladatel společnosti EvoluteIQ, je zkušený technologický a podnikový lídr s více než dvacetiletou praxí v oblasti transformace podniků, finančních služeb, automatizace a umělé inteligence. Ve společnosti EvoluteIQ pomáhá utvářet její celkovou strategii a zároveň vede klíčová technologická spojenectví, partnerství při vývoji řešení, marketing a vztahy s analytiky. Předtím, než v roce 2019 spoluzaložil EvoluteIQ, zastával Kinger vedoucí pozice ve společnostech GALE Partners, Virtusa, Sapient, Headstrong, Wipro a Mphasis. Jeho odpovědnosti sahaly od řízení podnikání v oblasti finančních služeb napříč asijsko-pacifickým regionem a poradenství vrcholovým manažerům v otázkách digitální transformace až po budování nových obchodních linií a vedení rozsáhlých technologických projektů. Jeho zkušenosti zahrnují strategii, rozvoj podnikání, řízení vztahů s klienty, řízení zisku a ztráty, provoz a nové technologie včetně AI, strojového učení, robotické automatizace procesů, blockchainu a datové vědy.

EvoluteIQ je společnost zaměřená na podnikovou umělou inteligenci a inteligentní automatizaci, která pomáhá organizacím automatizovat a koordinovat komplexní podnikové procesy od začátku do konce. Její platforma EIQ spojuje agentickou AI, generativní AI, automatizaci procesů a rozhodování, inteligentní RPA, zpracování událostí, datovou infrastrukturu, analytiku, podnikové konektory a vývoj aplikací pro více kanálů v prostředí s nízkými až žádnými požadavky na programování. Platforma má podnikům umožnit propojit stávající systémy, vytvářet a nasazovat agenty AI a automatizované pracovní postupy, sledovat výsledky a rozšiřovat automatizaci v oblastech, jako jsou zákaznická zkušenost, finance, provoz, prodej a řízení dodavatelského řetězce. Společnost EvoluteIQ byla založena v roce 2019 a rozšířila své zaměření na agentickou automatizaci podniků prostřednictvím technologií, mezi něž patří AI Workbench a Agentic Mesh Architecture. V roce 2025 oznámila minoritní investici do růstu ve výši 53 milionů dolarů, kterou vedla společnost Baird Capital, na podporu globální expanze a dalších investic do výzkumných a vývojových aktivit v Bengalúru.

Než jste v roce 2019 spoluzaložil EvoluteIQ, strávil jste dvě desetiletí prací v oblasti finančních služeb, podnikových technologií a digitální transformace. S jakými opakujícími se problémy jste se ve velkých organizacích setkával, které vás nakonec přesvědčily, že je tu příležitost vybudovat EvoluteIQ, a k čemu jste chtěl přistupovat jinak?

Před EvoluteIQ jsem 25 let pracoval v poradenství a velkou část této doby jsem se věnoval pomoci velkým finančním institucím s transformačními iniciativami. Patřily k nim jak první programy digitálního bankovnictví, tak obchodování, řízení rizik a širší transformace od začátku do konce. Postupem času jsem zaznamenával rostoucí poptávku po automatizaci a pomáhali jsme podnikům zavádět platformy některých z největších dodavatelů.

K založení EvoluteIQ nás nakonec přivedla příležitost přejít od zavádění technologií někoho jiného k vývoji vlastního řešení. Viděli jsme prostor pro integrovanější přístup k automatizaci, který by od podniků nevyžadoval propojování více technologií, licencí a integračních vrstev. To se stalo jedním z důvodů, proč jsme v roce 2019 EvoluteIQ založili.

V našem předchozím rozhovoru pro Unite.AI s vaším spoluzakladatelem Sameetem Gupte hovořil o širší vizi EvoluteIQ, jejímž cílem je posunout podniky od automatizace jednotlivých úkolů k autonomním provozním procesům od začátku do konce, nativně využívajícím AI. Jak řízení regulatorních změn ukazuje, proč je tento posun od automatizace jednotlivých úkolů ke koordinaci celých podnikových procesů nezbytný?

Regulatorní změny se jen zřídka týkají jediného izolovaného úkolu. V roce 2020 jsme vytvořili řešení pro přechod od sazby LIBOR. Banky řešily rozsáhlou změnu, která měla dopad na stávající smlouvy a vyžadovala, aby je provozní týmy, právní asistenti a obchodní týmy prověřily a napravily. Mnohé instituce v podstatě reagovaly tak, že na problém nasazovaly stále více lidí. Zkušenost s LIBORem nás naučila, že konkrétní regulace se mění, ale základní problém se opakuje. Regulatorní změny a dodržování předpisů jsou trvalými provozními požadavky.

V souvislosti s nedávno navrhovanými změnami FinCen v oblasti boje proti praní špinavých peněz a financování terorismu (AML/CFT) pozorujeme odklon od vysoce předepisujícího modelu compliance založeného na odškrtávání položek. To ve skutečnosti zvyšuje nároky na dodržování předpisů, místo aby celý proces usnadňovalo, protože instituce musí regulaci vykládat, přesně formulovat vlastní rizika a určit, co tato rizika znamenají pro jejich provozní model. Tato změna se ze své podstaty dotýká různých oddělení a funkcí v celé organizaci, nejen týmů odpovědných za compliance a audit.

Tvrdil jste, že banky by měly přestat považovat každou zásadní regulatorní změnu za nový transformační projekt a místo toho z řízení regulatorních změn vytvořit trvalou provozní schopnost. Jak by takový provozní model vypadal v praxi a proč měly finanční instituce v minulosti potíže s jeho zavedením?

Nový provozní model by vycházel z toho, že změna je nepřetržitý proces; už nejde o něco, co je třeba zavádět každé čtvrtletí nebo až ve chvíli, kdy zaklepou auditoři. Příprava řešení pro LIBOR nám ukázala, že i když se jedna regulatorní změna může časem podařit zavést, potřeba přizpůsobovat se nezmizí. Při další regulatorní změně bude nutné porozumět jejímu obsahu, převést ji do provozních požadavků a aktualizovat procesy.

Nový provozní model se také nesmí omezovat pouze na oblast compliance. V modelu, který se více zaměřuje na rizika, může za dodržování předpisů i nadále nést konečnou odpovědnost funkce compliance, důležitější roli však získávají také provoz, právní oddělení a v některých případech řízení rizik protistran. Jednou z chyb, kterých se instituce mohou dopustit, je podcenění toho, jak široce regulatorní změny organizaci ovlivňují.

V minulosti to bylo obtížné, protože si podniky vybudovaly roztříštěné technologické prostředí a provozní modely rozdělené do izolovaných celků. Když různé obchodní jednotky využívají samostatné platformy RPA, BPM, pro reporting a další účely, reakce na nový požadavek se sama o sobě stává integračním projektem.

Když je zavedena nová regulace, banka může potřebovat určit, kterých zákazníků, produktů, smluv, systémů a procesů se týká. V čem může AI tuto analýzu dopadů podstatně zlepšit a které části procesu nadále vyžadují jednoznačně stanovená pravidla nebo lidský úsudek?

AI může výrazně omezit množství manuální práce potřebné k porozumění regulatorním změnám a jejich zavádění. Konkrétně může pomáhat analyzovat a kategorizovat velké objemy informací a lépe určit, na co je třeba zaměřit pozornost lidí. Například možnosti EvoluteIQ pro reakci na regulatorní změny dokážou kategorizovat smlouvy a stanovovat jejich priority podle klienta a typu aktiva, propojit tyto informace s podnikovými systémy a externími zdroji dat a následně koordinovat navazující činnosti napříč právním oddělením, řízením rizik a provozem. Instituce tak mohou přejít od zjišťování, čeho by se změna mohla týkat, ke skutečnému řízení souvisejících změn v celém procesu.

Lidská kontrola a dohled jsou stále zásadní. V určitých částech regulovaného procesu instituce potřebuje jasně definovaná obchodní pravidla, podmínky, výjimky a postupy eskalace. Model, kterému věříme, spojuje přizpůsobivost AI s automatizací založenou na jednoznačných pravidlech a s lidským úsudkem tam, kde je to vhodné. AI může pomoci vyhodnotit a upozornit na záležitosti, které mohou vyžadovat zásah; jednoznačná pravidla mohou určovat způsob provádění předem definovaných rozhodnutí; výjimky a rozhodnutí vyžadující úsudek lze předat příslušné osobě.

Zavádění regulace se často dotýká právních, compliance, rizikových, provozních, datových a technologických týmů. Jak mohou AI a koordinace procesů těmto skupinám pomoci vycházet ze společného výkladu regulace, místo aby vytvářely samostatné pracovní postupy a potenciálně rozporná obchodní pravidla?

Jedním z nejvýznamnějších důsledků modelu compliance, který se více zaměřuje na rizika, je rozšíření odpovědnosti na větší část organizace. Konečná odpovědnost může i nadále spočívat na funkci compliance, důležitou roli však mají také provozní týmy, právní oddělení a týmy řízení rizik protistran. Instituce proto nesmějí zavádění změn chápat jako úkol, který může funkce compliance vykonávat izolovaně.

Proto je klíčová integrovaná platforma. Ve velké organizaci je v tomto novém modelu nutné propojit různé systémy záznamů a obchodní pravidla, zároveň je však třeba zohlednit složitost zabezpečení. Jednotný přístup může snížit riziko, že různé části organizace budou tutéž změnu zavádět prostřednictvím zcela oddělených technologických prostředí.

Generativní AI dokáže interpretovat složité regulatorní dokumenty, banky si však při rozhodování o compliance nemohou dovolit halucinace ani nekonzistentní výklady. Jaká ochranná opatření by měla být zavedena pro systémy AI využívané při řízení regulatorních změn a v kterých fázích rozhodování by měli zůstat zapojeni lidští odborníci?

Zaprvé nenasazujte agenty AI izolovaně, protože bez řádného řízení mohou vést k jejich nekontrolovanému rozrůstání.

Zadruhé, míru automatizace v organizaci neomezují jen její technické možnosti, ale také regulace, ochrana soukromí a pravidla pro zákonné sdílení dat.

Základní zásada, kterou je třeba dodržovat, spočívá v tom, že AI má urychlovat interpretační práci, nikoli přebírat odpovědnost za rozhodnutí. Odpovědnost za compliance zůstává na konkrétně určených osobách, jak očekávají regulátoři. Ochranná opatření spadají do dvou skupin: kontroly výstupů AI a promyšlené určení míst, v nichž rozhodují lidé. Každý výstup AI musí vycházet z autoritativního zdroje a v rámci systému AI musí být nastaveny ochranné mantinely pro vstupy i výstupy.

A konečně je třeba u každého výstupu uchovávat auditní záznam obsahující zdrojová ustanovení, verze modelu a zadání, míru jistoty, kontrolující osobu, rozhodnutí a jeho zdůvodnění.

Auditovatelnost je ve finančních službách obzvlášť důležitá. Pokud AI pomáhá interpretovat regulaci, vytvářet obchodní pravidla, identifikovat dotčené zákazníky a spouštět pracovní postupy, jak mohou instituce uchovávat přehledný soubor důkazů, který regulátorům přesně ukáže, jak a proč bylo přijato každé rozhodnutí?

V silně regulovaných odvětvích musí dohledatelnost přesahovat pouhou dokumentaci konečného rozhodnutí. Mnohem cennější je rekonstruovat cestu, která k tomuto rozhodnutí vedla: ukázat, jaké informace byly použity, která pravidla se uplatnila, jaká rozhodnutí padla, jaké změny během procesu nastaly, kde zasáhli lidé a co schválili.

S tím, jak spolu interaguje více agentů, obchodních pravidel a pracovních postupů, nabývá dohledatelnost na ještě větším významu. Auditovatelnost by měla být zabudována do orchestrace. Záznamy o rozhodnutích mohou sledovat přijatá rozhodnutí, změny pravidel i jejich zdůvodnění, zatímco komplexní dohledatelnost činnosti agentů poskytuje přehled o řetězci autonomních akcí.

Pokud se regulátor zeptá, proč se s konkrétním zákazníkem, smlouvou nebo transakcí zacházelo určitým způsobem, měla by být finanční instituce schopna vysledovat daný výsledek zpětně přes data, pravidla, rozhodnutí řízená AI, schválení a kroky, které k němu vedly. Právě to mění vysvětlitelnost z otázky na úrovni modelu v provozní schopnost.

Velké banky fungují na infrastruktuře, jejíž vývoj trvá desítky let, a zásadní údaje o zákaznících a transakcích mají rozptýlené v mnoha systémech. Jak mohou vytvořit opakovaně použitelnou vrstvu pro dodržování předpisů založenou na AI, aniž by se pokoušely o nákladnou náhradu celé stávající technologické infrastruktury? 

Každá nová podniková schopnost musí fungovat v rámci stávající infrastruktury. Očekávat něco jiného je nereálné. Důležitá je také konsolidace, protože od zákazníků stále častěji slýcháme, že mají několik platforem RPA nebo starší systém BPM a v celé firmě několik oddělených technologií pro reporting. Naši zákazníci stále důrazněji zdůrazňují, že se chtějí zaměřit na nástroje a systémy, které přinášejí návratnost investic, místo aby hledali náhradu. Opakovaně použitelná vrstva pro dodržování předpisů proto musí fungovat v rámci stávajícího prostředí, nikoli předpokládat, že se vše pod ní nahradí.

Ve finančních institucích působíte napříč několika generacemi technologií, od tradičních základních systémů přes robotickou automatizaci procesů a strojové učení až po současnou agentní AI. V čem se současný přechod k AI zásadně liší a kde podle vás finančním institucím hrozí, že zopakují chyby z předchozích vln automatizace?

Předchozí generace automatizace se používaly pro úlohy, které už byly jasně definované. Základní bankovní systémy zaznamenávaly údaje a transakce. RPA automatizovala stisky kláves napříč obrazovkami. Strojové učení na strukturovaných datech s měřitelnou přesností vytvářelo úzce zaměřené predikce, například skóre podvodného jednání a úvěrového rizika. V každém případě člověk nebo pevně dané pravidlo určovali, co se stane dál, a technologie prováděla předem známý postup.

Agentní AI to mění několika způsoby:

• Zvládá lépe nestrukturovanou práci, která vyžaduje úsudek. Banky už neautomatizují pouze úkoly. Předávají systémům odpovědnost za výsledky a systém si sám volí postup.
• Chyby se projevují nenápadně. Když banka změnila rozložení obrazovky, bot RPA přestal fungovat viditelně a někdo ho opravil. Jazykový model, který se mýlí, vytvoří plynulou, věrohodnou a sebejistou odpověď. To je problém.
• Její chování je pravděpodobnostní, a proto je naprosto zásadní zakotvit ji v kontextu podniku, aby se předešlo halucinacím.
• V neposlední řadě zlevnilo vytváření pomocí AI a firemní uživatelé nyní mohou během jediného odpoledne vytvořit funkční agenty. Automatizaci dříve brzdila kapacita IT; nyní je úzkým hrdlem kapacita pro správu a dohled.

Finanční instituce by také měly dbát na to, aby nezapomněly na poučení z éry tradiční automatizace. Patří k nim například:

• Automatizace nefunkčních procesů. Největším dědictvím RPA byly tisíce botů navrstvených na procesy, které nikdo předtím nepřepracoval. Vznikl tak křehký technický dluh, jehož údržbu banky stále platí. Nasazení agentů na stejné roztříštěné pracovní postupy by znamenalo zopakovat tutéž chybu na sofistikovanější úrovni. Banky by měly nejprve přepracovat procesy a teprve potom rozhodnout, co delegovat.
• Honba za líbivými metrikami: projekty ověření konceptu ustrnou, pokud nemají financovanou cestu do produkčního provozu. Počítání nasazených agentů opakuje zlozvyk RPA počítat boty namísto měření skutečných obchodních výsledků.
• Nedostatečné investice do datových základů. Strojové učení ukázalo, že kvalitu modelu omezuje kvalita dat. Agenti, kteří čerpají ze zastaralých zásad, duplicitních dokumentů nebo vzájemně rozporných zdrojů, budou sebejistě uvažovat na základě chybných předpokladů.

Domníváte se, že se dodržování předpisů bude v budoucnu vyvíjet směrem k průběžnému, případně i částečně autonomnímu modelu, v němž systémy AI rozpoznávají změny předpisů, posuzují jejich dopad, aktualizují pracovní postupy a předávají k řešení pouze výjimky vyžadující lidský úsudek? Co by se muselo stát, aby banky a regulátoři přijali takovou míru autonomie?

Ano, autonomie však bude zaváděna postupně. Rozpoznávání, třídění, mapování dopadů a aktualizace pracovních postupů v případě jasně definovaných změn budou do značné míry průběžné a automatizované. Posuzování nejednoznačných pravidel, přijímání rizik a stanovování regulačních postojů zůstane v rukou lidí. Realistickým cílovým stavem je „autonomie pod dohledem“: stroje standardně řídí celý cyklus a lidé zasahují při výjimkách.

Aby k tomu mohlo dojít, regulátoři také musí zveřejňovat pravidla ve strukturovaných formátech s verzováním a navázat přitom na iniciativy, jako jsou práce FCA a Bank of England v oblasti digitálního regulatorního výkaznictví.

Bude také třeba, aby byla do systémů provádění zabudována možnost vrátit změny zpět a vypínače pro okamžité zastavení, aby autonomní změny pracovních postupů bylo možné snadno vrátit zpět, pokud jsou zjištěny anomálie, chybovost nebo změny modelu. Důvěra se bude rychleji zvyšovat, když budou sami pracovníci dohledu používat podobné nástroje. Vznikne tak společný jazyk pro testování a časem možná i přímý dohled strojů nad stroji.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více, by měli navštívit EvoluteIQ.