Neal Lathia, spoluzakladatel a technický ředitel Gradient Labs – série rozhovorů

Neal Lathia, spoluzakladatel a technický ředitel Gradient Labs, je lídr v oblasti strojového učení a datové vědy s téměř dvacetiletou zkušeností zahrnující finanční technologie, spotřebitelské platformy a akademický výzkum. Před založením Gradient Labs v roce 2023 strávil více než pět let v Monzo, kde postupně postoupil ze seniorního datového vědce na ředitele strojového učení a hlavního inženýra strojového učení, kde budoval infrastrukturu strojového učení a pomáhal rozšiřovat disciplínu tak, aby podporovala aplikace napříč provozem, finanční kriminalitou a produktem. Dříve pracoval jako seniorní datový vědec ve Skyscanneru a zastával výzkumné pozice na University of Cambridge a University College London, kde se jeho práce zaměřovala na systémy doporučování, behaviorální data, senzoriku chytrých telefonů a personalizované digitální služby. V Gradient Labs nyní vede technologii za AI agenty navrženými pro složité, regulované pracovní postupy ve finančních službách.

Gradient Labs je londýnská AI společnost vyvíjející specializované autonomní agenty pro finanční služby, se zaměřením na automatizaci zákaznických operací, které tradičně vyžadují značnou lidskou účast. Společnost založili bývalí vedoucí z Monzo – Dimitri Masin, Neal Lathia a Danai Antoniou, a vyvíjí agenty pro oblasti jako půjčování a vymáhání, spory, Know Your Business (KYB), onboarding, pojistné události a zákaznický servis, fungující napříč hlasem, chatem i e-mailem a zahrnující souladové zábrany navržené pro regulovaná prostředí. Gradient Labs uvádí, že její technologie nyní slouží více než 32 milionům koncových uživatelů u zákazníků jako Wise, Zego, Current, Stash a Rho. V červnu 2026 společnost oznámila, že rozšířila své financování série A na 26 milionů dolarů, aby pokračovala v širší vizi automatizace složitých bankovních a fintech operací pomocí propojených specializovaných AI agentů.

Strávil jste více než pět let budováním a vedením strojového učení v Monzo před tím, než jste v roce 2023 spoluzaložil Gradient Labs. Co jste v Monzo viděl na vlastní oči, co vás přesvědčilo, že existuje příležitost postavit novou společnost kolem autonomních AI agentů, a proč příchod velkých jazykových modelů tuto příležitost umožnil?

V Monzo jsem strávil roky budováním ML systémů, které musely fungovat v regulovaném prostředí, kde chyby mají skutečné důsledky a vše vyžaduje auditní stopu. Nejméně mě ovlivnila potřeba vyvinout na míru vytvořenou infrastrukturu, protože žádné předpřipravené řešení nemohlo bezpečně fungovat pod těmito přísnými omezeními. Tato zkušenost mě přesvědčila o dvou věcech. První byla myšlenka, že technologie může konečně ulevit bankám od operační zátěže, která brzdila odvětví po desetiletí. Druhá byla, že obecné, horizontální AI by v tom neudělala rozdíl – nuance regulované práce jsou příliš specifické. Když se LLM staly dostatečně schopnými rozumnět vícestupňovým, někdy nejednoznačným interakcím se zákazníky, začalo být možné vytvořit agenty, kteří dokážou řídit celé regulované pracovní postupy od začátku do konce, místo aby jen pomáhali člověku. Tato mezera mezi tím, co regulované společnosti skutečně potřebují, a tím, co již existuje, je důvod, proč jsme založili Gradient Labs a proč sázíme na vertikální AI vybudovanou speciálně pro finance.

Popisovali jste, co spotřebitelé zažívají jako „zubatý okraj zkušenosti“: AI agent dokáže vykonat mimořádně složitý úkol, zatímco jiný systém selže v něčem tak jednoduchém, jako je rozlišení telefonního čísla od jména. Co ve skutečnosti způsobuje tak dramatickou mezeru mezi AI zkušenostmi, když podkladové modely mohou být podobně schopné?

Řekl bych, že mezera souvisí spíše s tím, kolik inženýrství je do modelu vloženo, než s čistou kompetencí modelu. Pokud systém selže v jednoduchém úkolu, například zamění telefonní číslo za jméno, znamená to, že neinvestoval do rámce kolem něj, jako je validace, logika záložních řešení, zpracování strukturovaných dat atd. Impozantnější agent byl pravděpodobně navržen přesně pro svůj úkol. Jedná se o stejnou základní rodinu modelů, ale s naprosto odlišnou úrovní přísnosti, a to je přesně to, co vede k zubatému okraji.

Jak se hranové modely nadále zlepšují, proč přetrvávají zdánlivě základní selhání AI? Jsou to hlavně omezení samotných modelů, nebo selhání v okolní systémové architektuře, datech, pracovních postupech, hodnocení a návrhu produktu?

Jde hlavně o systém, ne o model. Hranové modely se nadále zlepšují v uvažování. Nicméně společnosti je často připojují k systémům, které nebyly vyvinuty pro chování založené na pravděpodobnosti. V systémech jsou křehké integrace a neúplná data a chybí skutečná evaluační smyčka před nasazením změn. Takže základní selhání AI v produkci není ve skutečnosti selhání AI, ale selhání investovat do hodnocení, monitorování a procesů návrhu pracovních postupů.

Mnoho společností se zdá optimalizovat AI zákaznický servis podle rychlosti, obsahu nebo odklonu ticketů. Jaké metriky by měly společnosti místo toho používat, pokud chtějí měřit, zda AI agent skutečně zlepšuje zákaznickou zkušenost?

K tomu bychom museli zvážit přesnost řešení. Rychlost a omezení se používají k posouzení, zda se vám podařilo dostat zákazníka z telefonu, nikoli zda se vám podařilo vyřešit jeho problém. Přesnost řešení, která by měla být používána k měření schopností AI agenta, zohlední, zda agent udělal to správné, na rozdíl od pouhého rychlého odpovězení. To bude spolupracovat s dalšími signály, jako jsou míry opakovaných kontaktů, objem stížností a jak často musí člověk následně zasáhnout. Budete vědět, že optimalizujete špatný výsledek, pokud se odklon zvýší, ale zároveň se zvýší opakované kontakty a stížnosti.

Gradient Labs se zaměřuje na regulované finanční služby, kde může mít nesprávná odpověď mnohem větší důsledky než typická chyba v zákaznickém servisu. Jak určujete, kdy je AI agent dostatečně spolehlivý, aby autonomně zvládal procesy zahrnující oblasti jako půjčování, spory, onboarding nebo kontroly Know Your Customer?

Výchozí cesta, kterou by většina týmů raději zvolila, je role spolupilota: někdo schvaluje každou akci, protože to působí bezpečněji. A většina by předpokládala, že je to bezpečnější. Ve skutečnosti, když AI dělá většinu věcí správně, revizoři schvalují věci bez skutečné kontroly a bezpečnost se i tak ztrácí. To nijak nesnižuje stávající pracovní zátěž. Jen to urychluje a snižuje hodnotu, kterou získáte.

Proto je pojem, že AI agent je dostatečně spolehlivý, v Gradient Labs velmi specifický pro konkrétní proces. Pro nás musí být vyvíjen prostřednictvím postupné autonomie a neměl by být vnímán jako jediný cíl k odškrtnutí. Agent může získat větší nezávislost na úkolech jako KYC nebo spory až poté, co byl benchmarkován proti velkému, živému souboru reálných případů, s lidským přezkumem vzorku jeho rozhodnutí i po uvedení do provozu. Zajímavé je, že to potvrzuje, že reverzibilita zde skutečně hraje roli. Pokud lze něco vrátit, získá autonomii rychleji než něco, co nelze vrátit.

Zábrany jsou stále častěji prezentovány jako řešení pro zvýšení bezpečnosti AI agentů, ale přidávání dalších pravidel může systémy učinit rigidními nebo jim zabránit v dokončení legitimních úkolů. Jak vyvažujete autonomii se zábranami, aniž byste agenta snížili na další vysoce omezený chatbot?

Chyba spočívá v tom, že zábrany považujeme za zeď, od které se agent jen odráží. V našem systému dělají dvě věci najednou. Používáme zábrany na každém jediném kroku konverzace – některé kontrolují, co zákazník říká, aby zachytily například zranitelnost, finanční potíže nebo stížnost, a jiné kontrolují, co má agent říct, aby byl v souladu s předpisy. Když však některá spustí, neblokuje jen: přesměruje agenta do správného postupu a toto rozhodnutí je transparentní v agentově úvahách, takže operátoři vidí, proč tak učinil. Hlubší zábrany jsou také zakotveny v tom, jak je agent učí přemýšlet o úkolu, jaká data může přistupovat a jaké nástroje může používat. Toto spojení udržuje bezpečnost bez ztuhlosti: agent rozumí, jaké jsou zábrany a proč existují, takže dokončí legitimní úkol místo toho, aby odmítl cokoli, co jen připomíná nepovolené.

Zde si myslím, že problém spočívá v tom, že zábrany vnímáme jako cihlovou zeď, od které se agent odráží. Konkrétně spouštíme dva různé typy zábran při každém kroku konverzace. Nejprve máme zákaznické zábrany, které kontrolují, co zákazník říká, a mají zachytit zranitelnosti, finanční potíže, stížnosti zákazníků a podobně. Druhé jsou zábrany pro agenta, které fungují opačně a kontrolují, co agent řekne před odesláním zprávy, aby byla v souladu s předpisy.

To znamená, že místo úplného zablokování akce, když se některá z těchto zábran aktivuje, ji přesměruje na správnou cestu. Tímto způsobem zachovává transparentnost ohledně rozhodovacích procesů agenta a poskytuje lidským operátorům důvod pro provedení dané akce.

To také můžeme udělat, protože ne každý aspekt agentova uvažování je nucen projít LLM. Zábrany jako tyto jsou deterministické, protože se neaktivují jen na konci konverzace, ale spouštějí se během celého životního cyklu agenta. Takto můžeme agentovi důvěřovat při citlivé komunikaci a umožnit přizpůsobení konkrétních agentů pro rozsáhlé případy použití předvídatelným způsobem.

Nejdůležitější je, jak je agent naučen nejprve přemýšlet o úkolu, aby měl přístup k relevantním údajům a znal nástroje, které potřebuje použít. Tato schopnost agenta dokončit legitimní úkol místo odmítnutí čehokoli, co se zdá být nepovolené, pomáhá zlepšovat bezpečnost a předcházet ztuhlosti.

Kde by měli lidé zůstat v cyklu, jak AI agenti získávají stále větší autonomii? Existují určité rozhodnutí nebo interakce se zákazníky, které by podle vás měly i nadále vyžadovat lidský úsudek, bez ohledu na to, jak schopné se modely stanou?

Člověk musí být zapojen, pokud rozhodnutí vyžaduje čestný úsudek, má významné dopady na zákazníka nebo se týká výsledku, vůči kterému agent ještě nebyl vyhodnocen. Člověk nemusí nutně dělat vše, ale měl by podle potřeby přezkoumat nebo schválit. To pravděpodobně platí i v budoucnu, jakmile se modely stanou schopnějšími, protože často nejde o otázku schopnosti, ale o odpovědnost a právo zákazníka na lidského rozhodovatele v situacích, jako jsou kreditní výsledky nebo spory.

Člověk musí být zapojen, pokud rozhodnutí vyžaduje čestný úsudek, má významné dopady na zákazníka nebo se týká výsledku, vůči kterému agent ještě nebyl vyhodnocen. Dokonce bych to posunul dál než typický model záložního řešení a argumentoval, že agenti stále více získávají své místo v organizačním schématu vedle lidí. To zase posouvá lidské úsilí směrem k eskalacím a rozhodovacím úkolům, zatímco agenti se starají o koordinaci a směrování.

Aby to bylo opravdu úspěšné, agenti potřebují stejný institucionální kontext, jaký má i člověk, aby věděli, koho zapojit do určitých problémů a kdy. Proto jsme vytvořili Collaborate. Aby operátoři, inženýři a agenti mohli spolupracovat jako rovní partneři s verzovacím systémem, hodnoceními a kontinuálním učením v jádru. To zajišťuje, že lidé zůstávají plně v cyklu, a cyklus se jen mění tak, aby zohlednil, jak dobře agent a člověk koordinují.

Gradient Labs se zaměřuje na specialistické agenty určené pro konkrétní pracovní postupy ve finančních službách, nikoli na jediného univerzálního agenta. Věříte, že budoucnost podnikové AI bude převážně tvořena sítí specializovaných agentů, nebo že stále schopnější základní modely nakonec učiní tuto specializaci méně důležitou?

Myslím, že i když se základní modely zlepšují, specializace stále má význam. Lidé nebudou platit jen za chytrý model, ale za hodnocení specifické pro pracovní postup, ohraničení a integraci dat kolem něj. A tato práce nezmizí jen proto, že se základní model zlepší. Vidím to jako síť specialistických agentů postavených na společném a silném základním modelu, spíše než jednoho univerzálního agenta, který dělá vše.

AI agenti stále častěji potřebují učit se a zlepšovat po nasazení, ale v regulovaných prostředích může i malá změna chování přinést nová rizika. Jak mohou společnosti neustále zlepšovat agenta a zároveň zajistit, aby aktualizace nevytvářely regresi, problémy s dodržováním předpisů nebo neočekávané chování?

Princip, který dodržujeme, je, že každá aktualizace se považuje za nové vydání modelu, nikoli za inkrementální změnu konfigurace, takže každá změna prochází kompletní sadou testů před nasazením. To zahrnuje regresní testy proti precedentům, kde by chyba měla skutečný dopad, a nic se neuvádí najednou všem zákazníkům: nasazujeme postupně a monitorujeme, takže pokud začne docházet k odchylkám, zachytíme je na omezeném podílu provozu místo na plném měřítku. Právě toto je jádro našeho nedávného vydání Collaborate. Collaborate umožňuje operátorům, inženýrům a AI agentovi spolupracovat jako rovní partneři na živé definici toho, jak by měl agent uvažovat, s verzovacím systémem, hodnoceními a kontinuálním učením přímo ve workflow. Když někdo vylepší, jak agent řeší případ, tato změna je verzována, testována proti minulým konverzacím a nasazena pod stejnými kontrolami jako jakékoli jiné vydání. To znamená, že agent může po nasazení nadále zlepšovat, aniž by samotné vylepšení představovalo regresi nebo problém s dodržováním předpisů.

Když se přiblížíme k budoucnosti, jak se přístup k výkonným základním modelům stává stále více komoditizovaným, odkud bude skutečná konkurenční výhoda v AI aplikacích pocházet? Budou vítězi ti, kteří mají nejlepší modely, nebo ti, kteří nejlépe navrhují spolehlivé systémy a poskytují konzistentně dobré zkušenosti kolem nich?

Jak se stále více základních modelů začíná sbližovat, převaha se přesune téměř výhradně k těm, kteří nejlépe navrhují spolehlivější systémy kolem těchto modelů, včetně hodnocení, ohraničení, dat a návrhu pracovních postupů. Model se stává komoditním vstupem, ale konzistence a spolehlivost v produkci jsou skutečným produktem.

I nadto vidím výhodu spíše v tom, jak hluboce je agent zakotven v provozu společnosti. Agentům, kteří se dokážou integrovat do mnoha různých částí provozu firmy, se podaří překonat nástroje, které řeší jen specifické problémy nebo dosahují jen frontální úrovně. Když agent může pracovat napříč frontálními i back‑office systémy, může přinést více kontextu do interakcí a řešit složitější problémy end‑to‑end, stejně jako člověk. Schopnost agenta zapadnout do skutečného fungování firmy je podle mě zdrojem trvalého vítězství.

Děkujeme za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit Gradient Labs.