Neal Lathia, medstifter og CTO for Gradient Labs – Interviewserie

Neal Lathia, medstifter og CTO for Gradient Labs, er en leder inden for maskinlæring og datavidenskab med næsten to årtiers erfaring inden for finansiel teknologi, forbrugerplatforme og akademisk forskning. Før han medstiftede Gradient Labs i 2023, tilbragte han mere end fem år hos Monzo, hvor han avancerede fra Senior Data Scientist til Director of Machine Learning og Staff Machine Learning Engineer, og hvor han byggede maskinlæringsinfrastruktur og hjalp med at skalere disciplinen til at understøtte applikationer inden for drift, økonomisk kriminalitet og produkt. Tidligere arbejdede Lathia som Senior Data Scientist hos Skyscanner og havde forskningsstillinger ved University of Cambridge og University College London, hvor hans arbejde udforskede anbefalingssystemer, adfærdsdata, smartphonesensorik og personlige digitale tjenester. Hos Gradient Labs leder han nu teknologien bag AI‑agenter designet til komplekse, regulerede arbejdsprocesser inden for finansielle tjenester.

Gradient Labs er et AI‑firma med base i London, der bygger specialiserede autonome agenter til finansielle tjenester, med fokus på at automatisere kundedrift, som traditionelt kræver betydelig menneskelig involvering. Virksomheden blev grundlagt af de tidligere Monzo‑ledere Dimitri Masin, Neal Lathia og Danai Antoniou, og udvikler agenter til områder som udlån og inddrivelse, tvister, Know Your Business (KYB), onboarding, forsikringskrav og kundeservice, som opererer på stemme, chat og e‑mail, samtidig med at de indarbejder sikkerhedsforanstaltninger, der skal sikre regeloverholdelse og er designet til regulerede miljøer. Gradient Labs siger, at deres teknologi nu betjener mere end 32 millioner slutbrugere hos kunder som Wise, Zego, Current, Stash og Rho. I juni 2026 annoncerede virksomheden, at de havde udvidet deres Series A‑finansiering til $26 millioner, mens de arbejder mod en bredere vision om at automatisere komplekse bank‑ og fintech‑operationer med sammenkoblede specialiserede AI‑agenter.

Du tilbragte mere end fem år med at bygge og lede maskinlæring hos Monzo, før du medstiftede Gradient Labs i 2023. Hvad så du på første hånd hos Monzo, som overbeviste dig om, at der var en mulighed for at bygge en ny virksomhed omkring autonome AI‑agenter, og hvorfor gjorde ankomsten af store sprogmodeller denne mulighed mulig?

På Monzo tilbragte jeg år med at bygge ML‑systemer, der skulle fungere i et reguleret miljø, hvor fejl har meget reelle konsekvenser, og alt kræver et revisionsspor. Det, der påvirkede mig mest, var behovet for at udvikle skræddersyet infrastruktur, fordi ingen færdiglavet løsning kunne fungere sikkert under så strenge rammer. Denne erfaring gav mig to overbevisninger. Den første var, at teknologi endelig kunne befri bankerne for den operationelle byrde, der har holdt branchen tilbage i årtier. Den anden var, at generel, tværgående AI ikke ville gøre en forskel – nuancen i reguleret arbejde er for specifik. Da LLM‑erne blev i stand til at resonere gennem flertrins‑, til tider tvetydige kundesamtaler, blev det muligt at bygge agenter, der kunne håndtere hele regulerede arbejdsprocesser fra ende til ende, i stedet for blot at assistere et menneske. Det hul, mellem hvad regulerede virksomheder faktisk har brug for, og hvad der allerede findes, er grunden til, at vi startede Gradient Labs, og hvorfor vi satser på vertikal AI, der er bygget specifikt til finans.

Du har beskrevet, hvad forbrugerne oplever som “den ujævne kant af oplevelsen”: en AI‑agent kan udføre en ekstraordinært kompleks opgave, mens et andet system fejler på noget så simpelt som at skelne et telefonnummer fra et navn. Hvad forårsager egentlig et så dramatisk gab mellem AI‑oplevelser, når de underliggende modeller kan være lige så kompetente?

Jeg vil sige, at gabet mere handler om, hvor meget ingeniørarbejde der lægges i modellen, end om den rå modelkompetence. Hvis et system fejler på en simpel opgave, som at forveksle et telefonnummer med et navn, betyder det, at der ikke er investeret i rammerne omkring det, såsom validering, fallback‑logik, struktureret databehandling osv. Den mere imponerende agent er sandsynligvis designet præcis til sin opgave. Det er den samme grundlæggende modelfamilie med en helt anden grad af stringens omkring den, og det er netop, hvad der skaber den ujævne kant.

Efterhånden som de mest avancerede modeller fortsætter med at forbedre sig, hvorfor vedvarer tilsyneladende grundlæggende AI‑fejl? Er disse primært begrænsninger i modellerne selv, eller fejl i den omgivende systemarkitektur, data, arbejdsprocesser, evaluering og produktdesign?

Det er primært systemet og ikke modellen. De mest avancerede modeller fortsætter med at forbedre deres ræsonnement. Men virksomheder binder dem ofte til systemer, der ikke er udviklet til sandsynlighedsbaseret adfærd. Der er skrøbelige integrationer og ufuldstændige data i systemerne, uden en reel evalueringssløjfe inden ændringer frigives. Så en grundlæggende AI‑fejl i produktion er egentlig ikke en AI‑fejl overhovedet, men en mangel på investering i evaluerings‑, overvågnings‑ og arbejdsprocesdesign.

Mange virksomheder ser ud til at optimere AI‑kundeservice omkring hastighed, håndtering uden overdragelse til mennesker eller reduktion af supporthenvendelser. Hvilke målinger bør virksomheder i stedet bruge, hvis de vil måle, om en AI‑agent virkelig forbedrer kundeoplevelsen?

For dette skal vi overveje løsningsnøjagtighed. Hastighed og håndtering uden overdragelse til mennesker bruges til at vurdere, om du formåede at afslutte en kundes telefonsamtale, ikke om du formåede at løse deres problem. Løsningsnøjagtighed, som bør bruges til at måle en AI-agents kapacitet, tager højde for, om agenten gjorde det rigtige, i stedet for blot at svare hurtigt. Dette skal ses sammen med andre signaler som hyppigheden af gentagne henvendelser, antallet af klager og hvor ofte en menneskelig operatør skal gribe ind bagefter. Du vil vide, at du optimerer for det forkerte resultat, hvis reduktionen af supporthenvendelser stiger, men gentagne kontakter og klager også øges.

Gradient Labs fokuserer på regulerede finansielle tjenester, hvor et forkert svar kan have langt større konsekvenser end en typisk kundeservicefejl. Hvordan fastlægger du, hvornår en AI-agent er pålidelig nok til autonomt at håndtere processer inden for områder som udlån, tvister, onboarding eller Know Your Customer‑kontroller?

Den standardvej, som de fleste teams foretrækker, er co‑pilot‑modellen: nogen godkender hver handling, fordi det føles sikrere. Og de fleste antager, at det er sikrere. Men i virkeligheden, efterhånden som AI’en får de fleste ting rigtige, godkender kontrollanter ting uden at kontrollere dem ordentligt, og sikkerheden går alligevel tabt. Det gør intet for at minimere den eksisterende arbejdsbyrde. Det gør blot processen hurtigere og reducerer den værdi, du får.

Derfor er begrebet om, at en AI-agent er tilstrækkeligt pålidelig, meget processpecifikt hos Gradient Labs. For os skal den udvikles gennem trinvis autonomi og må ikke betragtes som blot ét mål, der skal krydses af. En agent kan få større selvstændighed i forhold til KYC eller tvister først, når den er benchmarket mod et stort, løbende opdateret sæt af virkelige sager, med menneskelig gennemgang af et udvalg af dens beslutninger, selv efter den er sat i produktion. Interessant nok bekræfter dette, at reversibilitet også virkelig betyder noget her. Hvis noget kan fortrydes, vil det opnå autonomi hurtigere end noget, der ikke kan.

Guardrails præsenteres i stigende grad som løsningen på at gøre AI-agenter sikrere, men at tilføje flere regler kan også gøre systemerne stive eller forhindre dem i at udføre legitime opgaver. Hvordan balancerer du autonomi med guardrails uden at reducere en agent til en anden stærkt begrænset chatbot?

Fejlen er at betragte guardrails som en væg, som agenten blot støder imod. I vores system gør de to ting på én gang. Vi kører guardrails på hver eneste taletur i en samtale — nogle inspicerer, hvad kunden siger, for at fange ting som sårbarhed, økonomiske vanskeligheder eller en klage, og andre inspicerer, hvad agenten er ved at sige, for at sikre, at den overholder reglerne. Men når en af dem udløses, blokerer den ikke blot: den omdirigerer agenten til den rette procedure, og den beslutning er gennemsigtig i agentens ræsonnement, så operatører kan se, hvorfor den handlede. De dybere guardrails er også indbygget i, hvordan agenten læres at tænke over en opgave, de data den kan tilgå, og de værktøjer den kan bruge. Denne kombination er det, der holder den sikker uden at gøre den stiv: agenten forstår, hvad guardrails er, og hvorfor de findes, så den fuldfører en legitim opgave i stedet for at afvise alt, der blot ligner en ikke tilladt handling.

Her mener jeg, at problemet er at se guardrails som en mur, som agenten støder imod. Mere specifikt kører vi to forskellige typer guardrails ved hver eneste taletur i en samtale. Først har vi kundeguardrails, der inspicerer, hvad kunden siger, og som skal opdage sårbarheder, økonomiske vanskeligheder, kunder der fremsætter klager og lignende. For det andet har vi agentguardrails, der fungerer omvendt og tjekker, hvad agenten vil sige, før beskeden sendes, for at sikre regeloverholdelse.

Det betyder, at i stedet for fuldstændigt at blokere en handling, når en af disse guardrails udløses, vil den omdirigere den til den rette vej. På den måde bevarer den gennemsigtighed omkring agentens beslutningsprocesser og giver menneskelige operatører årsagen til den pågældende handling.

Vi kan også gøre dette, fordi ikke alle aspekter af en agents ræsonnement er nødt til at gå gennem en LLM. Guardrails som disse er deterministiske, fordi de ikke kun udløses ved samtalens afslutning, men aktiveres gennem hele agentens levetid. Sådan kan vi stole på agenten med følsom kommunikation og muliggøre tilpasning af specifikke agenter til anvendelsestilfælde i stor skala og på en forudsigelig måde.

Det vigtigste er, hvordan agenten i første omgang lærer at tænke gennem en opgave, så den kan få adgang til relevante data og kende de værktøjer, den skal bruge. Denne evne for agenten til at udføre en legitim opgave i stedet for at afvise alt, der synes at være forbudt, er det, der hjælper med at forbedre sikkerheden og undgå stivhed.

Hvor skal mennesker fortsat være inddraget, efterhånden som AI-agenter bliver stadig mere autonome? Er der bestemte beslutninger eller kundesamtaler, som du mener fortsat bør kræve menneskelig dømmekraft, uanset hvor kapable de underliggende modeller bliver?

En menneskelig aktør skal være involveret, hvis en beslutning kræver et reelt skøn, har betydelige konsekvenser for kunden, eller vedrører et resultat, som agenten endnu ikke er blevet evalueret imod. Mennesket behøver ikke nødvendigvis at udføre hele opgaven, men bør gennemgå eller godkende efter behov. Dette er sandsynligvis også sandt, efterhånden som modellerne bliver mere kapable, fordi det ofte handler mindre om evne end om ansvarlighed og kundens ret til en menneskelig beslutningstager, når der er tale om kreditafgørelser eller tvister.

En menneskelig aktør skal være involveret, hvis en beslutning kræver et reelt skøn, har betydelige konsekvenser for kunden, eller vedrører et resultat, som agenten endnu ikke er blevet evalueret imod. Jeg vil endda gå lidt videre end den typiske fallback‑model og argumentere for, at agenter i stigende grad får deres plads i organisationsdiagrammet ved siden af mennesker. Det flytter i højere grad den menneskelige indsats mod eskaleringer og beslutninger, der kræver skøn, mens agenterne håndterer koordination og routing.

Men for at dette skal lykkes, har agenter brug for den samme institutionelle kontekst, som et menneske også har, så de ved, hvem de skal inddrage i bestemte problemstillinger, og hvornår. Derfor har vi bygget Collaborate. Så operatører, ingeniører og agenter kan arbejde sammen som jævnbyrdige med versionskontrol, evalueringer og kontinuerlig læring i centrum. Det sikrer, at mennesker fortsat er fuldt inddraget i processen, som blot ændrer form for at tage højde for, hvor godt agenten og mennesket koordinerer.

Gradient Labs har fokuseret på specialiserede agenter designet til specifikke arbejdsprocesser inden for finansielle tjenester frem for en enkelt generel agent. Tror du, at fremtiden for enterprise‑AI primært vil bestå af netværk af specialiserede agenter, eller vil stadig mere kapable grundmodeller efterhånden gøre denne specialisering mindre vigtig?

Jeg mener, at selvom grundmodellerne forbedres, forbliver specialisering vigtig. Folk vil ikke kun betale for en smart model, men for evaluering specifikt tilpasset arbejdsprocessen, sikkerhedsrammer og dataintegration omkring den. Og dette arbejde forsvinder ikke, blot fordi den underliggende model bliver bedre. Jeg ser det som et netværk af specialistagenter, alle bygget oven på en fælles og stærk grundmodel, snarere end én generel agent, der gør alting.

AI‑agenter skal i stigende grad lære og forbedre sig efter implementering, men i regulerede miljøer kan selv en lille adfærdsændring introducere nye risici. Hvordan kan virksomheder løbende forbedre en agent, samtidig med at de sikrer, at opdateringer ikke skaber regressioner, compliance‑problemer eller uventet adfærd?

Princippet, vi arbejder efter, er, at hver opdatering behandles som en ny modeludgivelse, ikke som en inkrementel konfigurationsændring, så hver ændring gennemgår en fuld evalueringssuite, før den frigives. Det inkluderer regressionstests mod præcedenser, hvor en fejl ville have haft reel betydning, og intet rulles ud til alle kunder på én gang: vi ruller gradvist ud og monitorerer, så hvis der opstår afvigelser i adfærden, fanger vi det på en begrænset del af trafikken i stedet for i fuld skala. Dette er præcis, hvad vores seneste Collaborate‑udgivelse er bygget omkring. Collaborate lader operatører, ingeniører og AI‑agenten arbejde sammen som jævnbyrdige på den samme levende definition af, hvordan agenten skal tænke, med versionskontrol, evalueringer og kontinuerlig læring indbygget direkte i arbejdsprocessen. Så når nogen forbedrer, hvordan agenten håndterer en sag, versioneres ændringen, testes mod tidligere samtaler og rulles ud under de samme kontroller som enhver anden udgivelse. Det betyder, at en agent kan blive bedre efter implementering uden at selve forbedringen bliver den faktor, der introducerer en regression eller et compliance‑problem.

Ser vi fremad, efterhånden som adgangen til kraftfulde grundmodeller i stigende grad bliver en standardvare, hvor vil den reelle konkurrencefordel i AI‑applikationer komme fra? Vil vinderne være dem med de bedste modeller, eller dem, der er bedst til at konstruere pålidelige systemer og levere konsekvent gode oplevelser omkring dem?

Nu hvor flere og flere grundmodeller begynder at konvergere, vil overtaget næsten udelukkende gå til dem, der er bedst til at bygge mere pålidelige systemer omkring disse modeller, inklusive evaluering, sikkerhedsrammer, data og workflow‑design. Modellen bliver et standardiseret input, men det er konsistens og pålidelighed i produktion, der er det egentlige produkt.

Endda ud over dette ser jeg fordelen komme mere fra, hvor dybt en agent er indlejret i en virksomheds drift. Agenter, der kan integreres i mange forskellige dele af en virksomheds processer, vil vinde over værktøjer, der kun kan håndtere specifikke problemer eller kun nå frontlinjen. Når en agent kan arbejde på tværs af front‑ og back‑office‑systemer, kan den tilføre mere kontekst til interaktioner og håndtere mere komplekse problemer fra ende til ende, præcis som et menneske ville. At en agent kan passe ind i, hvordan en virksomhed faktisk fungerer, er, hvor jeg forventer, at den varige sejr vil komme fra.

Tak for det gode interview, læsere der ønsker at lære mere, bør besøge Gradient Labs.