Neal Lathia, co-fondator și CTO al Gradient Labs – Serie de interviuri

Neal Lathia, co-fondator și CTO al Gradient Labs, este un lider în învățarea automată și știința datelor, cu aproape două decenii de experiență în tehnologia financiară, platforme de consum și cercetare academică. Înainte de a co-fonda Gradient Labs în 2023, a petrecut peste cinci ani la Monzo, avansând de la Senior Data Scientist la Director of Machine Learning și Staff Machine Learning Engineer, unde a construit infrastructura de învățare automată și a ajutat la scalarea disciplinei pentru a susține aplicații în operațiuni, criminalitate financiară și produs. Anterior, Lathia a lucrat ca Senior Data Scientist la Skyscanner și a deținut poziții de cercetare la University of Cambridge și University College London, unde activitatea sa a explorat sisteme de recomandare, date comportamentale, senzori pe smartphone și servicii digitale personalizate. La Gradient Labs, el conduce acum tehnologia din spatele agenților AI proiectați pentru fluxuri de lucru complexe și reglementate în serviciile financiare.

Gradient Labs este o companie AI cu sediul în Londra care dezvoltă agenți autonomi specializați pentru servicii financiare, concentrându-se pe automatizarea operațiunilor clienților care, în mod tradițional, necesită implicare umană substanțială. Fondată de foști lideri Monzo, Dimitri Masin, Neal Lathia și Danai Antoniou, compania dezvoltă agenți pentru domenii precum creditare și colectări, dispute, Know Your Business (KYB), onboarding, cereri de asigurare și servicii pentru clienți, funcționând prin voce, chat și email, integrând bariere de conformitate concepute pentru medii reglementate. Gradient Labs afirmă că tehnologia sa deservește acum peste 32 de milioane de utilizatori finali la clienți precum Wise, Zego, Current, Stash și Rho. În iunie 2026, compania a anunțat că și-a extins finanțarea Serie A la 26 de milioane de dolari, în timp ce lucrează spre o viziune mai amplă de automatizare a operațiunilor bancare și fintech complexe cu agenți AI specializați interconectați.

Ai petrecut peste cinci ani construind și conducând învățarea automată la Monzo înainte de a co-fonda Gradient Labs în 2023. Ce ai observat direct la Monzo care te-a convins că există o oportunitate de a crea o nouă companie în jurul agenților AI autonomi și de ce sosirea modelelor mari de limbaj a făcut ca această oportunitate să fie posibilă?

La Monzo, am petrecut ani construind sisteme de ML care trebuiau să funcționeze într-un mediu reglementat, unde greșelile au consecințe foarte reale și totul necesită o pistă de audit. Ce m-a influențat cel mai mult a fost necesitatea de a dezvolta o infrastructură personalizată, deoarece nimic prefabricat nu putea funcționa în siguranță sub aceste constrângeri stricte. Această experiență mi-a lăsat două convingeri. Prima a fost că tehnologia ar putea în cele din urmă să elibereze băncile de povara operațională care a ținut industria în loc de zeci de ani. A doua a fost că AI-ul general-purpose, orizontal, nu ar avea un impact semnificativ — nuanța muncii reglementate este prea specifică. Când LLM-urile au devenit suficient de capabile să raționeze prin interacțiuni cu clienții, uneori în mai mulți pași și ambigue, a devenit posibil să construim agenți care să gestioneze fluxuri de lucru reglementate de la cap la cap, în loc să asiste doar un om. Acea diferență, dintre ceea ce companiile reglementate aveau cu adevărat nevoie și ceea ce exista deja, este motivul pentru care am înființat Gradient Labs și de ce am pariat pe AI vertical, construit special pentru sectorul financiar.

Ai descris ceea ce consumatorii experimentează ca „margină neregulată a experienței”: un agent AI poate îndeplini o sarcină extraordinar de complexă, în timp ce alt sistem eșuează la ceva la fel de simplu precum diferențierea unui număr de telefon de un nume. Ce cauzează, de fapt, o astfel de diferență dramatică între experiențele AI atunci când modelele de bază pot fi la fel de capabile?

Aș spune că diferența ține mai mult de câtă inginerie se investește în model decât de competența brută a modelului în sine. Dacă un sistem eșuează la o sarcină simplă, cum ar fi confundarea unui număr de telefon cu un nume, înseamnă că nu a investit în cadrul din jur, cum ar fi validarea, logica de fallback, gestionarea datelor structurate etc. Agentul mai impresionant a fost probabil proiectat exact pentru sarcina lui. Este aceeași familie de modele fundamentale, dar cu un nivel complet diferit de strictețe în jurul său, și exact asta duce la marginea neregulată.

Pe măsură ce modelele de frontieră continuă să se îmbunătățească, de ce persistă eșecurile aparent de bază ale AI? Sunt acestea în principal limitări ale modelelor în sine sau eșecuri în arhitectura sistemului înconjurător, date, fluxuri de lucru, evaluare și design de produs?

Este în principal sistemul, nu modelul. Modelele de frontieră continuă să se îmbunătățească în raționament. Totuși, companiile le atașează adesea la sisteme care nu au fost dezvoltate pentru comportamente bazate pe probabilitate. Există integrări fragile și date incomplete în sisteme, fără un ciclu real de evaluare înainte ca modificările să fie livrate. Astfel, un eșec AI de bază în producție nu este cu adevărat un eșec AI, ci un eșec în a investi în evaluare, monitorizare și procese de proiectare a fluxurilor de lucru.

Multe companii par să optimizeze serviciul de asistență AI pentru clienți în funcție de viteză, reținere sau devierea tichetelor. Ce metrici ar trebui să folosească companiile în schimb dacă doresc să măsoare dacă un agent AI îmbunătățește cu adevărat experiența clientului?

Pentru aceasta, trebuie să luăm în considerare acuratețea rezolvării. Viteza și limitarea sunt folosite pentru a evalua dacă ai reușit să scapi un client de la telefon, nu dacă ai rezolvat problema acestuia. Acuratețea rezolvării, care ar trebui utilizată pentru a măsura capacitatea unui agent AI, va verifica dacă agentul a făcut lucrul corect, nu doar dacă a răspuns rapid. Acest indicator va lucra împreună cu alte semnale, cum ar fi ratele de contact repetat, volumul plângerilor și frecvența cu care un om trebuie să intervină ulterior. Vei ști că optimizezi pentru un rezultat greșit dacă devierea crește, dar contactele repetate și plângerile cresc și ele.

Gradient Labs se concentrează pe servicii financiare reglementate, unde un răspuns incorect poate avea consecințe mult mai mari decât o greșeală obișnuită de serviciu pentru clienți. Cum determini când un agent AI este suficient de fiabil pentru a gestiona autonom procese precum creditarea, disputele, onboarding‑ul sau verificările Know Your Customer?

Traseul implicit pe care majoritatea echipelor îl preferă este cel al co‑pilotului: cineva aprobă fiecare acțiune pentru că pare mai sigur. Și majoritatea ar presupune că este într-adevăr mai sigur. Dar, în realitate, pe măsură ce AI‑ul corectează tot mai multe lucruri, revizorii aprobă fără să verifice cu adevărat, iar siguranța se pierde oricum. Acest lucru nu reduce volumul de muncă existent; doar îl face mai rapid și diminuează valoarea obținută.

De aceea, conceptul de agent AI suficient de fiabil este foarte specific proceselor la Gradient Labs. Pentru noi, trebuie să fie dezvoltat prin autonomie etapizată și nu să fie privit ca un singur obiectiv de bifat. Un agent poate primi o independență sporită în domenii precum KYC sau disputele doar după ce a fost comparat cu un set mare, viu, de cazuri reale, cu revizuire umană pe un eșantion al deciziilor sale chiar și după ce a intrat în producție. Interesant este că acest lucru confirmă și importanța reversibilității: dacă ceva poate fi anulat, va câștiga autonomie mai repede decât ceva ce nu poate fi desfăcut.

Barierele de siguranță sunt prezentate tot mai des ca soluția pentru a face agenții AI mai siguri, dar adăugarea de reguli suplimentare poate face sistemele rigide sau poate împiedica finalizarea sarcinilor legitime. Cum echilibrezi autonomia cu barierele de siguranță fără a reduce agentul la un chatbot extrem de constrâns?

Greșeala este să tratezi barierele de siguranță ca pe un zid de care agentul se lovește. În sistemul nostru, ele fac două lucruri simultan. Rulăm barierele la fiecare pas al conversației — unele inspectează ce spune clientul, pentru a detecta vulnerabilități, dificultăți financiare sau plângeri, iar altele verifică ce urmează să spună agentul, pentru a-l menține conform. Dar când una se declanșează, nu blochează pur și simplu: redirecționează agentul către procedura corectă, iar decizia este transparentă în raționamentul agentului, astfel încât operatorii pot vedea de ce a acționat. Barierele mai profunde sunt integrate în modul în care agentul este învățat să gândească o sarcină, în datele la care poate accesa și în instrumentele pe care le poate folosi. Această combinație îl menține sigur fără a-l face rigid: agentul înțelege ce sunt barierele și de ce există, astfel încât să finalizeze o sarcină legitimă în loc să refuze orice lucru care seamănă cu unul interzis.

Aici, cred că problema este să vedem barierele de siguranță ca pe un zid solid pentru agent. Mai exact, rulăm două tipuri diferite de bariere la fiecare pas al conversației. Mai întâi, avem barierele pentru client, care inspectează ce spune clientul și ar trebui să identifice vulnerabilități, dificultăți financiare, plângeri ale clienților și altele similare. A doua, avem barierele pentru agent, care funcționează în sens invers și verifică ce va spune agentul înainte de a trimite mesajul, pentru a-l menține conform.

Acest lucru înseamnă că, în loc să blocheze complet o acțiune când una dintre aceste bariere se declanșează, o redirecționează spre calea corectă. Astfel, se menține transparența privind procesele de luare a deciziilor ale agentului și se oferă operatorilor umani motivul pentru care a fost luată respectiva acțiune.

Putem face acest lucru și pentru că nu fiecare aspect al procesului de raționament al agentului trebuie să treacă printr-un LLM. Barierele de acest tip sunt deterministe, deoarece nu se declanșează doar la finalul unei conversații, ci pe parcursul întregii vieți a agentului. Așa reușim să avem încredere în agent pentru comunicări sensibile și să permitem personalizarea unor agenți specifici pentru cazuri de utilizare la scară și într-un mod previzibil.

Ceea ce contează cel mai mult este modul în care agentul este învățat să abordeze o sarcină de la bun început, asigurându-se că poate accesa datele relevante și cunoaște instrumentele necesare. Această capacitate a agentului de a finaliza o sarcină legitimă în loc să refuze orice lucru ce pare interzis contribuie la creșterea siguranței și la evitarea rigidității.

Unde ar trebui oamenii să rămână în buclă pe măsură ce agenții AI devin tot mai autonomi? Există anumite decizii sau interacțiuni cu clienții pe care credeți că ar trebui să continue să necesite judecata umană, indiferent de cât de capabile devin modelele de bază?

Un om trebuie să fie implicat dacă o decizie necesită discreție onestă, are repercusiuni semnificative pentru client sau are legătură cu un rezultat pe care agentul nu l‑a evaluat încă. Persoana nu trebuie neapărat să facă totul, dar ar trebui să revizuiască sau să aprobe, după caz. Probabil că acest lucru rămâne valabil pe măsură ce modelele devin mai capabile, deoarece adesea nu este vorba de o chestiune de capacitate, ci de responsabilitate și de dreptul clientului la un decident uman în situații precum rezultate de credit sau dispute.

Un om trebuie să fie implicat dacă o decizie necesită discreție onestă, are repercusiuni semnificative pentru client sau are legătură cu un rezultat pe care agentul nu l‑a evaluat încă. Aș merge chiar mai departe decât modelul tipic de fallback și aș susține că agenții își câștigă tot mai mult locul în organigrama organizațională alături de oameni. În consecință, eforturile umane se concentrează tot mai mult pe escalări și decizii de judecată, lăsând agenților sarcinile de coordonare și rutare.

Dar, pentru ca acest lucru să aibă succes, agenții trebuie să beneficieze de același context instituțional pe care îl are și un om, astfel încât să știe pe cine să implice în anumite probleme și când. De aceea am creat Collaborate. Pentru a permite operatorilor, inginerilor și agenților să lucreze împreună ca egali, cu control de versiune, evaluări și învățare continuă în centrul procesului. Astfel, oamenii rămân complet în buclă, iar bucla își schimbă doar forma pentru a ține cont de modul în care agentul și omul se coordonează.

Gradient Labs s‑a concentrat pe agenți specialiști concepuți pentru fluxuri de lucru specifice din sectorul serviciilor financiare, în loc de un singur agent cu scop general. Credeți că viitorul AI în întreprinderi va consta în principal din rețele de agenți specializați, sau că modelele de bază din ce în ce mai capabile vor face ca această specializare să devină mai puțin importantă?

Cred că, chiar și pe măsură ce modelele de bază se îmbunătățesc, specializarea rămâne importantă. Oamenii nu vor plăti doar pentru un model inteligent, ci pentru evaluări specifice fluxului de lucru, bariere de siguranță și integrarea datelor construite în jurul acestuia. Și această muncă nu dispare doar pentru că modelul de bază devine mai bun. Aș vedea aceasta ca o rețea de agenți specialiști construiți pe un model de bază comun și puternic, în loc de un singur agent cu scop general care să facă totul.

Agenții AI trebuie din ce în ce mai mult să învețe și să se îmbunătățească după implementare, dar în medii reglementate chiar și o mică schimbare de comportament poate introduce noi riscuri. Cum pot companiile să îmbunătățească continuu un agent asigurându‑se că actualizările nu creează regresii, probleme de conformitate sau comportamente neașteptate?

Principiul pe care îl urmăm este că fiecare actualizare este tratată ca o nouă lansare de model, nu ca o modificare incrementală de configurare, astfel încât fiecare schimbare trece printr‑o suită completă de evaluări înainte de a fi livrată. Aceasta include teste de regresie efectuate pe precedente în care o greșeală ar fi avut un impact real, și nimic nu este lansat simultan pentru toți clienții: implementăm treptat și monitorizăm, astfel încât, dacă începe să apară drift, îl detectăm pe o porțiune limitată de trafic, nu la scară completă. Exact pe acest principiu se bazează recentul nostru release al Collaborate. Collaborate permite operatorilor, inginerilor și agentului AI să lucreze împreună ca egali pe aceeași definiție vie a modului în care agentul ar trebui să gândească, cu control de versiune, evaluări și învățare continuă integrate direct în fluxul de lucru. Astfel, când cineva îmbunătățește modul în care agentul gestionează un caz, acea schimbare este versionată, testată pe conversațiile anterioare și lansată sub aceleași controale ca orice altă versiune. Înseamnă că un agent poate continua să se perfecționeze după implementare fără ca îmbunătățirea în sine să devină sursa unei regresii sau a unei probleme de conformitate.

Privind spre viitor, pe măsură ce accesul la modele de bază puternice devine din ce în ce mai comoditizat, de unde va proveni adevăratul avantaj competitiv în aplicațiile AI? Vor câștiga cei cu cele mai bune modele sau cei care excelează în proiectarea de sisteme fiabile și în furnizarea de experiențe consecvent bune în jurul lor?

Acum că tot mai multe modele de bază încep să convergă, avantajul se va muta aproape în totalitate în favoarea celui care este cel mai bun la proiectarea de sisteme mai fiabile în jurul acestor modele, inclusiv evaluare, bariere de siguranță, date și design de fluxuri de lucru. Modelul devine un input commoditizat, dar consistența și fiabilitatea în producție sunt produsul real.

Chiar și dincolo de asta, văd avantajul venind mai ales din cât de adânc este integrat un agent în operațiunile unei companii. Agenții care pot fi încorporați în multe părți diferite ale operațiunilor unei companii vor învinge instrumentele care pot gestiona doar probleme specifice sau care ajung doar la prima linie. Când un agent poate lucra atât în sistemele de primă linie, cât și în cele de back‑office, poate aduce mai mult context interacțiunilor și poate gestiona probleme complexe de la început până la sfârșit, exact ca un om. Capacitatea unui agent de a se potrivi cu modul în care o companie funcționează efectiv este sursa pe care mă aștept să vină câștigul durabil.

Vă mulțumim pentru interviul excelent, cititorii care doresc să afle mai multe ar trebui să viziteze Gradient Labs.