Dimitri Masin, CEO și Co-Fondator la Gradient Labs – Seria de Interviuri

Dimitri Masin este CEO și Co-Fondator al Gradient Labs, o companie de inteligență artificială care construiește agenți de suport clienți autonomi, special concepuți pentru industrii reglementate, cum ar fi serviciile financiare. Înainte de a fonda Gradient Labs în 2023, Masin a ocupat funcții de conducere senior la Monzo Bank, inclusiv Vicepreședinte al Științei Datelor, Crimei Financiare și Fraudei, și a lucrat anterior la Google. Sub conducerea sa, Gradient Labs a câștigat rapid teren, ajungând la 1 milion de lire sterline în venituri anuale recurente în cinci luni de la lansare. Focusul lui Masin este dezvoltarea sistemelor de inteligență artificială care combină performanța ridicată cu conformitatea strictă a reglementărilor, permițând automatizarea sigură și scalabilă a operațiunilor complexe ale clienților.

Ce v-a inspirat să lansați Gradient Labs după o astfel de călătorie de succes la Monzo?

La Monzo, am petrecut ani lucrând la automatizarea suportului clienților, țintind de obicei câștiguri de eficiență modeste de 10%. Dar la începutul anului 2023, am asistat la o schimbare tehnologică seismică odată cu lansarea GPT-4. Brusc, a devenit posibilă automatizarea a 70-80% din munca manuală și repetitivă în mod complet autonom prin inteligență artificială.

Acest avans tehnologic pe care îl trăim în prezent ne-a inspirat să demarăm Gradient Labs. În cariera mea, am văzut două valuri revoluționare: revoluția mobilă (care a avut loc la începutul carierei mele) și acum inteligența artificială. Când recunoașteți că sunteți în mijlocul unei astfel de transformări care va schimba complet modul în care funcționează lumea, trebuie să profitați de moment. Echipa noastră știa – acesta este momentul.

La Monzo, ați ajutat compania să traverseze o perioadă de creștere exponențială. Care au fost cele mai importante lecții din această experiență pe care le aplicați acum la Gradient Labs?

În primul rând, echilibrul între autonomie și direcție. La Monzo, am presupus inițial că oamenii prosperă pur și simplu pe autonomie – că aceasta este ceea ce îi motivează cel mai mult. Cu toate acestea, această perspectivă pare acum simplistă. Cred că oamenii valorizează și îndrumarea. Adevărata autonomie nu constă în a spune oamenilor “faceți ce doriți”, ci în a oferi o direcție clară, permițându-le să rezolve probleme bine definite în felul lor.

În al doilea rând, talentele de top necesită o compensație de top. Dacă încercați să angajați top 5% din funcția dvs., trebuie să plătiți corespunzător. Altfel, companiile mari de tehnologie îi vor angaja după ce se va ști că aveți talente de top care sunt subplătite.

În al treilea rând, nu reinventați roata. La Monzo, am încercat să creăm abordări inovatoare pentru structurile de lucru, sistemele de compensații și scările de carieră. Concluzia cheie: nu cheltuiți energie inovând asupra fundamentelor organizaționale – mii de companii au deja stabilite cele mai bune practici. Încă văd postări pe LinkedIn despre “eliminarea tuturor titlurilor și ierarhiilor” – am văzut cum se desfășoară acest lucru în mod repetat, și aproape toate companiile se întorc în cele din urmă la structuri tradiționale.

Gradient Labs se axează pe industrii reglementate, care au nevoi complexe în mod tradițional. Cum ați abordat construirea unui agent de inteligență artificială (cum ar fi Otto) care să poată funcționa eficient în acest mediu?

Am adoptat o abordare neconvențională, respingând sfatul obișnuit de a lansa rapid și de a itera pe un produs live. În schimb, am petrecut 14 luni înainte de a lansa Otto, menținând o bară de calitate foarte ridicată de la început. Trebuia să creăm ceva în care băncile și instituțiile financiare să aibă încredere pentru a gestiona suportul clienților în mod complet autonom.

Nu construiam copiloți – construiam automatizarea de la capăt la coadă a suportului clienților. Cu experiența noastră în servicii financiare, am avut un reper intern precis pentru “ce înseamnă calitate”, permițându-ne să evaluăm calitatea fără a ne baza pe feedback-ul clienților. Acest lucru ne-a dat libertatea de a ne concentra asupra calității, iterând rapid. Fără clienți live, am putut face salturi mai mari, puteam strica lucrurile în mod liber și puteam face schimbări rapide – în cele din urmă, livrând un produs superior la lansare.

Otto merge dincolo de a răspunde la întrebări simple și gestionează fluxuri de lucru complexe. Puteți să ne descrieți cum Otto gestionează sarcini multi-pași sau cu risc ridicat pe care agenții de inteligență artificială tipici ar putea eșua?

Am construit Otto în jurul conceptului de proceduri standard (SOP) – în esență, documente de îndrumare scrise în limba engleză care detaliază modul de a gestiona anumite probleme, asemănător cu ceea ce ați da unui agent uman.

Două decizii arhitecturale cheie fac din Otto un agent deosebit de eficient în gestionarea fluxurilor de lucru complexe:

În primul rând, limităm expunerea la instrumente. Un mod obișnuit de eșec pentru agenții de inteligență artificială este alegerea incorectă din prea multe opțiuni. Pentru fiecare procedură, expunem doar un subset mic de instrumente relevante lui Otto. De exemplu, într-un flux de lucru de înlocuire a cardului, Otto ar putea vedea doar 1-2 instrumente, în loc de toate cele 30 înregistrate în sistem. Acest lucru îmbunătățește dramatic precizia, reducând spațiul de decizie.

În al doilea rând, am reconstruit o parte semnificativă a infrastructurii obișnuite a asistenților de inteligență artificială pentru a permite o raționare extinsă a lanțului de gândire. În loc de a arunca pur și simplu proceduri la un asistent OpenAI sau Anthropic, arhitectura noastră permite multiple pași de procesare între intrări și ieșiri. Acest lucru permite o raționare mai profundă și rezultate mai fiabile.

Gradient Labs menționează atingerea “calității supraomenești” în suportul clienților. Ce înseamnă “calitate supraomenească” pentru dvs. și cum o măsurați intern?

Calitatea supraomenească înseamnă furnizarea unui suport clienților măsurabil mai bun decât ceea ce pot realiza oamenii. Următoarele trei exemple ilustrează acest lucru:

În primul rând, cunoașterea cuprinzătoare. Agenții de inteligență artificială pot procesa cantități uriașe de informații și au cunoștințe detaliate despre o companie. În contrast, oamenii învață de obicei doar un subset mic de informații, și atunci când nu știu ceva, trebuie să consulte baze de cunoștințe sau să escaladeze către colegi. Acest lucru duce la o experiență frustrantă în care clienții sunt pasați între echipe. Un agent de inteligență artificială, pe de altă parte, are o înțelegere profundă a companiei și a proceselor sale, oferind răspunsuri consistente și complete – fără escaladare necesară.

În al doilea rând, căutări non-leneșe – inteligența artificială este rapidă în a aduna informații. În timp ce oamenii încearcă să salveze timpul, punând întrebări clienților înainte de a investiga, inteligența artificială examinează proactiv informațiile contului, steaguri, alerte și mesaje de eroare înainte de a începe conversația. Așadar, atunci când un client spune vag “am o problemă cu X”, inteligența artificială poate oferi imediat o soluție, în loc de a pune multiple întrebări de clarificare.

În al treilea rând, răbdarea și consistența calității. În contrast cu oamenii, care se confruntă cu presiunea de a gestiona un anumit număr de răspunsuri pe oră, inteligența noastră artificială menține în mod constant o calitate ridicată, răbdare și comunicare concisă. Răspunde cu răbdare atâta timp cât este necesar, fără a se grăbi.

Măsurăm acest lucru în primul rând prin scorurile de satisfacție a clienților. Pentru toți clienții noștri actuali, realizăm scoruri de satisfacție a clienților cu o medie de 80-90% – de obicei mai mari decât echipele umane.

Ați evitat în mod deliberat să legați Gradient Labs de un singur furnizor de LLM. De ce a fost această alegere importantă și cum afectează performanța și fiabilitatea pentru clienții dvs.?

În ultimii doi ani, am observat că cele mai mari îmbunătățiri ale performanței noastre au venit din capacitatea noastră de a trece la următorul model mai bun de îndată ce OpenAI sau Anthropic a lansat ceva mai rapid, mai bun sau mai precis. Agilitatea modelului a fost cheia.

Această flexibilitate ne permite să îmbunătățim în mod continuu calitatea, gestionând în același timp costurile. Anumite sarcini necesită modele mai puternice, altele mai slabe. Arhitectura noastră ne permite să ne adaptăm și să evoluăm în timp, selectând modelul optim pentru fiecare situație.

În cele din urmă, vom suporta LLM-uri open-source private, găzduite pe infrastructura clienților. Din cauza arhitecturii noastre, această tranziție va fi una simplă, ceea ce este deosebit de important atunci când servim bănci care pot avea cerințe specifice privind implementarea modelului.

Gradient Labs nu construiește doar un chatbot – încercați să gestionați și procesele din spatele scenei. Care sunt cele mai mari provocări tehnice sau operaționale în automatizarea acestor tipuri de sarcini cu inteligență artificială?

Există două categorii distincte de procese, fiecare cu propriile provocări:

Pentru procesele mai simple, tehnologia există în mare măsură deja. Principala provocare este integrarea – conectarea la numeroasele sisteme și instrumente de back-end pe care le utilizează instituțiile financiare, deoarece majoritatea operațiunilor clienților implică numeroase sisteme interne.

Pentru procesele complexe, rămân provocări tehnice semnificative. Aceste procese necesită de obicei ca oamenii să fie angajați și instruiți timp de 6-12 luni pentru a dezvolta expertiză, cum ar fi investigații de fraudă sau evaluări de spălare a banilor. Provocarea aici este transferul de cunoștințe – cum putem oferi agenților de inteligență artificială aceeași expertiză de domeniu? Acesta este un problemă dificilă pe care toată lumea din acest domeniu încă încearcă să o rezolve.

Cum echilibrează Gradient Labs nevoia de viteză și eficiență a inteligenței artificiale cu cerințele riguroase de conformitate ale industriilor reglementate?

Este cu siguranță un echilibru, dar la nivelul conversației, agentul nostru pur și simplu ia mai mult timp pentru a gândi. Evaluează multiple factori: Înțeleg ce întreabă clientul? Îi ofer răspunsul corect? Clientul prezintă semne de vulnerabilitate? Clientul dorește să depună o plângere?

Acest abordare deliberată crește latența – timpul nostru mediu de răspuns ar putea fi de 15-20 de secunde. Dar pentru instituțiile financiare, acesta este un schimb echitabil. Un răspuns de 15 secunde este încă mult mai rapid decât un răspuns uman, în timp ce garanțiile de calitate sunt mult mai importante pentru companiile reglementate cu care lucrăm.

Prevedeți un viitor în care agenții de inteligență artificială vor fi încrediți nu numai pentru suport, ci și pentru sarcini de luare a deciziilor cu risc ridicat în cadrul instituțiilor financiare?

Instituțiile financiare utilizau deja tehnici de inteligență artificială mai tradiționale pentru decizii cu risc ridicat înainte de valul actual de inteligență artificială generativă. Unde văd oportunitatea reală acum este în orchestrare – nu luarea deciziei, ci coordonarea întregului proces.

De exemplu, un client încarcă documente, un agent de inteligență artificială le direcționează către un sistem de validare, primește confirmarea valabilității și apoi declanșează acțiuni și comunicări adecvate către client. Această funcție de orchestrare este unde agenții de inteligență artificială excelează.

Pentru deciziile cu risc ridicat însele, nu văd schimbări majore în perioada imediat următoare. Aceste modele necesită explicabilitate, prevenirea bias-ului și aprobarea prin comitete de risc ale modelului. Modelele de limbaj mari ar întâmpina provocări semnificative de conformitate în aceste contexte.

În opinia dvs., cum va remodela inteligența artificială experiența clienților pentru bănci, companii fintech și alte sectoare reglementate în următorii 3-5 ani?

Văd cinci tendințe majore care vor remodela experiența clienților:

În primul rând, interacțiunea omnicanală reală. Imaginați-vă începând o conversație în aplicația dvs. de bancă, apoi comutându-vă fără efort la voce cu același agent de inteligență artificială. Vocea, apelurile și chat-ul se vor contopi într-o singură experiență continuă.

În al doilea rând, interfețe de utilizator adaptive care minimizează navigarea în aplicație. În loc de a căuta prin meniuri pentru funcții specifice, clienții vor spune pur și simplu nevoile lor: “Vă rog, măriți limitele mele” – și acțiunea se va întâmpla imediat prin conversație.

În al treilea rând, o mai bună unitate economică. Suportul și operațiunile sunt centre de costuri masive. Reducerea acestor costuri ar putea permite băncilor să deservească clienți anterior nefolosiți sau să treacă economiile la utilizatori – în special în segmentele sub-bancare.

În al patrulea rând, suport excepțional la scară. În prezent, startup-urile cu puțini clienți pot oferi suport personalizat, dar calitatea se degradează de obicei pe măsură ce companiile cresc. Inteligența artificială face suportul de calitate scalabil, nu doar posibil.

În cele din urmă, suportul clienților se va transforma de la o necesitate frustrantă la un serviciu cu adevărat util. Nu va mai fi privit ca o cheltuială de infrastructură intensivă din punct de vedere al forței de muncă, ci ca un punct de contact valoros și eficient al clienților care îmbunătățește experiența generală.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre Gradient Labs ar trebui să viziteze Gradient Labs.