Dimitri Masin, CEO & Co-Founder at Gradient Labs – Intervista

Dimitri Masin è il CEO e Co-Founder di Gradient Labs, una startup di intelligenza artificiale che costruisce agenti di supporto clienti autonomi progettati specificamente per settori regolamentati come i servizi finanziari. Prima di fondare Gradient Labs nel 2023, Masin ha ricoperto ruoli di leadership senior in Monzo Bank, tra cui Vice President of Data Science, Financial Crime e Fraud, e in precedenza ha lavorato per Google. Sotto la sua guida, Gradient Labs ha guadagnato rapidamente slancio, raggiungendo £1 milione di entrate annuali ricorrenti entro cinque mesi dal lancio. L’obiettivo di Masin è quello di sviluppare sistemi di intelligenza artificiale che combinino elevate prestazioni con una rigorosa conformità normativa, consentendo un’automazione sicura e scalabile per operazioni clienti complesse.

Cosa ti ha ispirato a lanciare Gradient Labs dopo un percorso così di successo in Monzo?

In Monzo, avevamo trascorso anni lavorando sull’automazione del supporto clienti, di solito mirando a modesti guadagni di efficienza del 10%. Ma all’inizio del 2023, abbiamo assistito a un cambiamento tecnologico sismico con il rilascio di GPT-4. Improvvisamente, è diventato possibile automatizzare completamente il 70-80% del lavoro manuale e ripetitivo attraverso l’intelligenza artificiale.

Questo cambiamento tecnologico che stiamo vivendo ci ha ispirato a fondare Gradient Labs. Nella mia carriera, ho visto due onde rivoluzionarie: la rivoluzione mobile (che è avvenuta all’inizio della mia carriera) e ora l’intelligenza artificiale. Quando riconosci che sei in mezzo a una trasformazione che cambierà completamente il modo in cui funziona il mondo, devi cogliere l’attimo. Il nostro team lo sapeva – è il momento giusto.

A Monzo, hai aiutato a guidare l’azienda attraverso una crescita iperbolica. Quali sono state le lezioni più importanti di quell’esperienza che stai applicando ora a Gradient Labs?

Innanzitutto, bilanciare l’autonomia con la direzione. In Monzo, avevamo inizialmente assunto che le persone prosperassero semplicemente sull’autonomia – che fosse ciò che le motivava di più. Tuttavia, quella visione ora sembra eccessivamente semplicistica. Credo che le persone valorizzino anche la guida. La vera autonomia non consiste nel dire alle persone “fai ciò che decidi di fare”, ma nel fornire una direzione chiara mentre si dà loro la libertà di risolvere problemi ben definiti a modo loro.

In secondo luogo, i talenti di alto livello richiedono una compensazione di alto livello. Se si mira ad assumere il 5% più alto nella propria funzione, si deve pagare di conseguenza. Altrimenti, le grandi aziende tecnologiche li assumeranno una volta che sarà noto che si hanno talenti di alto livello che vengono sottopagati.

In terzo luogo, non reinventare la ruota. In Monzo, abbiamo cercato di creare approcci innovativi per le strutture di lavoro, i sistemi di compensazione e le scale di carriera. La cosa importante da ricordare è: non sprecare energia innovando sui fondamenti organizzativi – migliaia di aziende hanno già stabilito le migliori pratiche. Ancora vedo post su LinkedIn su “eliminare tutti i titoli e la gerarchia” – ho visto questo scenario ripetersi più volte e quasi tutte le aziende alla fine ritornano alle strutture tradizionali.

Gradient Labs si concentra su settori regolamentati, che tradizionalmente hanno esigenze complesse. Come hai approcciato la costruzione di un agente di intelligenza artificiale (come Otto) che possa operare efficacemente in questo ambiente?

Abbiamo adottato un approccio non convenzionale, rifiutando il consiglio tipico di rilasciare rapidamente e iterare su un prodotto live. Invece, abbiamo trascorso 14 mesi prima di rilasciare Otto, mantenendo una barra di qualità molto alta fin dall’inizio. Dovevamo creare qualcosa che le banche e le istituzioni finanziarie avrebbero fiducia di gestire completamente in modo autonomo il loro supporto.

Non stavamo costruendo copiloti – stavamo costruendo l’automazione end-to-end del supporto clienti. Con la nostra esperienza nei servizi finanziari, avevamo un benchmark interno preciso per “cosa significa qualità” che ci ha permesso di valutare la qualità senza affidarci al feedback dei clienti. Ciò ci ha dato la libertà di ossessionarci per la qualità mentre iteravamo rapidamente. Senza clienti live, potevamo fare salti più grandi, rompere le cose liberamente e cambiare direzione rapidamente – alla fine consegnando un prodotto superiore al lancio.

Otto va oltre la risposta a domande semplici e gestisce flussi di lavoro complessi. Puoi spiegarci come Otto gestisce attività a più passaggi o ad alto rischio che gli agenti di intelligenza artificiale tipici potrebbero fallire?

Abbiamo costruito Otto intorno al concetto di SOP (Standard Operating Procedures) – essenzialmente documenti di guida scritti in inglese semplice che dettagliano come gestire problemi specifici, simili a quelli che si darebbero a un agente umano.

Due decisioni architettoniche chiave rendono Otto particolarmente efficace nel gestire flussi di lavoro complessi:

Innanzitutto, limitiamo l’esposizione agli strumenti. Un modo comune in cui gli agenti di intelligenza artificiale falliscono è scegliendo in modo errato tra troppe opzioni. Per ogni procedura, esponiamo solo un piccolo subset di strumenti rilevanti a Otto. Ad esempio, in un flusso di lavoro di sostituzione della carta, Otto potrebbe vedere solo 1-2 strumenti invece di tutti i 30 registrati nel sistema. Ciò migliora notevolmente l’accuratezza riducendo lo spazio decisionale.

In secondo luogo, abbiamo ricostruito gran parte dell’infrastruttura tipica dell’assistente di intelligenza artificiale per consentire una catena di pensiero approfondita. Piuttosto che semplicemente lanciare procedure a un assistente OpenAI o Anthropic, la nostra architettura consente più passaggi di elaborazione tra input e output. Ciò consente un ragionamento più profondo e risultati più affidabili.

Gradient Labs menziona il raggiungimento di una “qualità sovrumana” nel supporto clienti. Cosa significa “qualità sovrumana” per te e come la misuri internamente?

La qualità sovrumana significa fornire un supporto clienti misurabilmente migliore di quanto possano fare gli esseri umani. I seguenti tre esempi illustrano questo:

Innanzitutto, conoscenza completa. Gli agenti di intelligenza artificiale possono elaborare grandi quantità di informazioni e avere una conoscenza dettagliata di un’azienda. Al contrario, gli esseri umani di solito imparano solo una piccola parte delle informazioni e, quando non sanno qualcosa, devono consultare le basi di conoscenza o escalare ai colleghi. Ciò porta a un’esperienza frustrante in cui i clienti vengono passati tra i team. Un agente di intelligenza artificiale, d’altra parte, ha una comprensione profonda dell’azienda e dei suoi processi, fornendo risposte coerenti e complete – senza escalazione necessaria.

In secondo luogo, ricerche non pigre – l’intelligenza artificiale è veloce nel raccogliere informazioni. Mentre gli esseri umani cercano di risparmiare tempo facendo domande ai clienti prima di indagare, l’intelligenza artificiale esamina proattivamente le informazioni del conto, i flag, gli avvisi e i messaggi di errore prima che la conversazione inizi. Quindi, quando un cliente dice vagamente “ho un problema con X”, l’intelligenza artificiale può offrire immediatamente una soluzione invece di fare molte domande di chiarimento.

Infine, pazienza e coerenza della qualità. A differenza degli esseri umani che affrontano la pressione di gestire un certo numero di risposte all’ora, la nostra intelligenza artificiale mantiene costantemente una qualità elevata, una pazienza e una comunicazione concisa. Risponde con pazienza per tutto il tempo necessario senza affrettarsi.

Misuriamo questo principalmente attraverso i punteggi di soddisfazione del cliente. Per tutti i clienti attuali, raggiungiamo punteggi di soddisfazione del cliente che si aggirano intorno all’80-90% – di solito più alti di quelli dei loro team umani.

Hai deliberatamente evitato di legare Gradient Labs a un singolo fornitore di LLM. Perché questa scelta è stata importante e come influisce sulle prestazioni e sull’affidabilità per i tuoi clienti?

Negli ultimi due anni, abbiamo osservato che i nostri miglioramenti delle prestazioni più grandi sono venuti dalla nostra capacità di passare al miglior modello successivo ogni volta che OpenAI o Anthropic rilasciavano qualcosa di più veloce, migliore o più preciso. L’agilità del modello è stata fondamentale.

Questa flessibilità ci consente di migliorare costantemente la qualità mentre gestiamo i costi. Alcuni compiti richiedono modelli più potenti, altri meno. La nostra architettura ci consente di adattarci ed evolvere nel tempo, selezionando il modello ottimale per ogni situazione.

Alla fine, supporteremo LLM open-source privati ospitati sull’infrastruttura dei clienti. A causa della nostra architettura, questo sarà un passaggio semplice, il che è particolarmente importante quando si serve banche che possono avere requisiti specifici per il deploy dei modelli.

Gradient Labs non sta solo costruendo un chatbot – state anche mirando a gestire i processi back-office. Quali sono le sfide tecniche o operative più grandi nell’automatizzare questo tipo di attività con l’intelligenza artificiale?

Ci sono due categorie distinte di processi, ognuna con le proprie sfide:

Per i processi più semplici, la tecnologia esiste già in gran parte. La sfida principale è l’integrazione – collegarsi ai molti sistemi e strumenti personalizzati utilizzati dalle istituzioni finanziarie, poiché la maggior parte delle operazioni clienti coinvolge numerosi sistemi interni.

Per i processi complessi, rimangono sfide tecniche significative. Questi processi richiedono generalmente che gli esseri umani vengano assunti e formati per 6-12 mesi per sviluppare competenze, come le indagini sulla frode o le valutazioni del riciclaggio di denaro. La sfida qui è il trasferimento delle conoscenze – come facciamo a dare agli agenti di intelligenza artificiale la stessa competenza di dominio? È un problema difficile che tutti nello spazio stanno ancora cercando di risolvere.

Come Gradient Labs bilancia la necessità di velocità e efficienza dell’intelligenza artificiale con i rigorosi requisiti di conformità dei settori regolamentati?

È sicuramente un equilibrio, ma al livello della conversazione, il nostro agente semplicemente prende più tempo per pensare. Valuta molti fattori: Sto capendo cosa sta chiedendo il cliente? Sto dando la risposta corretta? Il cliente sta mostrando segni di vulnerabilità? Il cliente vuole presentare una reclamo?

Questo approccio deliberato aumenta la latenza – il nostro tempo di risposta mediano potrebbe essere di 15-20 secondi. Ma per le istituzioni finanziarie, è un giusto compromesso. Una risposta di 15 secondi è ancora molto più veloce di una risposta umana, mentre le garanzie di qualità sono molto più importanti per le aziende regolamentate con cui lavoriamo.

Prevedi un futuro in cui gli agenti di intelligenza artificiale saranno considerati affidabili non solo per il supporto, ma anche per compiti decisionali ad alto rischio all’interno delle istituzioni finanziarie?

Le istituzioni finanziarie stavano già utilizzando tecniche di intelligenza artificiale più tradizionali per decisioni ad alto rischio prima dell’attuale ondata di intelligenza artificiale generativa. Dove vedo la vera opportunità ora è nell’orchestrazione – non nella presa di decisioni, ma nella coordinazione dell’intero processo.

Ad esempio, un cliente carica documenti, un agente di intelligenza artificiale li instrada a un sistema di convalida, riceve la conferma di validità e poi attiva azioni e comunicazioni adeguate al cliente. Questa funzione di orchestrazione è dove gli agenti di intelligenza artificiale eccellono.

Per le decisioni ad alto rischio in sé, non vedo molti cambiamenti nel breve termine. Questi modelli richiedono spiegabilità, prevenzione dei pregiudizi e approvazione attraverso comitati di rischio dei modelli. I grandi modelli di linguaggio affronterebbero sfide di conformità significative in questi contesti.

Nella tua opinione, come l’intelligenza artificiale ridisegnerà l’esperienza del cliente per le banche, le aziende fintech e altri settori regolamentati nei prossimi 3-5 anni?

Vedo cinque tendenze principali che ridisegneranno l’esperienza del cliente:

Innanzitutto, una vera interazione omnicanale. Immagina di iniziare una chat nella tua app di banking e poi passare senza soluzione di continuità alla voce con lo stesso agente di intelligenza artificiale. Voce, chiamate e chat si fonderanno in un’unica esperienza continua.

In secondo luogo, interfacce utente adattive che minimizzano la navigazione all’interno dell’app. Invece di cercare attraverso i menu per funzioni specifiche, i clienti potranno semplicemente esprimere le loro esigenze: “Per favore, aumenta i miei limiti” – e l’azione avviene immediatamente attraverso la conversazione.

In terzo luogo, migliori economie di unità. Supporto e operazioni sono enormi centri di costo. Ridurre questi costi potrebbe consentire alle banche di servire clienti precedentemente non redditizi o di passare i risparmi agli utenti – specialmente nei segmenti sottobancarizzati.

In quarto luogo, supporto eccezionale su larga scala. Attualmente, le startup con pochi clienti possono fornire supporto personalizzato, ma la qualità di solito si deteriora man mano che le aziende crescono. L’intelligenza artificiale rende possibile un supporto di alta qualità su larga scala, non solo possibile.

Infine, il supporto clienti si trasformerà da una necessità frustrante a un servizio genuinamente utile. Non sarà più visto come un costo infrastrutturale laborioso, ma come un tocco punto cliente efficiente e prezioso che migliora l’esperienza complessiva.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Gradient Labs.