Alex Levin, co-fondatore e CEO di Regal – Serie di interviste

Alex Levi È co-fondatore e CEO di Regal, una piattaforma di intelligenza artificiale vocale che aiuta le aziende a generare fatturato attraverso conversazioni con i clienti conformi e basate sull'intelligenza artificiale. Prima di fondare Regal nel 2020, ha guidato team di crescita e prodotto presso Handy, Thomson Reuters e altre startup. Laureato ad Harvard e membro del Forbes Technology Council, Alex si concentra sulla creazione di un'infrastruttura scalabile e incentrata sulla voce che unisca innovazione e standard di livello enterprise.

Regale Fornisce agenti vocali basati sull'intelligenza artificiale per vendite, supporto, pianificazione e riscossioni, progettati per suonare in modo naturale, integrarsi con i sistemi CRM e gestire milioni di conversazioni su larga scala. La piattaforma offre un generatore senza codice, analisi in tempo reale, test A/B e conformità integrata per settori regolamentati come sanità, assicurazioni e servizi finanziari.

Cosa ti ha spinto a passare dai ruoli dirigenziali in Angi e Handy alla fondazione di Regal? E c'è stato un momento specifico in cui tu e il tuo co-fondatore avete capito che l'esperienza del contact center doveva essere completamente ricostruita?

Durante il nostro periodo in Angi/Handy, abbiamo constatato l'importanza della voce nel costruire la fiducia dei clienti. I clienti ci hanno riferito che, quando avevano un problema importante da contattare, i clienti che servivamo al telefono avevano un lifetime value più elevato e, quando li chiamavamo, rispondevano a una frequenza molto più alta rispetto a qualsiasi altro canale. Eppure, i fornitori di software per contact center si concentravano su "deviazioni" e "automazione" anziché su ciò che era giusto per i clienti. Il risultato è stato un gioco infinito di "nascondi numero" che puniva inutilmente i clienti.

Io e il mio co-fondatore ce ne siamo andati perché eravamo fermamente convinti di poter rendere la voce il canale più efficace, riducendo i costi e semplificandone l'utilizzo. Avrei voluto avere Regal quando gestivo un grande contact center.

Avete lanciato Regal nel 2020, poco prima del boom dell'intelligenza artificiale generativa. Come avete valutato la fattibilità tecnica dell'intelligenza artificiale vocale e cosa vi ha spinto ad agire tempestivamente?

Già prima del 2020 eravamo convinti che la voce fosse il canale più importante. E nel 2020 sapevamo di poter sviluppare strumenti di orchestrazione, test A/B e personalizzazione che avrebbero ridotto i costi e semplificato la gestione della voce come canale, che si trattasse di un essere umano, di un bot vocale di vecchia scuola o di qualcosa di più avanzato. Così, fin dall'inizio, abbiamo venduto strumenti per i contact center per gestire al meglio gli operatori umani. Quel prodotto è cresciuto molto rapidamente.

Ma tornando al tuo punto, avviare un'azienda è un atto di fede, e ci è voluto del tempo per capire davvero come potevamo andare oltre i limiti degli agenti umani. Solo con il lancio di ChatGPT alla fine del 2022 abbiamo visto un'intelligenza artificiale sufficientemente valida da sostenere una conversazione. E solo alla fine del 2023 siamo riusciti a realizzare una demo di un operatore vocale con cui pensavamo che un cliente avrebbe voluto parlare.

Quali sono state alcune delle sfide tecniche più difficili da affrontare nella formazione di agenti vocali in grado di eguagliare o superare le prestazioni umane nelle conversazioni naturali?

Ci sono così tante sfide tecniche meravigliose su cui lavorare. Dal garantire che la latenza sia intorno ai 500 ms, a scoprire come garantire che gli agenti di intelligenza artificiale siano in grado di avere tutto il contesto delle knowledge base aziendali e dei dati dei clienti in tempo reale, a far sì che gli agenti di intelligenza artificiale intervengano durante e dopo le chiamate, ai guardiani o alle funzionalità di sicurezza, e a come rendere l'interazione degli agenti umana con i turni di chiamata e i giusti segnali verbali.

Uno dei miei progetti preferiti su cui sta lavorando oggi il nostro team è come migliorare le valutazioni automatizzate in modo che un agente di intelligenza artificiale possa essere testato più facilmente prima di essere messo in produzione. Questo eliminerebbe centinaia di ore di controllo qualità manuale che oggi vengono eseguite costantemente per ogni modifica a ogni agente di intelligenza artificiale.

Dobbiamo prima creare centinaia di conversazioni simulate con i clienti (utilizzando l'intelligenza artificiale), farle analizzare dall'agente di intelligenza artificiale, quindi farle controllare dal supervisore di intelligenza artificiale e fornire suggerimenti di miglioramento all'agente di intelligenza artificiale o alle policy e alla knowledge base dell'azienda. Ora disponiamo di un prodotto di valutazione funzionante, il feedback dei clienti è stato ottimo e sta migliorando a un ritmo sorprendente.

Questo è fondamentale per la nuova metrica del conteggio dei manager per agente di intelligenza artificiale. Presto saranno pochissimi i manager in grado di gestire centinaia di agenti di intelligenza artificiale diversi.

In che modo Regal sfrutta l'apprendimento automatico per personalizzare le conversazioni in tempo reale? Si basa sulla cronologia del cliente, sul tono, sul riconoscimento dell'intento o su una combinazione di questi fattori?

Abbiamo investito molto nella personalizzazione rispetto al resto del mercato perché crediamo nell'importanza di aiutare i brand a testare milioni di clienti, come se ne trovassero uno su un milione. Non limitandoci a ricreare la gestione generica da parte di un agente umano, spesso utilizzata oggi.

Abbiamo iniziato creando un profilo cliente unificato che collega ogni dato CRM, i dati degli eventi e la cronologia delle conversazioni. Costruendo un agente, le aziende possono quindi consentire all'agente AI di accedere a tutti i dati relativi a un cliente o solo ai dati specifici necessari per una determinata conversazione. L'LLM fornisce una risposta conversazionale di tipo umano utilizzando i dati a disposizione.

Gli LLM sono ancora limitati in ciò che fanno bene, quindi avevamo bisogno della possibilità di sfruttare altri strumenti come servizi dati di terze parti, applicazioni personalizzate e ML. Abbiamo quindi creato "Azioni personalizzate" che possono essere utilizzate in un prompt di un agente di intelligenza artificiale per sfruttare altri servizi. Ad esempio, molti marchi hanno modelli di propensione per indicare quale prodotto suggerire successivamente al cliente e possiamo agganciarli in base alla conversazione.

In che modo il vostro sistema utilizza la generazione aumentata del recupero (RAG) senza sacrificare la reattività o la cadenza naturale che i clienti si aspettano da una chiamata in diretta?

Per noi, la RAG rappresenta un'area di differenziazione, poiché doveva essere più veloce per gli agenti AI vocali rispetto agli agenti AI in chat o altri canali digitali. Pochi secondi di inattività avrebbero rovinato completamente la chiamata.

Abbiamo entrambi ridotto la latenza del recupero e fatto in modo che, se il recupero avesse richiesto più tempo, l'agente AI potesse continuare a parlare con il cliente per fargli sapere che ci sarebbe voluto più tempo.

Gli agenti di Regal sono modellati su voci umane reali, comprese quelle di veri investitori. Cosa serve, tecnicamente ed eticamente, per costruire repliche così fedeli?

È sorprendentemente facile, dal punto di vista tecnico, "clonare" una voce in modo che un agente AI possa sembrare un doppiatore professionista o un amico. Bastano 5-10 minuti di audio di alta qualità.

Ad esempio, di recente mi è stato chiesto come fare per un familiare morente, in modo che le generazioni più giovani possano farne esperienza quando saranno più anziane. Quindi, con un po' di aiuto, registreranno il nonno morente ora.

Per quanto riguarda il tuo secondo punto, il nonno acconsente a questo, e i doppiatori professionisti o i nostri investitori acconsentono. I doppiatori malintenzionati che consentono la clonazione della voce senza consenso (come è successo durante le ultime elezioni presidenziali) dovrebbero essere chiusi.

Un consiglio: se consenti la clonazione vocale (o se sei un personaggio pubblico che potrebbe essere clonato da malintenzionati), assicurati di inventare una parola di sicurezza che solo la tua famiglia conosce, in modo che possano identificare la tua vera identità durante una chiamata.

Sottolinei l'importanza di integrare Regal nei CRM, nei sistemi di pagamento e nelle API interne. Quali sono state le sfide di integrazione più difficili che avete dovuto risolvere?

L'integrazione con i principali prodotti, dai CRM come Salesforce ai software per contact center come NICE, è semplice. La sfida più ardua è assicurarsi che il brand metta a disposizione le API per qualsiasi azione l'agente AI possa dover intraprendere. Un agente umano potrebbe cliccare su un pulsante per prenotare una camera d'albergo. Ma l'agente AI ha davvero bisogno di un'API di prenotazione.

Come si affronta la misurazione e il miglioramento delle prestazioni del modello nel tempo? Quale ruolo svolgono la messa a punto supervisionata o l'apprendimento per rinforzo in questo processo?

Abbiamo creato fin dall'inizio una suite di test A/B, in modo che sia semplice per i clienti testare agenti di intelligenza artificiale rispetto ad agenti umani o agenti con LLM versione 1 rispetto alla versione 2. Questo ci offre un modo chiaro per vedere le variazioni nei risultati per diversi modelli.

Tuttavia, al momento non utilizziamo il reinforcement learning perché mette a disagio i team legali (non vogliono una situazione in cui si verifichi una modifica indesiderata all'odore). Credo che manchino 13 mesi all'introduzione del reinforcement learning nel nostro caso d'uso. Oggi ci concentriamo invece sul suggerire modifiche che un manager umano possa accettare. Queste potrebbero riguardare un prompt, una knowledge base, la messa a punto di un LLM, ecc.

Parlare con un VC, o con un suo clone vocale, è un'idea audace. Qual era il vostro obiettivo nel mettere a disposizione dei fondatori questi consulenti basati sull'intelligenza artificiale e come vengono utilizzati oggi?

Siamo stati fortunati ad avere accesso a investitori straordinari e volevamo ricambiare il favore con questo progetto. Mi diverto a parlare con Satya AI in qualsiasi momento e ho ricevuto ottimi feedback dai dirigenti che si sono avvalsi dei VC di AI per qualsiasi cosa, dai consigli su come creare una roadmap di prodotto al modello di prezzo da utilizzare.

Ci piace mostrare piuttosto che raccontare, e questo progetto mette davvero in luce la potenza delle nostre competenze RAG/knowledge base. Abbiamo persino ricevuto il via libera dai genitori di due dei nostri investitori!

Ma un consiglio ai saggi: non è possibile delegare il processo decisionale ai consulenti e uno degli aspetti più difficili dell'essere un dirigente è decidere tra due opzioni sbagliate o addirittura tra due opzioni apparentemente troppo buone.

Questi agenti investitori si basano su conoscenze generali sulle startup oppure sono formati su consigli e filosofie aziendali specifiche legate al singolo VC?

Tutti gli agenti di intelligenza artificiale hanno una conoscenza generica acquisita durante la formazione LLM. Ma per ottenere i risultati di cui avevamo bisogno, abbiamo caricato i numerosi scritti degli investitori nelle rispettive Knowledge Base degli agenti di intelligenza artificiale.

Oltre a questo e alla clonazione delle voci, penso che siamo anche riusciti a catturare alcune delle personalità o dell'essenza uniche degli investitori, come la positività di Jake Saper o l'esuberanza di Alexa Von Tobel.

Guardando al futuro, come pensi che evolverà l'intelligenza artificiale di Regal: assisteremo a un processo decisionale più autonomo, a una maggiore intelligenza emotiva o addirittura a un supporto multimodale?

L'aspetto più entusiasmante dell'ultimo anno è stato vedere i nostri agenti di intelligenza artificiale performare meglio degli agenti umani. Credo che nel prossimo anno, i miglioramenti nei modelli di intelligenza artificiale sottostanti e i progressi nell'applicazione di Regal daranno vita ad agenti di intelligenza artificiale indistinguibili dagli esseri umani e, cosa ancora più importante, che supereranno di gran lunga le capacità degli agenti umani. Le aziende che si affidano agli agenti di intelligenza artificiale ridurranno i costi e miglioreranno l'esperienza del cliente più velocemente di quanto chiunque si aspettasse.

Grazie per l'ottima intervista, i lettori che desiderano saperne di più dovrebbero visitare Regale.