Will Bodewes, cofondatore e CEO di Phonely – Serie di interviste

Will Bodewes è cofondatore e CEO di Phonely, un’azienda specializzata nell’IA vocale che aiuta le imprese a rispondere alle chiamate e a migliorare l’esito delle conversazioni con i clienti. Prima di fondare l’azienda, ha intrapreso un dottorato di ricerca presso la University of Melbourne, studiando l’intelligenza artificiale applicata e i sistemi capaci di seguire istruzioni comunicando in modo naturale. In precedenza ha fondato una startup nel settore delle tecnologie audio e ha gareggiato nello sci di fondo NCAA e nel ciclismo di ultra-endurance. In Phonely mette a frutto la sua esperienza di ricerca per affrontare le sfide pratiche legate all’implementazione degli agenti vocali, tra cui l’affidabilità delle conversazioni, la latenza, le integrazioni e l’ottimizzazione continua dei flussi di lavoro relativi a prenotazioni, vendite e assistenza clienti.

Phonely è una piattaforma di agenti vocali basati sull’IA che consente alle imprese di automatizzare le conversazioni telefoniche, fissare appuntamenti, qualificare i potenziali clienti, inoltrare le chiamate e collegare le interazioni con i clienti ai software già in uso. I suoi strumenti combinano flussi di conversazione personalizzabili con cronologie delle chiamate, strumenti di analisi e test A/B, così che i team possano misurare le prestazioni e migliorare i risultati nel tempo. L’azienda serve organizzazioni che vanno dalle piccole imprese alle grandi aziende e afferma di supportare più di 10.000 imprese e gestire oltre 120.000 chiamate al giorno. Phonely sviluppa anche modelli conversazionali proprietari, tra cui Alma, con l’obiettivo di rendere le chiamate automatizzate più rapide, affidabili e adatte alle conversazioni aziendali nel mondo reale.

Hai iniziato a sviluppare Phonely mentre frequentavi un dottorato di ricerca in IA presso la University of Melbourne, concentrandoti inizialmente sulla creazione di sistemi capaci di seguire istruzioni comunicando in modo naturale. Cosa ti ha convinto che l’IA vocale fosse arrivata al punto di poter sostenere un’azienda indipendente e cosa hai notato nel mercato che agli altri era sfuggito?

All’epoca non c’erano prove che l’IA vocale potesse sostenere un’azienda indipendente. C’erano un paio di aziende che ci stavano lavorando e avevano circa cinque o 10 utenti, ma nessuno era riuscito a implementare con successo un’IA vocale che non fosse un sistema IVR. Quindi, quando abbiamo fondato Phonely, è stata una scommessa. All’epoca tutto era incentrato sulle chat, quindi la voce rappresentava un nuovo mezzo. Era un problema ancora irrisolto, perciò ci siamo chiesti: «Perché non provarci? Perché non tentare di risolverlo?»

La tua ricerca di dottorato è iniziata con l’obiettivo di creare un’IA capace di «seguire le istruzioni come un robot e parlare come una persona». Quali progressi tecnici ti hanno fatto capire che questa ricerca poteva diventare la base di una piattaforma commerciale di IA vocale?

La ricerca è stata preziosa e importante per comprendere la tecnologia fondamentale alla base di ciò che stava accadendo. Mi ha permesso di guardare oltre e capire cosa stava per arrivare. Avevo le competenze tecniche per capire cosa fossero questi modelli e come funzionassero, e questo mi ha dato la possibilità di scommetterci. In particolare, volevo fondare un’azienda e avere un impatto, e questo era l’ambito più vicino a ciò che conoscevo e a ciò che riuscivo a prevedere. Volevo farne parte.

Hai descritto ogni telefonata come un percorso di conversione che, storicamente, le imprese non sono riuscite a ottimizzare in modo sistematico. In cosa consiste, concretamente, ottimizzare una conversazione telefonica e in che modo l’IA può migliorare nel tempo le conversioni, i tassi di risoluzione o l’esperienza dei clienti?

Supponiamo che tu stia fissando un appuntamento con un idraulico. La persona al telefono è formata per raccogliere i tuoi dati e fissare l’appuntamento, ma, a seconda di come pone le domande, potrebbe anche farti conoscere servizi che non sapevi facesse parte dell’offerta dell’azienda. Potresti quindi fissare un appuntamento per un problema idraulico e scoprire che avevi bisogno anche di riparare il lavandino. Un agente vocale basato sull’IA, se ben addestrato, fa la stessa cosa e aiuta l’azienda a proporre ai clienti ulteriori prodotti o servizi e a generare più ricavi. Potrebbe proporti un prodotto su cui un nuovo addetto alla reception non ha ricevuto formazione e aggiungere un’altra voce all’ordine, rendendo il cliente più soddisfatto e migliorando i risultati per l’azienda. Una semplice interfaccia vocale di ChatGPT non sa farlo. Serve un prodotto progettato e addestrato per questo scopo.

Inoltre, le persone possono non accorgersi delle chiamate, non rispondere al telefono o inoltrare le chiamate alla segreteria. Questo può decretare la fine delle piccole imprese negli Stati Uniti. Non hanno personale che risponda al telefono, non riescono a garantire una qualità costante e non hanno modo di ottimizzarla. Con l’IA, se una chiamata non produce il risultato desiderato dall’azienda, possiamo ottimizzarla usando i dati a nostra disposizione. Grazie alla velocità dell’IA, possiamo modificare la conversazione, cosa che con le persone non sarebbe possibile fare altrettanto rapidamente.

Al momento tutti guardano all’IA per ridurre i costi. Noi, però, pensiamo che dovrebbero considerarla uno strumento di crescita. Le imprese possono davvero crescere adottando l’IA e ottenere risultati migliori rispetto al passato.

L’IA vocale deve affrontare sfide che spesso l’IA basata sul testo può evitare, tra cui latenza, interruzioni, accenti, rumori di fondo, segnali emotivi e conversazioni imprevedibili. Quale di questi problemi è stato più difficile da risolvere in modo affidabile su scala aziendale?

La latenza è il problema principale. Ora l’abbiamo risolto, ma agli inizi è stata una grossa difficoltà per due motivi.

Per prima cosa, costruivamo basandoci su startup che non erano affidabili. Una parte significativa delle richieste API inviate a OpenAI non andava a buon fine e non ricevevamo alcuna risposta. Al telefono, è come riattaccare, quindi abbiamo dovuto predisporre dei nuovi tentativi.

Il secondo problema era la capacità. Quando inviavi una richiesta a OpenAI, rimanevi bloccato in coda dietro centinaia o migliaia di altre richieste, senza sapere in quale punto della coda ti trovassi. La risposta poteva tardare 30 secondi. Per aggirare il problema, abbiamo esaminato la posizione degli endpoint di OpenAI nel mondo e abbiamo cambiato gli endpoint a cui ci collegavamo in base ai paesi in cui era notte e la domanda era bassa. Abbiamo dovuto costruire tutta questa infrastruttura solo per individuare gli endpoint con la domanda più bassa in quel momento. È stato un problema tecnico piuttosto interessante. Ora addestriamo i nostri modelli, tra cui Alma, quindi non dobbiamo preoccuparcene, perché gestiamo direttamente la capacità di calcolo e la domanda.

Oggi Phonely gestisce oltre 120.000 chiamate al giorno per migliaia di aziende. Cosa avete imparato gestendo agenti vocali su questa scala che non era evidente quando stavate realizzando la prima versione della piattaforma?

È davvero importante essere operativi il 100% del tempo. Una delle sfide ingegneristiche più difficili che abbiamo affrontato è stata garantire affidabilità e velocità. Il settore dell’IA si muove a una velocità incredibile, e noi procediamo rapidamente persino per un’azienda che opera nell’IA. A Y Combinator si dice: «Muoviti in fretta e rompi le cose». Ma quando i clienti fanno 120.000 chiamate al giorno, non puoi permetterti di rompere le cose. Gran parte del nostro lavoro è quindi consistito nel capire come rilasciare aggiornamenti con la rapidità necessaria per restare rilevanti e migliorare iterativamente il prodotto, mantenendo al tempo stesso soddisfatti e operativi i clienti aziendali, mentre continuiamo a sviluppare nuove funzionalità per restare un passo avanti sul mercato. La questione dell’affidabilità è stata probabilmente una delle sfide maggiori che abbiamo affrontato nella costruzione dell’azienda.

I sistemi di IA generativa possono comportarsi in modo imprevedibile, ma un agente telefonico a contatto con i clienti potrebbe gestire pagamenti, prenotazioni, domande sanitarie o altre interazioni ad alto rischio. Come progettate agenti vocali che restino flessibili e conversazionali senza allucinare né agire oltre i limiti delle autorizzazioni?

Lo abbiamo capito a nostre spese circa due anni fa e oggi è una pratica piuttosto diffusa in tutto il settore. Ci siamo resi conto che il problema principale degli LLM è il contesto. Quando inserisci troppe informazioni in un prompt, per esempio pagine di istruzioni, aumenta la probabilità che qualcosa vada storto.

Abbiamo quindi progettato un sistema di orchestrazione con otto agenti, che trasferisce la conversazione da un agente all’altro e assegna a ciascuno un contesto circoscritto. È simile a quando una persona segue uno script durante una chiamata: riceve alcune informazioni, passa alla fase successiva e così via. Questo ci consente di separare le fasi a livello di codice. Se dovessi raccogliere il tuo nome, indirizzo e-mail, numero di telefono e data di nascita prima di concederti un rimborso, potrei garantire che queste informazioni vengano raccolte a livello di codice prima di procedere. Non puoi garantirlo se ti affidi soltanto a un LLM. Creando questo livello di orchestrazione degli agenti, puoi portare l’affidabilità al 100%, perché tutte le fasi vengono completate prima di passare a un nuovo agente, che conserva il contesto ma opera attenendosi esclusivamente alle proprie istruzioni.

Secondo quanto riferito, in soli tre mesi un’implementazione di Phonely ha generato per un cliente 10 milioni di dollari di nuovi ricavi netti. Come ha fatto l’IA a produrre un impatto aziendale così misurabile e dove pensi che l’IA vocale possa offrire oggi il ROI più elevato?

Ci siamo riusciti perché avevamo accesso alle metriche del cliente. Poiché si trattava di chiamate in entrata, puntavano a incrementare le vendite e qualificavano i chiamanti, perciò potevamo monitorare i risultati. A seconda del giorno, il loro call center raggiungeva un tasso di vendita compreso tra il 35% e il 42% circa. Dopo aver ricevuto queste informazioni dal cliente, abbiamo preso i suoi flussi e ottimizzato l’agente. Siamo partiti da un tasso di vendita di circa il 20%. Nei mesi successivi abbiamo apportato modifiche e ottimizzazioni, fino a superare il call center nella maggior parte dei casi. Il nostro tasso di vendita ha continuato a crescere perché abbiamo individuato i problemi e fatto in modo che l’esperienza fosse sempre coerente e impeccabile. Siamo riusciti a superare un call center.

Man mano che gli agenti vocali diventano più capaci, dove dovrebbero tracciare le aziende il confine tra le conversazioni che possono essere completamente automatizzate e le situazioni in cui è necessario che intervenga una persona?

Le aziende dovrebbero poter automatizzare qualsiasi processo ripetibile che desiderano venga seguito, purché sia definito con sufficiente precisione.

L’automazione, però, diventa difficile in alcuni ambiti. Il primo riguarda le integrazioni senza API: supponiamo che serva un’integrazione, ma che quel software non disponga di un’API. È difficile trovare una soluzione, anche se è possibile ricorrere ad alcune automazioni tramite browser. Un altro caso è quello in cui si verificano più passaggi da un agente a una persona e poi di nuovo a un agente. Il terzo riguarda le lacune di contesto. Supponiamo che abbia dimenticato il portafoglio al ristorante. È una situazione che l’IA non sarà mai in grado di risolvere, perché non sa se hai con te il portafoglio e non può verificare se si trova al ristorante.

Ci saranno sempre situazioni in cui servirà una persona, così come attività più complesse che si snodano tra più sistemi. In questi casi, è meglio non usare un agente.

Phonely ha recentemente raccolto 16 milioni di dollari in un round di Serie A, dopo aver superato quota 10.000 aziende. Quale sarà la prossima fase per l’azienda e quali capacità tecniche, secondo te, distingueranno la prossima generazione di piattaforme di IA vocale?

La prossima fase consiste nell’ampliare il team e continuare a investire in esso. Puntiamo tutto su questa idea. Molte aziende si stanno avventurando nel campo dell’IA vocale e probabilmente riusciranno a ottenere risultati discreti in diversi ambiti. Ma noi non stiamo semplicemente sviluppando un agente vocale. Stiamo creando una piattaforma di ottimizzazione e utilizziamo la voce come canale. Per le aziende che puntano sui lead e vogliono che le telefonate generino ricavi, il nostro obiettivo è ottimizzare gli agenti di IA affinché raggiungano i risultati desiderati dai clienti. Pensa a Phonely come a un’azienda specializzata nell’ottimizzazione, a cui le persone si rivolgono per migliorare le prestazioni dei propri agenti.

La tua ricerca accademica ha anche esplorato l’uso dell’IA e della tecnologia dei contatori intelligenti per ampliare l’accesso all’energia e a metodi di cottura puliti nelle economie in via di sviluppo. Guardando oltre Phonely, come pensi che si possa applicare l’IA a grandi problemi del mondo fisico, come l’accesso all’energia? E speri, in ultima analisi, di tornare a occuparti di questo ambito?

L’IA può contribuire a fare molte cose positive, ma molti dei problemi esistenti sono causati dalle persone, quindi il cambiamento deve partire anche da quel versante. Non tutti i problemi si possono risolvere con la tecnologia. Ma permettere che il progresso tecnologico e il cambiamento umano avvengano simultaneamente è ciò che avrà un impatto positivo netto sul mondo.

Grazie per la splendida intervista. I lettori che desiderano saperne di più possono visitare Phonely.