Ryan McDonald, Chief Scientist at ASAPP – Intervista

Ryan McDonald è il Chief Scientist di ASAPP. È responsabile dell’indirizzo della ricerca e dei gruppi di scienza dei dati per raggiungere la visione di ASAPP di aumentare l’attività umana in modo positivo attraverso l’avanzamento dell’AI. Il gruppo si concentra attualmente sull’avanzamento del campo del dialogo orientato alle attività in situazioni del mondo reale come l’assistenza clienti. In tali ambienti dinamici ci sono molte parti interagenti: la conversazione tra il cliente e l’agente; l’ambiente e gli strumenti che l’agente sta utilizzando; diverse misure di successo; un’ampia gamma di esigenze e situazioni dei clienti. Ottimizzare questo ambiente per condurre a risultati di qualità per i clienti, gli agenti e le aziende richiede un significativo investimento di ricerca in recupero, generazione del linguaggio, ottimizzazione vincolata, apprendimento e, criticamente, valutazione.

Ryan lavora sul comprendere il linguaggio e l’apprendimento automatico da oltre 20 anni. Il suo lavoro di dottorato alla University of Pennsylvania si è concentrato su metodi di apprendimento automatico innovativi per la previsione strutturata in NLP, in particolare l’estrazione di informazioni e l’analisi sintattica. A Penn, la sua ricerca è stata fondamentale per far crescere i campi dell’analisi delle dipendenze e dell’adattamento del dominio nella comunità NLP. Dopo il dottorato, Ryan si è unito al gruppo di ricerca di Google (GOOGL ). Lì ha condotto ricerche sull’analisi dei sentimenti e sui modelli di riassunto per le recensioni dei consumatori, che hanno portato a uno dei primi sistemi di riassunto dei consumatori su larga scala consumati da milioni di utenti ogni giorno.

La ricerca di Ryan si è poi concentrata sull’analisi del linguaggio multilingue su larga scala. Inizialmente, la sua ricerca si è concentrata sull’miglioramento della traduzione automatica, ma l’importanza crescente della multilinguità nel recupero delle informazioni e negli assistenti digitali ha portato la sua ricerca verso l’internazionalizzazione di queste tecnologie importanti. Il team di Ryan è stato fondamentale nello sviluppo di Google Assistant come tecnologia globale. Durante questo periodo, ha anche guidato il consorzio Universal Dependencies con un grande insieme di collaboratori accademici. Questo è il più grande consorzio di dati multilingui finalizzato alle risorse linguistiche sintattiche. Dopo oltre un decennio di lavoro su prodotti per i consumatori, Ryan ha cambiato marcia verso l’impresa e ha guidato numerosi progetti NLP e ML per migliorare i servizi Cloud di Google, tra cui l’API NLP di base, le soluzioni per Call Center AI e la scoperta della conoscenza dalla letteratura scientifica. La ricerca di Ryan su NLP e ML per l’impresa continua ad ASAPP.

Ryan ha pubblicato oltre 100 articoli di ricerca in riviste e conferenze di alto livello che sono stati citati migliaia di volte. Ha vinto premi per il miglior articolo alle conferenze internazionali di primo piano (EMNLP, NAACL) per il suo lavoro sull’analisi sintattica multilingue. Il suo libro “Analisi delle dipendenze” ha servito come una delle principali risorse pedagogiche nell’analisi sintattica per oltre un decennio. Oltre a servire come presidente di area in quasi tutte le conferenze NLP e ML di primo livello, è stato un editore per le due riviste principali del settore – Transactions of the Association for Computational Linguistics e Computational Linguistics. Ha consigliato numerosi studenti di dottorato e interni e ha tenuto discorsi invitati alle principali conferenze, workshop e università di tutto il mondo.

Cosa ti ha inizialmente interessato al machine learning e, più specificamente, al processing del linguaggio naturale?

Ero uno studente con una doppia laurea in informatica e filosofia. Ero particolarmente interessato alla filosofia dell’AI e agli aspetti più pratici di come funziona l’AI. Ero abbastanza fortunato da ottenere un progetto di ricerca con Gerald Penn alla University of Toronto che si concentrava su la riassunto delle notizie per i telefoni cellulari. Questo era oltre 20 anni fa e utilizzava metodi molto primitivi rispetto agli standard di oggi. Gerald era un grande mentore e mi ha fatto interessare ai modelli formali per la struttura del linguaggio (sintassi e semantica). Ero affascinato dalla complessità del linguaggio e dai framework matematici per spiegare i fenomeni che gli esseri umani analizzano naturalmente ogni giorno. Intorno a quel periodo, i motori di ricerca erano onnipresenti e potevo vedere il grande vantaggio per il NLP e il ML nel futuro.

Hai pubblicato oltre 100 articoli di ricerca in riviste e conferenze di alto livello che sono stati citati migliaia di volte, secondo te, quale di questi è stato il più influente?

Questa è sempre una domanda difficile da rispondere. E con il passare del tempo, credo che la mia risposta cambi. Se mi avessi chiesto alcuni anni fa, sarebbe stato il lavoro che ho fatto sull’utilizzo di algoritmi del grafo per l’analisi delle dipendenze. Questo articolo, insieme al lavoro di Joakim Nivre, ha generato oltre un decennio di rapida ricerca sull’analisi delle dipendenze sintattiche, che ha avuto un grande impatto sull’adozione del NLP nelle aziende tecnologiche, compreso un enorme lavoro che i miei colleghi e io abbiamo fatto a Google per la Ricerca, la Traduzione, l’Assistente, ecc.

Tuttavia, con l’adozione rapida delle reti neurali, l’utilizzo di rappresentazioni sintattiche discrete del linguaggio è diminuito. Ora direi che è il lavoro seminale che ho fatto con John Blitzer e Fernando Pereira sull’adattamento del dominio. I metodi che abbiamo utilizzato in quel lavoro non sono più molto rilevanti oggi, tuttavia, credo che quel lavoro (insieme al lavoro contemporaneo di Hal Daume) abbia consolidato la cornice del problema e la sua importanza per il settore. Ora che lavoro esclusivamente nell’impresa, sono molto consapevole dei problemi che abbiamo sollevato allora e che dobbiamo ancora risolvere.

Hai trascorso la maggior parte della tua carriera a Google aiutando a costruire tecnologie NLP e ML all’avanguardia e a portarle in produzione. Quali sono stati alcuni dei tuoi principali take-away da questa esperienza?

Il mio take-away principale sarebbe che, quando si costruiscono modelli NLP e ML, non si può mai prevedere quando le cose possono andare male. È necessario essere ossessionati dai dati, dall’analisi degli errori, dalle metriche, ecc. in tutti i punti del processo. Provare a indovinare i punti deboli è spesso futile e spesso è più efficiente costruire modelli end-to-end il più rapidamente possibile e adattarsi.

Come ricercatori NLP/ML, ci concentriamo su dove il modello potrebbe rompersi e quali assunzioni di modellazione non terranno quando la gomma incontra la strada. Ma spesso è l’elaborazione dei dati o l’esperienza utente che è la chiave per creare prodotti NLP/ML di successo. Solo quando queste sono solide possiamo realmente iterare sulla qualità per ottenere tutto il valore dei modelli.

All’inizio del 2021, ti sei unito ad ASAPP come chief scientist, un’azienda che offre strumenti AI per potenziare gli agenti di servizio clienti, cosa ti ha attirato in questa posizione?

Per una risposta più completa, leggi il mio post del blog su questo argomento. Ma per sintetizzare, i motivi principali sono:

• I problemi sono difficili. Gli agenti che sono coinvolti in interazioni di servizio clienti difficili devono portare molte informazioni e esperienze a bear sulle loro conversazioni per risolvere i problemi dei clienti. Costruire modelli che aggiungono valore su una grande quantità di conoscenza di dominio è difficile, in particolare quando i segnali sono deboli. Ad esempio, il punteggio di soddisfazione del cliente era basso perché l’agente ha fatto qualcosa di sbagliato o perché il cliente era semplicemente generalemente arrabbiato?
• Le aziende e gli agenti che lavorano in questo spazio sono super entusiasti dell’AI che li aiuterà a migliorare l’esperienza del cliente. Non combattono i progressi, ma li vedono come strumenti critici per risolvere problemi reali che hanno. Avere quel tipo di partner impegnato è incredibile.
• Infine, a differenza delle tecnologie consumer, l’insieme di domini e problemi in un ambiente aziendale è così eterogeneo che l’adattamento (vedi la mia risposta alla domanda 2) è il problema che deve essere risolto. Non possiamo semplicemente costruire servizi per un’azienda o un’industria, ma per tutte. Questo è un test di stress così grande per lo stato dell’AI oggi.
• ASAPP è singularmente focalizzato su questo problema.

Potresti discutere la visione di ASAPP di aumentare l’attività umana in modo positivo attraverso l’avanzamento dell’AI?

La nostra ipotesi centrale ad ASAPP è che l’AI non dovrebbe sostituire gli esseri umani, ma aumentarli in modi positivi e produttivi. Questa visione è ampia e abbiamo ambizioni di applicarla a tutte le attività umane rilevanti. Tuttavia, poiché questo è un mandato ampio, il primo settore su cui abbiamo scelto di concentrarci è il dominio dell’esperienza del cliente.

Il dominio dell’esperienza del cliente incarna tutte le sfide e i vantaggi che derivano dall’aumentare l’attività umana. Gli agenti sono coinvolti in compiti di risoluzione di problemi complessi che richiedono loro di seguire flussi di lavoro, recuperare informazioni rilevanti dalle basi di conoscenza dei clienti e adattarsi a situazioni sfumate in cui un cliente potrebbe trovarsi. Ciò dà origine a un enorme numero di opportunità per l’AI di migliorare quel processo. Tuttavia, pensiamo che sia importante farlo in modo positivo, ovvero:

• L’aumento avviene in punti che sono naturali e fluidi durante il corso del lavoro dell’agente. Questo è critico. Se l’AI sta interferendo o interrompendo in momenti scomodi o con una latenza scarsa, ciò avrà effettivamente un impatto negativo sull’esperienza dell’agente, poiché dovranno consapevolmente ignorare l’AI.
• Ancor più criticamente, vogliamo che l’AI raggiunga risultati positivi per tutti gli esseri umani coinvolti. In questo caso è il cliente, l’agente e l’organizzazione. I clienti vogliono che i loro problemi vengano gestiti in modo efficiente ed efficace. Gli agenti vogliono farlo per i clienti. Inoltre, gli agenti stanno facendo un lavoro difficile, spesso trattando con clienti insoddisfatti. L’AI dovrebbe aiutarli a bilanciare il lavoro e il carico cognitivo per ridurre la stanchezza e il burnout e aumentare la soddisfazione lavorativa. Dopotutto, gli agenti dei call center hanno uno dei tassi di turnover più alti (fino al 100% all’anno in alcuni call center) di qualsiasi lavoro in America. Infine, vogliamo risultati aziendali positivi per l’azienda che gestisce il call center. Ciò può essere la soddisfazione del cliente, il throughput delle questioni che possono essere gestite in un giorno o anche la quantità di vendite.

Per i call center, spesso pensiamo che i risultati positivi tra il cliente, l’agente e l’azienda siano in conflitto tra loro. Ma un buon AI aiuterà a ottimizzare per tutti e tre.

Potresti discutere l’attuale anatomia AI di un call center?

Oggi, quasi ogni fase del tuo contatto con un call center ha una forma di AI che guida o informa su come viene gestito il problema.

Il primo passo è una risposta interattiva vocale (IVR) o un chat bot. Questo è completamente automatico e il suo scopo principale è capire perché un cliente sta chiamando e indirizzarlo di conseguenza. Potenzialmente, questi sistemi possono raccogliere quanta più informazione possibile prima di inviare il cliente a un agente per massimizzare la possibilità che l’agente possa risolvere rapidamente il problema. Molti bot moderni possono anche risolvere direttamente il problema dell’utente senza richiedere un agente, chiamato “contenimento” poiché la chiamata non richiede intervento umano. Ciò può essere ottenuto raccomandando FAQ o semplicemente eseguendo una semplice attività per il cliente.

Dopo di questo, la chiamata va all’agente. Una volta all’agente, il ruolo principale dell’AI è guidare e fare suggerimenti all’agente. Cosa dovrebbero dire dopo? Quale flusso dovrebbero seguire? Quali articoli della base di conoscenza aiuteranno a risolvere il problema? Questi modelli sono solitamente addestrati su dati storici e ottimizzati per alcuni indicatori di prestazione chiave, che possono essere il tempo di gestione (quanto rapidamente il problema è stato risolto) o il punteggio di soddisfazione del cliente (il cliente era felice dell’esperienza).

Una volta che la chiamata o la chat è finita, l’AI è ancora al lavoro. Nella maggior parte dei call center, l’agente lascerà informazioni strutturate e note su cosa è successo durante la chiamata. Ciò è per scopi analitici, ma anche per qualsiasi agente successivo che prenderà in carico il problema se non è stato risolto. L’AI aiuta con tutti questi passaggi.

Infine, in un call center, ci sono supervisori che sono lì per aiutare gli agenti e far crescere le loro competenze. L’AI può essere critica in questo senso. In un call center con centinaia di agenti che gestiscono migliaia di chiamate al giorno, come possono i supervisori identificare i problemi che richiedono il loro intervento? Come possono capire cosa è successo durante il giorno? Come possono trovare aree di miglioramento per gli agenti per far crescere le loro competenze?

Come aiuta ASAPP a ridurre il turnover degli impiegati del call center?

Le grandi aziende che offrono beni e servizi di consumo spendono milioni, e a volte miliardi di dollari all’anno in centri di contatto che servono i loro clienti, con i costi del lavoro che rappresentano l’80-90% dei costi totali. È un grande problema che guida il turnover degli agenti al 40% – e a volte al 100% o più – ogni anno.

C’è spesso una caricatura che gli agenti sono indifferenti ai tuoi problemi e stanno passando per le mosse. Nel peggiore dei casi, anche ostacolando la tua capacità di risolvere un problema. Niente può essere più lontano dalla verità. Gli agenti, come tutte le persone, derivano soddisfazione dall’aiutare i clienti a risolvere i loro problemi. Come preferiresti trascorrere la tua giornata, ascoltando robusti “grazie” o clienti che urlano? In uno studio recente che abbiamo condotto, abbiamo trovato che il 90% degli agenti ha riferito che le chiamate con i clienti hanno reso la loro giornata, e la maggior parte ha detto di essere felice del proprio lavoro. Ma gli agenti vogliono gli strumenti e l’addestramento necessari per rendere i clienti felici. I clienti infelici portano a frustrati, stanchi e stressati agenti. Questo è il principale driver del turnover.

L’AI che aumenta gli agenti durante una chiamata (come descritto in precedenza) già aiuta. Se l’agente ha gli strumenti e la guida su come risolvere efficacemente e rapidamente un problema per un cliente, allora le probabilità che il cliente sia felice possono solo essere più alte, il che a sua volta dovrebbe portare a una maggiore soddisfazione lavorativa.

Tuttavia, ASAPP non inizia lì. Mentre la guida dinamica in tempo reale è critica, anche un addestramento più strutturato, coaching e feedback sono importanti. Molti agenti si addestrano su nuove questioni o procedure “live”. Cioè, ricevono una descrizione della procedura, ma poi la vedono solo in pratica quando prendono una chiamata con un cliente reale. Immagina di dare ai piloti il manuale dell’aereo e poi dir loro di volare 300 passeggeri a Denver? A causa di ciò, stiamo concentrandoci sull’utilizzo dell’AI per aiutare a costruire strumenti per gli agenti per praticare le procedure e gestire situazioni difficili prima di trattare con clienti reali. Quando questo è accoppiato con un feedback mirato (sia da un supervisore che automatico), ciò consentirà all’agente di crescere le sue competenze in un ambiente meno stressante.

Migliore AI per migliorare la soddisfazione del cliente in situazioni dinamiche, nonché AI per un addestramento fondato – è così che ASAPP si concentra sull’agente con l’obiettivo finale di ridurre il turnover.

Quali sono alcuni esempi dei risultati che possono essere ottenuti incorporando l’AI in un call center?

Come condiviso in precedenza, l’AI può essere una tecnologia trasformativa per aumentare la produttività. Per una compagnia aerea statunitense con cui lavoriamo, abbiamo visto un aumento della produttività degli agenti del 86% e un aumento del throughput organizzativo (numero totale di interazioni su tutti i canali di servizio clienti diviso per il lavoro speso per soddisfare quelle esigenze) del 127%. Per un operatore di rete globale che utilizza i servizi ASAPP, i punteggi di promozione netta (la disponibilità dei clienti a raccomandare i prodotti o i servizi di un’azienda ad altri) sono aumentati del 45%. Per una delle prime tre aziende di cavi che utilizza i servizi ASAPP, il costo per interazione è diminuito del 52%. Questi esempi mostrano come l’AI possa aumentare la produttività, migliorare la qualità del servizio clienti e ridurre i costi aziendali.

Qual è la tua visione personale per il futuro dell’AI nel luogo di lavoro?

L’AI è già abbastanza prevalente nel luogo di lavoro. Mentre scrivo questo, gli strumenti di controllo ortografico e grammaticale, nonché il completamento automatico del testo, mi stanno aiutando. Ho filtri antispam e classificatori di messaggi sul mio e-mail/messaggistica. Utilizzo la ricerca AI per trovare le informazioni rilevanti di cui ho bisogno per eseguire. Ciò crescerà, nonché la mia adozione, poiché il numero di funzionalità AI e la loro qualità aumenteranno.

Tuttavia, chiamerei questo tipo di AI “atomico”. È certamente di aiuto, ma in momenti molto precisi che consentono previsioni ad alta precisione. Non posso certo chiedere a un’AI di rispondere a queste domande, ad esempio -)

Più seriamente, la mia visione è vedere l’adozione di AI end-to-end in tutto il luogo di lavoro. Non intendo end-to-end nel senso della modellazione dell’apprendimento automatico. Cioè, l’AI potenzierà compiti grandi e complessi ottimizzati per l’obiettivo generale e non solo per punti atomici durante il processo. ASAPP sta già portando ciò a termine nei call center. Ad esempio, ottimiziamo cosa dire all’agente successivo in base a un insieme olistico di fattori su dove si trova l’agente nella conversazione e qual è l’obiettivo finale. Ma oltre a ciò, immaginate uno scienziato che tenta di scrivere una revisione sistematica di un argomento importante, un ingegnere del software che costruisce una piattaforma o integra sistemi complessi, un avvocato che scrive un parere legale, ecc. Nel futuro, ciascuno di questi professionisti si affiderà all’AI per aumentare rapidamente la loro efficacia in questi compiti e ottimizzare i risultati desiderati, liberandoli per sfide più critiche.

C’è qualcos’altro che vorresti condividere su ASAPP?

Il nostro team di ricerca ad ASAPP ha un focus chiaro: stiamo avanzando l’AI per aumentare l’attività umana per affrontare problemi del mondo reale per le imprese. I ricercatori ad ASAPP lavorano per avanzare fondamentalmente la scienza del NLP e del ML verso il nostro obiettivo di distribuire soluzioni AI specifiche del dominio e applicare quegli avanzamenti ai nostri prodotti. Sfruttano le enormi quantità di dati generate dai nostri prodotti e la nostra capacità di distribuire funzionalità AI in uso reale per porre e affrontare domande di ricerca fondamentali in modi nuovi.

Scopri i nostri articoli di ricerca recenti su https://www.asapp.com/ai-research/.

Grazie per le risposte dettagliate, i lettori che desiderano saperne di più possono visitare ASAPP.