Modelli e piattaforme di IA

Dr. Neil Yager, Co-Fondatore e Chief Scientist di Phrasee – Serie di Interviste

mm
Aggiungi Unite.AI alle tue fonti preferite su Google

Il Dr. Neil Yager è il Chief Scientist di Phrasee, e l’architetto del metodo Phrasee, uno strumento di copywriting basato sull’intelligenza artificiale che ha aiutato a ottimizzare la copia di marketing per alcune delle aziende più riconosciute al mondo, tra cui eBay, Groupon e Virgin – e molte altre, dall’Australia all’America, in oltre 20 lingue, dall’inglese al giapponese.

Il Dr. Yager ha scritto oltre una dozzina di pubblicazioni accademiche, ha scritto un libro sulla data mining e detiene diversi brevetti. In quanto uno degli esperti leader nel mondo nella commercializzazione dell’intelligenza artificiale, ha un dottorato in Informatica presso l’Università del Nuovo Galles del Sud in Australia.

Lei è un veterano di 20 anni del settore tecnologico, quali sono stati alcuni dei suoi ruoli precedenti legati all’intelligenza artificiale?

Ho iniziato a lavorare con l’intelligenza artificiale durante il mio dottorato di ricerca a metà degli anni 2000. Tuttavia, il settore ha subito diverse ribrandizzazioni da allora. Ad esempio, 15 anni fa studiavo il “riconoscimento di pattern statistici”. Pochi anni dopo, questo era noto come “apprendimento automatico”, che è un nome molto più attraente. Più recentemente, l’apprendimento automatico (e il “deep learning” in particolare) è diventato sinonimo di “intelligenza artificiale” in generale. Ho sentimenti contrastanti al riguardo. Da un lato, il mio lavoro con Phrasee mi ha insegnato l’importanza del branding. Dall’altro lato, il termine “intelligenza artificiale” porta con sé bagagli e può portare a fraintendimenti sulla tecnologia. Mi chiedo dove saremmo se stessimo ancora chiamandolo “riconoscimento di pattern statistici”.

La maggior parte del mio lavoro precedente era nei campi dell’elaborazione dei segnali e della visione artificiale. Non avevo molta esperienza con l’elaborazione del linguaggio naturale prima di Phrasee. Ho imparato che il linguaggio è probabilmente il problema più difficile nell’intelligenza artificiale.

 

Nel 2008 ha co-scritto un libro intitolato ‘Biometric System and Data Analysis: Design, Evaluation, and Data Mining‘, che combina aspetti della statistica e dell’apprendimento automatico per fornire una guida completa per la valutazione, l’interpretazione e la comprensione dei dati biometrici. Al di fuori di più risorse di calcolo, crede che questo campo sia evoluto dal momento in cui è stato pubblicato il libro? Potrebbe descrivere come?

Il deep learning ha rivoluzionato i campi della visione artificiale, dell’elaborazione del linguaggio e dell’apprendimento automatico dal momento in cui ho scritto quel libro. Non sarebbe stato possibile scrivere quel libro oggi senza una sezione sul deep learning.

La rivoluzione del deep learning è realmente decollata nel 2012, quando un modello di deep learning ha vinto una competizione chiamata ImageNet. ImageNet è un set di dati di riconoscimento di oggetti visivi in cui il computer determina cosa c’è in un’immagine (ad esempio “cane” o “pallone”). Per decenni i ricercatori avevano fatto progressi incrementali sui set di dati di benchmark come questo. Ogni sottocampo operava in modo indipendente e si basava pesantemente sull’esperienza specifica del dominio. Quasi da un giorno all’altro, tutti i modelli costruiti con cura nel corso di molti anni sono stati resi obsoleti. Gli algoritmi di deep learning progettati da outsider hanno vinto le competizioni con margini significativi. Ciò ha trasformato l’industria dell’intelligenza artificiale.

Il campo è ancora in rapida evoluzione e si è evoluto anche dal momento in cui abbiamo iniziato Phrasee, solo pochi anni fa. Ad esempio, gli strumenti di deep learning su cui ci basiamo ora non esistevano quando abbiamo fondato l’azienda. Il ritmo dell’innovazione porta con sé le sue sfide.

 

Potrebbe condividere con noi cosa è in grado di fare Phrasee per le aziende?

Phrasee risolve due problemi per le aziende. In primo luogo, c’è il problema di scrivere la copia di marketing. Ci sono più canali pubblicitari ora che mai prima d’ora (ad esempio email, AdWords, social, stampa, podcast, ecc.). È difficile scrivere copie per tutti questi canali che siano di alta qualità e che si conformino allo stile e al tono di voce del marchio. Phrasee affronta il problema della scala generando automaticamente la copia. In secondo luogo, è importante che tutto il linguaggio utilizzato sia efficace. Non solo Phrasee genera linguaggio, ma utilizza anche l’apprendimento automatico per prevedere l’impatto del messaggio e ottimizzarlo di conseguenza.

 

Cosa l’ha attirata all’idea di utilizzare l’elaborazione del linguaggio naturale (NLP) e il deep learning per migliorare la potenza della copia pubblicitaria?

Utilizzare l’intelligenza artificiale per massimizzare l’impatto delle campagne di marketing digitali non è un’idea nuova. Ci sono team di persone con dottorati in fisica che sono stati reclutati per lavorare sull’ottimizzazione degli annunci. Tuttavia, nella maggior parte dei casi, si concentrano i loro sforzi di R&D su cose come la segmentazione del pubblico, la personalizzazione, la tempistica di consegna, la posizione degli annunci, i font, ecc. Quando abbiamo iniziato a discutere delle idee per Phrasee, abbiamo notato che quasi tutto sugli annunci stava venendo ottimizzato tranne il linguaggio utilizzato! Abbiamo identificato questo come un gap nel mercato e un’enorme opportunità.

 

Phrasee è in grado di migliorare la copia di marketing in oltre 20 lingue, tra cui il giapponese. Potrebbe discutere alcuni dei problemi unici di elaborazione del linguaggio naturale che si verificano con le lingue straniere?

L’ultima aggiunta al nostro set di lingue supportate è il russo. Questa è una lingua slava e si distingue notevolmente dalle altre lingue indoeuropee. In questo caso, è stato necessario costruire nuove regole nel nostro sistema di generazione del linguaggio in modo che l’output sia fluente e grammaticalmente corretto. Questo non è solo un problema di lingua. È anche un problema di sviluppo software. Quando l’output del nostro sistema è nella lingua nativa dello sviluppatore, è relativamente facile individuare gli errori e verificare che tutto funzioni correttamente. Tuttavia, quando stiamo lavorando sul russo o sul giapponese, potremmo stare producendo nonsensi e non avere idea. È importante avere un madrelingua coinvolto nel processo di controllo della qualità.

La sfida non è solo con le lingue straniere. Ci sono alcune interessanti differenze regionali. Ad esempio, l’inglese ha varianti di ortografia per gli Stati Uniti, il Regno Unito, l’Australia, il Canada, ecc. Inoltre, ci sono differenze grammaticali. In inglese britannico, si “ha un’occhiata”, mentre in inglese americano si “dà un’occhiata”. Il significato delle parole può anche variare da un posto all’altro. Un “rubber” è una gomma in Regno Unito, ma un preservativo in Nord America! Perché i sistemi di generazione del linguaggio possano essere utilizzati per applicazioni aziendali, devono gestire tutte queste sottigliezze.

 

Potrebbe anche condividere alcuni dettagli su come il deep learning viene utilizzato in Phrasee?

Ci sono 2 componenti principali di intelligenza artificiale nella tecnologia di Phrasee. Il primo è la generazione del linguaggio naturale (NLG), che produce effettivamente il linguaggio. Il secondo è il deep learning, e qui l’attenzione si concentra sulle prestazioni. Le prestazioni possono significare cose diverse a seconda del contesto. Ad esempio, l’obiettivo di una riga di soggetto di un’email è di convincere il destinatario ad aprire l’email e vedere il contenuto all’interno. Per Facebook (META ), l’obiettivo potrebbe essere di massimizzare i like o le condivisioni. Dati grandi volumi di dati storici, è possibile trovare sottili tendenze e modelli che non sarebbero mai stati notati da un essere umano. Questo è un problema di apprendimento automatico standard.

Il deep learning offre alcuni vantaggi rispetto all’approccio di apprendimento automatico tradizionale. Con l’apprendimento automatico tradizionale, c’è un forte focus sull'”ingegneria delle caratteristiche”. Ciò significa che lo sviluppatore deve decidere quali sono le caratteristiche più importanti del linguaggio. ad esempio, parole, lunghezza, utilizzo di emoji, ecc. Il problema è che ciò è limitato dalle competenze e dall’immaginazione dell’ingegnere. Tuttavia, con il deep learning, il testo grezzo viene inserito nel modello e questo costruisce la sua rappresentazione della lingua (questo è noto come apprendimento end-to-end). Pertanto, è libero da pregiudizi umani ed è un approccio potente. Tuttavia, lo svantaggio è che può essere difficile capire perché il modello si comporta in un certo modo. La “spiegabilità” è un’area di ricerca attiva all’interno della comunità del deep learning. Tuttavia, c’è un compromesso fondamentale tra la complessità di un sistema e la nostra capacità di comprenderlo. Il linguaggio umano è disordinato, quindi le soluzioni di NLP di successo hanno tipicamente un alto grado di complessità.

 

Una delle funzionalità di Phrasee è la capacità di scrivere nel tono unico di un marchio, potrebbe spiegare come viene eseguito questo?

Quando iscriviamo un nuovo cliente, la prima cosa che facciamo è raccogliere informazioni sullo stile di comunicazione del loro marchio. Ciò include eventuali linee guida di marchio formali, campagne di marketing storiche e una serie di questionari che abbiamo sviluppato a questo scopo. Tutte queste informazioni vengono utilizzate da un team interno di tecnici del linguaggio per costruire un modello di linguaggio specifico per il cliente. I nostri modelli di linguaggio sono generativi, il che significa che possono produrre linguaggio mai visto prima nello stile unico del cliente.

I modelli di linguaggio possono essere aggiornati in qualsiasi momento. Ad esempio, in questo momento siamo al culmine della crisi del COVID-19. Il nostro team di linguaggio sta revisionando i nostri modelli per assicurarsi che non venga creata lingua inappropriata. Una frase come “Questi affari stanno diventando virali!” potrebbe essere stata inoffensiva pochi mesi fa, ma è chiaramente inappropriata in mezzo a una pandemia globale. Ciò dimostra la flessibilità del nostro sistema.

 

Qual tipo di dati è necessario per un’azienda che desidera iniziare a utilizzare Phrasee?

Per essere onesto, non sono necessari molti dati per iniziare con noi. Il primo passo è identificare un’area di progetto adatta. Ad esempio, potrebbe trattarsi delle righe di soggetto delle email di promozione settimanali. Idealmente, questo avrà un pubblico relativamente grande e le comunicazioni saranno regolari. Una volta identificato il progetto, abbiamo bisogno di informazioni sul tema e sulla voce del marchio per costruire il modello di linguaggio. Phrasee necessita di risultati delle prestazioni in corso. Poiché la nostra soluzione utilizza l’apprendimento automatico, è importante che misuriamo e tracciamo metriche chiave nel tempo. Queste informazioni vengono riportate nel nostro sistema in modo che possa continuare a ottimizzare per l’engagement.

 

C’è qualcos’altro che desidera condividere su Phrasee?

Quando Parry, Victoria e io abbiamo iniziato Phrasee cinque anni fa, eravamo sicuri che sarebbe stato solo questione di tempo prima che molte altre startup si presentassero con prodotti simili. Il nostro piano era di ottenere un vantaggio sulla concorrenza e rimanere un passo avanti. Tuttavia, siamo stati sorpresi dalla mancanza di concorrenti in questo spazio. Dove sono tutti gli altri? Credo che ci siano alcune ragioni per questo, ma una delle principali è che il linguaggio è un problema così difficile. Sospetto che altri abbiano cercato di creare prodotti simili ma fallito nelle prime fasi di R&D. Ciò è un tributo a quanto sia unica la nostra tecnologia.

Grazie per l’intervista informativa sull’elaborazione del linguaggio naturale, la generazione del linguaggio naturale e il deep learning. Per saperne di più, i visitatori possono visitare Phrasee.

Antoine è un leader visionario e socio fondatore di Unite.AI, guidato da una passione incrollabile per plasmare e promuovere il futuro dell'AI e della robotica. Un imprenditore seriale, crede che l'AI sarà così disruptiva per la società come l'elettricità, e spesso si lascia trasportare dall'entusiasmo per il potenziale delle tecnologie disruptive e dell'AGI.

Come futurista, è dedicato a esplorare come queste innovazioni plasmeranno il nostro mondo. Inoltre, è il fondatore di Securities.io, una piattaforma focalizzata sugli investimenti in tecnologie all'avanguardia che stanno ridefinendo il futuro e riplasmando interi settori.