Dr. Neil Yager, Co-Fondator și Șef Științific al Phrasee – Seria de Interviuri

Dr. Neil Yager este Șeful Științific al Phrasee, și arhitectul metodei Phrasee, un instrument de scriere de copywriting bazat pe inteligență artificială care a ajutat la optimizarea conținutului de marketing pentru unele dintre cele mai recunoscute mărci ale lumii, inclusiv eBay, Groupon și Virgin – plus multe altele, de la Australia la America, în peste 20 de limbi, de la engleză la japoneză.

Dr. Yager a scris peste o duzină de publicații academice, a scris o carte despre minerit de date, și deține mai multe brevete. Ca unul dintre principalii experți din lume în comercializarea inteligenței artificiale, el are un doctorat în știința calculatoarelor de la Universitatea din New South Wales, Australia.

Sunteți un veteran de 20 de ani în industria tehnologiei, ce au fost unele dintre rolurile dvs. anterioare legate de inteligență artificială?

Am fost implicat în lucrări legate de inteligență artificială de la doctoratul meu din mijlocul anilor 2000. Cu toate acestea, domeniul a trecut prin mai multe rebrandări de atunci. De exemplu, acum 15 ani am studiat “recunoașterea pattern-ului statistic”. Câteva ani mai târziu, acesta a devenit mai cunoscut sub numele de “învățare automată”, care este un nume mult mai captivant. Mai recent, învățarea automată (și “învățarea profundă” în special) a devenit sinonimă cu “inteligența artificială” în general. Am sentimente amestecate despre acest lucru. Pe de o parte, munca mea cu Phrasee mi-a învățat importanța branding-ului. Pe de altă parte, termenul “inteligență artificială” aduce bagajul cu el și poate duce la concepții greșite despre tehnologie. Mă întreb unde am fi fost dacă am fi continuat să o numim “recunoașterea pattern-ului statistic”.

Majoritatea lucrărilor mele anterioare au fost în domeniile prelucrării semnalelor și viziunii calculatoarelor. Nu am avut multă expunere la prelucrarea limbajului natural înainte de Phrasee. Am învățat de atunci că limba este probabil cea mai dificilă problemă în inteligența artificială.

În 2008 ați co-scris o carte intitulată ‘Sistem biometric și analiză de date: proiectare, evaluare și minerit de date‘, care combină aspecte ale statisticii și învățării automate pentru a oferi o ghidare cuprinzătoare pentru evaluarea, interpretarea și înțelegerea datelor biometrice. În afara resurselor de calcul suplimentare, credeți că acest domeniu a evoluat de la publicarea cărții? Puteți descrie cum?

Învățarea profundă a schimbat domeniile viziunii calculatoarelor, prelucrării limbajului și învățării automate de la publicarea cărții mele. Nu ar fi fost posibil să scriu acea carte astăzi fără o secțiune despre învățarea profundă.

Revoluția învățării profunde a început cu adevărat în 2012, când un model de învățare profundă a câștigat un concurs numit ImageNet. ImageNet este un set de date de recunoaștere a obiectelor vizuale în care computerul determină ce este într-o imagine (de exemplu, “câine” sau “balon”). Pentru decenii, cercetătorii au făcut progrese incrementale pe seturile de date de referință precum aceasta. Fiecare subdomeniu a operat independent și s-a bazat puternic pe expertiza specifică domeniului. Practic peste noapte, toate modelele construite cu atenție de-a lungul multor ani au devenit învechite. Algoritmii de învățare profundă proiectați de persoane din afara domeniului au câștigat concursuri cu marje semnificative. Acest lucru a transformat industria inteligenței artificiale.

Domeniul este încă în mișcare rapidă și a evoluat chiar și de la începutul Phrasee, acum câțiva ani. De exemplu, instrumentele de învățare profundă pe care le folosim acum nu existau când am fondat compania. Ritmul inovației aduce provocări de sine stătătoare.

Puteți împărtăși cu noi ce este capabil să facă Phrasee pentru afaceri?

Phrasee rezolvă două probleme pentru afaceri. În primul rând, există problema scrierii de conținut de marketing. Există mai multe canale de publicitate decât oricând (de exemplu, e-mail, AdWords, social, print, podcast-uri etc.). Este greu să scrii conținut pentru toate acestea care să fie de calitate ridicată și să se conformeze stilului și vocii mărcii. Phrasee abordează problema scalabilității prin generarea automată a conținutului. În al doilea rând, este important ca toată limba folosită să fie eficientă. Nu numai că Phrasee generează limbaj, dar folosește și învățarea automată pentru a prezice impactul mesajului și a-l optimiza în consecință.

Ce v-a atras la ideea de a folosi prelucrarea limbajului natural (NLP) și învățarea profundă pentru a îmbunătăți puterea conținutului de publicitate?

Folosirea inteligenței artificiale pentru a maximiza impactul campaniilor de marketing digital nu este o idee nouă. Există echipe de oameni cu doctorate în fizică care au fost recrutați pentru a lucra la optimizarea publicității. Cu toate acestea, în majoritatea cazurilor, ei se concentrează pe lucrări de cercetare și dezvoltare legate de lucruri precum segmentarea audienței, personalizarea, momentul livrării, plasarea publicității, fonturile etc. Când am început să discutăm idei pentru Phrasee, am observat că aproape totul despre publicitate este optimizat, cu excepția limbajului folosit în sine! Am identificat acest lucru ca o lacună pe piață și o oportunitate uriașă.

Phrasee este capabil să îmbunătățească conținutul de marketing în peste 20 de limbi, inclusiv japoneză. Puteți discuta despre unele dintre problemele unice de prelucrare a limbajului natural cu care vă confruntați în limbile străine?

Ultima limbă adăugată la setul nostru de limbi suportate este rusă. Acesta este o limbă slavă și este destul de distinctă de alte limbi indo-europene. În acest caz, a fost necesar să construim reguli noi în sistemul nostru de generare a limbajului, astfel încât outputul să fie fluent și gramatical corect. Acesta nu este doar un problemă de limbă. Este, de asemenea, o problemă de dezvoltare a software-ului. Când outputul sistemului nostru este în limba maternă a dezvoltatorului, este relativ ușor să detectăm erorile și să verificăm că totul funcționează corect. Cu toate acestea, atunci când lucrăm la rusă sau japoneză, putem produce nonsens și nu avem nicio idee. Este important să avem un vorbitor nativ implicat îndeaproape în procesul de asigurare a calității.

Provocarea nu este doar cu limbile străine. Există și unele diferențe regionale interesante. De exemplu, engleza are variații de ortografie pentru SUA, Regatul Unit, Australia, Canada etc. Mai mult, există diferențe gramaticale. În engleza britanică, “ați avea o privire”, în timp ce în engleza americană “ați lua o privire”. Înțelesul cuvintelor poate varia de la un loc la altul. Un “cauciuc” este un ștergător în Regatul Unit, dar un prezervativ în America de Nord! Pentru ca sistemele de generare a limbajului natural să fie utilizate pentru aplicații comerciale, acestea trebuie să gestioneze toate aceste subtilități.

Puteți împărtăși detalii despre modul în care învățarea profundă este utilizată în Phrasee?

Există două componente principale de inteligență artificială în tehnologia Phrasee. Primul este generarea limbajului natural (NLG), care produce efectiv limbajul. Al doilea este învățarea profundă, și aici se concentrează pe performanță. Performanța poate însemna lucruri diferite în funcție de context. De exemplu, scopul unei linii subiect pentru un e-mail de promovare săptămânal este de a încânta destinatarul să deschidă e-mailul și să vadă conținutul din interior. Pentru Facebook (META ), scopul ar putea fi de a maximiza aprecierile sau distribuirile. Dat fiind un volum mare de date istorice, este posibil să se găsească tendințe și modele subtile care nu ar fi niciodată observate de un om. Acesta este un problemă standard de învățare automată.

Învățarea profundă oferă câteva avantaje față de abordarea tradițională de învățare automată. Cu învățarea automată tradițională, există o concentrare puternică pe “ingineria caracteristicilor”. Acest lucru înseamnă că dezvoltatorul trebuie să decidă ce cred că sunt cele mai importante caracteristici ale limbajului. De exemplu, cuvinte, lungime, utilizarea emoji-urilor etc. Problema este că acest lucru este limitat de abilitățile și imaginația inginerului. Cu învățarea profundă, textul brut este introdus în model, și acesta construiește propria reprezentare a limbajului (cunoscută sub numele de învățare de la capăt). Prin urmare, este liber de prejudecățile umane și este o abordare puternică. Cu toate acestea, partea negativă este că poate fi greu de înțeles de ce modelul se comportă într-un anumit fel. “Explicabilitatea” este o zonă activă de cercetare în comunitatea de învățare profundă. Cu toate acestea, există un compromis fundamental între complexitatea unui sistem și capacitatea noastră de a-l înțelege. Limbajul uman este haotic, deci soluțiile de prelucrare a limbajului natural de succes au, de obicei, un nivel ridicat de complexitate.

Una dintre funcționalitățile Phrasee este capacitatea de a scrie în tonul unic al unei mărci, puteți elabora cum se realizează acest lucru?

Când semnăm un nou client, primul lucru pe care îl facem este să colectăm informații despre stilul de comunicare al mărcii lor. Acesta include orice ghiduri oficiale de marcă, campanii de marketing istorice și o serie de chestionare pe care le-am dezvoltat pentru acest scop. Toate aceste informații sunt utilizate de o echipă internă de tehnicieni de limbă pentru a construi un model de limbă specific clientului. Modelele noastre de limbă sunt generative, ceea ce înseamnă că pot produce limbaj nou, niciodată văzut înainte, în stilul unic al clientului.

Modelele de limbă pot fi actualizate în orice moment. De exemplu, în acest moment suntem la apogeul crizei COVID-19. Echipa noastră de limbă examinează modelele noastre pentru a se asigura că nu pot fi create limbaje inadecvate. O frază precum “Aceste oferte sunt virale!” ar fi fost inofensivă cu câteva luni în urmă, dar este clar inadecvată în mijlocul unei pandemii globale. Acest lucru demonstrează flexibilitatea sistemului nostru.

Ce tip de date sunt necesare unei companii care dorește să înceapă să utilizeze Phrasee?

pentru a fi sincer, nu sunt necesare prea multe date pentru a începe cu noi. Primul pas este de a identifica o zonă de proiect adecvată. De exemplu, acesta ar putea fi subiectul pentru e-mailurile de promovare săptămânale. Ideal, acesta va avea o audiență relativ mare și comunicări regulate. Odată identificat proiectul, avem nevoie de informații despre subiectul și vocea mărcii pentru a construi modelul de limbă. Phrasee are nevoie de rezultate de performanță pe o bază continuă. Deoarece soluția noastră utilizează învățarea automată, este important să măsurăm și să urmărim indicatorii cheie pe parcursul timpului. Aceste informații sunt introduse în sistemul nostru, astfel încât acesta să poată continua să optimizeze pentru implicare.

Există altceva pe care ați dori să îl împărtășiți despre Phrasee?

Când Parry, Victoria și eu am fondat Phrasee acum cinci ani, eram siguri că va fi doar o chestiune de timp până când multe alte startup-uri vor apărea cu produse similare. Planul nostru a fost să ne poziționăm înaintea concurenței și să rămânem cu un pas înainte. Cu toate acestea, am fost surprinși de lipsa de intrări în acest spațiu. Unde este restul? Cred că există câteva motive pentru acest lucru, dar unul dintre principalele motive este că limba este atât de dificilă. Cred că alții au încercat să creeze produse similare, dar au eșuat devreme în etapele de cercetare și dezvoltare. Acest lucru este un testament pentru cât de unică este tehnologia noastră.

Mulțumim pentru interviul informativ despre prelucrarea limbajului natural, generarea limbajului natural și învățarea profundă. Pentru a afla mai multe, vizitatorii pot vizita Phrasee.