Ricky Costa, CEO al Quantum Stat – Seria de interviuri

Ricky Costa este CEO al Quantum Stat, o companie care oferă soluții pentru inițiativele de NLP și AI.

Ce v-a atras inițial spre inteligența artificială?

Întâmplarea. Citeam o carte despre probabilitate când am dat peste un teoremă celebră. La acea vreme, m-am întrebat naiv dacă aș putea aplica această teoremă la o problemă de limbaj natural pe care încercam să o rezolv la serviciu. Așa s-a întâmplat că algoritmul exista deja, fără să știu, și se numea Naïve Bayes, un model generativ foarte cunoscut și simplu, folosit în învățarea mașinilor clasice. Acea teoremă a fost teorema lui Bayes. Am simțit că această coincidență a fost un indiciu și a sădit un germene de curiozitate să aflu mai multe.

Cum ai ajuns să fii CEO al Quantum Stat, o companie care oferă soluții pentru NLP?

Când apare o revoluție într-o tehnologie nouă, unele companii sunt mai ezitante decât altele în fața necunoscutului. Am fondat compania mea pentru că abordarea necunoscutului este distractivă pentru mine. De asemenea, am simțit că este momentul potrivit să intru în domeniul NLP, având în vedere toate cercetările uimitoare care au apărut în ultimii doi ani. Comunitatea NLP are acum capacitatea de a realiza mult mai mult cu mult mai puțin, datorită noilor tehnici NLP care necesită mai puține date pentru a îmbunătăți performanța.

Pentru cititorii care nu sunt familiarizați cu acest domeniu, puteți explica ce face NLP?

NLP este un subdomeniu al inteligenței artificiale și analizei care încearcă să înțeleagă limbajul natural în text, vorbire sau învățare multimodală (text și imagini/video) și să îl calculeze astfel încât să furnizeze insight-uri și/sau servicii valoroase. Valoarea poate proveni din mai multe unghiuri, de la recuperarea informațiilor în sistemul de fișiere interne al unei companii, la clasificarea sentimentului în știri, sau un robot de twitter GPT-2 care ajută la marketingul dvs. pe rețelele sociale (precum cel pe care l-am construit cu câteva săptămâni în urmă).

Ați absolvit o diplomă de licență în psihologie experimentală la Hunter College. Simțiți că înțelegerea creierului uman și a psihologiei este un avantaj atunci când vine vorba de înțelegerea și extinderea domeniului NLP?

Acesta este un punct de vedere contrarian, dar, din nefericire, nu. Analogia neuronilor și a rețelelor neuronale profunde este pur și simplu pentru ilustrare și pentru a insufla intuiție. Probabil că se poate învăța mult mai mult din știința complexității și inginerie. Dificultatea cu care se confruntă înțelegerea modului în care funcționează creierul este că ne confruntăm cu un sistem complex. “Inteligenta” este un fenomen emergent al complexității creierului care interacționează cu mediul său și este foarte greu de definit. Psihologia și alte științe sociale, care depind de “reducționism” (de sus în jos), nu funcționează în acest paradigma complex. Iată intuiția: imaginați-vă pe cineva care încearcă să reducă melodia “Let it Be” a celor de la Beatles la scara C Major. Nu există nimic în acea scară care să prevadă că “Let it Be” va apărea din ea. La fel se întâmplă și cu cineva care încearcă să reducă comportamentul la activitatea neuronală din creier.

Puteți explica de ce Big Data este atât de important atunci când vine vorba de Deep Learning și, mai specific, NLP?

În acest moment, deoarece modelele de învățare profundă interpolază datele, cu cât se introduc mai multe date în model, cu atât mai puține cazuri limită va întâlni atunci când face o inferență în sălbăticie. Această arhitectură “încurajează” seturile de date mari să fie calculate de modele pentru a crește acuratețea ieșirii. Cu toate acestea, dacă dorim să obținem un comportament mai inteligent din partea modelelor AI, trebuie să ne uităm dincolo de cantitatea de date pe care o avem și mai mult spre modul în care putem îmbunătăți capacitatea modelului de a raționa mai eficient, ceea ce, în mod intuitiv, nu ar trebui să necesite multe date. Dintr-o perspectivă a complexității, experimentele cu automatele celulare conduse în secolul trecut de fizicienii John von Neumann și Stephen Wolfram arată că complexitatea poate apărea din condiții și reguli simple. Ce ar trebui să fie aceste condiții și reguli pentru AI, este ceea ce toată lumea caută.

Ați lansat recent “Big Bad NLP Database”. Ce este această bază de date și de ce este importantă pentru cei din industria AI?

Această bază de date a fost creată pentru a oferi dezvoltatorilor de NLP acces facil la toate seturile de date pertinente din industrie. Această bază de date ajută la indexarea seturilor de date, ceea ce are un efect secundar plăcut, permițând utilizatorilor să le interogheze. Preprocesarea datelor ocupă cea mai mare parte a timpului în pipeline-ul de implementare, iar această bază de date încearcă să atenueze această problemă pe cât posibil. În plus, este o platformă gratuită pentru oricine, indiferent dacă este cercetător academic, practician sau guru de AI independent, care dorește să se pună la curent cu datele NLP. Link

Quantum Stat oferă în prezent soluții de la cap la coadă. Care sunt unele dintre aceste soluții?

Ajutăm companiile să-și faciliteze pipeline-ul de modelare NLP, oferind dezvoltare la orice etapă. Putem acoperi o gamă largă de servicii, de la curățarea datelor în etapa de preprocesare până la implementarea serverului de modele în producție (aceste servicii sunt prezentate și pe pagina noastră de start). Nu toate proiectele de AI ajung la bun sfârșit din cauza naturii necunoscute a modului în care datele și arhitectura dvs. specifice funcționează cu un model de ultimă generație. Având în vedere această incertitudine, serviciile noastre oferă companiilor o șansă de a itera asupra proiectului lor la o fracțiune din costul angajării unui inginer de învățare mașinilor cu normă întreagă.

Care este cea mai interesantă evoluție recentă în AI pe care o considerați?

Cea mai importantă evoluție recentă este modelul transformer, despre care ați auzit probabil: BERT, RoBERTa, ALBERT, T5 și altele. Aceste modele transformer sunt foarte atractive pentru că permit cercetătorilor să obțină performanțe de ultimă generație cu seturi de date mai mici. Înainte de transformatori, un dezvoltator ar fi necesitat un set de date foarte mare pentru a antrena un model de la zero. Deoarece acești transformatori vin antrenați din fabrică pe miliarde de cuvinte, permit o iterare mai rapidă a proiectelor de AI și este ceea ce facem în mare parte în acest moment.

Există altceva pe care ați dori să-l împărtășiți despre Quantum Stat?

Lucrăm la un proiect nou legat de analiza sentimentului pieței financiare, care va fi lansat curând. Am utilizat multiple transformatori pentru a oferi o perspectivă fără precedent asupra modului în care știrile financiare se desfășoară în timp real. Așteptați!

Pentru a afla mai multe, vizitați Quantum Stat sau citiți articolul nostru despre Big Bad NLP Database.