Nick Romano, Co-Fondator și CEO al Deeplite – Seria de Interviuri

Nick Romano este Co-Fondator și CEO al Deeplite, o soluție de optimizare condusă de IA pentru a face rețelele neuronale profunde mai rapide, mai mici și mai eficiente din punct de vedere energetic, de la calculul în cloud la calculul la margine.

Nick este un antreprenor serial și un CEO de succes, care a livrat rezultate de succes timp de peste 20 de ani. Recent, el a co-fondat și a scalat o platformă de SaaS pentru întreprinderi, cu venituri recurente de milioane de dolari și peste 100 de angajați. El a fost onorat de Universitatea McMaster Engineering ca unul dintre cei mai buni 150 de absolvenți.

Ce v-a atras inițial la IA?

Am fost în spațiul tehnologic timp de peste 25 de ani și am văzut multe cicluri și tendințe, unele hype și altele reale. IA este un domeniu dinamic și în creștere, și ceea ce îmi place despre el este modul în care tehnologia poate fi folosită în atâtea moduri diferite pentru a îmbunătăți viața și munca oamenilor. Am vrut să fac parte din acestă mișcare. Cu toate acestea, există provocări în a aduce IA în medii reale. Aceasta necesită o capacitate de calcul și o energie semnificative pentru a funcționa corect – este intensivă din punct de vedere computațional. Acest lucru este în regulă într-un laborator, dar dacă este prea mare sau prea lent sau consumă prea multă putere, este greu de adus IA în scenarii reale. Aceasta este misiunea noastră și adevărata atracție pentru mine – de a permite IA pentru viața de zi cu zi.

Puteți să ne spuneți despre povestea de origine a Deeplite?

Idea pentru Deeplite a început în incubatorul TandemLaunch din Montreal. Davis Sawyer, care este acum directorul nostru de produs și un expert în domeniul IA, și Ehsan Saboori, care este acum directorul nostru tehnic și este cu adevărat creierul din spatele IP-ului nostru, au început să dezvolte tehnologia acolo. M-am alăturat lor în 2019, aducând cu mine mulți ani de experiență în conducerea tehnologică și scalarea companiilor, și am lansat oficial Deeplite ca companie în mijlocul anului 2019. Acum avem peste 20 de angajați cu birouri în Montreal și Toronto, și am anunțat un finanțare de 6 milioane de dolari în aprilie 2021.

De ce este importantă integrarea procesării IA direct în hardware, în loc de cloud, în anumite cazuri, cum ar fi vehiculele autonome și dronele?

Există multe motive pentru care doriți să rulați procesul de inferență, procesul de decizie al IA, la punctul de captare a datelor, în loc de cloud. Probabil cel mai mare motiv în aplicațiile critice, cum ar fi vehiculele autonome, este ceea ce se numește latență, care înseamnă, de fapt, cât timp ia IA pentru a lua o decizie. Dacă trebuie să captați datele, să le trimiteți la cloud pentru inferență, apoi să returnați rezultatele înapoi, acest lucru va dura, evident, mult mai mult decât dacă ați face acest lucru local, în timp real. În conducerea autonomă, milisecundele contează foarte mult.

Alte motive includ confidențialitatea, păstrarea datelor sensibile locale, în loc de a le trimite la cloud, și, desigur, conectivitatea, care, în absența sa, face inferența cloud înutilă. Rețelele neuronale profunde complexe care alimentează IA necesită o cantitate semnificativă de putere de calcul pentru a funcționa, folosesc multă memorie și consumă multă energie, astfel încât soluțiile IA au fost forțate să utilizeze cloud-ul. Astfel, pentru a ieși din cloud și a face IA să ruleze local, la margine, într-un vehicul sau o dronă, de exemplu, trebuie să găsiți o modalitate de a reduce dimensiunea generală și profilul de putere al modelului, permițându-i să ruleze direct pe dispozitiv, cu mult mai puține resurse. Este important să spargem această barieră pentru a aduce IA la mult mai multe dispozitive care servesc oamenilor în fiecare zi. Acesta este locul în care Deeplite intervine.

Puteți să ne spuneți despre ce este, în mod specific, Deeplite Neutrino?

Platforma noastră Neutrino transformă IA, în special rețelele neuronale profunde sau DNN-urile, într-o nouă formă care este mai mică, mai rapidă și mai puțin consumatoare de energie decât forma sa originală. Cu Deeplite Neutrino, echipele de IA se pot concentra pe antrenarea modelelor pentru acuratețe, adică cât de des este corectă decizia, și pot utiliza platforma noastră pentru a optimiza modelul de IA, astfel încât să poată fi implementat în hardware limitat, la margine. Deeplite Neutrino face acest lucru fără a compromite acuratețea originală a IA. În esență, luăm modele de IA mari și le facem mai mici, mai rapide și mai eficiente din punct de vedere energetic. Scopul final este de a scoate IA din laborator și de a o aduce în lumea reală, în lucrurile pe care le folosim în fiecare zi.

Cum reușește Deeplite Neutrino să facă IA mai eficientă, mai rapidă, mai mică și mai puternică, fără a compromite acuratețea modelului original?

Folosim o abordare inovatoare de explorare a spațiului de proiectare multi-obiectiv. Folosim modelul original ca un fel de “model profesor” și apoi explorăm arhitectura modelului, căutând cel mai bun “model elev” care să satisfacă constrângerile de proiectare specificate de utilizatorul Deeplite, pentru a optimiza automat modelele de IA și a le face semnificativ mai rapide, mai mici și mai eficiente din punct de vedere energetic, fără a sacrifica performanța.

Care sunt unele dintre principalele cazuri de utilizare pentru utilizarea acestui tip de IA?

Deși nu ne limităm la acestea, focusul nostru actual este pe viziunea computerizată și pe IA bazată pe percepție. Tehnologia noastră de IA este utilizată în vehicule autonome, drone, camere, telefoane mobile, senzori și alte dispozitive IoT. Vedem, de asemenea, noi aplicații pentru aceasta, inclusiv o periuță de dinți inteligentă și o mașină de cafea inteligentă. Lucrăm, de asemenea, cu o companie de jucării internațională de top, care o utilizează pentru dezvoltarea de jocuri. Ceea ce este incredibil de interesant și de încurajator în ceea ce facem este diversitatea de aplicații pe care le vedem venind pe piață, unde putem ajuta la aducerea lor la viață.

Care sunt punctele dvs. de vedere cu privire la învățarea federată și cum va afecta viitorul învățării mașinilor?

Antrenarea modelelor necesită o cantitate semnificativă de date și o cantitate semnificativă de putere de calcul. Cu cât sunt mai diverse cazurile de utilizare, cu atât mai multe date sunt necesare și cu atât mai mult timp de calcul este necesar pentru a antrena modelul la un nivel de acuratețe satisfăcător. Cu învățarea federată, antrenarea este orchestrată la margine, în fiecare dispozitiv, pe baza condițiilor locale de date. Acest lucru poate face antrenarea mai eficientă (de ce să antrenezi pentru o căprioară care traversează drumul în Alaska) și, de asemenea, este o mare victorie pentru confidențialitate, deoarece datele de antrenare – de exemplu, fața cuiva – nu sunt trimise la un server central.

Având în vedere că procesul nostru de optimizare implică ceea ce numim “buclă de antrenare” pentru a păstra acuratețea modelului optimizat, scopul nostru final ar fi să facem ceea ce facem parte a procesului de antrenare inițial, în loc de a fi o a doua trecere. În acest moment, acesta este un obiectiv aspirațional, dar face parte din obiectivele noastre pe termen lung.

Cum atrageți talentele și creierul necesare, ca o companie de start-up?

Este o mare provocare pentru a atrage talentele potrivite de IA în acest moment – există prea puține persoane acolo și competiția pentru a recruta este ridicată. Echipa noastră este extraordinară. Ei sunt un magnet în sine pentru talente. Avem potențiali angajați care vorbesc și se întâlnesc cu echipa noastră. Odată ce văd calibrul oamenilor de la Deeplite, vor să fie aici. Ca o companie de start-up, oferim o cultură excelentă și oportunitatea de a lucra la ceva nou și emergent care poate fi un jucător de schimbare pentru multe industrii și produse diferite. Cred că această oportunitate, împreună cu echipa, este cheia pentru a atrage talente de top. Suntem, de asemenea, strategic localizați în două hub-uri majore de IA din America de Nord, Montreal și Toronto, ceea ce ne ajută. Ca o companie canadiană, folosim programul de flux de talente globale al guvernului. Putem recruta oriunde în lume, putem sponsoriza noii angajați și putem acceleră procesul de intrare în Canada.

Aveți vreun sfat pentru alți antreprenori în spațiul IA?

Acest lucru merge dincolo de IA, dar ca un antreprenor repetitiv, am învățat cât de important este să ai sprijinul familiei, deoarece decizia de a fi antreprenor nu este una individuală – afectează pe toată lumea – soț, soție și copii incluși. Toată lumea face parte din călătorie cu tine, și toată lumea face sacrificii. Trebuie să recunoști și să apreciezi acest lucru, și acesta este modul în care familiile pot rămâne împreună pe tot parcursul călătoriei.

Există altceva pe care ați dori să-l împărtășiți despre Deeplite?

Una dintre aspectele unice ale Deeplite este fondatorii noștri. Davis are în jur de 25 de ani și este extrem de deștept și energetic. El este, de fapt, un expert în domeniul nostru. Ehsan este un imigrant iranian cu un doctorat, și, așa cum am menționat anterior, este creierul din spatele IP-ului nostru. Și eu sunt un veteran de peste 50 de ani, care a construit companii înainte. Cei trei suntem o combinație interesantă care aducem forțe și experiențe diferite la masă. Sunt foarte recunoscător că am astfel de parteneri grozavi și sunt înconjurat de o echipă atât de grozavă.

Mulțumim pentru acest interviu minunat, aștept cu nerăbdare să urmăresc progresul Deeplite și este o companie care va fi pe radarul meu. Citiitorii care doresc să afle mai multe despre Deeplite ar trebui să viziteze Deeplite.