Omri Geller, CEO și Co-Fondator al Run:AI – Seria de Interviuri

Omri Geller este CEO și Co-Fondator la Run:AI

Run:AI virtualizează și accelerează inteligența artificială prin împărțirea resurselor de calcul GPU pentru a asigura vizibilitatea și, în final, controlul asupra prioritizării și alocării resurselor. Acest lucru asigură că proiectele de inteligență artificială sunt corelate cu obiectivele de afaceri și oferă o îmbunătățire semnificativă a productivității echipei de știință a datelor, permițându-le să construiască și să antreneze modele concurente fără limitări de resurse.

Ce v-a atras inițial către Inteligența Artificială?

Când am început studiile mele de licență în inginerie electrică și electronică la Universitatea Tel Aviv, am descoperit lucruri fascinante despre inteligența artificială care știam că ne vor ajuta să facem următorul pas în posibilitățile de calcul. De acolo, știam că vreau să mă implic în spațiul inteligenței artificiale. Indiferent dacă era vorba de cercetare în inteligența artificială sau de deschiderea unei companii care să ajute la introducerea unor modalități noi de aplicare a inteligenței artificiale în lume.

Ați avut întotdeauna un interes pentru hardware-ul computerelor?

Când am primit primul meu computer cu procesor Intel (INTC ) 486 la vârsta de șase sau șapte ani, am fost imediat interesat să aflu cum funcționează totul, chiar dacă probabil eram prea tânăr pentru a înțelege cu adevărat. În afara sportului, computerele au devenit una dintre cele mai mari hobby-uri ale mele în timpul copilăriei. De atunci, am construit computere, am lucrat cu ele și am studiat în acest domeniu din cauza pasiunii pe care o aveam ca copil.

Care a fost inspirația din spatele lansării Run:AI?

Știam de la început că vreau să mă implic în spațiul inteligenței artificiale. În ultimii ani, industria a cunoscut o creștere uriașă în inteligența artificială, și o mare parte din această creștere a venit atât din partea oamenilor de știință, precum mine, cât și a hardware-ului care putea susține mai multe aplicații. A devenit mai clar pentru mine că voi începe într-adevăr o companie – și împreună cu co-fondatorul meu Ronen Dar – pentru a continua să inovăm și să ajutăm la aducerea inteligenței artificiale în mai multe companii.

Run:AI permite specialiștilor în învățarea automată să obțină un nou tip de control asupra alocării resurselor GPU scumpe. Puteți explica cum funcționează acest lucru?

Ce trebuie să înțelegem este că inginerii de învățare automată, precum cercetătorii și oamenii de știință a datelor, au nevoie să consume putere de calcul într-un mod flexibil. Nu numai că calculele de astăzi sunt foarte intensive din punct de vedere computațional, dar există și noi fluxuri de lucru care sunt utilizate în știința datelor. Aceste fluxuri de lucru se bazează pe faptul că știința datelor se bazează pe experimentare și rularea experimentelor.

Pentru a dezvolta noi soluții pentru a rula experimente mai eficiente, avem nevoie să studiem aceste tendințe de flux de lucru de-a lungul timpului. De exemplu: un om de știință a datelor utilizează opt GPU-uri într-o zi, dar a doua zi poate utiliza zero, sau poate utiliza o GPU pentru o perioadă lungă de timp, dar apoi are nevoie să utilizeze 100 de GPU-uri pentru că vrea să ruleze 100 de experimente în paralel. Odată ce înțelegem acest flux de lucru pentru optimizarea puterii de calcul a unui utilizator, putem începe să-l scalăm pentru mai mulți utilizatori.

În computarea tradițională, un anumit număr de GPU-uri sunt alocate fiecărui utilizator, fără a lua în considerare dacă sunt utilizate sau nu. Cu această metodă, adesea, GPU-urile scumpe stau inactiv fără ca nimeni altcineva să poată accesa, rezultând un randament scăzut al investițiilor pentru GPU. Înțelegem prioritățile financiare ale unei companii și oferim soluții care permit alocarea dinamică a acestor resurse în funcție de nevoile utilizatorilor. Prin oferirea unui sistem flexibil, putem aloca putere suplimentară unui utilizator atunci când este necesar, utilizând GPU-urile care nu sunt utilizate de alți utilizatori, creând un randament maxim al investițiilor pentru resursele de calcul ale unei companii și accelerând inovarea și timpul de piață al soluțiilor de inteligență artificială.

Una dintre funcționalitățile Run:AI este că permite reducerea punctelor oarbe create de alocarea statică a GPU. Cum se realizează acest lucru?

Avem un instrument care ne oferă o vizibilitate completă asupra clusterului de resurse. Utilizând acest instrument, putem observa și înțelege dacă există puncte oarbe și apoi utilizăm aceste GPU-uri inactiv pentru utilizatorii care au nevoie de alocare. Același instrument care oferă vizibilitate asupra clusterului și control asupra clusterului asigură, de asemenea, că aceste puncte oarbe sunt atenuate.

Într-un discurs recent, ați subliniat câteva distincții între fluxurile de lucru de construire și antrenare, puteți explica cum Run:AI utilizează un mecanism de gestionare a cozii GPU pentru a aloca managementul resurselor pentru ambele?

Un model de inteligență artificială este construit în două etape. Prima etapă este cea de construire, în care un om de știință a datelor scrie codul pentru a construi modelul în sine, în același mod în care un inginer construiește o mașină. A doua etapă este cea de antrenare, în care modelul complet începe să învețe și să fie “antrenat” pentru a optimiza o anumită sarcină. Similar cu cineva care învață să conducă o mașină după ce a fost asamblată.

Pentru a construi modelul în sine, nu este nevoie de multă putere de calcul. Cu toate acestea, în cele din urmă, poate necesita o putere de procesare mai puternică pentru a începe teste interne mici. De exemplu, modul în care un inginer ar dori să testeze motorul înainte de a-l instala. Din cauza acestor nevoi distincte în fiecare etapă, Run.AI permite alocarea GPU-urilor, indiferent dacă se construiește sau se antrenează modelul, însă, așa cum am menționat anterior, se utilizează în general o putere GPU mai mare pentru antrenarea modelului, în timp ce se utilizează mai puțină putere pentru construirea lui.

Cât timp de calcul brut/resurse poate fi economisit de către dezvoltatorii de inteligență artificială care doresc să integreze Run.AI în sistemele lor?

Soluiile noastre de la Run.ai pot îmbunătăți digitalizarea resurselor, cu aproximativ două până la trei ori, însemnând o productivitate generală cu 2-3 ori mai bună.

Mulțumim pentru interviu, cititorii care doresc să afle mai multe pot vizita Run:AI.