Omri Geller, generálny riaditeľ a spoluzakladateľ Run:AI – série rozhovorov

Omri Geller je generálnym riaditeľom a spoluzakladateľom spoločnosti Beh: AI

Run:AI virtualizuje a urýchľuje AI združovaním výpočtových zdrojov GPU, aby sa zabezpečila viditeľnosť a v konečnom dôsledku kontrola nad prioritizáciou a prideľovaním zdrojov. To zaisťuje, že projekty AI sú namapované na obchodné ciele a prináša významné zlepšenie produktivity tímov pre vedu o údajoch, čo im umožňuje vytvárať a trénovať súbežné modely bez obmedzení zdrojov.

Čo vás na začiatku priťahovalo k umelej inteligencii?

Keď som začal bakalársky titul z elektrotechniky a elektroniky na univerzite v Tel Avive, objavil som fascinujúce veci o AI, o ktorých som vedel, že nám pomôžu prejsť k ďalšiemu kroku v oblasti výpočtových možností. Odtiaľ som vedel, že chcem investovať do priestoru AI. Či už to bolo vo výskume AI, alebo pri otvorení spoločnosti, ktorá by pomohla predstaviť nové spôsoby aplikácie AI vo svete.

Vždy ste sa zaujímali o počítačový hardvér?

Keď som v šiestich alebo siedmich rokoch dostal svoj prvý počítač s procesorom Intel 486, okamžite ma zaujímalo, ako všetko funguje, aj keď som bol pravdepodobne príliš mladý na to, aby som tomu skutočne rozumel. Okrem športu sa počítače stali jedným z mojich najväčších koníčkov, keď som vyrastal. Odvtedy som staval počítače, pracoval s nimi a pokračoval v štúdiu v odbore kvôli vášni, ktorú som mal ako dieťa.

Čo bolo vašou inšpiráciou pri spustení Run:AI?

Už od začiatku som vedel, že sa chcem investovať do priestoru AI. Za posledných pár rokov zaznamenalo toto odvetvie obrovský rast v oblasti AI a veľa z tohto rastu pochádzalo od počítačových vedcov, ako som ja, a hardvéru, ktorý by mohol podporovať viac aplikácií. Bolo mi jasnejšie, že nevyhnutne založím spoločnosť – a spolu s mojím spoluzakladateľom Ronenom Darom –, aby sme pokračovali v inováciách a pomohli priniesť AI do väčšieho počtu podnikov.

Run:AI umožňuje špecialistom na strojové učenie získať nový typ kontroly nad prideľovaním drahých zdrojov GPU. Môžete vysvetliť, ako to funguje?

Musíme pochopiť, že inžinieri strojového učenia, ako sú výskumníci a dátoví vedci, musia spotrebovať výpočtovú silu flexibilným spôsobom. Nielenže sú dnešné najnovšie výpočty veľmi náročné na výpočtovú techniku, ale existujú aj nové pracovné postupy, ktoré sa používajú v dátovej vede. Tieto pracovné postupy sú založené na skutočnosti, že veda o údajoch je založená na experimentovaní a prebiehajúcich experimentoch.

Aby sme mohli vyvinúť nové riešenia na efektívnejšie experimenty, musíme tieto tendencie pracovného toku študovať v priebehu času. Napríklad: Dátový vedec používa osem GPU za jeden deň, ale na druhý deň môže použiť nulu alebo môže používať jeden GPU dlhú dobu, ale potom potrebuje použiť 100 GPU, pretože chce spustiť 100 experimentov. paralelne. Keď pochopíme tento pracovný postup na optimalizáciu výpočtového výkonu jedného používateľa, môžeme ho začať škálovať na viacerých používateľov.

Pri tradičnej výpočtovej technike je každému používateľovi pridelený špecifický počet GPU, pričom sa neberie do úvahy, či sa používajú alebo nie. Pri tejto metóde často drahé GPU nečinne stoja bez toho, aby k nim ktokoľvek iný mal prístup, čo vedie k nízkej návratnosti investícií GPU. Rozumieme finančným prioritám spoločnosti a ponúkame riešenia, ktoré umožňujú dynamickú alokáciu týchto zdrojov podľa potrieb používateľov. Tým, že ponúkame flexibilný systém, môžeme v prípade potreby prideliť dodatočný výkon konkrétnemu používateľovi, využívaním GPU, ktoré iní používatelia nepoužívajú, vytváraním maximálnej návratnosti investícií do výpočtových zdrojov spoločnosti a zrýchlením inovácií a času na uvedenie riešení AI na trh.

Jednou z funkcií Run:AI je, že umožňuje redukciu slepých miest vytvorených statickou alokáciou GPU. Ako sa to dosiahne?

Máme nástroj, ktorý nám poskytuje úplný prehľad o zhluku zdrojov. Pomocou tohto nástroja môžeme pozorovať a pochopiť, či existujú slepé miesta, a potom využiť tieto nečinné GPU pre používateľov, ktorí potrebujú pridelenie. Rovnaký nástroj, ktorý poskytuje viditeľnosť do klastra a kontrolu nad klastrom, zaisťuje aj zmiernenie týchto slepých uhlov.

V nedávnom prejave ste zdôraznili niektoré rozdiely medzi pracovnými postupmi zostavovania a školenia, môžete vysvetliť, ako Run:AI používa mechanizmus správy radov GPU na prideľovanie správy zdrojov pre obe?

Model AI sa vytvára v dvoch fázach. Po prvé, je tu fáza stavby, v ktorej dátový vedec píše kód na zostavenie skutočného modelu, rovnakým spôsobom, akým by inžinier postavil auto. Druhou je fáza tréningu, kde sa dokončený model začína učiť a „trénovať“ ako optimalizovať konkrétnu úlohu. Podobne ako keď sa niekto učí riadiť auto po jeho zložení.

Na zostavenie samotného modelu nie je potrebný veľký výpočtový výkon. Nakoniec by však mohol potrebovať silnejší výpočtový výkon, aby mohol začať menšie interné testy. Napríklad spôsob, akým by inžinier nakoniec chcel otestovať motor pred jeho inštaláciou. Vzhľadom na tieto odlišné potreby počas každej fázy umožňuje Run.AI prideľovanie GPU bez ohľadu na to, či model vytvárajú alebo trénujú, avšak, ako už bolo spomenuté, na trénovanie modelu je vo všeobecnosti potrebné vyššie využitie GPU, zatiaľ čo na jeho zostavenie je potrebné menej. .

Koľko surového výpočtového času/zdrojov môžu ušetriť vývojári AI, ktorí chcú integrovať Run.AI do svojich systémov?

Naše riešenia na Run.ai môžu zlepšiť digitalizáciu zdrojov približne dvakrát až trikrát, čo znamená 2- až 3-krát lepšiu celkovú produktivitu.

Ďakujeme za rozhovor, čitatelia, ktorí sa chcú dozvedieť viac, môžu navštíviť Beh: AI.