Omri Geller, CEO a spoluzakladatel Run:AI – rozhovor

Omri Geller je CEO a spoluzakladatel společnosti Run:AI

Run:AI virtualizuje a urychluje umělou inteligenci sdružováním výpočetních zdrojů GPU, aby zajistil viditelnost a kontrolu nad prioritizací a alokací zdrojů. To zajišťuje, že projekty umělé inteligence jsou mapovány na obchodní cíle a přinášejí významné zlepšení produktivity týmů datové vědy, umožňující jim vytvářet a trénovat současné modely bez omezení zdrojů.

Co vás původně přitáhlo k umělé inteligenci?

Když jsem začal své bakalářské studium elektrotechniky a elektroniky na Telavivské univerzitě, objevil jsem fascinující věci o umělých inteligencích, které jsem věděl, že budou mít velký dopad na budoucnost výpočetní techniky. Od té doby jsem věděl, že chci investovat sám sebe do prostoru umělé inteligence, ať už ve formě výzkumu nebo založení společnosti, která bude pomáhat zavádět nové způsoby aplikace umělé inteligence do světa.

Měl jste vždy zájem o počítačový hardware?

Když jsem dostal svůj první počítač s procesorem Intel (INTC ) 486 ve věku šesti nebo sedmi let, okamžitě jsem byl zvědavý, jak všechno funguje, i když jsem byl pravděpodobně příliš mladý, aby tomu真正 rozuměl. Kromě sportu se počítače staly jednou z mých největších koníčků. Od té doby jsem sestavil počítače, pracoval s nimi a studoval v tomto oboru, protože jsem měl vášeň pro počítače jako dítě.

Co vás inspirovalo k založení Run:AI?

Věděl jsem už od začátku, že chci investovat sám sebe do prostoru umělé inteligence. V posledních letech jsme viděli obrovský růst umělé inteligence, a velký díl tohoto růstu pochází od počítačových vědců, jako jsem já, a hardwaru, který může podporovat více aplikací. Stalo se mi jasné, že nakonec založím společnost – a to spolu se svým spoluzakladatelem Ronenem Darem – abychom mohli pokračovat v inovacích a pomáhat zavádět umělou inteligenci do více podniků.

Run:AI umožňuje specialistům na strojové učení získat novou kontrolu nad alokací drahých zdrojů GPU. Můžete vysvětlit, jak to funguje?

Je důležité pochopit, že inženýři strojového učení, výzkumníci a datoví vědci potřebují spotřebovávat výpočetní výkon flexibilním způsobem. Nejenže jsou dnešní výpočty velmi náročné, ale existují také nové pracovní postupy, které se používají ve vědě o datech. Tyto pracovní postupy jsou založeny na experimentech a běhu experimentů.

Abychom mohli vyvinout nové řešení pro běh efektivnějších experimentů, musíme studovat tyto pracovní postupy v čase. Například: Datový vědec používá osm GPU jeden den, ale druhý den může použít nulu, nebo může použít jedno GPU po dlouhou dobu, ale pak potřebuje použít 100 GPU, protože chce běžet 100 experimentů paralelně. Jakmile pochopíme tento pracovní postup pro optimalizaci zpracování jednoho uživatele, můžeme začít škálovat na více uživatelů.

S tradičním výpočtem je určitý počet GPU přidělen každému uživateli, aniž by se bral v úvahu, zda jsou využívány nebo ne. S touto metodou často drahá GPU zůstávají nečinná, aniž by je mohl někdo jiný využít, což vede k nízkému návratu investic do GPU. Chápeme finanční priority společnosti a nabízíme řešení, která umožňují dynamickou alokaci těchto zdrojů podle potřeb uživatelů. Díky flexibilnímu systému můžeme přidělit další výkon konkrétnímu uživateli, když je to potřeba, využívajících GPU, které nejsou používány jinými uživateli, a tím maximalizujeme návratnost investic do výpočetních zdrojů a urychluje inovace a dobu uvedení řešení umělé inteligence na trh.

Jedna z funkcí Run:AI je snížení slepých míst vytvořených statickou alokací GPU. Jak je toto dosaženo?

Máme nástroj, který nám poskytuje úplnou viditelnost do clusteru zdrojů. Používáním tohoto nástroje můžeme pozorovat a pochopit, zda existují slepá místa, a poté využít tyto nečinné GPU pro uživatele, kteří potřebují alokaci. Stejný nástroj, který poskytuje viditelnost do clusteru a kontrolu nad clusterem, také zajišťuje, že tato slepá místa jsou minimalizována.

V nedávném projevu jste zmínil některé rozdíly mezi build a training pracovními postupy, můžete vysvětlit, jak Run:AI používá mechanismus řízení fronty GPU pro alokaci zdrojů pro obě?

Model umělé inteligence se skládá ze dvou fází. První fáze je build, kde datový vědec píše kód pro vytvoření modelu, stejně jako inženýr, který staví auto. Druhá fáze je training, kde dokončený model začíná učit a být “trénován” na optimalizaci konkrétní úlohy. Podobně jako někdo, kdo se učí řídit auto po jeho sestavení.

Pro vytvoření modelu samotného není potřeba mnoho výpočetního výkonu. Nicméně, nakonec to může vyžadovat silnější zpracování, aby mohlo začít menší, vnitřní testy. Například, způsobem, jakým inženýr chce otestovat motor, než ho nainstaluje. Díky těmto odlišným potřebám během každé fáze, Run.AI umožňuje alokaci GPU bez ohledu na to, zda se buduje nebo trénuje model, nicméně, jak jsem již zmínil dříve, vyšší využití GPU je obecně vyžadováno pro trénování modelu, zatímco méně je vyžadováno pro jeho vytvoření.

Kolik syrového výpočetního času/zdrojů lze ušetřit vývojáři umělé inteligence, kteří chtějí integrovat Run.AI do svých systémů?

Naše řešení v Run.ai mohou zlepšit digitalizaci zdrojů o dvě až tři krát, což znamená 2-3 krát lepší celkovou produktivitu.

Děkuji za rozhovor, čtenáři, kteří chtějí se dozvědět více, mohou navštívit Run:AI.