Omri Geller, CEO & Co-Founder of Run:AI – Wywiad

Omri Geller jest CEO i współzałożycielem Run:AI

Run:AI wirtualizuje i przyspiesza sztuczną inteligencję, łącząc zasoby obliczeniowe GPU, aby zapewnić widoczność i kontrolę nad priorytetami i alokacją zasobów. Zapewnia to, że projekty sztucznej inteligencji są mapowane na cele biznesowe i przynoszą znaczającą poprawę produktywności zespołów naukowych, pozwalając im na budowę i szkolenie modeli równoległych bez ograniczeń zasobowych.

Czym było to, co początkowo przyciągnęło Cię do sztucznej inteligencji?

Gdy rozpocząłem studia licencjackie z zakresu elektrotechniki i elektroniki na Uniwersytecie w Tel Awiwie, odkryłem fascynujące rzeczy o sztucznej inteligencji, które wiedziałem, że pomogą nam zrobić następny krok w możliwościach obliczeniowych. Od tego momentu wiedziałem, że chcę zainwestować się w przestrzeń sztucznej inteligencji. Niezależnie od tego, czy był to badanie sztucznej inteligencji, czy otwarcie firmy, która pomoże wprowadzić nowe sposoby stosowania sztucznej inteligencji na świecie.

Czy zawsze miałeś zainteresowanie sprzętem komputerowym?

Gdy dostałem swój pierwszy komputer z procesorem Intel (INTC ) 486 w wieku sześciu lub siedmiu lat, byłam natychmiast zainteresowany, aby dowiedzieć się, jak wszystko działa, chociaż byłem prawdopodobnie zbyt młody, aby to naprawdę zrozumieć. Poza sportem komputery stały się jednym z moich największych hobby w dorastaniu. Od tego czasu zbudowałem komputery, pracowałem z nimi i poszedłem studiować w tej dziedzinie z powodu pasji, którą miałem jako dziecko.

Jaki był Twój pomysł na uruchomienie Run:AI?

Wiedziałem od samego początku, że chcę zainwestować się w przestrzeń sztucznej inteligencji. W ciągu ostatnich kilku lat branża ta doświadczyła ogromnego wzrostu, a duża część tego wzrostu pochodziła zarówno od naukowców komputerowych, jak i od sprzętu, który mógł obsłużyć więcej aplikacji. Stało się dla mnie jasne, że w końcu założę firmę – razem z moim współzałożycielem Ronenem Dar – aby dalej innowować i pomóc wprowadzić sztuczną inteligencję do więcej firm.

Run:AI umożliwia specjalistom od uczenia maszynowego uzyskanie nowego rodzaju kontroli nad alokacją drogich zasobów GPU. Czy możesz wyjaśnić, jak to działa?

Co musimy zrozumieć, to to, że inżynierowie uczenia maszynowego, tacy jak badacze i naukowcy, muszą konsumować moc obliczeniową w elastyczny sposób. Nie tylko dzisiejsze najnowsze obliczenia są bardzo wymagające obliczeniowo, ale także istnieją nowe przepływy pracy, które są używane w nauce o danych. Te przepływy pracy opierają się na fakcie, że nauka o danych opiera się na eksperymentach i uruchamianiu eksperymentów.

Aby opracować nowe rozwiązania, które pozwolą na prowadzenie bardziej efektywnych eksperymentów, musimy zbadać te tendencje przepływu pracy w czasie. Na przykład: naukowiec używa ośmiu GPU w ciągu jednego dnia, ale następnego dnia może użyć zero, lub może użyć jednego GPU przez długi czas, ale potem potrzebuje użyć 100 GPU, ponieważ chce uruchomić 100 eksperymentów równolegle. Gdy już zrozumiemy ten przepływ pracy dla optymalizacji mocy obliczeniowej jednego użytkownika, możemy zacząć go skalować do wielu użytkowników.

Z tradycyjnym obliczaniem określona liczba GPU jest przydzielona do każdego użytkownika, nie biorąc pod uwagę, czy są one używane, czy nie. Z tym metoda często drogie GPU siedzą bezczynnie, nie pozwalając nikomu innemu na dostęp do nich, co skutkuje niskim zwrotem z inwestycji dla GPU. Rozumiemy priorytety finansowe firmy i oferujemy rozwiązania, które umożliwiają dynamiczną alokację tych zasobów zgodnie z potrzebami użytkowników. Oferując elastyczny system, możemy przydzielić dodatkową moc do określonego użytkownika, gdy jest to wymagane, wykorzystując GPU, które nie są używane przez innych użytkowników, tworząc maksymalny zwrot z inwestycji dla zasobów obliczeniowych firmy i przyspieszając innowacje i czas wprowadzenia rozwiązań sztucznej inteligencji na rynek.

Jedną z funkcjonalności Run:AI jest to, że umożliwia redukcję punktów ślepych tworzonych przez statyczną alokację GPU. Jak to jest osiągane?

Mamy narzędzie, które daje nam pełną widoczność w klastrze zasobów. Używając tego narzędzia, możemy obserwować i zrozumieć, czy istnieją punkty ślepe, a następnie wykorzystać te bezczynne GPU dla użytkowników, którzy potrzebują alokacji. To samo narzędzie, które zapewnia widoczność w klastrze i kontrolę nad klastrem, również zapewnia, że te punkty ślepe są zminimalizowane.

W niedawnym przemówieniu podkreśliłeś pewne różnice między przepływami pracy budowy a szkolenia, czy możesz wyjaśnić, jak Run:AI używa mechanizmu zarządzania kolejką GPU do alokacji zarządzania zasobami dla obu?

Model sztucznej inteligencji jest budowany w dwóch etapach. Po pierwsze, jest etap budowy, w którym naukowiec pisze kod, aby zbudować sam model, w ten sam sposób, w jaki inżynier buduje samochód. Po drugie, jest etap szkolenia, w którym zbudowany model zaczyna się uczyć i jest “szkolony” w celu optymalizacji określonego zadania. Podobnie jak ktoś uczący się jeździć samochodem po jego zbudowaniu.

Aby zbudować sam model, nie potrzeba dużej mocy obliczeniowej. Jednak ostatecznie może to wymagać silniejszej mocy obliczeniowej, aby rozpocząć mniejsze, wewnętrzne testy. Na przykład, sposób, w jaki inżynier chciałby przetestować silnik przed jego zainstalowaniem. Z powodu tych różnych potrzeb podczas każdego etapu, Run.AI pozwala na alokację GPU niezależnie od tego, czy buduje, czy szkoli model, jednak, jak wcześniej wspomniano, wyższe zużycie GPU jest geralnie wymagane do szkolenia modelu, podczas gdy mniej jest wymagane do jego budowy.

Ile surowego czasu obliczeniowego/zasobów może być zaoszczędzone przez deweloperów AI, którzy chcą zintegrować Run.AI ze swoimi systemami?

Nasze rozwiązania w Run.ai mogą poprawić cyfryzację zasobów o około dwa do trzech razy, co oznacza 2-3 razy lepszą ogólną produktywność.

Dziękujemy za wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, mogą odwiedzić Run:AI.