Omri Geller, Run:AI:n toimitusjohtaja ja perustaja – Haastattelusarja

Omri Geller on Run:AI:n toimitusjohtaja ja perustaja.

Run:AI virtualisoi ja kiihdyttää tekoälyä jakamalla GPU-laskentaresursseja, jotta varmistetaan näkyvyys ja lopulta valvonta resurssien priorisoinnista ja jakautumisesta. Tämä varmistaa, että tekoälyprojektit on kartoitettu liiketoimintatavoitteisiin ja tuottaa merkittävän parannuksen data- ja tieteen tiimien tuottavuudessa, jolloin he voivat luoda ja kouluttaa rinnakkaisia malleja ilman resurssirajoituksia.

Mikä alun perin kiinnosti sinua tekoälyyn?

Kun aloitin sähkö- ja elektroniikka-insinöörin tutkinnon Tel Avivin yliopistossa, löysin tekoälystä mielenkiintoisia asioita, jotka tiesin auttavan meitä seuraavaan askelmaan laskentamahdollisuuksissa. Siitä lähtien tiesin, että haluan panostaa itseäni tekoälytilaan. Olipa se sitten tekoälytutkimus tai yrityksen perustaminen, joka auttaa esittelemään uusia tapoja soveltaa tekoälyä maailmaan.

Oletko aina ollut kiinnostunut tietokoneiden laitteistosta?

Kun sain ensimmäisen tietokoneeni Intel (INTC ) 486 -prosessorilla kuuden tai seitsemän vuoden iässä, olin välittömästi kiinnostunut selvittämään, miten kaikki toimi, vaikka olin ehkä liian nuori ymmärtääkseni sitä oikeasti. Urheilun lisäksi tietokoneet tulivat yhdeksi suurimmista harrastuksistani kasvaessani. Sen jälkeen olen rakentanut tietokoneita, työskennellyt niiden parissa ja opiskellut alaa intohimoni vuoksi lapsuudestani lähtien.

Mikä oli inspiraation lähteesi perustaa Run:AI?

Tiesin jo varhain, että haluan panostaa itseäni tekoälytilaan. Viime vuosina tekoäly on kasvanut valtavasti, ja osa kasvusta on tullut sekä tietokoneen tieteilijöiltä, kuten minä, että laitteista, jotka voivat tukea enemmän sovelluksia. Selvisi minulle, että perustaisin yrityksen – yhdessä perustajani Ronen Darin kanssa – jatkaakseen innovointia ja auttaakseen tekoälyn saattamisessa enemmän yrityksiin.

Run:AI mahdollistaa koneoppimisen asiantuntijoille uudenlaisen valvonnan kalliiden GPU-resurssien jakautumisesta. Voitko selittää, miten tämä toimii?

Tarvitsemme ymmärtää, että koneoppimisen insinöörit, tutkijat ja data-tieteilijät tarvitsevat laskentavaltuuksia joustavasti. Nykyisten laskentojen lisäksi on myös uusia työvirran muotoja, jotka perustuvat siihen, että data-tiede perustuu kokeiluihin ja kokeiden suorittamiseen.

Jotta voimme kehittää uusia ratkaisuja tehokkaampien kokeiden suorittamiseen, meidän on tutkittava näitä työvirran taipumuksia ajan myötä. Esimerkiksi: data-tieteilijä käyttää kahdeksaa GPU:ta yhden päivän ajan, mutta seuraavana päivänä hän ei käytä yhtään, tai hän voi käyttää yhtä GPU:ta pitkän ajan, mutta sitten tarvitsee 100 GPU:ta, koska hän haluaa suorittaa 100 kokeilua rinnakkain. Kun ymmärrämme tämän työvirran yhden käyttäjän laskentavaltuuksien optimoinnista, voimme aloittaa sen skaalauksen useille käyttäjille.

Perinteisessä laskennassa määrätty määrä GPU:ta on määritetty jokaiselle käyttäjälle, ottaen huomioon, ovatko ne käytössä tai eivät. Tällä menetelmällä kalliit GPU:t usein istuvat tyhjillään ilman, että kukaan muu pääsee niihin käsiksi, mikä johtaa matalaan tuottoon GPU:sta. Ymmärrämme yritysten taloudelliset prioriteetit ja tarjoamme ratkaisuja, jotka sallivat dynaamisen resurssien jakautumisen käyttäjien tarpeiden mukaan. Tarjoamalla joustavan järjestelmän voimme määrittää lisävoimaa tietyn käyttäjän tarpeiden mukaan käyttämällä GPU:ta, jota ei käytetä toisessa käyttäjässä, mikä johtaa maksimaaliseen tuottoon yrityksen laskentaresursseista ja kiihdyttää innovaatiota ja markkinoille pääsyä tekoälyratkaisuissa.

Yksi Run:AI:n toiminnallisuuksista on se, että se mahdollistaa sokeiden pisteiden vähentämisen, jotka johtuvat staattisesta GPU-jakautumisesta. Miten tämä saavutetaan?

Meillä on työkalu, joka antaa meille täydellisen näkyvyyden resurssiryhmään. Käyttämällä tätä työkalua voimme havaita ja ymmärtää, onko sokeita pisteitä, ja sitten käyttää niitä tyhjiä GPU:ta käyttäjille, jotka tarvitsevat jakautumista. Sama työkalu, joka antaa näkyvyyden resurssiryhmään ja valvonnan resurssiryhmään, varmistaa myös, että sokeat pisteet vähenevät.

Viimeisimmässä puheessasi korostit joitakin eroja rakennus- ja koulutusvirroissa, voitko selittää, miten Run:AI käyttää GPU-jonon hallintamekanismia resurssien hallintaan molemmissa?

Tekoälymalli rakennetaan kahdessa vaiheessa. Ensimmäinen on rakennusvaihe, jossa data-tieteilijä kirjoittaa koodia mallin rakentamiseksi, samalla tavalla kuin insinööri rakentaa auton. Toinen on koulutusvaihe, jossa valmis malli alkaa oppia ja “kouluttaa” itsensä tehostamaan tiettyä tehtävää. Samalla tavalla kuin joku oppii ajamaan auton sen valmistumisen jälkeen.

Mallin rakentamiseen ei tarvita paljon laskentavaltuuksia. Lopulta se voi kuitenkin tarvita voimakkaampaa laskentavaltuuksia aloittaakseen pienemmät, sisäiset testit. Esimerkiksi, insinööri haluaa testata moottoria ennen sen asentamista. Näiden erilaisten tarpeiden vuoksi Run:AI sallii GPU-jakautumisen riippumatta siitä, onko mallia rakennettaessa vai koulutettaessa, mutta kuten mainittiin aiemmin, korkeampi GPU-käyttö on yleensä tarpeen mallin koulutuksessa, kun taas vähemmän on tarpeen sen rakentamisessa.

Kuinka paljon raakaa laskentaaika/resursseja voidaan säästää tekoälykehittäjille, jotka haluavat integroida Run:AI järjestelmiinsä?

Run:AI:n ratkaisut voivat parantaa resurssien digitalisointia noin kaksi- tai kolme-kertaisesti, mikä tarkoittaa 2-3 kertaa parempaa tuottavuutta.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Run:AI:ssa.