Omri Geller, CEO & Co-Founder of Run:AI – Interview Serie

Omri Geller er CEO og Co-Founder i Run:AI

Run:AI virtualiserer og accelererer AI ved at pulje GPU-computerressourcer for at sikre synlighed og i sidste ende kontrol over ressourceprioritering og -allokering. Dette sikrer, at AI-projekter er koblet til forretningsmål og giver en betydelig forbedring af produktiviteten hos datavidenskabshold, så de kan bygge og træne samtidige modeller uden ressourcebegrænsninger.

Hvad var det, der oprindeligt tiltrak dig til kunstig intelligens?

Da jeg startede min bacheloruddannelse i elektro- og elektronikteknik på Tel Aviv Universitet, opdagede jeg fascinerende ting om AI, som jeg vidste ville hjælpe os til at tage det næste skridt i computermuligheder. Derfra vidste jeg, at jeg ville investere mig selv i AI-rummet. Uanset om det var i AI-forskning eller åbning af et firma, der ville hjælpe med at introducere nye måder at anvende AI på verden.

Har du altid haft interesse for computerhardware?

Da jeg modtog min første computer med en Intel (INTC ) 486-procesor, da jeg var seks eller syv år gammel, var jeg straks interesseret i at finde ud af, hvordan alt fungerede, selvom jeg sandsynligvis var for ung til virkelig at forstå det. Ud over sport blev computere en af mine største fritidsinteresser, da jeg voksede op. Siden da har jeg bygget computere, arbejdet med dem og studeret på området på grund af den passion, jeg havde som barn.

Hvad var din inspiration bag lanceringen af Run:AI?

Jeg vidste fra meget tidligt, at jeg ville investere mig selv i AI-rummet. I de sidste par år har branchen oplevet en enorm vækst i AI, og en stor del af denne vækst kom fra både computerforskere som mig selv og hardware, der kunne understøtte flere anvendelser. Det blev klart for mig, at jeg ville starte et firma – og sammen med min medstifter Ronen Dar – for at fortsætte med at innovere og hjælpe med at bringe AI til flere virksomheder.

Run:AI giver mulighed for maskinlærings-specialister for at opnå en ny type kontrol over allokeringen af dyre GPU-resourcer. Kan du forklare, hvordan dette fungerer?

Det, vi skal forstå, er, at maskinlæringsingeniører, som forskere og datavidenskabsfolk, skal forbruge beregningskraft på en fleksibel måde. Ikke kun er dagens nyeste beregninger meget beregningsintensive, men der er også nye arbejdsgange, der anvendes i datavidenskab. Disse arbejdsgange er baseret på, at datavidenskab er baseret på eksperimenter og kørsel af eksperimenter.

For at udvikle nye løsninger til at køre mere effektive eksperimenter skal vi studere disse arbejdsgangs-tendenser over tid. For eksempel: En datavidenskabsmand bruger otte GPU’er på en dag, men dagen efter bruger de måske ingen, eller de kan bruge en GPU i længere tid, men derefter have brug for at bruge 100 GPU’er, fordi de vil køre 100 eksperimenter samtidigt. Når vi forstår denne arbejdsgang for at optimere behandlingskraften for en enkelt bruger, kan vi begynde at skala det op til flere brugere.

Med traditionel beregning tildeles en bestemt mængde GPU’er til hver bruger, uden at tage hensyn til, om de er i brug eller ej. Med denne metode sidder dyre GPU’er ofte inaktive uden, at nogen andre kan få adgang til dem, hvilket resulterer i lav ROI for GPU’en. Vi forstår en virksomheds finansielle prioriteter og tilbyder løsninger, der giver mulighed for dynamisk allokering af disse ressourcer i overensstemmelse med brugernes behov. Ved at tilbyde et fleksibelt system kan vi allokere ekstra kraft til en bestemt bruger, når det er nødvendigt, ved at udnytte GPU’er, der ikke er i brug af andre brugere, og skabe maksimal ROI for en virksomheds beregningsressourcer og accelerere innovation og tid til markedet for AI-løsninger.

En af Run:AI’s funktioner er, at det giver mulighed for reduktion af blinde pletter, der skabes af statisk allokering af GPU. Hvordan opnås dette?

Vi har et værktøj, der giver os fuld synlighed i ressourceklæden. Ved at bruge dette værktøj kan vi observere og forstå, om der er blinde pletter, og derefter udnytte de inaktive GPU’er til brugere, der har brug for allokeringen. Det samme værktøj, der giver synlighed i klæden og kontrol over klæden, sikrer også, at disse blinde pletter reduceres.

I en sen tale fremhævede du nogle forskelle mellem bygge- og træningsarbejdsgange. Kan du forklare, hvordan Run:AI bruger en GPU-køledningsmechanisme til at allokere ressourcestyring for begge?

En AI-model bygges i to stadier. Først er der byggestadiet, hvor en datavidenskabsmand skriver koden til at bygge den faktiske model, på samme måde som en ingeniør bygger en bil. Det andet er træningsstadiet, hvor den færdige model begynder at lære og bliver “trænet” i at optimere en bestemt opgave. Ligesom en person, der lærer at køre bil efter, at den er samlet.

For at bygge modellen selv er der ikke meget beregningskraft nødvendig. Men til sidst kan det kræve stærkere beregningskraft for at starte små, interne tests. For eksempel på samme måde, som en ingeniør ville ønske at teste motoren, før den installeres. På grund af disse forskellige behov i hvert stadium giver Run.AI mulighed for GPU-allokering uanset, om de bygger eller træner modellen, men som nævnt tidligere, er der generelt mere GPU-brug nødvendigt for at træne modellen, mens der er mindre nødvendigt for at bygge den.

Hvor meget rå beregnings tid/ressourcer kan AI-udviklere, der ønsker at integrere Run.AI i deres systemer, spare?

Vores løsninger på Run.ai kan forbedre digitaliseringen af ressourcer med omkring to til tre gange, hvilket betyder en samlet produktivitetsforbedring på 2-3 gange.

Tak for interviewet. Læsere, der ønsker at lære mere, kan besøge Run:AI.