Omri Geller, Run:AI’nin CEO’su ve Kurucu Ortağı – Röportaj Serisi

Omri Geller, Run:AI’nin CEO’su ve kurucu ortağıdır.

Run:AI, GPU hesaplanma kaynaklarını havuzlayarak AI’yi hızlandırır ve kaynak önceliklendirmesi ve atanması üzerinde görünürlük ve kontrol sağlar. Bu, AI projelerinin iş hedeflerine eşlenmesini sağlar ve veri bilimcisi ekiplerinin verimliliğinde önemli bir iyileşme sağlar, böylece kaynak sınırlamaları olmadan eş zamanlı modeller oluşturup eğitebilirler.

Sizce yapay zeka ile ilk olarak ne ilgilenmeye başladınız?

Tel Aviv Üniversitesi’nde Elektrik ve Elektronik Mühendisliği lisans eğitimime başladığım zaman, yapay zeka hakkında bazı ilginç şeyler keşfettim ve bunların bizi hesaplama olanakları açısından bir sonraki adıma taşıyabileceğini bildim. O zamandan beri, yapay zeka alanında kendimi yatırıma yönlendirmek istedim, ya da yapay zekayı dünyaya uygulamak için yeni yollar sunan bir şirket açtım.

Bilgisayar donanımı ile her zaman ilgileniyor musunuz?

Altı veya yedi yaşındayken ilk bilgisayarımı, Intel (INTC ) 486 işlemcisi ile aldım ve her şeyin nasıl çalıştığını anlamak için hemen ilgilendim, muhtemelen gerçekten anlamak için çok gençtim. Sporların dışında, bilgisayarlar büyürken en büyük hobilerimden biri oldu. O zamandan beri bilgisayarlar inşa ettim, onlarla çalıştım ve çocuklukta duyduğum tutkudan dolayı bu alanda eğitim gördüm.

Run:AI’yi başlatma fikrinin arkasındaki ilham nedir?

Çok erken bir aşamada, yapay zeka alanında kendimi yatırıma yönlendirmek istedim. Son birkaç yılda, endüstri büyük bir büyüme gösterdi ve bu büyümenin büyük bir kısmı, benim gibi bilgisayar bilimcileri ve bunları destekleyecek donanım tarafından geldi. Bir şirket kuracağımı anladım ve birlikte kurucu ortaklarım Ronen Dar ile birlikte, yenilikçi çözümler sunmaya ve AI’yi daha fazla şirketlere getirmeye devam etmek istedim.

Run:AI, makine öğrenimi uzmanlarının pahalı GPU kaynaklarının atanmasını kontrol etmelerine nasıl olanak tanır?

Anlamamız gereken şey, makine öğrenimi mühendislerinin, araştırmacıların ve veri bilimcilerinin hesaplama gücünü esnek bir şekilde tüketmeleri gerektiğidir. Bugünlerin yeni hesaplamaları çok hesaplama yoğundur ve veri biliminde kullanılan yeni iş akışları vardır. Bu iş akışları, deneyler yürütmeye ve deneyler üzerinde çalışmaya dayanır.

Veri bilimcisinin bir günde sekiz GPU kullandığını, ancak ertesi gün hiç kullanmadığını veya bir gün boyunca bir GPU kullanabileceğini, ancak sonra 100 deneyi paralel olarak çalıştırmak istediğinde 100 GPU kullanmak zorunda kalabileceğini düşünün. Bir kullanıcı için işlem gücünün optimizasyonunu anlamak için bu iş akışını zaman içinde incelememiz gerekir. Daha sonra bu iş akışını birden fazla kullanıcıya ölçekleyebiliriz.

Geleneksel hesaplama ile, her kullanıcıya belirli bir sayıda GPU atanır, kullanılıp kullanılmadığına bakılmaz. Bu yöntemle, pahalı GPU’lar genellikle boşta kalır ve başkaları tarafından erişilemez, bu da GPU için düşük bir getiri sağlar. Bir şirketin finansal önceliklerini anlarız ve kaynakların atanmasını kullanıcıların ihtiyaçlarına göre düzenleyen çözümler sunarız. Esnek bir sistem sunarak, ek güce ihtiyaç duyulan bir kullanıcıya, diğer kullanıcılar tarafından kullanılmayan GPU’ları kullanarak kaynak tahsis edebiliriz, böylece bir şirketin hesaplama kaynakları için maksimum getiri sağlar ve AI çözümlerinin inovasyonunu ve piyasa süresini hızlandırır.

Run:AI’nin bir diğer işlevi, statik atanma tarafından oluşturulan kör noktaların azaltılmasını sağlar. Bu nasıl yapılır?

Kaynakların kümesindeki görünürlüğü sağlayan bir araçımız var. Bu aracı kullanarak, kör noktaları gözlemleyebilir ve boşta kalan GPU’ları atanabiliriz. Kaynakların kümesindeki görünürlüğü ve kontrolü sağlayan aynı araç, bu kör noktaların azaltılmasını sağlar.

Son bir konuşmanızda, derleme ve eğitim iş akışları arasındaki bazı farklılıkları vurguladınız. Run:AI, GPU kuyruğu yönetim mekanizmasını kullanarak her ikisi için kaynak yönetimini nasıl ayırır?

Bir AI modeli iki aşamada inşa edilir. İlk aşama, veri bilimcisinin modeli oluşturmak için kodu yazdığı derleme aşamasıdır, tıpkı bir mühendisin bir araba inşa etmesi gibi. İkinci aşama, modelin öğrenme ve belirli bir görevi optimize etmeye yönelik “eğitim” aşamasıdır, tıpkı birinin araba sürmeyi öğrenmesi gibi.

Modeli kendisi inşa etmek için fazla hesaplama gücü gerekmez. Ancak daha sonra, küçük dahili testler için daha güçlü işlem gücü gerekebilir. Örneğin, bir mühendisin motoru takmadan önce test etmek istemesi gibi. Her aşamanın farklı ihtiyaçları nedeniyle, Run:AI modeli inşa ederken veya eğittiğinde GPU atanmasına izin verir, ancak daha önce de bahsedildiği gibi, modeli eğitmek için genellikle daha fazla GPU kullanılması gerekir, inşa etmek için ise daha az gerekir.

Run:AI’yi sistemlerine entegre etmek isteyen AI geliştiricileri, ham hesaplama zamanı/kaynaklarını ne kadar azaltabilir?

Run:AI’deki çözümlerimiz, kaynakların dijitalleştirilmesini yaklaşık iki ila üç katına çıkarabilir, yani genel verimlilikte 2-3 kat daha iyi olur.

Röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Run:AI sitesini ziyaret edebilir.