Omri Geller, Run:AI CEO'su ve Kurucu Ortağı – Röportaj Serisi

Omri Geller, şirketin CEO'su ve Kurucu Ortağıdır. Çalıştır: AI

Run:AI, görünürlüğü sağlamak ve nihayetinde kaynak önceliklendirmesi ve tahsisi üzerinde kontrol sağlamak için GPU bilgi işlem kaynaklarını bir havuzda toplayarak yapay zekayı sanallaştırır ve hızlandırır. Bu, AI projelerinin iş hedefleriyle eşlenmesini sağlar ve veri bilimi ekiplerinin üretkenliğinde önemli bir gelişme sağlayarak, kaynak sınırlamaları olmadan eşzamanlı modeller oluşturmalarına ve eğitmelerine olanak tanır.

Sizi yapay zekaya ilk çeken şey neydi?

Tel Aviv Üniversitesi'nde Elektrik ve Elektronik Mühendisliği lisans dereceme başladığımda, yapay zeka hakkında bilgi işlem olasılıklarında bir sonraki adıma geçmemize yardımcı olacağını bildiğim büyüleyici şeyler keşfettim. Oradan, kendimi yapay zeka alanına yatırmak istediğimi biliyordum. İster AI araştırmasında, ister AI'yı dünyaya uygulamanın yeni yollarını sunmaya yardımcı olacak bir şirket açmak olsun.

Her zaman bilgisayar donanımına ilgi duydunuz mu?

Intel 486 işlemcili ilk bilgisayarımı altı ya da yedi yaşında aldığımda, muhtemelen gerçekten anlamak için çok genç olmama rağmen, her şeyin nasıl çalıştığını hemen anlamaya ilgi duydum. Sporun yanı sıra bilgisayar, büyürken en büyük hobilerimden biri haline geldi. O zamandan beri bilgisayarlar yaptım, onlarla çalıştım ve çocukken sahip olduğum tutku nedeniyle sahada çalışmaya devam ettim.

Run:AI'yi piyasaya sürmenizin ardındaki ilham kaynağınız neydi?

En başından beri yapay zeka alanına yatırım yapmak istediğimi biliyordum. Son birkaç yılda, endüstri AI'da muazzam bir büyüme gördü ve bu büyümenin çoğu hem benim gibi bilgisayar bilimcilerinden hem de daha fazla uygulamayı destekleyebilecek donanımdan geldi. İnovasyona devam etmek ve AI'yı daha fazla kurumsal şirkete getirmeye yardımcı olmak için - ve kurucu ortağım Ronen Dar ile birlikte - kaçınılmaz olarak bir şirket kuracağım benim için daha net hale geldi.

Run:AI, makine öğrenimi uzmanlarının pahalı GPU kaynaklarının tahsisi üzerinde yeni bir kontrol türü elde etmesine olanak tanır. Bunun nasıl çalıştığını açıklayabilir misiniz?

Anlamamız gereken şey, araştırmacılar ve veri bilimcileri gibi makine öğrenimi mühendislerinin bilgi işlem gücünü esnek bir şekilde tüketmeleri gerektiğidir. Günümüzün en yeni hesaplamaları yalnızca çok yoğun işlem yapmakla kalmaz, aynı zamanda veri biliminde kullanılan yeni iş akışları da vardır. Bu iş akışları, veri biliminin deney yapmaya ve deneyler yürütmeye dayalı olduğu gerçeğine dayanmaktadır.

Daha verimli deneyler yapmak için yeni çözümler geliştirmek amacıyla, zaman içindeki bu iş akışı eğilimlerini incelememiz gerekir. Örneğin: Bir veri bilimcisi bir günde sekiz GPU kullanır, ancak ertesi gün sıfır kullanabilir veya bir GPU'yu uzun süre kullanabilir, ancak daha sonra 100 deney yapmak istediği için 100 GPU kullanması gerekir. paralel. Bir kullanıcının işlem gücünü optimize etmek için bu iş akışını anladığımızda, onu birkaç kullanıcıya ölçeklendirmeye başlayabiliriz.

Geleneksel bilişimde, her kullanıcıya belirli sayıda GPU tahsis edilir ve kullanımda olup olmadıkları dikkate alınmaz. Bu yöntemde, çoğu zaman pahalı GPU'lar, başka kimsenin erişemeyeceği şekilde boşta kalır ve bu da GPU için düşük yatırım getirisi (ROI) ile sonuçlanır. Bir şirketin finansal önceliklerini anlıyor ve bu kaynakların kullanıcıların ihtiyaçlarına göre dinamik olarak tahsis edilmesine olanak tanıyan çözümler sunuyoruz. Esnek bir sistem sunarak, diğer kullanıcılar tarafından kullanılmayan GPU'ları kullanarak, gerektiğinde belirli bir kullanıcıya ekstra güç tahsis edebilir, şirketin bilgi işlem kaynakları için maksimum yatırım getirisi sağlayabilir ve yapay zeka çözümlerinin inovasyon ve pazara sunma süresini hızlandırabiliriz.

Run:AI işlevlerinden biri, GPU'nun statik olarak tahsis edilmesiyle oluşturulan kör noktaların azaltılmasını sağlamasıdır. Bu nasıl elde edilir?

Kaynak kümesini tam olarak görmemizi sağlayan bir aracımız var. Bu aracı kullanarak, kör noktalar olup olmadığını gözlemleyebilir ve anlayabilir ve ardından tahsise ihtiyacı olan kullanıcılar için boştaki GPU'ları kullanabiliriz. Kümeye görünürlük ve küme üzerinde kontrol sağlayan aynı araç, aynı zamanda bu kör noktaların hafifletilmesini de sağlar.

Yakın zamanda yaptığınız bir konuşmada derleme ve eğitim iş akışları arasındaki bazı farklılıkları vurguladınız. Run:AI'nin her ikisi için de kaynak yönetimi tahsis etmek üzere bir GPU kuyruk yönetimi mekanizmasını nasıl kullandığını açıklayabilir misiniz?

Bir AI modeli iki aşamada oluşturulur. İlk olarak, bir veri bilimcinin gerçek modeli oluşturmak için kodu yazdığı, tıpkı bir mühendisin bir araba yapacağı şekilde inşa etme aşaması vardır. İkincisi, tamamlanan modelin belirli bir görevi nasıl optimize edeceği konusunda öğrenmeye ve 'eğitilmeye' başladığı eğitim aşamasıdır. Monte edildikten sonra araba kullanmayı öğrenen birine benzer.

Modelin kendisini oluşturmak için çok fazla bilgi işlem gücüne gerek yoktur. Ancak, sonunda, daha küçük dahili testlere başlamak için daha güçlü işlem gücüne ihtiyaç duyabilir. Örneğin, bir mühendisin sonunda motoru kurmadan önce test etmek isteme şekli. Her aşamadaki bu farklı ihtiyaçlar nedeniyle, Run.AI, modeli oluşturup oluşturmadıklarına veya eğitmelerine bakılmaksızın GPU tahsisine izin verir, ancak daha önce de belirtildiği gibi, genellikle modeli eğitmek için daha yüksek GPU kullanımı gerekirken oluşturmak için daha az GPU kullanımı gerekir. .

Run.AI'yi sistemlerine entegre etmek isteyen AI geliştiricileri tarafından ne kadar ham bilgi işlem süresi/kaynakları kurtarılabilir?

Run.ai'deki çözümlerimiz, kaynakların dijitalleşmesini yaklaşık iki ila üç kat artırabilir, bu da genel üretkenliğin 2-3 katı anlamına gelir.

Röportaj için teşekkürler, daha fazlasını öğrenmek isteyen okuyucular ziyaret edebilir. Çalıştır: AI.