Röportajlar
Ludovic Larzul, Mipsology’nin Kurucusu ve CEO’su – Röportaj Serisi
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Ludovic Larzul, Mipsology’nin kurucusu ve CEO’sudur. Mipsology, derin öğrenme çıkarımı için son teknoloji hızlandırma çözümleri sunan bir şirket olarak faaliyet göstermektedir. Şirket, çıkarım sinir ağları hesaplamalarını hızlandırmak ve donanım hızlandırıcıyı AI kullanıcılarından gizlemek için teknoloji geliştirmiştir. Mipsology’nin Zebra’sı, bu teknolojiyi yüksek performans ve kullanım kolaylığı sunan ilk ticari hızlandırıcıdır.
AI ve mikroçiplere ilgi duymaya nasıl başladınız?
Önceki şirketim EVE’de yaklaşık 20 yıl süper bilgisayarlar tasarladım. Bu bilgisayarlar, ASIC emülatörleri olarak da bilinir ve birçok şirket tarafından ASIC’ler tasarlamak için kullanılır. Bu işin karmaşıklığı ve çeşitliliği beni çok ilgilendirdi. Başarılı olmak için, elektronik, yazılım, karmaşık algoritmalar, insanların çipler tasarlayışını ve bunların doğru çalışmasını sağlamak gibi konuları anlamak gerekir. Ayrıca, müşterilerin birkaç yıl öncesinden ihtiyaçlarını doğru şekilde tahmin etmek ve sürekli olarak yenilikler yapmak gerekir. 20 yıllık başarılı bir geçmişten sonra, yeni bir challenge arıyordum. Bu, AI’nin tekrar ön plana çıktığı bir zamandı. AlexNet, görüntü anlayışında bir adım atmıştı ve derin öğrenme yeni ve vaadeden bir alandı. Ancak, birçok zorluk da vardı.
Mipsology’yi kurma fikri nasıl oluştu?
Sanırım “ilham” kelimesini kullanmak doğru olmaz. Daha çok “Acaba daha iyi ve farklı bir şey yapabilir miyiz?” şeklinde düşünmüştüm. AI kullanıcılarının ne istediğini ve nasıl davranacağını varsayarak, sonraki birkaç yıl boyunca bu varsayımlara dayalı daha iyi çözümler bulmaya çalıştık. Sanırım daha çok “ilham”dan ziyade, birlikte çalıştığım insanların en iyisi olmak istemesi ve pozitif bir rekabet ruhuyla hareket etmeleri, güçlü bir takım oluşturdu ve diğerlerinin çözemediği sorunları çözebildik.
Mipsology, FPGA kartları yerine GPU’ları kullanıyor. FPGA’lar nelerdir?
FPGA’lar, donanım seviyesinde programlanabilen elektronik bileşenlerdir. Bunları, birkaç milyon Lego parçasına benzetebilirsiniz. Her bir küçük blok, basit bir işlem gerçekleştirebilir, örneğin bir değeri saklayabilir veya slightly daha karmaşık işlemler gerçekleştirebilir. Bu blokları birleştirerek, çip üretildikten sonra belirli bir davranış oluşturmak mümkündür. Bu, GPU’lar ve diğer çoğu çipin aksine, belirli bir fonksiyona yönelik tasarlandıkları ve sonrasında değiştirilemedikleri anlamına gelir.
Bazıları, CPU’lar ve GPU’lar gibi, programlanabilir ancak FPGA’lar kadar paralel değildir. Bir FPGA, herhangi bir anda birkaç milyon basit işlemi gerçekleştirebilir ve bu işlemler saniyede altı veya yedi yüz milyon kez tekrarlanabilir. Programlanabilir olmaları nedeniyle, farklı sorunlara uyum sağlamak için ne yaptıkları her zaman değiştirilebilir, bu nedenle olağanüstü hesaplama gücü etkili olabilir. FPGA’lar zaten birçok alanda kullanılmaktadır, örneğin cep telefonlarının baz istasyonlarında, ağlarda, uydu ve arabalarda. Ancak, CPU’lar gibi görünür olmadıkları için insanlar tarafından iyi bilinmemektedir.
FPGA kartları, daha popüler GPU’lara göre neden daha iyi bir çözümdür?
FPGA’lar birçok açıdan üstündür. Sadece birkaç önemli noktaya odaklanalım.
GPU’lar, esas olarak oyunlar için görüntü oluşturma amacıyla tasarlanmıştır. AI’de bazı hesaplamalarla benzerlik göstermeleri nedeniyle uygun bulunmuştur. Ancak, oyunlara yönelik olarak tasarlandıkları için, sinir ağlarıyla tam olarak uyumlu olmayan kısıtlamalarla gelirler.
Programlama açısından da sınırlıdırlar, çünkü talimatları iki veya üç yıl önce belirlenmiştir. Problemin biri, sinir ağlarının ASIC’lerin tasarımından daha hızlı gelişmesidir ve GPU’lar ASIC’lerdir. Geleceği tahmin etmek gibi bir şeydir; doğru olmak kolay değildir. Trendleri görebilirsiniz, ancak ayrıntılar sonuçları gerçekten etkiler, örneğin performans. Karşılaştırıldığında, FPGA’ların donanım seviyesinde programlanabilmesi, AI’nin ilerlemesiyle daha kolay şekilde uyum sağlamamızı sağlar. Bu, daha iyi bir ürün sunmamızı, daha yüksek performans sağlamamızı ve müşterilerin ihtiyaçlarını karşılamamızı sağlar, ayrıca yeni bir silikon neslesi beklemek zorunda kalmayız.
Dahası, GPU’lar tüketici ürünleri olarak tasarlanmıştır. Kısa bir ömre sahip olmaları amaçlanır, çünkü GPU’ları tasarlayan şirketler birkaç yıl sonra yeni onesini satmak ister. Bu, uzun yıllar güvenilir olması gereken elektronik sistemlerle uyumlu değildir. FPGA’lar ise robust ve uzun yıllar boyunca 24/7 çalışmaya yönelik tasarlanmıştır.
FPGA’ların diğer bilinen avantajları arasında:
- Örneğin ağ işlemleri veya video işleme gibi belirli alanlara uyumlu birçok seçeneğin bulunması
- Veri merkezlerinde, kenarda veya gömülü sistemlerde eşit derecede iyi çalışması
- Özel soğutma gerektirmemesi (büyük GPU’lar gibi su soğutması gerektirmez)
Birincil dezavantaj, FPGA’ların programlanmasının zor olmasıdır. Özel bilgi gerektirir. FPGA satan şirketler, karmaşıklık açığını kapatmak için büyük çaba sarf etmiş olsalar da, hala CPU kadar basit değildir. Aslında, GPU’lar da basit değildir, ancak AI için programlamayı gizleyen yazılımlar, bu bilginin gereksiz olmasını sağlar. Mipsology, FPGA’ları programlama veya FPGA hakkında bilgi sahibi olma ihtiyacını ortadan kaldıran ilk şirketdir.
FPGA kartlarının hiện tại herhangi bir sınırlaması var mı?
Bazı FPGA kartları, GPU kartlarına benzer. Bilgisayarın PCIe yuvalarına takılabilirler. Bir avantajı, daha önce bahsettiğim gibi, daha uzun bir ömre sahip olmaları ve genellikle GPU’lardan daha düşük güç tüketimi olmasıdır. Bir diğer weniger bilinen avantaj, FPGA kartlarının seçimindeki çeşitliliktir. Farklı pazarlar için daha fazla FPGA vardır, bu da sinir ağlarını her yerde daha düşük maliyetle hesaplayabilmek anlamına gelir. GPU’lar daha sınırlıdır; veri merkezlerinde iyi çalışırlar ancak başka yerlerde değil.
Mipsology’nin Zebra’sı, FPGA kartlarını yüksek performans ve kullanım kolaylığı sunan ilk ticari hızlandırıcıdır. Zebra nedir?
AI ve GPU’lara aşina olanlar için, Zebra’yı en kolay şekilde tanımlamak, FPGA için Cuda/CuDNN gibi bir yazılım yığını olduğunu söylemektir. PyTorch veya TensorFlow gibi framework’lerin arkasında FPGA’yı完全 gizler. Primarily görüntü ve video çıkarımı için hedefliyoruz. Zebra, genellikle floating point olarak eğitilen bir sinir ağı alır ve herhangi bir kullanıcı çaba veya özel araç olmadan, bunu herhangi bir FPGA tabanlı karta çalıştırır. FPGA kartını takmak, sürücüyü yüklemek, Zebra ortamını yüklemek ve CPU veya GPU’da çalışan aynı çıkarım uygulamasını çalıştırmak kadar basittir. Kendi quantization’mız vardır, bu da doğruluğu korur ve performans kutudan çıkardır. Özel bir araç öğrenmek zorunda kalmazsınız ve yüksek performans veya düşük gecikme almak için mühendislik zamanına ihtiyacınız yoktur. Bu, hızlı geçişler, daha düşük maliyet ve pazara çıkış süresini azaltır.
Zebra, hangi tür uygulamalar için en iyi şekilde tasarlanmıştır?
Zebra, sinir ağları hesaplaması gereken herhangi bir uygulama için çok genel bir hızlandırma motorudur, özellikle görüntü ve video için, çünkü bu tür verilerin hesaplama ihtiyaçları daha büyüktür. Farklı pazarlardan talepler alıyoruz, ancak hepsi sinir ağlarını hesaplamak açısından benzerdir. Bunların hepsi genellikle sınıflandırma, segmentasyon, süper çözünürlük, vücut konumlandırma gibi işlemler gerektirir.
Zebra, FPGA’lar üzerinde çalıştığı için, herhangi bir FPGA kartı kullanılabilir. Bazıları yüksek performans sunar ve genellikle veri merkezlerinde kullanılır. Diğerleri kenarda veya gömülü sistemlerde daha uygundur. Vizyonumuz, bir FPGA takılabiliyorsa, kullanıcıların sinir ağları hesaplamalarını hemen hızlandırabilmesidir. Ve eğer GPU’lar veya CPU’lar kullanılıyorsa, Zebra bunları değiştirebilir ve AI altyapısının maliyetini azaltabilir. Konuştuğumuz şirketlerin çoğu, benzer sorunlarla karşılaşıyor: daha fazla AI tabanlı uygulamayı dağıtabiliyorlar, ancak maliyet sınırlıyor.
Bir şirket Zebra kullanmak isterse, süreç nasıldır?
Sadece support@mipsology.com adresine başvurmanız yeterli.
Mipsology hakkında paylaşmak istediğiniz başka bir şey var mı?
Zebra çözümümüz için AI topluluğundan aldığımız geri bildirimlerle çok cesaretlendiriliyoruz. Özellikle, bu muhtemelen piyasadaki en iyi hızlandırıcıdır. Sadece birkaç ay içinde, Xilinx, Dell, Western Digital (WDC ), Avnet, TUL ve Advantech gibi ilgi gösteren ortakların sayısını artırıyoruz.
Bu yenilikçi teknoloji hakkında daha fazla bilgi edinmekten gerçekten keyif aldım. Daha fazla bilgi edinmek isteyen okuyucular Mipsology‘yi ziyaret edebilir.
