David Driggers, Cirrascale’ın Teknik Müdürü – Röportaj Serisi

David Driggers Cirrascale Cloud Services’in Baş Teknoloji Müdürüdür, derin öğrenme altyapı çözümlerinin önde gelen sağlayıcısıdır. Integrity, agility ve müşteri odaklı değerlere bağlı olarak, Cirrascale yenilikçi, bulut tabanlı Altyapı Hizmeti (IaaS) çözümleri sunar. AI ekosistem liderleri gibi Red Hat ve WekaIO ile ortaklık yaparak, Cirrascale müşterilerine gelişmiş araçlara erişim sağlar ve müşterilerin derin öğrenmede ilerlemesini sağlar ve aynı zamanda öngörülebilir maliyetleri korur.

Cirrascale, NVIDIA (NVDA ), AMD, Cerebras (CBRS ) ve Qualcomm gibi büyük yarı iletken şirketleriyle ortaklık yapan tek GPUaaS sağlayıcısıdır. Bu benzersiz konumlandırma müşterilerinize performans ve ölçeklenebilirlik açısından nasıl fayda sağlar?

Endüstri, Eğitim Modellerinden bu modellerin dağıtımı olarak adlandırılan Inferencing’e doğru evrildikçe, her şeyin bir çözümü yoktur. Modelin boyutuna ve gecikme gereksinimlerine bağlı olarak, farklı hızlandırıcılar farklı değerler sunabilir. Cevap süresi, token avantajları veya watt başına performans gibi faktörler maliyeti ve kullanıcı deneyimini etkileyebilir. Inferencing üretim için olduğu için bu özellikler önemlidir.

Cirrascale’ın AI İnovasyon Bulutu, diğer GPUaaS sağlayıcılarından farklı olarak AI ve derin öğrenme iş akışlarını nasıl destekler?

Cirrascale’ın AI İnovasyon Bulutu, kullanıcıların diğer bulutlarda bulunmayan yeni teknolojileri güvenli, yardımcı ve tam olarak desteklenen bir şekilde denemelerine olanak tanır. Bu, yalnızca bulut teknolojisi kararları değil, aynı zamanda potansiyel yerinde satın almalar için de yardımcı olabilir.

Cirrascale’ın platformu, farklı AI hızlandırma ihtiyaçlarına sahip startup’lar ve şirketler için nasıl sorunsuz entegrasyon sağlar?

Cirrascale, bulutumuz için bir çözüm yaklaşımı benimser. Bu, hem startup’lar hem de şirketler için, Dev-Ops ve Infra-Ops dahil olmak üzere bir anahtar teslim çözüm sunmamız anlamına gelir. Hizmetimizi sunmadan önce sunucuları, ağları, depolamayı, güvenliği ve kullanıcı erişimini tamamen yapılandırırız. Müşterilerimiz hemen hizmetimizi kullanmaya başlayabilirler, her şeyi kendileri yapılandırmak zorunda kalmazlar.

Şirket çapında AI benimsemesi, veri kalitesi, altyapı kısıtlamaları ve yüksek maliyetler gibi engellerle karşı karşıyadır. Cirrascale bu zorlukları nasıl giderir?

Cirrascale, veri kalitesi türünde hizmetler sunmaz, ancak veri sorunlarıyla yardımcı olabilecek şirketlerle ortaklık yapar. Altyapı ve maliyetler açısından, Cirrascale müşterilerinin özel ihtiyaçlarına göre bir çözüm sunabilir, bu da müşterilerin ihtiyaçlarına göre daha iyi performans ve maliyet sağlar.

Google’ (GOOGL ) ın kuantum hesaplama (Willow) ve AI modelleri (Gemini 2.0) alanındaki ilerlemeleri, şirketlerin AI girişimlerini yakın gelecekte nasıl etkileyecek?

Kuantum hesaplama, çoğu insan için hala çok uzakta, çünkü kuantum hesaplamadan yararlanabilecek programcılar ve programlar yok. Gemini 2.0 ve diğer büyük ölçekli teklifler gibi GPT4 ve Claude, şirket müşterileri arasında bazı ilgi görecektir, ancak şirketlerin büyük bir kısmı, verilerini üçüncü taraflarla paylaşmaya ve özellikle de modellerini eğitmek için kullanmaya hazır değildir.

AI çözümlerini ölçeklendirme için güç, fiyat ve performans dengesini bulmak kritiktir. Şirketlerin bu dengeyi sağlamak için en önemli önerileriniz nelerdir?

Test edin, test edin, test edin. Bir şirketin modelini farklı platformlarda test etmesi çok önemlidir. Üretim, geliştirmeden farklıdır ve maliyet önemlidir. Eğitim bir defaya mahsus olabilir, ancak çıkarım sonsuzdur. Performans gereksinimleri daha düşük bir maliyetle karşılanabilirse, bu tasarruflar doğrudan şirketin karına yansır ve çözümü uygulanabilir hale getirebilir. Çoğu zaman, büyük bir modelin dağıtılması çok pahalıdır ve pratik değildir. Son kullanıcılar, testlerle yardımcı olabilecek şirketleri aramalıdır, çünkü souvent bir ML mühendisi, modeli oluşturan veri bilimcisinden daha iyi bir şekilde dağıtabilir.

Cirrascale, LLM’ler ve görüntü oluşturma modelleri gibi üretken AI uygulamalarına yönelik artan talebi karşılamak için çözümlerini nasıl uyarlıyor?

Cirrascale, en geniş AI hızlandırıcı yelpazesini sunar ve LLM’ler ve GenAI modellerinin büyümesi ve çeşitlenmesi (örneğin, çok modlu senaryolar), gerçekten bir at için bir yarış gibi bir durumdur.

Cirrascale, şirketlerin AI iş akışlarında gecikme ve veri aktarımını nasıl aşar?

Cirrascale, birçok bölgede birden fazla veri merkezi sahiptir ve ağ bağlantısını kar merkezi olarak görmez. Bu, kullanıcıların veri aktarmak için gereken bağlantıları “doğru boyuta” getirmelerine ve birden fazla konum kullanmalarına olanak tanır. Ayrıca, iş yüklerini profillayarak, Cirrascale performans, maliyet ve gecikme dengesini en iyi şekilde sağlayabilir.

AI donanımı veya altyapısında en çok heyecan duyduğunuz ortaya çıkan trendler nelerdir ve Cirrascale bunları nasıl hazırlanıyor?

Bizim için en heyecan verici olan, çıkarım için özel olarak tasarlanmış yeni işlemcilerdir. Bunlar, eğitim için güzel bir şekilde uyan, ancak çıkarım kullanım durumları için optimize edilmeyen genel amaçlı GPU tabanlı işlemcilerden farklıdır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Cirrascale Cloud Services‘i ziyaret edebilir.