Alex Yeh, GMI Cloud’un Kurucusu ve CEO’su – Röportaj Serisi

Alex Yeh, GMI Cloud‘un kurucusu ve CEO’sudur. GMI Cloud, herkesin AI’yi zahmetsizce dağıtabilmesi için dijital altyapı şirketidir ve işletmelerin AI’yi xây dựng, dağıtma ve ölçekleme şeklini entegre donanım ve yazılım çözümleriyle basitleştirmeyi amaçlamaktadır.

Sizi GMI Cloud’u kurmaya iten nedir ve geçmişiniz şirketin kurulmasına nasıl etkiledi?

GMI Cloud, 2021 yılında kuruldu ve ilk iki yılında主要 olarak veri merkezleri inşa etmeye ve Bitcoin hesaplama düğümleri sağlamak için çalıştı. Bu süre zarfında, Arkansas ve Teksas’ta üç veri merkezi kurduk.

Geçen yılın Haziran ayında, yatırımcılar ve müşterilerden GPU hesaplama gücüne yönelik güçlü bir talep gördük. Bir ay içinde, AI bulut altyapısına doğru yönelme kararı aldık. AI’nin hızlı gelişimi ve getirdiği yeni iş fırsatları, öngörülemez veya tanımlanamaz. GMI Cloud, temel altyapıyı sağlayarak, AI’deki heyecan verici ve souvent tưởng tượng edilemeyen fırsatlarla yakın temas halinde kalmayı amaçlıyor.

GMI Cloud’dan önce, bir risk sermayesi şirketinin ortağıydım ve yeni ortaya çıkan endüstrilerle düzenli olarak etkileşim içinde bulunuyordum. Yapay zekayı 21. yüzyılın son “altın rush”ı olarak görüyorum ve GPU’lar ile AI sunucularının modern “kazıcı”lar olarak hizmet ettiğini düşünüyorum.

GMI Cloud’un AI altyapısını basitleştirme misyonu nedir ve bu odak neden bugünün piyasasında çok önemlidir?

AI altyapısını basitleştirmek, AI yığınının mevcut karmaşıklığı ve parçalanması nedeniyle önemlidir. AI kurulumları genellikle veri ön işleme, model eğitimi, dağıtım ve ölçekleme gibi birçok ayrı katmandan oluşur ve bunlar, etkili bir şekilde yönetmek için önemli zaman, uzmanlık ve kaynak gerektirir. Şirketler, AI altyapısının en uygun katmanlarını belirlemek için haftalarca ve hatta aylarca harcayabilir ve bu, kullanıcı deneyimi ve verimliliği etkileyebilir.

1. Dağıtımın Hızlandırılması: Basitleştirilmiş altyapı, AI çözümlerinin daha hızlı geliştirilmesini ve dağıtılmasını sağlar ve şirketlerin değişen piyasa ihtiyaçlarına adapte olmasını sağlar.
2. Maliyetlerin Düşürülmesi ve Kaynakların Azaltılması: Özel donanım ve özelleştirilmiş entegrasyon ihtiyacını en aza indirgeyerek, AI daha erişilebilir hale gelir, özellikle küçük işletmeler için.
3. Ölçeklenebilirliğin Sağlanması: İyi entegre edilmiş altyapı, kaynakların verimli bir şekilde yönetilmesini sağlar ve bu, AI uygulamalarının büyüdükçe güçlü ve yanıt verebilir kalmasını sağlar.
4. Erişilebilirliğin Artırılması: Basitleştirilmiş altyapı, daha geniş bir organizasyon yelpazesinin AI’yi benimsemesini kolaylaştırır ve bu, daha fazla endüstri için inovasyon ve değer yaratılmasını sağlar.
5. Hızlı İnovasyonun Desteklenmesi: AI teknolojisindeki gelişmelerle birlikte, daha az karmaşık altyapı, yeni araçların, modellerin ve yöntemlerin entegre edilmesini kolaylaştırır ve şirketlerin hızlı bir şekilde inovasyon yapmasını sağlar.

GMI Cloud’un AI altyapısını basitleştirme misyonu, işletmelerin ve startupların AI’nin faydalarını tam olarak gerçekleştirmesine yardımcı olmak için çok önemlidir.

Son olarak, 82 milyon dolarlık A Serisi finansman sağladınız. Bu yeni sermayeyi nasıl kullanacaksınız ve yakın zamanda hangi genişleme hedeflerine ulaşmayı amaçlıyorsunuz?

GMI Cloud, bu finansmanı yeni bir veri merkezi açmak için kullanacak ve öncelikle H200 GPU’larına yatırım yapacak. Ayrıca, Cluster Engine adlı bir bulut yerel kaynak yönetim platformu geliştiriyoruz ve bu, kaynakların optimal bir şekilde atanmasını sağlayan esnek ve verimli bir küme yönetimi çözümü sunuyor.

GMI Cloud, rakiplerine göre 2 kat daha hızlı GPU erişimi sunuyor. Bu hızın arkasındaki özel yaklaşım veya teknolojiler nelerdir?

GMI Cloud’un benzersiz yaklaşımının bir yönü, NVIDIA’ (NVDA ) nın NCP’sini kullanmak ve bu sayede GPU’lara ve diğer ileri teknoloji kaynaklarına öncelikli erişim sağlamaktır. Üreticilerden doğrudan tedarik, güçlü finansman seçenekleri ile birleştiğinde, maliyet etkinliği ve güvenli bir tedarik zinciri sağlar.

NVIDIA H100 GPU’ları beş global konumda mevcut. Bu altyapı, ABD ve Asya’daki AI müşterilerinize nasıl destek oluyor?

GMI Cloud, birden fazla ülkeyi ve bölgeyi kapsayan bir global varlık oluşturdu ve IDC’ler (İnternet Veri Merkezleri) aracılığıyla dünya çapında hizmet vermektedir. Şu anda, binlerce NVIDIA Hopper tabanlı GPU kartı işletiyoruz ve hızlı bir şekilde genişlemekteyiz. Bu coğrafi dağılım, düşük gecikme süresi ve optimize edilmiş veri transferi ile müşterilere hizmet vermeyi sağlar.

AI yerli bulut hizmetlerinde bir lider olarak, teknolojinizi ileriye taşımak için hangi trendleri veya müşteri ihtiyaçlarına odaklanıyorsunuz?

GPU’lardan uygulamalara kadar, GMI Cloud müşterileri için akıllı dönüşümü sağlıyor ve AI teknoloji gelişiminin taleplerini karşılıyor.

Donanım Mimarisi:

• Fiziksel Küme Mimarisi: 1250 H100 gibi örnekler, GPU rafları, yaprak rafları ve omurga rafları ile optimize edilmiş sunucu ve ağ ekipmanı yapılandırması sunar.
• Ağ Topoloji Yapısı: Verimli IB kumaşı ve Ethernet kumaşı ile tasarlanan ağ topolojisi, sorunsuz veri iletimi ve iletişimi sağlar.

Yazılım ve Hizmetler:

• Küme Motoru: Kaynakları yönetmek için evimizde geliştirilen bir motor kullanıyoruz ve bu, kullanıcılar ve yöneticiler için optimal kaynak tahsisi sağlar.
• Özel Bulut Platformu: Küme Motoru, kaynak planlamasını optimize eden bir bulut yönetim sistemidir ve esnek bir küme yönetimi çözümü sunar.

Çıkarım Motoru Yol Haritası:

1. Sürekli hesaplama, yüksek SLA garantisi.
2. Kesintisiz zaman paylaşımlı kullanım.
3. Spot örnek.

Danışmanlık ve Özel Hizmetler: Müşterilere danışmanlık, veri raporlama ve özel hizmetler sunuyoruz, bunlar arasında konteynerleştirme, model eğitimi önerileri ve özelleştirilmiş MLOps platformları yer alıyor.

Güvenli ve İzlenebilir Özellikler: Rol tabanlı erişim kontrolü, kullanıcı grubu yönetimi, gerçek zamanlı izleme, historical izleme ve uyarı bildirimleri gibi özellikler sunuyoruz.

Gelecek birkaç yıl içinde AI altyapısı için en büyük zorluklar ve fırsatlar nelerdir?

Zorluklar:

1. Ölçeklenebilirlik ve Maliyetler: Modeller daha karmaşık hale geldikçe, ölçeklenebilirlik ve uygun maliyetlilik, özellikle küçük şirketler için zor bir hale geliyor.
2. Enerji ve Sürdürülebilirlik: Yüksek enerji tüketimi, AI benimsemesinin artmasıyla birlikte daha çevre dostu çözümler gerektiriyor.
3. Güvenlik ve Gizlilik: Paylaşılan altyapılarda veri koruma, güvenlik ve düzenleyici uyumluluk gerektiriyor.
4. Uyumluluk: AI yığınındaki parçalanmış araçlar, sorunsuz dağıtım ve entegrasyonu zorlaştırıyor.

Fırsatlar:

1. Kenar AI Büyümesi: Veri kaynaklarına yakın AI işleme, gecikme süresini azaltıyor ve bant genişliğini koruyor.
2. Otomatik MLOps: Basitleştirilmiş operasyonlar, dağıtımın karmaşıklığını azaltıyor ve şirketlerin uygulamalara odaklanmasını sağlıyor.
3. Enerji Verimli Donanım: İnovasyonlar, erişilebilirliği artırabilir ve çevresel etkiye katkıda bulunabilir.
4. Melez Bulut: Bulut ve şirket içi ortamlar arasında çalışan altyapı, kurumsal esneklik için uygun bir seçimdir.
5. AI Güçlü Yönetim: Altyapının AI ile otomatik olarak optimize edilmesi, down time’ı azaltır ve verimliliği artırır.

GMI Cloud için uzun vadeli vizyonunuz nelerdir? AI ve AGI’nin evriminde nasıl bir rol oynayacağını düşünüyorsunuz?

İnternetin AI’sini inşa etmek istiyorum. Dünya çapında geleceği güçlendirerek altyapıyı oluşturmak istiyorum.

Herkesin AI uygulamasını oluşturabileceği bir platform inşa etmek istiyorum, Squarespace veya Wix gibi, ancak AI için.

AI, özellikle generatif AI kullanım örnekleri ile birlikte önemli bir büyüme gösterecektir. İşletmeler, yaratıcılığı artırmak, süreçleri otomatikleştirmek ve karar verme süreçlerini optimize etmek için AI’yi entegre edeceklerdir. GMI Cloud’un uzun vadeli vizyonu, işletmelerin AI’nin verimliliğini ve etkisini en üst düzeye çıkarmalarına yardımcı olacak gelişmiş ve güvenilir altyapı sağlamaya odaklanmaktadır.

Yeni veri merkezi ile operasyonları genişletirken, önümüzdeki yıl için hangi stratejik hedeflere veya kilometre taşlarına ulaşmayı amaçlıyorsunuz?

Yeni veri merkezi ile operasyonları genişletirken, önümüzdeki yıl için beberapa stratejik hedeflere odaklanıyoruz. ABD, AI ve AI hesaplama için en büyük pazar olarak öne çıkıyor ve bu bölgede güçlü bir varlık oluşturmak bizim için çok önemlidir. Colorado’nun stratejik konumu, teknoloji ekosistemi ve iş ortamı, müşterilerimize daha iyi hizmet vermemizi ve hizmetlerimizi geliştirmemizi sağlayacaktır.

AI altyapısını benimsemeye çalışan şirketlere veya startup’lara neler önerirdiniz?

AI odaklı inovasyona odaklanan startup’lar için, öncelikli olarak ürünlerini geliştirmeye ve iyileştirmeye odaklanmaları gerekir, altyapı yönetimine zaman harcamamalıdır. Güvenilir ve ölçeklenebilir GPU çözümleri sunan güvenilir teknoloji sağlayıcıları ile ortaklık kurun ve beyaz etiketli alternatifler sunan sağlayıcıları tránhın. Güvenilirlik ve hızlı dağıtım, özellikle erken aşamalarda, bir startup’ın kurulu oyunculara karşı tek rekabet avantajı olabilir. Esnek ve büyümeyi destekleyen bulut tabanlı seçenekler seçin ve güvenlik ile uyumluluk konusunda esneklikten ödün vermeyin. Bunu yaparak, startup’lar sorunsuz entegre olabilir, hızlı bir şekilde iterasyon yapabilir ve kaynaklarını gerçekten önemli olan şeylere – piyasadaki öne çıkan bir ürün sunmaya – odaklayabilir.

Harika bir röportaj için teşekkür ederiz. Daha fazla bilgi öğrenmek isteyen okuyucular GMI Cloud‘u ziyaret edebilir.