Neden AI Chip Yarışı Şimdi Yazılıma Dayanıyor

Her yeni AI hızlandırıcı, bir benchmarking hikayesiyle gelir: zirve veri işleme hızı, watt başına teraoperasyonlar, her şeyi değiştirecek gibi görünen etkileyici rakamlar. Ancak bu rakamlar, müşterinin gerçekten bu chípi üretim ortamında kullanıp kullanamayacağını dışarıda bırakır. Çoğu zaman, bunu yapamazlar ve bu, AI donanım endüstrisinin bugün nerede olduğu konusundaki gerçek hikayedir. Bir yazılım olgunluk problemiyle karşı karşıya ve çoğu şirket bunu kamuoyu önünde söylemeye henüz hazır değil.

Konuşulmayan Açıklık

Silikon geliştirme döngüleri iki ila dört yıl sürer, AI model manzarası ise aylarla ölçülen ve haftalara doğru eğilim gösteren bir döngüde evrim geçirir. Bunun altında yatan bir değer zinciri problemi vardır: araçlardan ve fabrikalardan hastanelere ve cihazlara kadar son kullanım durumları, işlevsellik açısından olgunlaşmakta ve ölçülebilir P&L etkisi yaratmaya başlamaktadır. Bu olgunluk, yazılım adaptasyonları için talebi doğurur, bu da donanım değişikliklerini gerektirir. Bu üç katmanın her biri temel olarak farklı bir hızda çalışır ve bu uyumsuzluk, pazar boyunca oluşan sürtüşmenin kök nedenidir. Büyük dil modeli çıkarımı için gereken yazılım yığını, daha önceki makine öğrenimi iş yükleri için oluşturulan şeyden temel olarak farklıdır. Donanım geliştirme zaman çizelgeleri, bu döngüye uyum sağlamak için sıkıştırılmamıştır. Bugün yeni silikon gönderen şirketler, müşterilere, chípin yeteneklerini tam olarak açamayan bir yazılım ile birlikte gönderirler, bu da pazar boyunca tekrarlanan bir model oluşturur: etkileyici silikon, olgunlaşmamış yazılım, yavaş benimseme ve kaçırılan gelir. Chip, tasarlandığı şeyi yapar. Sorun, müşterilerin bunu kolayca kullanamamasıdır.

Otomotiv endüstrisine ne olduğu düşünülürse. Araçlar kendileri, yirminci yüzyılın ortalarında büyük ölçüde çözülmüş bir problem olarak kabul ediliyordu, ancak yazılım farklılaştırıcı olduğunda, en derin imalat mirasına sahip şirketler en çok adapte olmada zorluk yaşadılar. Ford ve GM motorlar inşa etmeyi biliyorlardı, ancak işletim sistemleri inşa etme konusunda hiçbir kas hafızaları yoktu. AI donanım endüstrisi, şimdi aynı geçiş yaşamaktadır ve paralel rahatsız edici bir şekilde nettir. NVIDIA (NVDA ), yazılım yerli disruptör rolünü oynarken, geleneksel yarı iletken şirketleri hala geliştirici ekosistemlerini silikonla birlikte nasıl satabileceklerini çözmeye çalışmaktadır.

NVIDIA’nın baskınlığı, en iyi çiplere sahip olmasına几乎 hiçbir şey borçlu değildir. CUDA (Hesaplama Birleştirilmiş Cihaz Mimarisi) yirmi yaşındadır ve bu, tüm biriken teknik borcu içerir, ancak NVIDIA aslında inşa ettiği şey, AI hesaplama işletim sistemidir: geliştiricilerin ve OEM’lerin üretim ortamında güvenebileceği öngörülebilir, olgun bir ekosistem.

Müşteriler, yazılım olgunluğu ve entegrasyon riski temelinde platformları seçerler, bu nedenle yeni bir hızlandırıcı, üretim sınıfı bir yazılım yığını olmadan gelirse, ticari konuşma başlamadan biter.

İlk modele ulaşma süresi, yani bir müşterinin bir AI iş yükünü belirli bir hızlandırıcıda çalıştırması ne kadar sürer, zirve veri işleme hızından çok daha anlamlı bir ticari metriktir. Bu, donanım şirketlerinin konuşmaya en az hazır olduğu konuşmadır.

Gerçek Pazar Çıkarımı

İş dili, P&L’dir ve her AI’yi dağıtan şirket, aynı soruyu cevaplamak zorundadır: para nerede ve onu elde etmemi ne engelliyor? Eğitim gerekli bir adımdır, ancak ticari AI, çıkarımda yaşar ve bu pazar neredeyse hiç başlamamıştır.

Buradaki ölçek asimetrisi çarpıcıdır. Eğitim, bir kullanım durumunu kapsar; çıkarım, sonsuz kullanım durumunu kapsar. Araçlardaki, fabrikalardaki, hastanelerdeki, telefonlardaki veya depolardaki AI’nin her uygulaması, çıkarımı gerektirir. Bir arabanın güvenlik sistemlerini çalıştıran bir chip, veri merkezi gücünü çekemez ve bir fabrika zeminindeki gerçek zamanlı çıkarımı çalıştıran bir cihaz, yüksek gecikmeyi tolere edemez. Kenar çıkarım pazarı, güç verimliliği, fiziksel kısıtlamalar ve bunları dağıtan endüstrilerin güvenlik ve güvenilirlik gereksinimlerine özel olarak tasarlanmış silikona ihtiyaç duyar.

Google’un sekizinci nesil TPU’sunu, biri eğitim için diğeri çıkarım için iki ayrı chípe ayırma kararı, üzerine oturup düşünmeye değer. Bu mimari seçim, iki iş yükünün o kadar önemli ölçüde farklılaştığını kabul eder ki, her ikisine aynı tasarımda optimize olmak artık hiçbirini mükemmel bir şekilde yapmamak anlamına gelir. AI altyapısının bir部分ını çalıştıran bir şirket, uzmanlaşmanın konsolidasyondan daha önemli olduğunu düşünüyorsa, pazarın nereye gittiğini gösterir: kenarda, gerçek dünya kısıtlamalarına tabi olarak, hacimle dağıtılan, amaçlarına yönelik çıkarım silikonuna doğru.

Çıkarım toprak savaşındayız, ancak pazarın çoğu hala eğitim etrafında organize edilmiş durumda.

Mirasın Yapısal Sınırları

Büyük ölçekli üretimi gerçekleştirebilecek şirketler, çıkarımın yaşayacağı pazarları hizmet vermek için yapısal olarak yeteneksiz kalıyorlar. Otomotiv müşterileri, tedarikçilerin on yıl boyunca bileşen kullanılabilirliğini garanti etmesini istiyor. Genel amaçlı yarı iletken şirketleri gibi Intel (INTC ), buna asla söz vermez. Bu yapısal kısıtlama, tüm bir endüstriyi hizmetten mahrum bırakır ve hiçbir miktar müzakere bu durumu değiştirmez.

NVIDIA’nın kenar AI platformu, PIN ile uyumlu alternatifler tarafından already bir meydan okumayla karşı karşıya. Bir müşteri, chípi değiştirebilir ve her şeyi aynı tutabilir, bu da NVIDIA’nın kenar konumunun en savunulabilir kısmına doğrudan bir ticari saldırıdır.

Kavramlarını CUDA’da kanıtlamış şirketler, ekonomik olarak büyük ölçekli dağıtımın, daha düşük güç tüketimli silikona yeniden mimarlık gerektirdiğini keşfediyorlar, çünkü organizasyonlar on binlerce cihazı dağıttığında, birim maliyeti ve güç tüketimi kesin faktörler haline gelir. Çıkarım pazarında oynanan dizi basittir: çalışanı bir şey bul, test et, sonra ekonomik olarak dağıtmanın bir yolunu bul, çünkü para kazanman gerekiyor. AI benimseme hızına göre, yazılım ve ekosistem avantajını kurma penceresi çeyreklerle ölçülür.

Şirketlerin Atladığı Mühendislik Yatırımı

AI donanım şirketleri, güçlü çipler göndermeye devam ediyor, ancak bunları tam olarak çalıştırabilecek bir yazılım göndermiyorlar. Üretim sınıfı sistem yazılımları, çıkarım çalışma zamanları, derleyici optimizasyonu ve iş yükü etkinleştirme konularında derin, uzmanlaşmış mühendislik gerektirir ve çoğu donanım şirketinin bunu içlerinde bulundurmaz.

Bu yeteneği inşa etmek, boşluğu kapatmak için derleyici mühendisleri ve çalışma zamanı mimarlarını işe almak anlamına gelir. Şirketler ayrıca, gelirden önce araç zincirlerine yatırım yapmak zorundadır, çünkü gelir geldiğinde pencere kapanır. Bu yatırımı atlayan şirketler, sadece geride kalmazlar, anlaşmaları kaybederler.

Çıkarım için en çok kullanılan çipler, en çok dağıtılan çiplerdir ve dağıtılabilirlik, yazılım kalitesinin bir fonksiyonudur. Büyük aşağı akış alıcıları, OEM’lerden, hiperskalerlerden, şirket müşterilerine kadar, önce teknik olarak süperior silikonu entegre etmekte zorluk yaşamış ve sonra daha olgun yığınlar tarafından desteklenen daha düşük çiplere karşı kaybetmiştir. Şirketler, yazılıma birinci sınıf bir mühendislik önceliği verirlerse, daha fazla pilot sözleşmeyi üretim sözleşmelerine dönüştürür ve daha hızlı gelire ulaşırlar. Yazılımı bir gönderme Sonrası olarak görenler, teknik olarak süperior silikonun, daha az yetenekli çiplere karşı kaybetmesine tanık olurlar.

Saat Already Ticking

AI donanım şirketleri, bir sonraki aşamanın önemli bir payını yakalamak için bugün ekosistem avantajları inşa ediyorlar ve bu, daha sonra girenlerin tekrarlaması zor olacaktır. Yazılım esnekliği, yeni model mimarilerine, bir sonraki bant çıkışı beklemeksizin adapte olma yeteneği, ticari olarak ilgili kalan silikondan, sürekli olarak pilotlarla dönen ancak geliri bir sonraki nesli finanse etmeye yetmeyen silikondan ayırır.

AI donanım manzarasındaki mühendislik takımları, ortaklık anlaşmaları ve ticari pilotlar tarafından alınan kararlar, hangi şirketlerin 2028’de hala ilgili olacağını belirleyecektir. CUDA’nın yirmi yıllık başlangıç avantajı, ekosistem derinliğine dayanan bir hendektir, ancak yazılıma sürekli bir mühendislik önceliği vermeye istekli herhangi bir şirket, zaman içinde aynı derinliği inşa edebilir.

Endüstrinin cevaplaması gereken soru, hangi şirketlerin, çiplerinin varsayılan seçim haline gelmeden önce, birinin diğerini yerinden etmek için çok fazla kök salmasını engellemek için ekosistem derinliğini inşa etmeye yetecek kadar hızlı ilerlediğidir.