d-Matrix Wallaroo’yu Satın Alarak Çipler Arası Inference’i Orkestra Ediyor

d-Matrix, AI çıkarımı için yazılım geliştiren Wallaroo.ai’yi satın almıştır. Bu satın alma, 3 Ağustos 2026’da duyurulmuştur. Bu satın alma, Wallaroo’nun platformunu, fikri mülkiyetini ve mühendislik ekibini d-Matrix’e kazandırıyor ve bu, çip üreticisinin dört ay içinde yaptığı ikinci satın alma işlemi.

Bu satın almanın nedeni, d-Matrix’in silikonunu nasıl sattığıyla ilgilidir. Corsair hızlandırıcıları, GPU’ları değiştirmek yerine onların yanında çalışmak üzere tasarlanmıştır. Bir dil modeli isteğinin decode aşamasını, yani token’ları birer birer üreten ve hafıza ile sınırlı olan kısmı alırken, GPU’lar compute-ağır ön doldurmayı ele alır. Bu bölünmeyi canlı bir kümede çalıştırmak bir yazılım işidir: bir şeyler, hangi çipin hangi kısmını alacağını, biriktirilen bağlamı arasında ele almasını ve her iki seviyeyi de trafiğin değişmesi durumunda bağımsız olarak ölçeklendirmesini sağlamalıdır. d-Matrix şimdi bunu satın almıştır.

Wallaroo’nun Getirdikleri

Wallaroo, bir sunucu çalışma zamanı ve bir kontrol düzlemi sunar ve modelleri x86, Arm ve GPU donanımına, bulut, şirket içinde, kenar ve tamamen hava boşaltılmış ortamlara, ortak LLM çalışma zamanları dahil olmak üzere vLLM ve SGLang için destek ile paketler. Mühendislik, ürün ve pazara çıkış ekipleri d-Matrix’e katılıyor ve şirket, yazılım mimarisi, yüksek performanslı hesaplama ve Kubernetes operasyonlarındaki çalışmalarından bahsetti.

İki şirket zaten aynı mimariyi tanımlıyordu. 16 Mart 2026’da bir mühendislik yazısında, Wallaroo kurucusu ve CEO’su Vid Jain ve iki meslektaşı, karışık silikon üzerinde ön doldurmayı decode’dan ayırmanın gerekçesini açıkladılar. Ajantik trafik, yaklaşık %84’ünün 2.000 token civarında kısa istekler, %15’inin 8.000-64.000 token aralığında ve %1’den azının 128.000 token veya daha fazla olduğunu yazdılar. Bu son dilim, GPU zamanını tekelleştirir ve arkasındaki her şeyi engeller. Yalnızca önbellek-farkında yönlendirme, yazarlar tarafından bildirildiği üzere, kendi testlerinde agentic trafiğin en kötü durum zamanına ilk token’a kadar %75’lik bir azalma sağladı.

Sid Sheth, d-Matrix’in kurucusu ve CEO’su, müşterilerin şirketin en büyük engelinin “sadece performans değil, aynı zamanda oraya ulaşmanın operasyonel karmaşıklığı” olduğunu söylediklerini belirtti. Jain, ikisinin de çıkarımın bir dağıtım problemi olduğu kadar bir silikon problemi olduğuna inandıklarını söyledi.

Dört Ayda İki Anlaşma

d-Matrix, inşa etmediği bir çıkarım sisteminin parçalarını satın almıştır. Nisan 2026’da GigaIO’nun veri merkezi işini satın almıştır, SuperNODE sistemini ve FabreX PCIe tabanlı bellek dokusunu ve Carlsbad, Kaliforniya’da bir rack-ölçekli sistem ekibini alırken, GigaIO bağımsız olarak kenar bilgisayarında devam etti. Corsair kendisi 9 Haziran 2026’da tam üretim için girdi, Alchip ile birlikte TSMC’nin N6 düğümünde üretildi, SRAM tabanlı bellekte hesap chípleri kullanarak organik alt tabakalar ve LP-DDR5 belleği HBM yığınları ve CoWoS ambalajı yerine, hava soğutmalı rafta çalışır.

Bunun bedeli, 12 Kasım 2025’te 275 milyon dolarlık bir Seri C turu, 2 milyar dolarlık bir değerleme ile BullhoundCapital, Triatomic Capital ve Temasek tarafından ortak liderlik edilmiştir. Şirket, platform etrafında ortaklar topladı, bunlar arasında Infineon ile düşük gecikme altyapısı ortaklığı bulunuyor.

Dağıtım katmanını satın almak, Nvidia (NVDA ) dışı hesaplama satan herkes için standart hareket haline geliyor. Qualcomm, Temmuz 2026’da derleyici başlangıç ​​modülünü tüm hisse senedi satın alma yoluyla (QCOM ) satın almıştır, Nscale, aynı ayda Anyscale’i satın almıştır ve Nebius, Eigen AI’yi 643 milyon dolarlık bir anlaşmayla satın almıştır. İkinci bir yazılım yığını ile kullanışlı olan silikon, bir yazılım yığını ile gelen silikona yenilir.

Çiftin Test Edileceği Yer

Şimdiye kadarki ticari kanıtlama noktası, 7 Temmuz 2026’da Corsair’ı NVIDIA Hopper ve Blackwell filosunun yanında dağıtmaya başlayan Parasail’dir ve ön doldurmayı GPU’lara, decode’u ise hızlandırıcılara, 15 ülkede 40’tan fazla veri merkezinden oluşan bir ağ üzerinden gönderir. Parasail’in kendi kernel-routing teknolojisi, precis olarak d-Matrix’in şimdi sahip olduğu fonksiyonu gerçekleştirir.

Performans durumu, 11 Mart 2026’da Gimlet Labs tarafından yayınlanan ölçülen ve modellenen sonuçlara dayanır. gpt-oss-120b ile 1,6 milyar parametreli bir taslak model çalıştıran şirket, spekülatif-decode adımını GPU’dan Corsair’a taşır ve ön doldurmayı ve doğrulamayı GPU’da tutar ve eşleştirilmiş enerji verimliliği ile 2 ila 10 kat daha hızlı uçtan uca istek bildirir. Gimlet, kazancı kartın 2 GB’lık yongası ve yaklaşık 150 TB/s’lik bellek bant genişliğine bağlar, bu da taslak modelin aday token’ları yeterince hızlı üretmesini sağlar, böylece reddedilen tahminlerin maliyeti az olur. Bu yazının ortak yazarlarından biri, d-Matrix’in baş teknoloji sorumlusu Sudeep Bhoja’dır.

Corsair şimdi öncelikli müşterilere büyük miktarlarda gönderilmekte ve d-Matrix, iki organizasyon birleştikçe çeşitli uzmanlıklarda mühendisler işe almaktadır. Karışık bir GPU ve hızlandırıcı raftının bir sonraki alıcısı, bir modelin değerlendirme aşamasından trafiği işleme aşamasına ne kadar sürede geçiş yaptığını değerlendirecek ve bu saat şimdi d-Matrix’in sahip olduğu yazılımla çalışacaktır.