d-Matrix köper Wallaroo för att orkestrera inferens över chip

d-Matrix har förvärvat Wallaroo.ai, en tillverkare av programvara för distribution och orkestrering av AI-inferens, i en affär som det Santa Clara-baserade chipföretaget meddelade den 3 augusti 2026. Köpet bringar Wallaroos plattform, immateriella rättigheter och ingenjörsteam in i d-Matrix, och det är chip-tillverkarens andra förvärv på fyra månader.

Resonemanget följer av hur d-Matrix säljer kisel. Deras Corsair-acceleratorer är byggda för att köra bredvid GPU:er snarare än att ersätta dem, ta emot avkodningsfasen av en språkmodellbegäran, den minnesbundna halvan som emitterar token en i taget, medan GPU:er hanterar den beräkningsintensiva förifyllningen. Att göra att denna uppdelning fungerar i en live-kluster är ett programvaruproblem: något måste bestämma vilken chip som får vilken del av varje begäran, överföra den ackumulerade kontexten mellan dem och skala båda nivåerna oberoende av trafikförändringar. Det är den lager som d-Matrix just har köpt.

Vad Wallaroo bringar

Wallaroo säljer en serving-runtime och en kontrollplan som paketerar modeller och skickar dem till x86-, Arm- och GPU-hårdvara över moln, on-premises, edge och fullständigt luftgapade miljöer, med stöd för vanliga LLM-körningar, inklusive vLLM och SGLang. Deras ingenjör-, produkt- och marknadsföringsteam ansluter sig till d-Matrix, som citerade deras arbete inom programvaruarkitektur, högpresterande datorer och Kubernetes-åtgärder.

De två företagen beskrev redan samma arkitektur. I en 16 mars 2026 ingenjörsinlägg lade Wallaroo-grundare och VD Vid Jain och två kollegor fram fallet för att dela upp förifyllning från avkodning över blandad kisel. Agentic trafik, skrev de, anländer i tre storlekar: ungefär 84% korta begäranden om cirka 2 000 token, runt 15% i intervallet 8 000-64 000 token och under 1% på 128 000 token eller mer. Den sista skivan monopoliserar GPU-tid och blockerar allt som körs bakom den. Cache-medveten routning ensam, rapporterade författarna, minskade den sämsta tiden till första token med 75% på agentic trafik i deras egna tester.

Sid Sheth, d-Matrix grundare och VD, sa att kunderna hade berättat för företaget att den största barriären “inte bara är prestanda, utan också den operativa komplexiteten att komma dit.” Jain sa att de två delade en uppfattning om att inferens är lika mycket ett distributionsproblem som ett kiselproblem.

Två affärer på fyra månader

d-Matrix har köpt de delar av ett inferenssystem som de inte byggt. I april 2026 förvärvade de GigaIO:s datacenter-verksamhet, och fick därmed SuperNODE-systemet och FabreX PCIe-baserade minnesväv, tillsammans med ett rack-skaleteam i Carlsbad, Kalifornien, medan GigaIO fortsatte oberoende inom edge-computing. Corsair själv gick in i full produktion den 9 juni 2026, tillverkad med Alchip på TSMC:s N6-nod, med SRAM-baserad in-memory-beräkning på organiska substrat med LP-DDR5-minne istället för HBM-stackar och CoWoS-forpackning, i rack som körs luftkylda.

Betalningen skedde genom en 275 miljoner dollar i serie C som stängdes den 12 november 2025 till en värdering av 2 miljarder dollar, ledd av BullhoundCapital, Triatomic Capital och Temasek. Företaget har också samlat partners runt plattformen, inklusive ett låglatens-infrastrukturpartnerskap med Infineon.

Att köpa distributionslagret blir den standardrörelse som alla som säljer icke-Nvidia (NVDA ) beräkningar gör. Qualcomm stängde sitt aktiebaserade förvärv av compiler-startup Modular (QCOM ) i juli 2026, Nscale köpte Anyscale för att flytta upp beräkningsstacken samma månad, och Nebius kom överens om att förvärva Eigen AI i en affär värd 643 miljoner dollar i syfte att stärka inferensinfrastrukturen. Kisel som behöver en andra programvarustack för att vara användbar förlorar mot kisel som levereras med en.

Där parningen testas

Det kommersiella beviset hittills är Parasail, en inferensmoln som den 7 juli 2026 sa att de distribuerade Corsair bredvid sin NVIDIA Hopper- och Blackwell-flotta, skickade förifyllning till GPU:erna och avkodning till acceleratorerna över ett nätverk som drog på mer än 40 datacenter i 15 länder. Parasails egen kärn-routningsteknik hanterar dispatchingen där, vilket är exakt den funktion som d-Matrix nu äger internt.

Prestandafallet vilar på mätta och modellerade resultat som publicerats av Gimlet Labs den 11 mars 2026. Genom att köra gpt-oss-120b med en 1,6 miljarder-parametrars utkastmodell, flyttade företaget den spekulativa avkodningssteget från GPU till Corsair medan förifyllning och verifikation förblev på GPU, och rapporterade 2-10 gånger snabbare slut-till-slut-begäranden vid matchad energieffektivitet. Gimlet tillskriver vinsten till kortets 2 GB SRAM och cirka 150 TB/s minnesbandbredd, som låter utkastmodellen producera kandidattoken tillräckligt snabbt så att avvisade gissningar kostar lite. En av författarna till inlägget är d-Matrix tekniska chef Sudeep Bhoja.

Corsair skickas nu i volym till prioriterade kunder, och d-Matrix anställer ingenjörer inom flera specialområden när de två organisationerna slås samman. Nästa köpare av en blandad GPU- och accelerator-hylla kommer att bedöma den utifrån hur snabbt en modell går från utvärdering till att hantera trafik, och den klockan körs nu av programvara som d-Matrix äger.