d-Matrix kupuje Wallaroo, aby orchestrovat inference napříč čipy

d-Matrix získal Wallaroo.ai, výrobce softwaru pro nasazení a orchestraci AI inference, v dohodě, kterou společnost Santa Clara chip oznámila 3. srpna 2026. Tento nákup přináší Wallarooovu platformu, duševní vlastnictví a inženýrský personál do d-Matrix a je to druhá akvizice čipového výrobce za čtyři měsíce.

Důvodem je způsob, jakým d-Matrix prodává křemík. Jeho urychlovače Corsair jsou navrženy tak, aby běžely vedle GPU, nikoli je nahrazovaly, přičemž dekódovací fáze požadavku jazykového modelu, paměťově náročné poloviny, která emituje tokeny jeden po druhém, zatímco GPU zpracovávají výpočetně náročnou předplnění. Aby tato kombinace fungovala v živém clusteru, je zapotřebí softwarová vrstva: něco musí rozhodnout, který čip získá kterou část každého požadavku, předat nahromaděný kontext mezi nimi a nezávisle škálovat obě úrovně podle změn provozu. Touto vrstvou je to, co d-Matrix právě získal.

Co přináší Wallaroo

Wallaroo prodává serving runtime a control plane, které balíčky modelů a nasazují je na hardware x86, Arm a GPU v cloudu, na místních zařízeních, na okraji a v plně vzduchově izolovaných prostředích, s podporou běžných LLM runtime, včetně vLLM a SGLang. Jeho inženýrské, produktové a marketingové týmy se připojují k d-Matrix, který uvedl jejich práci ve softwarové architektuře, high-performance computingu a operacích Kubernetes.

Oba společnosti již popisovaly stejnou architekturu. V inženýrském příspěvku ze dne 16. března 2026 zakladatel a generální ředitel Wallaroo Vid Jain a dva jeho kolegové popsali případ pro rozdělení předplnění od dekódování napříč smíšeným křemíkem. Agentní provoz, napsali, přichází ve třech velikostech: zhruba 84 % krátkých požadavků o délce asi 2 000 tokenů, kolem 15 % v rozmezí 8 000 až 64 000 tokenů a méně než 1 % při 128 000 tokenů nebo více. Tento poslední zlomek monopolizuje čas GPU a blokuje vše, co je zařazené za něj. Samotné směrování-aware routing, uvedli autoři, snížilo nejhorší čas na první token o 75 % v jejich vlastních testech.

Sid Sheth, zakladatel a generální ředitel d-Matrix, uvedl, že zákazníci společnosti řekli, že největší bariéra “není jen výkon, ale také provozní složitost, jak se tam dostat.” Jain uvedl, že oba sdílejí názor, že inference je takovým způsobem nasazení, jako i křemíkový problém.

Dvě dohody za čtyři měsíce

d-Matrix kupuje části inferenčního systému, který sám nevytvořil. V dubnu 2026 získal obchodní činnost GigaIO, získávající systém SuperNODE a PCIe-založenou paměťovou tkaninu FabreX spolu s týmem rack-scale systémů v Carlsbadu v Kalifornii, zatímco GigaIO pokračoval nezávisle na okraji výpočetní techniky. Corsair sám vstoupil do plné produkce 9. června 2026, vyráběný s Alchip na uzlu TSMC N6, využívající SRAM-založené čiplety s LP-DDR5 pamětí místo HBM stacků a CoWoS balení, v rackech, které běží vzduchem chlazené.

Placení za něj je 275 milionů dolarů série C uzavřené 12. listopadu 2025 při valuaci 2 miliardy dolarů, které vedly BullhoundCapital, Triatomic Capital a Temasek. Společnost také shromažďovala partnery kolem platformy, včetně partnerství s nízkou latencí s Infineon.

Koupě nasazení vrstvy se stává standardním krokem pro každého, kdo prodává výpočetní techniku, která není Nvidia (NVDA ). Qualcomm uzavřel akvizici compiler startup Modular (QCOM ) v červenci 2026, Nscale koupil Anyscale, aby se posunul nahoru ve výpočetním stacku ve stejném měsíci, a Nebius souhlasil s akvizicí Eigen AI v rámci dohody o hodnotě 643 milionů dolarů zaměřené na infrastrukturu inference. Křemík, který potřebuje druhou softwarovou vrstvu, aby byl užitečný, prohrává s křemíkem, který s ní přichází.

Zde se testuje spojení

Komerční důkazní bod je dosud Parasail, inference cloud, který 7. července 2026 uvedl, že nasazuje Corsair vedle své flotily NVIDIA Hopper a Blackwell, posílající předplnění na GPU a dekódování na urychlovače napříč sítí, která čerpá z více než 40 datových center v 15 zemích. Vlastní technologii kernel-routing Parasail zde zajišťuje dispečink, což je přesně ta funkce, kterou d-Matrix nyní vlastní.

Výkonový případ spočívá na měřených a modelem získaných výsledcích publikovaných Gimlet Labs 11. března 2026. Spuštění gpt-oss-120b s modelem o 1,6 miliardě parametrů a draft modelem, firma přesunula spekulativní dekódování z GPU na Corsair, zatímco předplnění a ověření zůstaly na GPU, a hlásila 2x až 10x rychlejší koncové požadavky při shodné energetické efektivitě. Gimlet přisuzuje zisk 2GB SRAM a přibližně 150 TB/s paměťové šířky, které umožňují draft modelu produkovat kandidátské tokeny dostatečně rychle, aby odmítnuté odhady stály málo. Jedním z spoluautorů příspěvku je technologický ředitel d-Matrix Sudeep Bhoja.

Corsair je nyní dodáván ve velkém množství prioritním zákazníkům a d-Matrix najímá inženýry napříč několika specializacemi, protože se obě organizace spojují. Příští kupující smíšeného GPU-a urychlovače racku bude soudit podle toho, jak rychle se model dostane z hodnocení na provozní provoz, a ten hodinový stroj nyní běží na softwaru, který vlastní d-Matrix.