d-Matrix kupuje Wallaroo, aby zorganizować inferencję na chipach

d-Matrix nabył Wallaroo.ai, producenta oprogramowania do wdrożenia i organizacji inferencji sztucznej inteligencji, w transakcji, o której Santa Clara chip company ogłosił 3 sierpnia 2026. Zakup ten wprowadza platformę Wallaroo, własność intelektualną i zespół inżynierów do d-Matrix i jest to druga akwizycja chipmaker w ciągu czterech miesięcy.

Uzasadnienie wynika z tego, jak d-Matrix sprzedaje krzem. Ich przyspieszacze Corsair są zaprojektowane do pracy obok GPU, a nie ich zastępowania, biorąc fazę dekodowania żądania modelu językowego, pamięciowo ograniczoną połowę, która emituje tokeny jeden po drugim, podczas gdy GPU obsługują prefilled. Ustawienie tej separacji w żywej grupie to zadanie oprogramowania: coś musi zdecydować, który chip otrzyma którą część każdego żądania, przekazać nagromadzony kontekst między nimi i skalować oba poziomy niezależnie, gdy ruch się zmienia. Ta warstwa to to, co d-Matrix właśnie kupił.

Co Wallaroo wnosi

Wallaroo sprzedaje środowisko uruchomieniowe i warstwę kontrolną, które pakują modele i wypychają je na sprzęt x86, Arm i GPU w chmurze, na miejscu, na krawędzi i w pełni odizolowanych środowiskach, z obsługą popularnych czasów wykonywania LLM, w tym vLLM i SGLang. Ich zespoły inżynierskie, produkcyjne i marketingowe dołączają do d-Matrix, który powołał się na ich pracę w architekturze oprogramowania, wysokowydajnych obliczeniach i operacjach Kubernetes.

Obie firmy opisywały już tę samą architekturę. W marcowym poście inżynierskim z 16 marca 2026, założyciel i dyrektor generalny Wallaroo, Vid Jain, i dwóch jego kolegów przedstawił przypadek dla podziału prefilled od dekodowania na mieszanych krzemach. Ruch agenci, napisali, przychodzi w trzech rozmiarach: około 84% krótkich żądań o około 2 000 tokenów, około 15% w zakresie 8 000-64 000 tokenów i poniżej 1% przy 128 000 tokenów lub więcej. Ten ostatni fragment monopolizuje czas GPU i blokuje wszystko, co jest w kolejce za nim. Trasowanie świadome pamięci, jak podali autorzy, skróciło czas do pierwszego tokenu o 75% w ich własnych testach.

Sid Sheth, założyciel i dyrektor generalny d-Matrix, powiedział, że klienci powiedzieli firmie, że największą barierą “nie jest tylko wydajność, ale także operacyjna złożoność uzyskania tam”. Jain powiedział, że obie strony dzielą pogląd, że inferencja jest tak samo problemem wdrożenia, jak i krzemu.

Dwie transakcje w czterech miesiącach

d-Matrix kupuje części systemu inferencji, których nie zbudował. W kwietniu 2026 roku nabył dział centrów danych GigaIO, kupując system SuperNODE i pamięć opartą na PCIe FabreX wraz z zespołem systemów na poziomie szafy w Carlsbad, Kalifornia, podczas gdy GigaIO kontynuował działalność niezależną w obliczeniach krawędziowych. Sam Corsair w pełni wszedł do produkcji 9 czerwca 2026, wyprodukowany z Alchip na węźle TSMC N6, używając chipletów obliczeniowych w pamięci SRAM na nośnikach organicznych z pamięcią LP-DDR5 zamiast stosów HBM i opakowań CoWoS, w szafach, które działają chłodzone powietrzem.

Płacenie za to jest 275 milionów dolarów serii C z 12 listopada 2025 przy wycenie 2 miliardów dolarów, współprowadzonej przez BullhoundCapital, Triatomic Capital i Temasek. Firma również gromadzi partnerów wokół platformy, w tym partnerstwo w zakresie infrastruktury niskiej latencji z Infineon.

Kupowanie warstwy wdrożeniowej staje się standardowym posunięciem dla każdego, kto sprzedaje obliczenia nie-Nvidia (NVDA ). Qualcomm zamknął swoją akwizycję startupu kompilatora Modular (QCOM ) w lipcu 2026, Nscale kupił Anyscale, aby awansować w stosie obliczeń AI tego samego miesiąca, a Nebius zgodził się nabyć Eigen AI w transakcji o wartości 643 milionów dolarów w celu wzmocnienia infrastruktury inferencji. Krzem, który potrzebuje drugiej warstwy oprogramowania, aby być użytecznym, przegrywa z krzemu, który jest dostarczany z nią.

Gdzie para się testuje

Punktem dowodowym jest Parasail, chmura inferencji, która 7 lipca 2026 ogłosiła, że wdroży Corsair obok swojej floty NVIDIA Hopper i Blackwell, wysyłając prefilled do GPU i dekodowanie do przyspieszaczy przez sieć, która korzysta z ponad 40 centrów danych w 15 krajach. Własna technologia routingu jądra Parasail wykonuje tam dispatching, co jest dokładnie funkcją, którą d-Matrix teraz posiada wewnętrznie.

Przypadek wydajności opiera się na wynikach pomiarowych i modelowych opublikowanych przez Gimlet Labs 11 marca 2026. Uruchamiając gpt-oss-120b z modelem draft o 1,6 miliarda parametrów, firma przeniosła krok dekodowania spekulatywnego z GPU na Corsair, podczas gdy prefilled i weryfikacja pozostały na GPU, i zgłosiła 2-10 razy szybsze żądania na końcu przy równoważnej wydajności energetycznej. Gimlet przypisuje zysk karcie 2 GB pamięci SRAM na chipie i około 150 TB/s przepustowości pamięci, co pozwala modelowi draft wyprodukować tokeny kandydujące wystarczająco szybko, aby odrzucone zgadywanie kosztowało niewiele. Jednym z współautorów postu jest dyrektor techniczny d-Matrix, Sudeep Bhoja.

Corsair jest teraz dostarczany w dużych ilościach do priorytetowych klientów, a d-Matrix rekrutuje inżynierów z kilku specjalności, gdy obie organizacje łączą się. Następny kupujący szafy z mieszaniem GPU i przyspieszaczy będzie oceniał go pod kątem tego, jak szybko model przechodzi od oceny do obsługi ruchu, a ten zegar teraz działa na oprogramowaniu, które d-Matrix posiada.