Übernahmen
d-Matrix kauft Wallaroo, um Inference über Chips hinweg zu orchestrieren
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
d-Matrix hat Wallaroo.ai, einen Hersteller von Software für die Bereitstellung und Orchestrierung von AI-Inference, in einem Deal erworben, den das Santa Clara-Chip-Unternehmen am 3. August 2026 bekannt gegeben hat. Der Kauf bringt Wallaroos Plattform, geistiges Eigentum und Ingenieursteam in d-Matrix und ist die zweite Übernahme des Chip-Herstellers in vier Monaten.
Die Begründung folgt aus der Art und Weise, wie d-Matrix Silizium verkauft. Seine Corsair-Beschleuniger sind darauf ausgelegt, neben GPUs zu laufen, anstatt sie zu ersetzen, und übernehmen die Dekodierungsphase einer Sprachmodellanfrage, die memoriaffine Hälfte, die Token einzeln emittiert, während GPUs die rechenintensive Vorausfüllung übernehmen. Damit diese Aufteilung in einem Live-Cluster funktioniert, ist eine Software-Aufgabe erforderlich: Etwas muss entscheiden, welcher Chip welchen Teil jeder Anfrage erhält, den angehäuften Kontext zwischen ihnen übergeben und beide Ebenen unabhängig voneinander skalieren, wenn der Datenverkehr wechselt. Diese Schicht ist es, was d-Matrix gerade gekauft hat.
Was Wallaroo bringt
Wallaroo verkauft eine Laufzeitumgebung und eine Steuerungsebene, die Modelle paketieren und auf x86-, Arm- und GPU-Hardware in Cloud-, On-Premises-, Edge- und vollständig abgesicherten Umgebungen bereitstellen, mit Unterstützung für gängige LLM-Laufzeitumgebungen, einschließlich vLLM und SGLang. Sein Ingenieur-, Produkt- und Vertriebsteam schließen sich d-Matrix an, das ihre Arbeit in Software-Architektur, Hochleistungsrechnen und Kubernetes-Betrieb hervorhob.
Die beiden Unternehmen beschrieben bereits die gleiche Architektur. In einem Engineering-Beitrag vom 16. März 2026 legten Wallaroo-Gründer und CEO Vid Jain und zwei Kollegen den Fall für die Aufteilung von Vorausfüllung und Dekodierung über gemischtes Silizium dar. Agentic-Traffic, schrieben sie, kommt in drei Größen: ungefähr 84% kurze Anfragen von etwa 2.000 Token, etwa 15% im Bereich von 8.000 bis 64.000 Token und weniger als 1% bei 128.000 Token oder mehr. Dieser letzte Anteil monopolisiert die GPU-Zeit und blockiert alles, was dahinter wartet. Cache-bewusste Routing allein, so berichteten die Autoren, reduzierte die worst-case-Zeit-bis-zum-ersten-Token um 75% bei agentic-Traffic in ihren eigenen Tests.
Sid Sheth, d-Matrix-Gründer und CEO, sagte, Kunden hätten dem Unternehmen gesagt, dass die größte Hürde “nicht nur die Leistung ist, sondern auch die operative Komplexität, dorthin zu gelangen”. Jain sagte, die beiden teilten die Ansicht, dass Inference ebenso ein Bereitstellungsproblem wie ein Silizium-Problem ist.
Zwei Deals in vier Monaten
d-Matrix hat die Teile eines Inference-Systems gekauft, die es nicht selbst gebaut hat. Im April 2026 erwarb es GigaIOs Rechenzentrums-Geschäft, wodurch es das SuperNODE-System und die FabreX-PCIe-basierte Speicher-Stoff erhalten hat, zusammen mit einem Rack-Skalen-System-Team in Carlsbad, Kalifornien, während GigaIO unabhängig im Edge-Computing-Bereich weitermachte. Corsair selbst ging am 9. Juni 2026 in die volle Produktion, hergestellt mit Alchip auf TSMCs N6-Node, unter Verwendung von SRAM-basierten In-Memory-Compute-Chiplets auf organischen Substraten mit LP-DDR5-Speicher anstelle von HBM-Stacks und CoWoS-Verpackung, in Racks, die luftgekühlt laufen.
Die Finanzierung erfolgte durch eine 275-Millionen-Dollar-Serie-C-Finanzierung, die am 12. November 2025 bei einer Bewertung von 2 Milliarden Dollar abgeschlossen wurde, angeführt von Bullhound Capital, Triatomic Capital und Temasek. Das Unternehmen hat auch Partner um die Plattform herum aufgebaut, einschließlich einer Partnerschaft mit Infineon für eine niedrigverzögerte AI-Infrastruktur.
Der Kauf der Bereitstellungsebene wird zur Standardbewegung für jeden, der nicht-Nvidia-(NVDA )-Berechnungen verkauft. Qualcomm schloss seine Aktien-Übernahme des Compiler-Startups Modular (QCOM ) im Juli 2026 ab, Nscale kaufte Anyscale, um den Compute-Stack hochzuskalieren im selben Monat, und Nebius stimmte zu, Eigen AI in einem Deal im Wert von 643 Millionen Dollar zu erwerben, um die Inference-Infrastruktur zu stärken. Silizium, das eine zweite Software-Stapel benötigt, um nützlich zu sein, verliert gegen Silizium, das mit einer solchen ausgeliefert wird.
Wo die Paarung getestet wird
Der kommerzielle Beweis bislang ist Parasail, eine Inference-Cloud, die am 7. Juli 2026 bekannt gab, dass sie Corsair neben ihrer NVIDIA-Hopper- und Blackwell-Flotte bereitstellt, die Vorausfüllung an die GPUs und die Dekodierung an die Beschleuniger über ein Netzwerk sendet, das auf mehr als 40 Rechenzentren in 15 Ländern basiert. Parasails eigene Kernel-Weiterleitungs-Technologie übernimmt die Weiterleitung dort, was genau die Funktion ist, die d-Matrix jetzt inhouse besitzt.
Der Leistungsfall basiert auf gemessenen und modellierten Ergebnissen, die von Gimlet Labs am 11. März 2026 veröffentlicht wurden. Bei der Ausführung von gpt-oss-120b mit einem 1,6-Milliarden-Parameter-Entwurfsmodell verlagerte das Unternehmen den spekulativen Dekodierungsschritt von der GPU auf Corsair, während Vorausfüllung und Verifizierung auf der GPU blieben, und berichtete über 2- bis 10-mal schnellere End-to-End-Anfragen bei gleicher Energieeffizienz. Gimlet führt den Gewinn auf die 2 GB großen On-Chip-SRAM und die etwa 150 TB/s große Speicherbandbreite des Chips zurück, die es dem Entwurfsmodell ermöglichen, Kandidatentoken schnell genug zu produzieren, dass abgelehnte Vermutungen wenig kosten. Einer der Co-Autoren des Beitrags ist d-Matrix-Cheftechnologieoffizier Sudeep Bhoja.
Corsair wird jetzt in großen Mengen an priorisierte Kunden geliefert, und d-Matrix stellt Ingenieure in mehreren Fachgebieten ein, während die beiden Organisationen fusionieren. Der nächste Käufer eines gemischten GPU- und Beschleuniger-Racks wird es danach beurteilen, wie schnell ein Modell von der Auswertung zum Datenverkehr gelangt, und diese Uhr läuft jetzt auf Software, die d-Matrix besitzt.
