A d-Matrix adquire a Wallaroo para orquestrar a inferência em vários chips

A d-Matrix adquiriu a Wallaroo.ai, uma fabricante de software para implantar e orquestrar a inferência de IA, em um acordo que a empresa de chips de Santa Clara anunciou em 3 de agosto de 2026. A compra traz a plataforma, a propriedade intelectual e a equipe de engenharia da Wallaroo para a d-Matrix, e é a segunda aquisição da fabricante de chips em quatro meses.

A razão segue do modo como a d-Matrix vende silício. Seus aceleradores Corsair são projetados para funcionar ao lado de GPUs, em vez de substituí-las, assumindo a fase de decodificação de uma solicitação de modelo de linguagem, a metade limitada por memória que emite tokens um a um, enquanto as GPUs lidam com o preenchimento pesado. Fazer com que essa divisão funcione em um cluster ao vivo é um trabalho de software: algo precisa decidir qual chip recebe qual parte de cada solicitação, passar o contexto acumulado entre eles e dimensionar ambos os níveis independentemente à medida que o tráfego muda. Essa camada é o que a d-Matrix acabou de comprar.

O que a Wallaroo traz

A Wallaroo vende um tempo de execução de serviço e um plano de controle que embalam modelos e os implantam em hardware x86, Arm e GPU em nuvem, no local, na borda e em ambientes totalmente isolados, com suporte a tempos de execução de LLM comuns, incluindo vLLM e SGLang. Suas equipes de engenharia, produto e marketing estão se juntando à d-Matrix, que citou seu trabalho em arquitetura de software, computação de alto desempenho e operações do Kubernetes.

As duas empresas já descreviam a mesma arquitetura. Em uma publicação de engenharia de 16 de março de 2026, o fundador e CEO da Wallaroo, Vid Jain, e dois colegas apresentaram o caso para dividir o preenchimento da decodificação em silício misto. O tráfego agente, disseram eles, chega em três tamanhos: cerca de 84% de solicitações curtas de cerca de 2.000 tokens, cerca de 15% na faixa de 8.000 a 64.000 tokens e menos de 1% com 128.000 tokens ou mais. Esse último pedaço monopoliza o tempo da GPU e bloqueia tudo o que está na fila atrás dele. A rota de cache sozinha, relataram os autores, reduziu o tempo de primeira token em 75% no tráfego agente em seus próprios testes.

Sid Sheth, fundador e CEO da d-Matrix, disse que os clientes disseram à empresa que a maior barreira “não é apenas o desempenho, mas também a complexidade operacional para chegar lá”. Jain disse que os dois compartilhavam a visão de que a inferência é tanto um problema de implantação quanto de silício.

Dois acordos em quatro meses

A d-Matrix tem comprado as partes de um sistema de inferência que não construiu. Em abril de 2026, adquiriu o negócio de centro de dados da GigaIO, pegando o sistema SuperNODE e o tecido de memória baseado em PCIe FabreX, juntamente com uma equipe de sistemas em escala de rack em Carlsbad, Califórnia, enquanto a GigaIO continuou de forma independente na computação de borda. O próprio Corsair entrou em produção total em 9 de junho de 2026, fabricado com a Alchip no nó N6 da TSMC, usando chiplets de computação em memória baseados em SRAM em substratos orgânicos com memória LP-DDR5 em vez de pilhas HBM e embalagem CoWoS, em racks que funcionam resfriados a ar.

Pagar por isso é um financiamento de série C de US$ 275 milhões fechado em 12 de novembro de 2025 a uma valorização de US$ 2 bilhões, co-liderado pela Bullhound Capital, Triatomic Capital e Temasek. A empresa também tem reunido parceiros em torno da plataforma, incluindo uma parceria de infraestrutura de baixa latência com a Infineon.

Comprar a camada de implantação está se tornando o movimento padrão para qualquer pessoa que venda computação não-Nvidia (NVDA ). A Qualcomm fechou sua aquisição em ações da startup de compilador Modular (QCOM ) em julho de 2026, a Nscale comprou a Anyscale para subir a pilha de computação de IA no mesmo mês, e a Nebius concordou em adquirir a Eigen AI em um acordo de US$ 643 milhões visando a infraestrutura de inferência. O silício que precisa de uma segunda pilha de software para ser útil perde para o silício que vem com uma.

Onde a combinação é testada

O ponto de prova comercial até agora é a Parasail, uma nuvem de inferência que em 7 de julho de 2026 disse que estava implantando o Corsair ao lado de sua frota NVIDIA Hopper e Blackwell, enviando o preenchimento para as GPUs e a decodificação para os aceleradores em uma rede que se baseia em mais de 40 centros de dados em 15 países. A tecnologia de roteamento de kernel da própria Parasail faz a dispatching lá, que é exatamente a função que a d-Matrix agora possui internamente.

O caso de desempenho se baseia em resultados medidos e modelados publicados pela Gimlet Labs em 11 de março de 2026. Executando o gpt-oss-120b com um modelo de rascunho de 1,6 bilhão de parâmetros, a empresa moveu a etapa de decodificação especulativa da GPU para o Corsair, enquanto o preenchimento e a verificação permaneciam na GPU, e relatou solicitações de ponta a ponta 2 a 10 vezes mais rápidas com eficiência de energia equivalente. A Gimlet atribui o ganho aos 2 GB de SRAM no chip e cerca de 150 TB/s de largura de banda de memória, o que permite que o modelo de rascunho produza tokens de candidato rapidamente o suficiente para que as suposições rejeitadas custem pouco. Um dos coautores do post é o diretor de tecnologia da d-Matrix, Sudeep Bhoja.

O Corsair agora está sendo enviado em volume para clientes prioritários, e a d-Matrix está contratando engenheiros em várias especialidades à medida que as duas organizações se combinam. O próximo comprador de um rack de GPU e acelerador misto julgará com base em quanto tempo um modelo leva para ir da avaliação para o tráfego, e esse relógio agora é executado pelo software que a d-Matrix possui.