d-Matrix adquiere Wallaroo para orquestar la inferencia en varios chips

d-Matrix ha adquirido Wallaroo.ai, un fabricante de software para desplegar y orquestar la inferencia de inteligencia artificial, en un acuerdo que la empresa de chips de Santa Clara anunció el 3 de agosto de 2026. La compra lleva la plataforma, la propiedad intelectual y el personal de ingeniería de Wallaroo a d-Matrix, y es la segunda adquisición de la empresa de chips en cuatro meses.

La razón se debe a cómo d-Matrix vende silicio. Sus aceleradores Corsair están diseñados para funcionar junto a las GPU en lugar de reemplazarlas, tomando la fase de decodificación de una solicitud de modelo de lenguaje, la mitad limitada por la memoria que emite tokens uno a uno, mientras que las GPU manejan el prellenado intensivo en computación. Hacer que esa división funcione en un clúster en vivo es un trabajo de software: algo tiene que decidir qué chip recibe qué parte de cada solicitud, entregar el contexto acumulado entre ellos y escalar ambos niveles de forma independiente a medida que cambia el tráfico. Esa capa es lo que d-Matrix acaba de comprar.

Qué aporta Wallaroo

Wallaroo vende un tiempo de ejecución de servicio y un plano de control que empaquetan modelos y los empujan hacia hardware x86, Arm y GPU en la nube, en las instalaciones, en el borde y en entornos completamente aislados, con soporte para tiempos de ejecución de LLM comunes, incluyendo vLLM y SGLang. Sus equipos de ingeniería, producto y comercialización se unen a d-Matrix, que citó su trabajo en arquitectura de software, computación de alto rendimiento y operaciones de Kubernetes.

Las dos empresas ya estaban describiendo la misma arquitectura. En una publicación de ingeniería del 16 de marzo de 2026, el fundador y director ejecutivo de Wallaroo, Vid Jain, y dos colegas presentaron el caso para dividir el prellenado de la decodificación en silicio mixto. El tráfico agente, escribieron, llega en tres tamaños: aproximadamente el 84% de solicitudes cortas de unos 2.000 tokens, alrededor del 15% en el rango de 8.000 a 64.000 tokens y menos del 1% con 128.000 tokens o más. Esa última fracción monopoliza el tiempo de la GPU y bloquea todo lo que está en cola detrás de ella. La routificación consciente de la caché sola, informaron los autores, redujo el tiempo de primera token en un 75% en el tráfico agente en sus propias pruebas.

Sid Sheth, fundador y director ejecutivo de d-Matrix, dijo que los clientes le habían dicho a la empresa que la mayor barrera “no es solo el rendimiento, sino también la complejidad operativa para llegar allí”. Jain dijo que los dos compartían la visión de que la inferencia es tanto un problema de despliegue como de silicio.

Dos acuerdos en cuatro meses

d-Matrix ha estado comprando las partes de un sistema de inferencia que no construyó. En abril de 2026, adquirió el negocio de centros de datos de GigaIO, recogiendo el sistema SuperNODE y la memoria de tejido PCIe basada en FabreX, junto con un equipo de sistemas a nivel de rack en Carlsbad, California, mientras GigaIO continuaba de forma independiente en la informática de borde. Corsair entró en producción completa el 9 de junio de 2026, fabricado con Alchip en el nodo N6 de TSMC, utilizando chiplets de computación en memoria SRAM en sustratos orgánicos con memoria LP-DDR5 en lugar de pilas HBM y empaquetado CoWoS, en racks que funcionan con enfriamiento por aire.

Pagar por ello es un financiamiento de serie C de 275 millones de dólares cerrado el 12 de noviembre de 2025 a una valoración de 2.000 millones de dólares, copresidido por BullhoundCapital, Triatomic Capital y Temasek. La empresa también ha estado reuniendo socios alrededor de la plataforma, incluyendo una asociación de infraestructura de baja latencia con Infineon.

Comprar la capa de despliegue se está convirtiendo en el movimiento estándar para cualquiera que venda computación no Nvidia (NVDA ). Qualcomm cerró su adquisición total de acciones de la empresa de compiladores Modular (QCOM ) en julio de 2026, Nscale compró Anyscale para moverse hacia arriba en la pila de cómputo de inteligencia artificial el mismo mes, y Nebius acordó adquirir Eigen AI en un acuerdo de 643 millones de dólares destinado a la infraestructura de inferencia. El silicio que necesita una segunda pila de software para ser útil pierde ante el silicio que se envía con una.

Dónde se pone a prueba la asociación

El punto de prueba comercial hasta ahora es Parasail, una nube de inferencia que el 7 de julio de 2026 dijo que estaba desplegando Corsair junto a su flota de NVIDIA Hopper y Blackwell, enviando el prellenado a las GPU y la decodificación a los aceleradores a través de una red que se basa en más de 40 centros de datos en 15 países. La tecnología de enrutamiento de kernel de Parasail realiza el despacho allí, que es precisamente la función que d-Matrix ahora posee en casa.

El caso de rendimiento se basa en resultados medidos y modelados publicados por Gimlet Labs el 11 de marzo de 2026. Al ejecutar gpt-oss-120b con un modelo de borrador de 1.600 millones de parámetros, la empresa movió el paso de decodificación especulativa fuera de la GPU y hacia Corsair, mientras que el prellenado y la verificación se quedaron en la GPU, e informó solicitudes de extremo a extremo de 2 a 10 veces más rápidas a una eficiencia de energía equivalente. Gimlet atribuye la ganancia a los 2 GB de SRAM en chip y a la banda de memoria de aproximadamente 150 TB/s, que permiten que el modelo de borrador produzca tokens de candidato lo suficientemente rápido como para que las conjeturas rechazadas cuesten poco. Uno de los coautores de la publicación es el director de tecnología de d-Matrix, Sudeep Bhoja.

Corsair ahora se envía en volumen a clientes prioritarios, y d-Matrix está contratando ingenieros en varias especialidades a medida que las dos organizaciones se combinan. El próximo comprador de un rack de GPU y acelerador mixto juzgará según qué tan rápido un modelo va desde la evaluación hasta el tráfico de servicio, y ese reloj ahora funciona con software que d-Matrix posee.