Supermicro fabricará y venderá sistemas de inferencia de IA basados en SambaNova

SambaNova y Supermicro anunciaron el 3 de noviembre de 2026 que Supermicro fabricará, venderá y dará soporte a sistemas de inferencia de IA que dividen el trabajo entre las GPU de NVIDIA y las unidades de flujo de datos reconfigurables SN50 de SambaNova. La colaboración prevé inicialmente 10.000 chips SN50.

Los sistemas se incorporarán a la cartera Data Center Building Block Solutions de Supermicro. Supermicro los integrará, probará, entregará y respaldará, incluido el servicio in situ, mientras que los ingenieros de SambaNova pondrán en funcionamiento los modelos, los ajustarán para SN50 y ayudarán con las implementaciones para clientes. El acuerdo combina así un canal de fabricación y servicio de servidores con el trabajo de ingeniería de modelos necesario para implementar aceleradores heterogéneos.

Por qué la inferencia se reparte entre GPU y RDU

La arquitectura divide la inferencia en dos fases. Durante la fase de prellenado, las GPU de NVIDIA procesan la solicitud de entrada, una tarea limitada por la capacidad de cómputo. Las RDU SN50 se encargan de la decodificación, que genera la respuesta token a token y está limitada por la memoria. SambaNova afirma que asignar cada fase al hardware adecuado permite una inferencia más rápida y eficiente que usar cualquiera de los dos tipos de hardware por sí solo.

En el anuncio que acompaña al acuerdo, SambaNova presenta la IA agéntica como el caso de uso central: los agentes pueden realizar miles de llamadas a modelos de lenguaje grandes, cada llamada puede durar minutos y las cargas de trabajo agénticas pasan la mayor parte del tiempo en la fase de decodificación. Esto sitúa la generación de tokens en la ruta crítica de la siguiente acción de un agente. Por ello, las empresas consideran la decodificación un problema de infraestructura independiente y prevén usar RDU adicionales para acelerar las respuestas, mientras las GPU siguen procesando las solicitudes.

En el interior del diseño de SN50

SN50 es la RDU de quinta generación de SambaNova. Su hoja de datos oficial especifica un proceso de fabricación de TSMC de 5 nanómetros, 432 MB de SRAM integrada en el chip y 64 GB de HBM2E; la DDR5 constituye el tercer nivel de memoria. El chip utiliza la arquitectura Reconfigurable Dataflow Architecture de SambaNova y está diseñado para la fase de decodificación, limitada por la memoria, en lugar de para cargas de trabajo generales de aceleración.

La documentación del producto de SambaNova atribuye al diseño una inferencia más rápida, un mayor rendimiento y una mejor eficiencia energética. Las operaciones se encadenan en un flujo de datos continuo, lo que reduce las transferencias repetidas de memoria y el costo adicional de volver a iniciar las tareas en cada etapa. Los distintos niveles de memoria también cumplen funciones específicas: la SRAM mantiene los datos locales de uso frecuente cerca de las unidades de cómputo; la HBM2E almacena los pesos activos del modelo y la caché KV de uso frecuente; y la DDR5 aloja las cachés de solicitudes, los conjuntos de modelos más grandes y la caché KV de uso menos frecuente.

SambaNova afirma que SN50 puede escalar hasta 256 RDU distribuidas en varios racks y está diseñada para agentes interactivos, asistentes de programación y otras cargas de trabajo de inferencia de varios pasos, incluidas las aplicaciones que alternan entre varios modelos. El diseño de varios racks se ajusta al plan de la colaboración, que contempla integrar RDU y GPU en sistemas que Supermicro validará y respaldará.

Despliegue a través del canal y límites de los centros de datos

Los clientes podrán adquirir RDU SN50 junto con GPU a través de Supermicro, por el mismo canal que utilizan para el resto de su infraestructura de IA. El despliegue comenzará con proveedores de nube de nueva generación (NeoClouds) y nubes soberanas, antes de ampliarse a empresas que ejecutan IA en sus propios centros de datos. Este enfoque por fases empieza con operadores de nube y, más adelante, lleva la misma arquitectura combinada de GPU y RDU a las instalaciones empresariales.

La energía y la refrigeración son aspectos centrales de la propuesta de implementación. Las empresas afirman que SN50 puede ejecutar modelos grandes a alta velocidad y con gran rendimiento sin una densidad de potencia extrema por rack, lo que facilita instalar los sistemas en centros de datos existentes. Ese perfil energético respalda la propuesta de modernización de las instalaciones de la colaboración: las RDU están pensadas para añadir capacidad en centros que los operadores ya utilizan.

Las empresas también afirman que añadir RDU para la decodificación puede aumentar la capacidad de inferencia sin tener que esperar a nuevas construcciones, limitadas por la energía y la refrigeración, y al mismo tiempo prolongar la vida útil de las GPU instaladas. La propuesta vincula, por tanto, la capacidad adicional con las instalaciones y las GPU que los operadores ya tienen.

SambaNova y Supermicro esperan que la colaboración permita disponer en 2027 de una capacidad de inferencia de alto rendimiento considerablemente mayor de la que sería posible de otro modo. La importancia del plan radica en combinar hardware especializado en decodificación con el canal de implementación de Supermicro. Para los operadores que afrontan límites de energía y refrigeración, queda por ver si las instalaciones de RDU previstas podrán añadir capacidad de inferencia útil en los centros existentes y a la escala que proyectan las empresas.