Alianzas
SambaNova combina las GPU de Intel con SN50 para la inferencia de IA refrigerada por aire

Puntos claveSambaNova divide la inferencia de modo que las GPU de Intel se encargan del prefill…
Ver más
- SambaNova divide la inferencia de modo que las GPU de Intel se encargan del prefill mientras que sus RDU se encargan del decode limitado por la memoria.
- Ethernet estándar y software de servicio abierto conectan los dos grupos de aceleradores sin interconexiones propietarias.
- El diseño refrigerado por aire está orientado a centros de datos existentes donde las adaptaciones de refrigeración líquida no son prácticas.
SambaNova Systems anunció el 15 de noviembre de 2026 que había demostrado junto con Intel un sistema de inferencia de IA refrigerado por aire en SuperComputing 2026, que ejecutaba GLM-5.3 en cuatro aceleradores Intel GPU D-Series para procesar las solicitudes y en un SambaRack SN50 para generar tokens.
El sistema divide la inferencia en dos fases: el prellenado, que procesa una solicitud entrante y crea su caché de clave-valor (KV), y la decodificación, que genera los tokens de salida. El hardware de Intel se encarga del prellenado, que requiere mucha capacidad de cómputo, mientras que las unidades de flujo de datos reconfigurables (RDU) de quinta generación de SambaNova Reconfigurable Dataflow Units (RDUs) se ocupan de la decodificación, que depende de la memoria. SambaNova presenta el sistema grabado como un diseño que los clientes podrán implementar en centros de datos existentes.
Hardware distinto para cada fase de inferencia
La demostración es mucho más pequeña que la configuración de referencia de Intel. SambaNova describe un rack de referencia D-Series con 80 GPU que ofrece 208 petaflops de capacidad máxima de cómputo FP4 y entre 12 TB y 38 TB de memoria, según la configuración. Esas cifras corresponden al diseño de prellenado de mayor tamaño; no son mediciones de rendimiento de la configuración de SuperComputing.
Las especificaciones del producto D270 de Intel indican que se trata de una GPU refrigerada por aire de 350 W con 32 núcleos Xe3P, 256 motores matriciales XMX, PCIe 5.0 estándar y hasta 480 GB de memoria LPDDR5X por tarjeta. El factor de forma estándar está pensado para funcionar en servidores existentes, sin redes patentadas ni sistemas a medida.
Cada SambaRack SN50 contiene 16 RDU y suele requerir 20 kW para la inferencia. Se pueden operar hasta 16 racks como una sola unidad, con hasta 256 RDU, distribuyendo la carga de trabajo entre racks de menor consumo. SambaNova afirma que su arquitectura de flujo de datos encadena las operaciones del modelo entre chips, en lugar de devolver los datos a la memoria entre kernels de GPU independientes, lo que reduce el tráfico de memoria y la sobrecarga de volver a iniciar kernels durante la generación de tokens.
El software abierto conecta los grupos de hardware
NVIDIA Dynamo se sitúa delante de los dos grupos de aceleradores y está diseñado para dirigir cada solicitud al hardware que ya contiene su contexto en caché. vLLM sirve tanto la ruta de prellenado de Intel como la ruta de decodificación de SN50, mientras que NIXL transfiere los datos de la caché KV mediante UCX/RDMA, usando Ethernet RoCEv2 estándar. Así, la transferencia puede aprovechar una infraestructura Ethernet consolidada, en lugar de una interconexión patentada entre los distintos tipos de hardware.
SN50 conserva en la memoria DDR conectada los prefijos KV de solicitudes anteriores, mientras que la SRAM y la HBM integradas en el chip permiten la decodificación activa. Cuando un agente retoma una conversación o un contexto compartido, el enrutamiento que tiene en cuenta la caché puede dirigir la solicitud al SN50 que conserva ese prefijo; así, solo el contenido nuevo pasa por el prellenado en GPU y se transfiere menos información del estado KV a través de la red. SambaNova afirma que estos aciertos de caché reducen el tiempo hasta el primer token y liberan capacidad de GPU para nuevas solicitudes. La publicación describe esos beneficios, pero no informa de mediciones de latencia ni de rendimiento para la demostración combinada.
Escalabilidad en instalaciones existentes refrigeradas por aire
Esta división también permite a los proveedores ampliar cada fase de forma independiente. Las solicitudes más largas pueden requerir más capacidad de prellenado D-Series, mientras que los agentes que generan respuestas más extensas pueden necesitar capacidad adicional de decodificación SN50, sin ampliar proporcionalmente el otro grupo.
Esta flexibilidad está pensada para operadores cuyas instalaciones no pueden admitir fácilmente sistemas refrigerados por líquido. Intel afirma que el factor de forma PCIe estándar y la configuración refrigerada por aire de 350 W del D270 están diseñados para los racks existentes, sin necesidad de adaptar las instalaciones con un sistema especializado de refrigeración líquida. Junto con el perfil de consumo de SN50 a nivel de rack, el diseño busca añadir capacidad de inferencia en entornos existentes refrigerados por aire.
La importancia de la demostración radica en la integración: dos arquitecturas de aceleradores, conectadas mediante software de servicio de modelos de uso común y Ethernet estándar, pueden asignarse a distintas fases de inferencia y escalarse según la carga de trabajo. Para los proveedores que se enfrentan a límites fijos de potencia y refrigeración, queda por determinar si las cargas de trabajo de producción obtienen suficientes beneficios de caché y utilización de los descritos como para justificar la operación de ambos grupos.












