Partnerschaften
Supermicro baut und verkauft KI-Inferenzsysteme auf Basis von SambaNova-Technologie
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
SambaNova und Supermicro gaben am 3. November 2026 bekannt, dass Supermicro KI-Inferenzsysteme bauen, verkaufen und unterstützen wird, bei denen die Arbeit zwischen NVIDIA-GPUs und SambaNovas SN50 Reconfigurable Dataflow Units aufgeteilt wird. Die Zusammenarbeit sieht zunächst 10.000 SN50-Chips vor.
Die Systeme werden in Supermicros Portfolio Data Center Building Block Solutions aufgenommen. Supermicro wird sie integrieren, testen, ausliefern und unterstützen – einschließlich Service vor Ort –, während SambaNovas Ingenieure die Modelle auf SN50 zum Laufen bringen und optimieren sowie Kunden bei der Bereitstellung unterstützen. Die Vereinbarung verbindet somit einen Fertigungs- und Servicekanal für Server mit der erforderlichen Modellierungsarbeit für den Einsatz heterogener Beschleuniger.
Warum die Inferenz auf GPUs und RDUs aufgeteilt wird
Die Architektur teilt die Inferenz in zwei Phasen auf. Beim Prefill verarbeiten NVIDIA-GPUs den eingehenden Prompt – eine rechenintensive Aufgabe. SN50-RDUs übernehmen das Decode, bei dem die Antwort Token für Token erzeugt wird und das speichergebunden ist. SambaNova zufolge ermöglicht die Zuweisung jeder Phase zu geeigneter Hardware eine schnellere und effizientere Inferenz, als es mit einem der beiden Hardwaretypen allein möglich wäre.
In SambaNovas begleitender Ankündigung steht agentische KI im Mittelpunkt: Agenten können Tausende von Anfragen an große Sprachmodelle stellen, jede Anfrage kann mehrere Minuten dauern, und agentische Workloads verbringen die meiste Zeit mit dem Decode. Damit wird die Token-Generierung zum entscheidenden Faktor für den nächsten Schritt eines Agenten. Die Unternehmen betrachten das Decode daher als eigenständige Infrastrukturaufgabe: Zusätzliche RDUs sollen die Antwortgenerierung beschleunigen, während GPUs weiterhin die Verarbeitung der Prompts übernehmen.
Einblick in das SN50-Design
SN50 ist SambaNovas RDU der fünften Generation. Das offizielle Datenblatt nennt einen 5-Nanometer-Fertigungsprozess von TSMC, 432 MB On-Chip-SRAM und 64 GB HBM2E; DDR5 bildet die dritte Speicherebene. Der Chip nutzt SambaNovas Reconfigurable Dataflow Architecture und ist für die speichergebundene Decode-Phase statt für allgemeine Beschleuniger-Workloads ausgelegt.
SambaNovas Produktdokumentation bescheinigt dem Design eine schnellere Inferenz, einen höheren Durchsatz und eine bessere Energieeffizienz. Die Operationen werden zu einem kontinuierlichen Datenfluss verkettet, wodurch wiederholte Speicherübertragungen und der Aufwand für das erneute Starten der Arbeit in jeder Phase reduziert werden. Auch die Speicherebenen haben jeweils eigene Aufgaben: SRAM hält häufig benötigte lokale Daten nahe an den Recheneinheiten, HBM2E speichert aktive Modellgewichte und einen häufig genutzten KV-Cache, und DDR5 nimmt Prompt-Caches, größere Modellpools und selten genutzte KV-Caches auf.
SambaNova zufolge lässt sich SN50 über mehrere Racks hinweg auf bis zu 256 RDUs skalieren. Die Architektur ist für interaktive Agenten, Programmierassistenten und andere mehrstufige Inferenz-Workloads ausgelegt, auch für Anwendungen, die zwischen mehreren Modellen wechseln. Das rackübergreifende Design passt zum Rack-Konzept der Zusammenarbeit: Supermicro integriert RDUs und GPUs in Systeme, die das Unternehmen validieren und unterstützen wird.
Markteinführung über Vertriebskanäle und Grenzen in Rechenzentren
Kunden können SN50-RDUs zusammen mit GPUs über Supermicro beziehen und dabei denselben Vertriebskanal wie für ihre übrige KI-Infrastruktur nutzen. Die Einführung beginnt bei NeoClouds und souveränen Clouds, bevor sie auf Unternehmen ausgeweitet wird, die KI in ihren eigenen Rechenzentren betreiben. Dieser stufenweise Ansatz richtet sich zunächst an Cloud-Betreiber und bringt die kombinierte GPU-RDU-Architektur später auch in Unternehmensrechenzentren.
Stromversorgung und Kühlung sind entscheidend für den Einsatz. Die Unternehmen erklären, SN50 könne große Modelle mit hoher Geschwindigkeit und hohem Durchsatz bedienen, ohne eine extreme Leistungsdichte pro Rack zu erfordern. Dadurch lassen sich die Systeme leichter in bestehenden Rechenzentren einsetzen. Dieses Leistungsprofil stützt den Nachrüstungsansatz der Zusammenarbeit: Die RDUs sollen die Kapazität in bereits von den Betreibern genutzten Einrichtungen erweitern.
Die Unternehmen erklären außerdem, dass zusätzliche RDUs für das Decode die Inferenzkapazität erhöhen können, ohne dass auf Neubauten gewartet werden muss, die durch Einschränkungen bei Stromversorgung und Kühlung verzögert werden. Zugleich könne dadurch die Nutzungsdauer installierter GPUs verlängert werden. Der Vorschlag verknüpft zusätzliche Kapazität somit mit den Einrichtungen und GPUs, über die die Betreiber bereits verfügen.
SambaNova und Supermicro erwarten, dass die Zusammenarbeit 2027 wesentlich mehr leistungsstarke Inferenzkapazität ermöglichen wird, als sonst möglich wäre. Die Bedeutung des Plans liegt in der Kombination aus speziell für das Decode entwickelter Hardware und Supermicros Bereitstellungskanal. Für Betreiber, die mit Einschränkungen bei Stromversorgung und Kühlung konfrontiert sind, bleibt die Frage offen, ob die geplanten RDU-Installationen in bestehenden Einrichtungen tatsächlich die von den Unternehmen prognostizierte zusätzliche Inferenzkapazität ermöglichen können.
