Supermicro создаст и будет продавать системы инференса ИИ на базе SambaNova

SambaNova и Supermicro объявили 3 ноября 2026 года, что Supermicro будет создавать, продавать и обслуживать системы инференса ИИ, распределяющие задачи между графическими процессорами NVIDIA и реконфигурируемыми блоками обработки потоков данных SN50 компании SambaNova. На начальном этапе сотрудничество предусматривает выпуск 10 000 чипов SN50.

Эти системы войдут в портфель решений Supermicro Data Center Building Block Solutions. Supermicro будет интегрировать их, тестировать, поставлять и обслуживать, в том числе на месте установки, а инженеры SambaNova обеспечат запуск моделей и их настройку для SN50, а также помогут внедрять системы у заказчиков. Таким образом, соглашение объединяет канал производства и обслуживания серверов с инженерной работой по моделям, необходимой для развертывания систем с разнородными ускорителями.

Почему инференс распределяют между графическими процессорами и RDU

Архитектура разделяет инференс на два этапа. На этапе предварительной обработки промпта (prefill) графические процессоры NVIDIA обрабатывают входящий запрос — эта задача ограничена вычислительными ресурсами. За этап декодирования (decode) отвечают RDU SN50: они генерируют ответ по одному токену за раз, и эта задача ограничена пропускной способностью памяти. По словам SambaNova, если поручить каждый этап подходящему оборудованию, инференс будет быстрее и эффективнее, чем при использовании любого из этих типов оборудования по отдельности.

В сопровождающем объявлении SambaNova называет агентный ИИ главным сценарием применения: агенты могут обращаться к большим языковым моделям тысячи раз, каждый такой запрос может занимать несколько минут, а агентные рабочие нагрузки большую часть времени проводят на этапе декодирования. Поэтому генерация токенов становится критически важной для следующего действия агента. В связи с этим компании рассматривают декодирование как отдельную инфраструктурную задачу: дополнительные RDU призваны ускорить ответы, тогда как графические процессоры продолжат обрабатывать промпты.

Устройство SN50

SN50 — это RDU пятого поколения от SambaNova. В официальной технической документации указаны техпроцесс TSMC с нормой 5 нм, 432 МБ встроенной SRAM и 64 ГБ HBM2E; DDR5 обеспечивает третий уровень памяти. В чипе используется реконфигурируемая архитектура потоков данных SambaNova. Он предназначен для этапа декодирования, ограниченного пропускной способностью памяти, а не для универсальных задач ускорения вычислений.

В документации продукта SambaNova отмечает, что эта конструкция обеспечивает более быстрый инференс, более высокую пропускную способность и повышенную энергоэффективность. Операции объединяются в непрерывный поток данных, что сокращает повторные обращения к памяти и накладные расходы на перезапуск задач на каждом этапе. У каждого уровня памяти своя функция: SRAM хранит часто используемые локальные данные рядом с вычислительными блоками, HBM2E — активные веса модели и часто используемый кэш KV, а DDR5 — кэш промптов, более крупные пулы моделей и редко используемый кэш KV.

По словам SambaNova, SN50 можно масштабировать до 256 RDU в нескольких стойках. Система предназначена для интерактивных агентов, помощников по программированию и других многоэтапных задач инференса, в том числе приложений, переключающихся между несколькими моделями. Конструкция для нескольких стоек соответствует плану сотрудничества по созданию систем на уровне стоек: Supermicro будет интегрировать RDU и графические процессоры в системы, которые затем протестирует и возьмет на обслуживание.

Вывод на рынок через партнерский канал и ограничения центров обработки данных

Заказчики смогут приобретать RDU SN50 вместе с графическими процессорами через Supermicro, используя тот же канал, что и для остальной инфраструктуры ИИ. Сначала системы появятся в облаках NeoCloud и суверенных облаках, а затем — у предприятий, которые запускают ИИ в собственных центрах обработки данных. Такой поэтапный подход предполагает сначала работу с облачными операторами, а затем внедрение той же объединенной архитектуры GPU-RDU в инфраструктуру предприятий.

Энергопотребление и охлаждение имеют ключевое значение для развертывания. По словам компаний, SN50 позволяет обслуживать крупные модели на высокой скорости и с высокой пропускной способностью без чрезмерной плотности энергопотребления в стойке, что упрощает установку систем в уже действующих центрах обработки данных. Такой профиль энергопотребления подтверждает целесообразность модернизации существующих объектов: RDU должны наращивать мощности на площадках, которыми операторы уже управляют.

Компании также утверждают, что установка RDU для декодирования позволяет увеличить возможности инференса, не дожидаясь строительства новых объектов, ограниченного доступностью электропитания и охлаждения, и одновременно продлить срок полезной службы уже установленных графических процессоров. Таким образом, предложение связывает увеличение мощностей с объектами и графическими процессорами, которые уже есть у операторов.

SambaNova и Supermicro рассчитывают, что благодаря сотрудничеству в 2027 году удастся обеспечить значительно большие мощности для высокопроизводительного инференса, чем было бы возможно в противном случае. Значимость плана определяется сочетанием оборудования для декодирования и канала развертывания Supermicro. Операторам, ограниченным возможностями электропитания и охлаждения, предстоит выяснить, смогут ли запланированные установки RDU обеспечить полезный прирост мощностей инференса в уже действующих объектах и достичь заявленного компаниями масштаба.