Meridian Cloud выбирает Aria Networks для разработки проектов кластеров ИИ, готовых к инференсу

Meridian Cloud выбрала Aria Networks в качестве сетевого партнера для своего специализированного облака инференса ИИ, запуск которого запланирован на второй квартал 2027 года. Компании намерены разработать стандартизированные, прошедшие проверку сетевые проекты, которые сделают развертывание кластеров более предсказуемым и позволят точнее определять инженерные спецификации, смету расходов и сроки запуска в эксплуатацию.

О партнерстве объявили 5 ноября; Aria подключилась к планированию до установки оборудования. В сферу сотрудничества входят расчет параметров внутренней сети графических процессоров, внешних сетей и сетей хранения данных, разработка топологий и схем прокладки кабелей, а также координация поставок и доставки с учетом графика развертывания Meridian.

Ожидается, что первые совместные типовые проекты будут доступны клиентам Meridian и партнерам по инфраструктуре во втором квартале 2027 года. В объявлении речь идет о программе разработки и развертывания, а не о завершенном запуске нового облака инференса Meridian.

Как превратить каждый новый кластер из инженерного проекта в типовое решение

Meridian планирует создать небольшую центральную команду, которую будут поддерживать специализированные партнеры в области инженерных разработок, вычислительной инфраструктуры, развертывания и сетевых технологий. Aria поможет оформить результаты этой работы в библиотеку типовых проектов, каждый из которых будет адаптирован к определенному классу объектов.

Предполагается, что сначала будут оценивать доступную на объекте мощность и подбирать конфигурацию с уже проверенными требованиями к сети. Это позволит Meridian определить спецификации и расходы до начала строительства, вместо того чтобы заново проектировать сеть на каждом объекте.

Для клиента специализированного облака главное преимущество такого стандартизированного подхода — предсказуемость. Для работы кластера важны не только количество заказанных ускорителей: на сроки начала полноценной работы системы влияют маршруты прокладки кабелей, пропускная способность коммутаторов, подключения серверов, трафик систем хранения данных и график поставки оборудования.

«С первого дня инженеры Aria, работающие непосредственно на объектах, были частью нашей команды: вместе мы проектируем сети, планируем поставки и развертывание и проверяем каждый кабель, соединение и конфигурацию до запуска клиентской задачи», — сказал генеральный директор Meridian Cloud Вик Роуз.

Почему при инференсе сеть становится критически важным звеном

Инференс — это запуск обученной модели для получения ответа. В распределенной инфраструктуре части вычислительной задачи и связанные с ней данные могут передаваться между машинами, поэтому время обмена данными влияет на скорость ответа, которую ощущает пользователь.

Один из примеров — раздельный инференс, при котором обработка запроса и генерация токенов выполняются на разных ресурсах. Системе может потребоваться передавать между ними кеш ключей и значений модели — промежуточные данные механизма внимания, связанные с запросом. Перегрузка на этом участке может задержать выполнение задачи, даже если графические процессоры доступны.

В техническом обзоре сетевых технологий для инференса Aria подчеркивает важность сопоставления активности серверов с данными телеметрии сети. Порт может выглядеть исправным на панели мониторинга, которая обновляется с определенной периодичностью, и при этом испытывать кратковременные сбои, влияющие на работу приложения.

В сообщении о партнерстве упоминаются перегрузки сети, ухудшение характеристик оптических компонентов и неполадки на стороне серверов, которые могут оставаться незамеченными при опросе оборудования инструментами каждые несколько секунд. Для обнаружения таких событий необходим более высокий уровень наблюдаемости, чем простая проверка активности соединения.

Для бизнеса, использующего инференс, последствия имеют не только технический, но и коммерческий характер. Ожидание данных снижает полезную отдачу оборудования, которое при этом продолжает потреблять электроэнергию и нести затраты на владение. К важным операционным показателям относятся задержка ответа, полезная пропускная способность и стоимость обработки миллиона токенов, а не только скорость соединения.

Что дает Deep Networking от Aria

Aria описывает Deep Networking как совместно разработанную систему, объединяющую коммутационное оборудование, Aria Operating System, детализированную телеметрию и специализированных агентов. В объявлении Meridian указаны коммутаторы Aria с пропускной способностью 800G и сеть Ethernet на основе открытых стандартов, рассчитанная на работу с ускорителями разных производителей.

Компания заявляет, что детализация телеметрии коммутаторов, оптических компонентов и серверов в 100–10 000 раз выше, чем у традиционных инструментов. Это заявление касается разрешения измерений, а не означает, что приложения Meridian будут работать в 100–10 000 раз быстрее.

В обзоре продукта Aria приводятся дополнительные сведения об оборудовании: коммутатор с пропускной способностью 800G оснащен 64 портами 800GbE и помещается в корпус высотой две юниты; он поддерживает RoCEv2 и сетевые протоколы уровней 2 и 3, а также оснащен выделенным процессором телеметрии. RoCEv2 обеспечивает удаленный прямой доступ к памяти через Ethernet — эту возможность используют для эффективной передачи данных между машинами в высокопроизводительных кластерах.

На той же странице описаны сопоставление данных от графических процессоров, серверов и коммутаторов, выбор диагностических инструментов с помощью специализированных агентов и выполнение пошаговых сценариев устранения неполадок. Таким образом, наблюдаемость сети дополняет проектирование оборудования: после ввода в эксплуатацию сеть должна оставаться доступной для контроля и обслуживания.

Компании не публиковали совместные результаты тестирования развертываний Meridian или данные об измеренном снижении стоимости токена в рамках этого партнерства. Эти результаты будут зависеть от развернутых рабочих нагрузок и конфигураций, а также от поведения сети при производственной нагрузке.

Выделенная модель инференса Meridian

На своем сайте Meridian описывает свое предложение как выделение зарезервированных мощностей с учетом рабочей нагрузки клиента. Доступны варианты на базе оборудования NVIDIA и AMD, а также специализированных ускорителей инференса. Компания также предлагает управляемую оркестрацию и модели эксплуатации на физических серверах без виртуализации.

Это описание более широкого спектра услуг, а не подтверждение того, что все рекламируемые конфигурации войдут в первоначальную библиотеку эталонных проектов Aria. В объявлении о партнерстве не указаны первые площадки, на которых будут развернуты решения, фиксированные размеры кластеров или цены для клиентов.

Ориентация Meridian на выделенные мощности меняет и подход к планированию. Вместо того чтобы полагаться исключительно на доступность общих ресурсов, клиенту нужна система, рассчитанная на ожидаемый трафик, характеристики моделей и требования к обслуживанию. Воспроизводимые сетевые проекты упрощают такое планирование, сохраняя при этом возможность выбора решений с учетом конкретных рабочих нагрузок.

Партнерство, ориентированное на воспроизводимость реализации

Aria участвует во всем процессе — от проектирования до практического развертывания. Предполагается, что опыт, полученный на отдельных площадках, будет использоваться при последующих установках и для улучшения программного обеспечения. Цель — сделать проектирование сетей многократно применимым элементом развертывания решений Meridian, а не постоянным источником неопределенности.

Ближайший конкретный этап — подготовка совместных эталонных проектов и запланированный запуск облачной платформы во II квартале 2027 года. В дальнейшем успех партнерства будет зависеть от того, позволят ли проверенные проекты и более детальная информация о работе систем создавать кластеры в срок и обеспечивать стабильно высокую производительность инференса после запуска рабочих нагрузок клиентов.