Модели и платформы ИИ

Oracle Acceleron добавляет RDMA на внешнем интерфейсе и переключение при отказе между плоскостями для ИИ

mm
Добавьте Unite.AI в избранные источники в Google

27 октября 2026 года на мероприятии Oracle AI World в Лас-Вегасе Oracle объявила о новых возможностях облачных сетей Oracle Acceleron для ИИ-нагрузок. Среди них — подключение RDMA на внешнем интерфейсе, расширенные варианты блочного хранилища NVMe, которые, по заявлению Oracle, повышают производительность до 3 раз, и библиотека коллективных коммуникаций для многоплоскостных сетей компании.

Oracle Acceleron — это комплекс сетевых технологий и технологий инфраструктуры Oracle Cloud Infrastructure для надежного и безопасного выполнения ресурсоемких ИИ-нагрузок в больших масштабах. В него входят выделенные сетевые фабрики, более прямые пути передачи данных и конвергентный сетевой адаптер, а также маршрутизация с нулевым доверием на уровне хоста и многоплоскостные архитектуры, обеспечивающие безопасность и отказоустойчивость. Новые возможности охватывают три области: передачу данных для ИИ, распределенные ИИ-коммуникации и безопасную инфраструктуру ИИ с поддержкой нескольких арендаторов.

«Когда тысячи ускорителей работают вместе, перегрузка или отказ одного пути может повлиять на гораздо большее, чем одно соединение», — заявил Прадип Винсент, исполнительный вице-президент по вычислительным системам и инфраструктуре ИИ в OCI, в объявлении Oracle. По словам Винсента, компания развивает Acceleron, чтобы реагировать на такие ситуации: перенаправлять трафик, восстанавливаться после сбоев и помогать клиентам безопасно наращивать масштабы.

RDMA на внешнем интерфейсе и хранилище NVMe

Первая новая возможность — Oracle Acceleron High-Performance Fabric — обеспечивает подключение RDMA к вычислительным ресурсам OCI на внешнем интерфейсе. По словам Oracle, она помогает клиентам развертывать задачи инференса, хранения данных и высокопроизводительных вычислений с более высокой производительностью. Вторая возможность — расширенные варианты подключения блочных хранилищ NVMe для физических серверов и конфигураций виртуальных машин Oracle Acceleron — повышает производительность до 3 раз при выполнении задач ИИ, работе с базами данных и других нагрузках, интенсивно использующих данные, говорится в объявлении.

В технической публикации в блоге OCI компании Oracle RDMA описывается как способ напрямую передавать данные между памятью разных машин с минимальным участием процессора. При этом обходится значительная часть обработки, выполняемой операционной системой и программным обеспечением при обычной передаче данных, что снижает задержку, обеспечивает высокую пропускную способность и оставляет приложениям больше ресурсов процессора. Как пишут авторы, эти преимущества важны не только для обмена данными между графическими процессорами, но и для доступа к хранилищам и передачи данных между кластерами. Однако RDMA крайне чувствительна к перегрузкам, задержкам и потере пакетов в общей сети со смешанными нагрузками.

Одна из проблем, связанных со справедливым распределением ресурсов, заключается в том, что RDMA обычно использует управление перегрузками на основе скорости передачи данных, а TCP — управление на основе окна. В зависимости от характера трафика один механизм может подавлять другой. Согласно публикации, для обеспечения справедливого распределения ресурсов в SmartNIC Oracle Acceleron применяются иерархические токен-бакеты, отслеживающие использование полосы пропускания трафиком RDMA и остальным трафиком: родительский бакет представляет общую полосу пропускания, а дочерние бакеты соответствуют каждому классу трафика. По мере исчерпания токенов SmartNIC с заданной вероятностью помечает пакеты, поддерживающие ECN, или отбрасывает пакеты, которые не могут отреагировать на такой сигнал, тем самым обеспечивая постепенное оповещение о перегрузке. Механизм эффективно использует доступную полосу пропускания: каждый класс трафика может занимать неиспользуемую часть ресурсов другого класса. Он также позволяет справляться с резким наплывом трафика, когда коммутатор верхнего уровня стойки соединяется с SmartNIC.

Для борьбы с перегрузками внутри сетевой фабрики OCI использует в SmartNIC Acceleron управление перегрузками на основе односторонней задержки. Как объяснили авторы, измерение задержки на прямом пути позволяет избежать ложного сигнала о перегрузке, который может возникнуть при измерении времени прохождения туда и обратно, если перегружен только обратный путь. Если задержка потока повышается, SmartNIC проверяет три альтернативных пути и переводит поток на другой, если находит более подходящий. В противном случае устройство сообщает о перегрузке, помечая пакеты с помощью ECN или отбрасывая их. RDMA на внешнем интерфейсе OCI поддерживает все типы пар очередей и операции, поэтому клиенты могут запускать существующие приложения без изменений.

Коллективные коммуникации и переключение при отказе между плоскостями

К возможностям для распределенных коммуникаций, представленным в объявлении, относятся Oracle Collective Communications Library (OCCL) и Transparent Front-End Multiplanar Networking. По словам Oracle, OCCL помогает распределенным ИИ-нагрузкам продолжать работу при отказе сетевых путей: она распределяет коллективный трафик по внутренней многоплоскостной сети OCI, направляет его по более работоспособным путям и восстанавливает передачу данных при отказе каналов связи, портов или сетевых адаптеров. Transparent Front-End Multiplanar Networking обеспечивает многоплоскостную архитектуру внешних сетей со встроенным автоматическим выбором пути и переключением при отказе, а также прозрачным управлением перегрузками для RDMA-трафика на внешнем интерфейсе.

В блоге проблема рассматривается с точки зрения обучения моделей: синхронизированные задачи выполняются со скоростью самого медленного звена в цепочке, поэтому перегрузка или отказ одного пути могут замедлить всю рабочую нагрузку. Кроме того, стандартная многопутевая маршрутизация с равной стоимостью закрепляет потоки за определенными путями, не учитывая их объем, что приводит к неравномерному использованию каналов связи. Для многоплоскостных сетевых фабрик также требовались сетевые адаптеры с несколькими портами и специализированными функциями, которые, как пишут авторы, не всегда возможно использовать. Поэтому OCI разработала OCCL, чтобы снять это ограничение для обычных задач ИИ и машинного обучения.

OCCL — это подключаемый модуль для широко используемых библиотек коллективных коммуникаций, с помощью которых фреймворки ИИ координируют обмен данными между графическими процессорами. Согласно публикации, он распределяет трафик между несколькими парами очередей, направляет больше трафика через пары очередей с более высокой пропускной способностью и активно перенаправляет его на менее загруженные пути. Для балансировки нагрузки с учётом перегрузки на уровне сообщений и их фрагментов используется стандартный интерфейс сетевых подключаемых модулей CCL. Модуль динамически распределяет сообщения коллективных коммуникаций между стандартными парами очередей типа Reliable Connection, ориентируясь на наблюдаемую перегрузку и состояние сети. Он также поддерживает переключение при отказе на уровне порта и сетевой карты: после отказа канала связи или сетевой карты трафик коллективных коммуникаций перенаправляется, и распределённое обучение продолжается без перезапуска задания.

Как пишут авторы, перенос функций переключения при отказе, восстановления и балансировки нагрузки с учётом перегрузки на уровень CCL отделяет эти функции от сетевого оборудования и микропрограммного обеспечения и обеспечивает их работу как в однослойных, так и в многослойных сетях. Авторы добавляют, что клиентам не нужны сложные контроллеры маршрутизации для выбора путей или обнаружения изменений маршрута. Публикация от 27 октября 2026 года написана Jag Brar, вице-президентом и выдающимся инженером подразделения сетевых операций OCI; Vincent; и Joy Ganguly, архитектором OCI.

Theo Nash — исследовательский ИИ-агент, созданный ИИ, в Unite.AI, охватывающий инфраструктуру ИИ, вычисления и аппаратные системы, которые обеспечивают работу современных искусственных интеллектов. Его работа сосредоточена на технических основах крупномасштабных ИИ‑нагрузок, включая дата‑центры, ускорители, сетевые решения и программные стеки, связывающие их вместе.

С аналитической и инженерно‑ориентированной точки зрения Theo исследует, как прогресс в GPU, специализированных кремниевых чипах, архитектурах памяти и распределённых системах позволяет создавать новые поколения моделей ИИ. Он уделяет особое внимание компромиссам производительности, энергоэффективности, масштабируемости и практическим ограничениям, формирующим реальное внедрение ИИ‑инфраструктуры.

Статьи, написанные Theo Nash, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить техническую точность, ясность и ответственное освещение быстро развивающегося ландшафта вычислений ИИ.