Моделі та платформи ШІ
Oracle Acceleron додає RDMA на передньому рівні та резервне перемикання між площинами для ШІ
Додайте Unite.AI до бажаних джерел у Google
27 жовтня 2026 року на заході Oracle AI World у Лас-Вегасі Oracle оголосила про нові можливості хмарної мережі Oracle Acceleron для робочих навантажень ШІ: підключення RDMA на передньому рівні, розширені варіанти блочного сховища NVMe, які, за словами Oracle, підвищують продуктивність до 3 разів, а також бібліотеку колективних комунікацій для багатоплощинних мереж компанії.
Oracle Acceleron — це набір мережевих та інфраструктурних технологій Oracle Cloud Infrastructure для надійного, безпечного й масштабованого виконання ресурсоємних робочих навантажень ШІ. Він поєднує виділені мережеві фабрики, пряміші шляхи передавання даних і конвергентний мережевий адаптер із маршрутизацією на рівні хоста за моделлю нульової довіри та багатоплощинними архітектурами для безпеки й відмовостійкості. Нові можливості охоплюють три напрями: переміщення даних для ШІ, розподілену комунікацію між системами ШІ та захищену інфраструктуру ШІ для кількох клієнтів.
«Коли тисячі прискорювачів працюють разом, один перевантажений або несправний шлях може мати наслідки, що виходять далеко за межі одного з’єднання», — сказав Прадеп Вінсент, виконавчий віцепрезидент із напрямів обчислень та інфраструктури ШІ в OCI, у оголошенні Oracle. Вінсент зазначив, що компанія розробляє Acceleron, аби реагувати на такі ситуації, перенаправляючи трафік, відновлюючи роботу після збоїв і допомагаючи клієнтам безпечно масштабуватися.
RDMA на передньому рівні та сховище NVMe
Перша нова можливість — Oracle Acceleron High-Performance Fabric — забезпечує підключення RDMA до обчислювальних ресурсів OCI на передньому рівні; за словами Oracle, вона допомагає клієнтам розгортати системи логічного виведення, сховища та робочі навантаження високопродуктивних обчислень із вищою продуктивністю. Друга можливість — розширені варіанти підключення блочних сховищ NVMe для конфігурацій Oracle Acceleron на фізичних серверах і віртуальних машинах — підвищує продуктивність до 3 разів для ШІ, баз даних та інших робочих навантажень із великим обсягом даних, ідеться в оголошенні.
У технічному дописі в блозі OCI компанії Oracle автори описали RDMA як технологію, що передає дані безпосередньо між пам’яттю різних машин із мінімальним залученням процесора, оминаючи значну частину обробки операційною системою та програмним забезпеченням, характерної для звичайного передавання даних. Це дає змогу зменшити затримку, підтримувати високу пропускну здатність і залишати більше ресурсів процесора для застосунків. За словами авторів, ці переваги стосуються не лише комунікації між графічними процесорами, а й доступу до сховищ і передавання даних між кластерами, однак RDMA дуже чутлива до перевантажень, затримок і втрат пакетів у спільній мережі зі змішаними робочими навантаженнями.
Одна з проблем справедливого розподілу ресурсів полягає в тому, що RDMA зазвичай використовує керування перевантаженнями на основі швидкості передавання, тоді як TCP — керування на основі вікна; залежно від характеру трафіку один із цих контурів керування може переважити інший. Щоб забезпечити справедливий розподіл, як зазначено в дописі, смарт-мережеві адаптери Oracle Acceleron використовують ієрархічні кошики токенів для відстеження використання пропускної здатності трафіком RDMA та трафіком без RDMA: батьківський кошик відповідає спільній пропускній здатності, а дочірні кошики — кожному класу трафіку. Коли запас токенів вичерпується, смарт-мережевий адаптер із певною ймовірністю позначає пакети, сумісні з ECN, або відкидає пакети, які не можуть реагувати на такі сигнали, завдяки чому сигнал перевантаження надходить поступово. Механізм забезпечує повне використання доступної пропускної здатності: кожен клас трафіку може використовувати невикористану частину ресурсу іншого. Він також розв’язує проблему інкасту, коли комутатор верхнього рівня стійки підключається до смарт-мережевого адаптера.
Для боротьби з перевантаженнями всередині мережевої фабрики OCI використовує в смарт-мережевих адаптерах Acceleron механізм керування перевантаженнями на основі односторонньої затримки. Як пояснили автори, вимірювання затримки на прямому шляху дає змогу уникнути хибного сигналу про перевантаження, який може спричинити вимірювання часу проходження туди й назад, якщо перевантажено лише зворотний шлях. Якщо затримка потоку зростає, смарт-мережевий адаптер перевіряє три альтернативні шляхи й перемикає на них потік, якщо знаходить кращий; інакше він сигналізує про перевантаження, позначаючи пакети за допомогою ECN або відкидаючи їх. Фронтендний RDMA від OCI підтримує всі типи пар черг і операції verbs, даючи змогу клієнтам запускати наявні застосунки без змін.
Колективні комунікації та резервне перемикання між площинами
Можливості для розподілених комунікацій, згадані в оголошенні, — це Oracle Collective Communications Library, або OCCL, і Transparent Front-End Multiplanar Networking. За словами Oracle, OCCL допомагає підтримувати роботу розподілених робочих навантажень ШІ в разі відмови мережевих шляхів: вона розподіляє колективний трафік між внутрішніми мережами Multiplanar Network в OCI, спрямовує його шляхами з кращим станом і відновлює передавання, якщо відмовляють канали, порти або мережеві адаптери. Transparent Front-End Multiplanar Networking додає багатоплощинну архітектуру до мереж переднього рівня, забезпечуючи вбудований прозорий вибір шляху й резервне перемикання, а також прозоре керування перевантаженнями для трафіку RDMA на передньому рівні.
У блозі проблему пояснено на прикладі навчання моделей: синхронізовані завдання працюють не швидше за найповільніший канал у ланцюжку, тож один перевантажений або несправний шлях може сповільнити все робоче навантаження. Стандартна маршрутизація за кількома шляхами з однаковою вартістю закріплює потоки за певними шляхами, не враховуючи їхнього розміру, що призводить до нерівномірного використання каналів. Для багатоплощинних мереж також потрібні були багатопортові мережеві адаптери зі спеціальними функціями, що, за словами авторів, не завжди можливо. OCI створила OCCL, щоб усунути це обмеження для загальних робочих навантажень ШІ та машинного навчання.
OCCL — це плагін для поширених бібліотек колективних комунікацій, які фреймворки ШІ використовують для координації обміну даними між графічними процесорами. Як зазначено в дописі, плагін розподіляє трафік між кількома парами черг, спрямовує більше трафіку через пари черг із вищою пропускною здатністю та активно перенаправляє його менш завантаженими шляхами. Для цього через стандартний інтерфейс мережевих плагінів CCL реалізовано балансування навантаження з урахуванням перевантаженості на рівні повідомлень і фрагментів. Плагін динамічно розподіляє повідомлення колективних комунікацій між стандартними парами черг Reliable Connection, зважаючи на виявлену перевантаженість і стан мережі. Він також забезпечує перемикання на резервний канал на рівні порту й мережевої карти (NIC), перенаправляючи колективні комунікації після відмови каналу зв’язку або мережевої карти, щоб розподілене навчання тривало без перезапуску завдання.
За словами авторів, перенесення перемикання на резервний канал, відновлення та балансування навантаження з урахуванням перевантаженості на рівень CCL відокремлює ці функції від мережевого обладнання та мікропрограм і забезпечує їх роботу як у мережах з однією площиною, так і в багатоплощинних мережах. Автори також зазначили, що клієнтам не потрібні складні контролери маршрутизації для вибору шляхів або виявлення змін маршрутів. Допис, датований 27 жовтня 2026 року, написали Jag Brar, віцепрезидент і провідний інженер з OCI Networking Ops; Vincent; і Joy Ganguly, архітектор OCI.
