Modele i platformy AI

Oracle Acceleron dodaje obsługę RDMA po stronie front-endu i wielopłaszczyznowe przełączanie awaryjne dla AI

mm
Dodaj Unite.AI do preferowanych źródeł w Google

27 października 2026 r. podczas Oracle AI World w Las Vegas Oracle ogłosiło nowe funkcje sieciowe Oracle Acceleron dla obciążeń AI: łączność RDMA po stronie front-endu, rozszerzone opcje blokowej pamięci masowej NVMe, które — jak podała firma — zwiększają wydajność nawet 3-krotnie, oraz bibliotekę komunikacji zbiorowej dla sieci wielopłaszczyznowych.

Oracle Acceleron to zestaw technologii sieciowych i infrastrukturalnych Oracle Cloud Infrastructure, przeznaczonych do niezawodnego i bezpiecznego uruchamiania wymagających obciążeń AI na dużą skalę. Obejmuje dedykowane sieci, bardziej bezpośrednie ścieżki przesyłania danych i konwergentną kartę sieciową (NIC), a także routing typu zero trust na poziomie hosta oraz wielopłaszczyznowe rozwiązania zapewniające bezpieczeństwo i odporność. Nowe funkcje dotyczą trzech obszarów: przesyłania danych na potrzeby AI, komunikacji rozproszonej AI oraz bezpiecznej infrastruktury AI obsługującej wielu klientów.

„Gdy współpracują ze sobą tysiące akceleratorów, przeciążenie lub awaria jednej ścieżki może mieć konsekwencje znacznie wykraczające poza pojedyncze połączenie” — powiedział Pradeep Vincent, wiceprezes wykonawczy ds. obliczeń i infrastruktury AI w OCI, w ogłoszeniu Oracle. Vincent dodał, że firma rozwija Acceleron tak, aby reagował na takie sytuacje przez przekierowywanie ruchu, odzyskiwanie sprawności po awariach i pomaganie klientom w bezpiecznym skalowaniu.

RDMA po stronie front-endu i pamięć masowa NVMe

Pierwsza z nowych funkcji, Oracle Acceleron High-Performance Fabric, zapewnia łączność RDMA dla zasobów obliczeniowych OCI po stronie front-endu. Według Oracle pomaga ona klientom wdrażać zadania wnioskowania, pamięci masowej i obliczeń wysokiej wydajności (HPC) z większą wydajnością. Druga funkcja — rozszerzenie opcji podłączania blokowej pamięci masowej NVMe w konfiguracjach Oracle Acceleron typu bare metal i maszyn wirtualnych — zwiększa wydajność nawet 3-krotnie w przypadku AI, baz danych i innych obciążeń intensywnie przetwarzających dane, jak podano w ogłoszeniu.

W wpisie technicznym na blogu OCI firmy Oracle autorzy opisali RDMA jako metodę przesyłania danych bezpośrednio między pamięcią różnych maszyn przy minimalnym udziale procesora. Pozwala ona ominąć znaczną część przetwarzania wykonywanego przez system operacyjny i oprogramowanie podczas standardowego transferu, co zmniejsza opóźnienia, zapewnia wysoką przepustowość i pozostawia więcej mocy obliczeniowej procesora dla aplikacji. Jak napisali autorzy, korzyści te dotyczą nie tylko komunikacji między GPU, lecz także dostępu do pamięci masowej i transferów między klastrami. RDMA jest jednak bardzo wrażliwe na przeciążenia, opóźnienia i utratę pakietów w sieci współdzielonej przez różne rodzaje obciążeń.

Jednym z problemów związanych ze sprawiedliwym podziałem zasobów jest to, że RDMA zwykle stosuje sterowanie przeciążeniem oparte na szybkości transmisji, podczas gdy TCP wykorzystuje sterowanie oparte na oknie; w zależności od charakterystyki ruchu jeden z tych mechanizmów może zdominować drugi. Aby zapewnić sprawiedliwy podział pasma, Oracle Acceleron SmartNICs — jak podano we wpisie — wykorzystują hierarchiczne zasobniki tokenów do śledzenia zużycia pasma przez ruch RDMA i inny ruch: nadrzędny zasobnik reprezentuje współdzielone pasmo, a podrzędne zasobniki odpowiadają poszczególnym klasom ruchu. Gdy tokeny się wyczerpują, karta SmartNIC probabilistycznie oznacza pakiety obsługujące ECN lub odrzuca pakiety, które nie mogą zareagować, generując stopniowy sygnał przeciążenia. Mechanizm nie pozostawia dostępnego pasma niewykorzystanego, dzięki czemu każda z klas ruchu może korzystać z wolnego pasma. Rozwiązanie uwzględnia również zjawisko incast, występujące, gdy przełącznik w szafie serwerowej łączy się z kartą SmartNIC.

Do kontrolowania przeciążeń wewnątrz sieci OCI wykorzystuje w kartach Acceleron SmartNIC sterowanie przeciążeniem oparte na pomiarze opóźnienia jednokierunkowego. Jak wyjaśnili autorzy, pomiar opóźnienia na ścieżce w kierunku docelowym pozwala uniknąć fałszywego sygnału przeciążenia, który może powstać przy pomiarze opóźnienia w obie strony, gdy przeciążona jest wyłącznie ścieżka powrotna. Jeśli opóźnienie przepływu wzrasta, karta SmartNIC sprawdza trzy alternatywne ścieżki i przenosi na lepszą przepływ, o ile taką znajdzie; w przeciwnym razie sygnalizuje przeciążenie przez oznaczanie ECN lub odrzucanie pakietów. RDMA po stronie front-endu w OCI obsługuje wszystkie typy par kolejkowych i operacje RDMA, dzięki czemu klienci mogą uruchamiać istniejące aplikacje bez wprowadzania zmian.

Komunikacja zbiorowa i wielopłaszczyznowe przełączanie awaryjne

Funkcje komunikacji rozproszonej opisane w ogłoszeniu to Oracle Collective Communications Library (OCCL) oraz Transparent Front-End Multiplanar Networking. Oracle poinformowało, że OCCL pomaga utrzymać działanie rozproszonych obciążeń AI w razie awarii ścieżek sieciowych, rozkładając ruch komunikacji zbiorowej na sieć zaplecza OCI Multiplanar Network, kierując go na sprawniejsze ścieżki i przywracając łączność po awarii łączy, portów lub kart NIC. Transparent Front-End Multiplanar Networking udostępnia sieciom front-endowym obsługę komunikacji wielopłaszczyznowej z wbudowanym, automatycznym wyborem ścieżki i przełączaniem awaryjnym, a także przezroczystym sterowaniem przeciążeniem ruchu RDMA po stronie front-endu.

Wpis na blogu przedstawia problem z perspektywy trenowania modeli: zsynchronizowane zadania postępują tylko tak szybko, jak pozwala na to najwolniejsze łącze w łańcuchu, dlatego pojedyncza przeciążona lub niedziałająca ścieżka może spowolnić całe obciążenie. Standardowe przekazywanie pakietów wieloma ścieżkami o jednakowym koszcie przypisuje przepływy do ścieżek bez uwzględniania ich wielkości, co prowadzi do nierównomiernego wykorzystania łączy. Jak napisali autorzy, sieci wielopłaszczyznowe wymagały ponadto wieloportowych kart NIC ze specjalistycznymi funkcjami, co nie zawsze jest możliwe; OCI stworzyło OCCL, aby usunąć to ograniczenie w przypadku ogólnych obciążeń związanych z AI i uczeniem maszynowym.

OCCL to wtyczka do powszechnie używanych bibliotek komunikacji zbiorowej, z których korzystają platformy AI, aby koordynować wymianę danych między procesorami GPU. Jak podano we wpisie, rozdziela ona ruch między wiele par kolejek, kieruje go w większym stopniu przez pary kolejek o wyższej przepustowości i aktywnie przenosi go na mniej przeciążone ścieżki. W ten sposób, za pośrednictwem standardowego interfejsu wtyczek sieciowych CCL, realizuje równoważenie obciążenia uwzględniające przeciążenia na poziomie komunikatów i ich fragmentów. Dynamicznie przypisuje komunikaty komunikacji zbiorowej do standardowych par kolejek Reliable Connection na podstawie zaobserwowanego przeciążenia i stanu połączeń. Obsługuje też przełączanie awaryjne na poziomie portu i karty NIC, kierując komunikację zbiorową inną drogą po awarii łącza lub karty NIC, dzięki czemu trening rozproszony może być kontynuowany bez ponownego uruchamiania zadania.

Autorzy napisali, że przeniesienie przełączania awaryjnego, odzyskiwania działania i równoważenia obciążenia uwzględniającego przeciążenia do warstwy CCL uniezależnia te funkcje od sprzętu sieciowego i oprogramowania układowego, a rozwiązanie działa zarówno w sieciach jednopłaszczyznowych, jak i wielopłaszczyznowych. Dodali, że klienci nie potrzebują złożonych kontrolerów routingu do wybierania ścieżek ani wykrywania ich zmian. Wpis z 27 października 2026 r. napisali Jag Brar, wiceprezes i główny inżynier w OCI Networking Ops, Vincent oraz Joy Ganguly, architekt OCI.

Theo Nash jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się infrastrukturą AI, obliczeniami oraz systemami sprzętowymi napędzającymi współczesną sztuczną inteligencję. Jego praca koncentruje się na technicznych podstawach dużych obciążeń AI, w tym centrach danych, akceleratorach, sieciach i stosach oprogramowania, które je łączą.

Z analitycznej i inżyniersko ukierunkowanej perspektywy Theo bada, jak postępy w GPU, niestandardowym krzemie, architekturach pamięci i systemach rozproszonych umożliwiają nowe generacje modeli AI. Szczególną uwagę zwraca na kompromisy wydajności, efektywność energetyczną, skalowalność oraz praktyczne ograniczenia kształtujące rzeczywiste wdrażanie infrastruktury AI.

Artykuły autorstwa Theo Nasha są generowane przez SI i przeglądane przez zespół redakcyjny Unite.AI, aby zapewnić techniczną precyzję, klarowność oraz odpowiedzialne relacjonowanie szybko rozwijającego się krajobrazu obliczeń AI.