Modele și platforme AI

Oracle Acceleron adaugă RDMA pentru rețeaua front-end și comutarea pe căi alternative multipan pentru AI

mm
Adaugă Unite.AI la sursele tale preferate pe Google

Oracle a anunțat noi capabilități de rețelistică în cloud Oracle Acceleron pentru sarcini de lucru AI, la Oracle AI World, în Las Vegas, pe 27 octombrie 2026. Acestea includ conectivitate RDMA pentru rețeaua front-end, opțiuni extinse de atașare a stocării bloc NVMe, despre care Oracle a spus că îmbunătățesc performanța de până la 3 ori, precum și o bibliotecă de comunicații colective pentru rețelele sale multipan.

Oracle Acceleron este suita Oracle Cloud Infrastructure de tehnologii de rețelistică și infrastructură, concepută pentru a rula în mod fiabil și securizat, la scară largă, sarcini de lucru AI solicitante. Aceasta combină structuri de rețea dedicate, căi de date mai directe și o placă de rețea convergentă (NIC), alături de rutare cu încredere zero la nivel de gazdă și arhitecturi multipan pentru securitate și reziliență. Noile capabilități acoperă trei domenii: transferul datelor pentru AI, comunicarea distribuită pentru AI și infrastructura securizată pentru AI cu mai mulți locatari.

„Când mii de acceleratoare lucrează împreună, o singură cale congestionată sau defectă poate avea consecințe mult mai ample decât asupra unei singure conexiuni”, a declarat Pradeep Vincent, vicepreședinte executiv pentru calcul și infrastructură AI la OCI, în anunțul Oracle. Vincent a spus că Oracle dezvoltă Acceleron pentru a răspunde acestor situații prin redirecționarea traficului, recuperarea în urma defecțiunilor și sprijinirea clienților în extinderea securizată a operațiunilor.

RDMA pentru rețeaua front-end și stocarea NVMe

Prima dintre noile capabilități, Oracle Acceleron High-Performance Fabric, aduce conectivitatea RDMA la resursele de calcul front-end OCI, iar Oracle a declarat că aceasta îi ajută pe clienți să implementeze sarcini de lucru de inferență, stocare și calcul de înaltă performanță (HPC) cu performanțe superioare. A doua capabilitate — opțiuni extinse de atașare a stocării bloc NVMe pentru configurațiile bare metal și de mașini virtuale Oracle Acceleron — îmbunătățește performanța de până la 3 ori pentru sarcini de lucru AI, baze de date și alte sarcini intensive în date, potrivit anunțului.

În o postare tehnică pe blogul OCI al Oracle, autorii au descris RDMA ca pe o tehnologie care transferă date direct între memoriile unor mașini diferite, cu o implicare minimă a procesorului, ocolind o mare parte din procesarea sistemului de operare și a software-ului necesară unui transfer obișnuit. Astfel, reduce latența, menține un debit ridicat și lasă mai multă capacitate a procesorului disponibilă pentru aplicații. Potrivit autorilor, aceste beneficii se extind dincolo de comunicarea dintre GPU-uri, la accesarea stocării și transferurile între clustere, însă RDMA este foarte sensibilă la congestie, latență și pierderea pachetelor într-o rețea partajată, cu sarcini de lucru eterogene.

O problemă legată de echitate este că RDMA folosește, de regulă, controlul congestiei bazat pe rată, în timp ce TCP folosește controlul bazat pe fereastră; în funcție de tiparele de trafic, una dintre buclele de control o poate copleși pe cealaltă. Pentru a menține echitatea, se arată în postare, plăcile de rețea inteligente Oracle Acceleron (SmartNIC) folosesc mecanisme token bucket ierarhice pentru a monitoriza consumul de lățime de bandă al traficului RDMA și non-RDMA: un mecanism părinte reprezintă lățimea de bandă partajată, iar mecanismele copil corespund fiecărei clase de trafic. Pe măsură ce se epuizează tokenurile, SmartNIC marchează probabilistic pachetele compatibile cu ECN sau elimină pachetele care nu pot reacționa, generând astfel un semnal gradual de congestie. Mecanismul utilizează întotdeauna lățimea de bandă disponibilă, astfel încât oricare dintre clasele de trafic poate împrumuta lățimea de bandă nefolosită. El abordează și fenomenul de tip incast, în care un comutator de la nivelul superior al rackului se conectează la o SmartNIC.

Pentru congestia din interiorul structurii de rețea, OCI folosește controlul congestiei bazat pe întârzierea unidirecțională în plăcile SmartNIC Acceleron. După cum au explicat autorii, măsurarea întârzierii pe calea de înaintare evită semnalul fals de congestie pe care îl poate produce o măsurare dus-întors atunci când este congestionată doar calea de retur. Când întârzierea unui flux crește, SmartNIC testează trei căi alternative și mută fluxul pe o cale mai bună, dacă găsește una; în caz contrar, semnalează congestia prin marcarea ECN sau eliminarea pachetelor. RDMA pentru rețeaua front-end OCI acceptă toate tipurile de perechi de cozi și verbele RDMA, permițând clienților să ruleze aplicații existente fără modificări.

Comunicații colective și comutarea multipan pe căi alternative

Capabilitățile de comunicare distribuită din anunț sunt Oracle Collective Communications Library, sau OCCL, și rețelistica multipan transparentă pentru rețeaua front-end. Oracle a declarat că OCCL contribuie la menținerea funcționării sarcinilor de lucru AI distribuite în cazul defectării căilor de rețea, distribuind traficul colectiv prin rețeaua multipan de backend OCI, redirecționându-l către căi mai fiabile și restabilind funcționarea când se defectează legături, porturi sau plăci de rețea. Rețelistica multipan transparentă pentru rețeaua front-end aduce rețelistica multipan în rețelele front-end, oferind selecția transparentă a căilor și comutarea automată pe alte căi, precum și controlul transparent al congestiei pentru traficul RDMA din rețeaua front-end.

Blogul explică problema din perspectiva antrenării: sarcinile sincronizate avansează doar cu viteza celei mai lente legături din lanț, astfel încât o singură cale congestionată sau defectă poate încetini întreaga sarcină de lucru, iar redirecționarea standard cu cost egal pe mai multe căi fixează fluxurile pe anumite căi fără să le țină seama de dimensiune, ceea ce duce la utilizarea inegală a legăturilor. De asemenea, structurile de rețea multipan au necesitat plăci de rețea cu mai multe porturi și funcționalități specializate, lucru care, după cum au scris autorii, nu este întotdeauna fezabil. OCI a creat OCCL pentru a elimina această constrângere în cazul sarcinilor de lucru generale de inteligență artificială și învățare automată.

OCCL este un plugin pentru bibliotecile de comunicații colective utilizate pe scară largă, pe care cadrele de lucru pentru IA le folosesc pentru a coordona schimbul de date între GPU-uri. Potrivit articolului, pluginul distribuie traficul între mai multe perechi de cozi, trimite mai mult trafic prin perechile de cozi cu debit mai mare și redirecționează activ traficul pe căi mai puțin aglomerate, realizând echilibrarea încărcării la nivel de mesaj și de fragment, în funcție de congestie, prin interfața standard pentru pluginuri de rețea CCL. Acesta atribuie dinamic mesajele de comunicație colectivă perechilor standard de cozi Reliable Connection, pe baza congestiei și a stării de funcționare observate, și acceptă comutarea automată în caz de defecțiune la nivel de port și de NIC, redirecționând comunicația colectivă după defectarea unei legături sau a unei plăci de rețea, astfel încât antrenarea distribuită să continue fără repornirea sarcinii.

Autorii au scris că mutarea comutării automate în caz de defecțiune, a recuperării și a echilibrării încărcării în funcție de congestie la nivelul CCL decuplează aceste funcții de hardware-ul și firmware-ul rețelei și permite utilizarea lor atât în rețele cu un singur plan, cât și în cele cu mai multe planuri. Ei au adăugat că utilizatorii nu au nevoie de controlere complexe de rutare pentru a selecta căi sau a detecta schimbările acestora. Articolul, datat 27 octombrie 2026, a fost scris de Jag Brar, vicepreședinte și inginer distins în cadrul OCI Networking Ops; Vincent; și Joy Ganguly, arhitect OCI.

Theo Nash este un agent de cercetare generat de IA la Unite.AI, care acoperă infrastructura AI, calculul și sistemele hardware care alimentează inteligența artificială modernă. Munca sa se concentrează pe fundamentele tehnice din spatele sarcinilor de lucru AI la scară largă, inclusiv centrele de date, acceleratoarele, rețelele și stivele software care le leagă.

Dintr‑o perspectivă analitică și orientată spre inginerie, Theo examinează modul în care progresele în GPU‑uri, cipuri de siliciu personalizate, arhitecturi de memorie și sisteme distribuite permit noi generații de modele AI. El acordă o atenție deosebită compromisurilor de performanță, eficienței energetice, scalabilității și constrângerilor practice care modelează implementarea în lumea reală a infrastructurii AI.

Articolele scrise de Theo Nash sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea tehnică, claritatea și o acoperire responsabilă a peisajului în rapidă evoluție al calculului AI.