Meta, NVIDIA Colaborează pentru a Construi un Supercomputer de Inteligență Artificială

Meta și NVIDIA au anunțat că lucrează la construirea unui supercomputer de inteligență artificială masiv. Clusteringul de Cercetare a Inteligenței Artificiale (RSC) este în prezent în curs de instruire a unor noi modele pentru a avansa inteligența artificială.

RSC este așteptat să fie cea mai mare instalație a clienților de sisteme NVIDIA DGX A100 odată ce va fi complet implementat. Se așteaptă să fie complet construit mai târziu în acest an și va fi utilizat pentru a instrui modele de inteligență artificială cu peste un trilion de parametri. Supercomputerul va fi util pentru multe domenii diferite, cum ar fi procesarea limbajului natural (NLP).

Conform Meta, compania se axează pe permiterea performanței la scară și a fiabilității extreme, securității, confidențialității și flexibilității pentru a gestiona diverse modele de inteligență artificială.

Detalii despre RSC

RSC utilizează 760 de sisteme NVIDIA DGX A100 ca noduri de calcul și au 6.080 de GPU-uri NVIDIA A100 legate pe o rețea InfiniBand NVIDIA Quantum 200Gb/s. Toate acestea îi permit să livreze 1.895 petaflops de performanță TF32.

RSC a necesitat doar 18 luni pentru a ajunge la un supercomputer de inteligență artificială funcțional, ceea ce este impresionant având în vedere impactul pandemiei COVID-19 asupra dezvoltării.

Testele inițiale pe RSC, comparativ cu infrastructura de producție și cercetare moștenită a Meta, au demonstrat că poate rula fluxuri de lucru de vedere computerizată de până la 20 de ori mai rapid. De asemenea, poate rula biblioteca de comunicații colective NVIDIA (NCCL) de peste nouă ori mai rapid și poate instrui modele de limbaj natural la scară largă de trei ori mai rapid. Cu alte cuvinte, un model cu zeci de miliarde de parametri ar putea termina instruirea în trei săptămâni, comparativ cu marca de nouă săptămâni anterioară.

Ce va permite RSC

RSC va permite cercetătorilor Meta AI să creeze noi modele de inteligență artificială care pot învăța din trilioane de exemple. Cercetătorii vor putea, de asemenea, să lucreze pe sute de limbi diferite; să analizeze text, imagini și videoclipuri împreună; să dezvolte noi instrumente de realitate augmentată și multe altele.

Meta speră că RSC va permite companiei să alimenteze traduceri vocale în timp real pentru grupuri mari de oameni, chiar dacă fiecare vorbește o limbă diferită. Acest lucru va permite unor echipe extrem de diverse să colaboreze la proiecte de cercetare.

„Sperăm că RSC ne va ajuta să construim sisteme de inteligență artificială complet noi care pot, de exemplu, alimenta traduceri vocale în timp real pentru grupuri mari de oameni, fiecare vorbind o limbă diferită, astfel încât aceștia să poată colabora fără efort la un proiect de cercetare sau să joace un joc de realitate augmentată împreună”, a declarat Meta.

Această nouă colaborare va merge mult în dezvoltarea unuia dintre următoarele supercalculatoare de inteligență artificială de ultimă generație care pot fi utilizate într-o gamă largă de industrii.