Meta și NVIDIA Colaborează pentru a Dezvolta un Supercomputer de Inteligență Artificială

Meta și NVIDIA (NVDA ) au anunțat că lucrează la construirea unui supercomputer de inteligență artificială masiv. Clustărul de Cercetare a Inteligenței Artificiale (RSC) este în prezent în curs de instruire a unor noi modele pentru a avansa inteligența artificială.

RSC este așteptat să fie cea mai mare instalație a sistemelor NVIDIA DGX A100, odată ce va fi complet implementat. Se așteaptă să fie complet construit mai târziu în acest an și va fi utilizat pentru a instrui modele de inteligență artificială cu peste un trilion de parametri. Supercomputerul va fi util pentru multe domenii diferite, cum ar fi procesarea limbajului natural (NLP).

Conform Meta, compania se concentrează pe asigurarea performanței la scară și a fiabilității extreme, securității, confidențialității și flexibilității pentru a gestiona diverse modele de inteligență artificială.

Caracteristici ale RSC

RSC utilizează 760 de sisteme NVIDIA DGX A100 ca noduri de calcul și are 6.080 de procesoare grafice NVIDIA A100 legate printr-o rețea InfiniBand 200Gb/s NVIDIA Quantum. Toate acestea permit să livreze 1.895 petaflop de performanță TF32.

RSC a necesitat doar 18 luni pentru a ajunge la un supercomputer de inteligență artificială funcțional, ceea ce este impresionant având în vedere impactul pandemiei COVID-19 asupra dezvoltării.

Benchmarkele inițiale pe RSC, comparate cu infrastructura de producție și cercetare moștenită a Meta, au demonstrat că poate rula fluxuri de lucru de vizualizare a computerului de până la 20 de ori mai rapid. De asemenea, poate rula biblioteca de comunicare colectivă NVIDIA (NCCL) de peste nouă ori mai rapid și instrui modele de procesare a limbajului natural la scară largă de trei ori mai rapid. Cu alte cuvinte, un model cu zeci de miliarde de parametri ar putea termina instruirea în trei săptămâni, comparativ cu marca de nouă săptămâni anterioară.

Ce va permite RSC

RSC va permite cercetătorilor Meta AI să creeze noi modele de inteligență artificială care pot învăța din trilioane de exemple. Cercetătorii vor putea, de asemenea, să lucreze în sute de limbi diferite; să analizeze text, imagini și videoclipuri împreună; să dezvolte noi instrumente de realitate augmentată și multe altele.

Meta speră că RSC va permite companiei să alimenteze traduceri vocale în timp real pentru grupuri mari de oameni, chiar dacă fiecare vorbește o limbă diferită. Acest lucru va permite echipelor extrem de diverse să colaboreze la proiecte de cercetare.

„Sperăm că RSC ne va ajuta să construim sisteme de inteligență artificială complet noi care pot, de exemplu, alimenta traduceri vocale în timp real pentru grupuri mari de oameni, fiecare vorbind o limbă diferită, astfel încât aceștia să poată colabora fără probleme la un proiect de cercetare sau să joace un joc de realitate augmentată împreună”, a declarat Meta.

Această nouă colaborare va merge mult în dezvoltarea unuia dintre următoarele supercalculatoare de inteligență artificială de ultimă generație care pot fi utilizate într-o gamă largă de industrii.