AI-modeller og platforme
Meta og NVIDIA samarbejder om at bygge en AI-supercomputer
Føj Unite.AI til dine foretrukne kilder på Google
Meta og NVIDIA (NVDA ) har annonceret, at de arbejder på at bygge en massiv AI-supercomputer. AI-forsknings-superclusteren (RSC) er i øjeblikket i gang med at træne nye modeller for at fremme AI.
RSC forventes at blive den største kundeinstallation af NVIDIA DGX A100-systemer, når det er fuldt udbygget. Det forventes at være fuldt bygget ud senere i år, og det vil blive brugt til at træne AI-modeller med over en billion parametre. Supercomputeren vil være nyttig for mange forskellige fag som f.eks. naturlig sprogbehandling (NLP).
Ifølge Meta er virksomheden fokuseret på at aktivere præstation på skala og ekstrem pålidelighed, sikkerhed, privatliv og fleksibilitet til at håndtere forskellige AI-modeller.
Detaljer om RSC
RSC bruger 760 NVIDIA DGX A100-systemer som beregningsknuder, og de har 6.080 NVIDIA A100-GPU’er forbundet på et NVIDIA Quantum 200Gb/s InfiniBand-netværk. Alt dette muliggør, at det kan levere 1.895 petaflops af TF32-præstation.
RSC tog kun 18 måneder at nå et fungerende AI-supercomputer, hvilket er imponerende givet COVID-19-pandemiens effekt på udviklingen.
Tidlige benchmarks på RSC, sammenlignet med Metas legacy-produktions- og forskningsinfrastruktur, har vist, at det kan køre computer vision-workflows op til 20 gange hurtigere. Det kan også køre NVIDIA Collective Communication Library (NCCL) over ni gange hurtigere og træne store skala NLP-modeller tre gange hurtigere. Med andre ord ville en model med ti milliarder parametre kunne afslutte træningen på tre uger, sammenlignet med den tidligere ni-ugers benchmark.
Hvad RSC vil muliggøre
RSC vil muliggøre, at Meta AI-forskere kan oprette nye AI-modeller, der kan lære fra billioner af eksempler. Forskere vil også kunne arbejde på tværs af hundredvis af forskellige sprog; analysere tekst, billeder og video sammen; udvikle nye augmenteret virkelighedsværktøjer og mere.
Meta håber, at RSC vil muliggøre, at virksomheden kan aktivere realtids-stemmeoversættelser til store grupper af mennesker, selv hvis hver taler et forskelligt sprog. Dette vil tillade ekstremt diverse hold at samarbejde om forskningsprojekter.
”Vi håber, at RSC vil hjælpe os med at bygge helt nye AI-systemer, der f.eks. kan aktivere realtids-stemmeoversættelser til store grupper af mennesker, hver talende et forskelligt sprog, så de kan samarbejde sammen på et forskningsprojekt eller spille et AR-spil sammen,” siger Meta.
Dette nye samarbejde vil gå langt i udviklingen af en af de næste state-of-the-art AI-supercomputere, der kan bruges i en bred vifte af industrier.
