Meta, NVIDIA Spolupracují na Vývoji Superpočítače pro Umělou Inteligenci

Meta a NVIDIA oznámily, že spolupracují na vývoji obrovského superpočítače pro umělou inteligenci. AI Research SuperCluster (RSC) v současné době trénuje nové modely pro pokrok v oblasti umělé inteligence.

RSC by měl být největším zákaznickým instalovaným systémem NVIDIA DGX A100, jednou bude plně nasazen. Měl by být plně dokončen později v tomto roce a bude použit pro trénování modelů umělé inteligence s více než jedním bilionem parametrů. Superpočítač bude užitečný pro mnoho různých oblastí, jako je zpracování přirozeného jazyka (NLP).

Podle Meta se společnost zaměřuje na umožnění výkonu ve velkém měřítku a extrémní spolehlivosti, zabezpečení, ochrany soukromí a flexibility pro zpracování různých modelů umělé inteligence.

Specifikace RSC

RSC používá 760 systémů NVIDIA DGX A100 jako výpočetní uzly a má 6 080 NVIDIA A100 GPU propojených prostřednictvím sítě NVIDIA Quantum 200Gb/s InfiniBand. To umožňuje dodávat 1 895 petaflops výkonu TF32.

RSC dosáhl funkčního superpočítače pro umělou inteligenci za pouhých 18 měsíců, což je působivé vzhledem k dopadům pandemie COVID-19 na vývoj.

Předčasné testy RSC, ve srovnání s předchozí výrobní a výzkumnou infrastrukturou Meta, prokázaly, že může spustit pracovní postupy počítačového vidění až 20krát rychleji. Může také spustit knihovnu NVIDIA Collective Communication Library (NCCL) více než devětkrát rychleji a trénovat velké modely NLP třikrát rychleji. Jinými slovy, model s desítkami miliard parametrů by mohl dokončit trénink za tři týdny, ve srovnání s předchozí devítitýdenní benchmarinou.

Co RSC Povolí

RSC povolí výzkumníkům Meta AI vytvářet nové modely umělé inteligence, které mohou se učit z bilionů příkladů. Výzkumníci budou moci také pracovat napříč stovkami různých jazyků; analyzovat text, obrázky a videa společně; vyvíjet nové nástroje pro rozšířenou realitu a další.

Meta doufá, že RSC povolí společnosti napájet reálné časové hlasové překlady pro velké skupiny lidí, i když každý mluví jiným jazykem. To umožní extrémně rozmanitým týmům spolupracovat na výzkumných projektech.

„Doufáme, že RSC nám pomůže vybudovat zcela nové systémy umělé inteligence, které mohou, například, napájet reálné časové hlasové překlady pro velké skupiny lidí, každý mluvící jiným jazykem, aby mohli bezproblémově spolupracovat na výzkumném projektu nebo hrát spolu hru s rozšířenou realitou,“ uvedla Meta.

Tato nová spolupráce bude mít velký význam pro vývoj jednoho z nejmodernějších superpočítačů pro umělou inteligenci, který lze použít v širokém spektru průmyslových odvětví.