Sistemul Cerebras CS-1 Integrat în Supercomputerul Lassen

Un nou studiu de caz realizat de Cerebras (CBRS ) în parteneriat cu Laboratorul Național Lawrence Livermore (LLNL) detaliază modul în care sistemul Cerebras CS-1 a fost integrat în supercomputerul Lassen al LLNL pentru a permite progrese în simulări de fuziune nucleară.

LLNL este o instituție de cercetare federală din Livermore, California, și este finanțată în principal de Administrația Națională de Securitate Nucleară a Departamentului de Energie al SUA (NNSA). Conform LLNL, misiunea sa este de a consolida securitatea SUA prin dezvoltarea și aplicarea științei, tehnologiei și ingineriei de clasă mondială.

Laboratorul conține Facilitatea de Igniție Națională (NIF), care efectuează cercetări de fuziune nucleară cu cel mai puternic laser din lume. Cu toate acestea, unele dintre principalele obstacole includ experimente de constrângere inerțială scumpe și care consumă timp, astfel încât laboratorul rulează experimente simulate cu un pachet de software multi-fizic numit HYDRA pe supercomputerul Lassen. Modelele HYDRA sunt validate prin date din lumea reală de la NIF, ceea ce permite modelului să fie mai precis în prezicerea rezultatului experimentelor din lumea reală.

O parte a modelelor HYDRA include cinetica atomică și radiația, și această parte se numește CRETIN. Acesta prezice cum se va comporta un atom în anumite condiții, și CRETIN poate reprezenta zeci de procente din încărcătura totală de calcul pentru HYDRA.

Prin înlocuirea CRETIN cu un model de rețea neurală profundă (DNN), sau CRETIN-surrogate, cercetătorii de la LLNL pot reduce intensitatea computațională.

Sistemul Cerebras CS-1

Sistemul Cerebras CS-1 a fost ales de LLNL pentru a efectua inferența CRETIN-surrogate. Sistemul a fost integrat cu supercomputerul Lassen, și instalarea a durat mai puțin de 20 de ore. Tehnicienii Cerebras au instalat, de asemenea, un “cocon de răcire” și suporturile mecanice și hardware-ul.

Inginerii software de învățare automată au lucrat cu colegii de la LLNL pentru a scrie un API C++ care permite codului HYDRA să apeleze modelul CRETIN-surrogate. Modelul se bazează pe un autoencoder pentru a comprima datele de intrare în reprezentări de dimensiuni inferioare, și acestea sunt apoi procesate de un model predictiv construit cu DJINN, care este un algoritm de rețea neurală profundă nou. Acest algoritm alege în mod automat o arhitectură de rețea neurală adecvată pentru datele date, și nu necesită ca utilizatorul să ajusteze manual setările.

Rezultatele Studiului de Caz

Rezultatele inițiale au demonstrat că combinarea sistemului Lassen cu acceleratorul Cerebras este extrem de eficientă. Prin conectarea sistemului CS-1 la rețeaua InfiniBand a lui Lassen, s-a putut obține o lățime de bandă de 1,2 terabiți pe secundă către sistemul CS-1.

Datorită celor 19 GB de memorie SRAM cuplată la 400.000 de nuclee de calcul AI, sistemul CS-1 a putut rula multe instanțe ale modelului DNN relativ compact în paralel. Prin combinarea lățimii de bandă și a puterii de calcul, HYDRA a putut efectua inferență pe 18 milioane de mostre pe secundă.

Toate acestea înseamnă că LLNL poate rula acum experimente care erau anterior inaccesibile din punct de vedere computațional cu sistemul Cerebras, și acest lucru necesită doar o integrare simplă și o fracțiune din cost.

Cercetarea se va axa acum pe direcționarea simulării și oferirea de insight în timpul rulării simulării, ceea ce permite cercetătorilor să monitorizeze și să oprească rularea dacă simularea nu funcționează bine. Rezultatele fiecărui rulării devin apoi parte a setului de antrenament al modelului, astfel încât acesta să poată fi antrenat în mod continuu. Un model de “învățare activă” poate fi creat, și acesta poate optimiza rulările viitoare prin alegerea parametrilor și a condițiilor de frontieră inițiale pentru următorul experiment.