Sistema Cerebras CS-1 Integrato nel Supercomputer Lassen

Un nuovo caso di studio condotto da Cerebras (CBRS ) in partnership con Lawrence Livermore National Laboratory (LLNL) dettaglia come il sistema Cerebras CS-1 sia stato integrato nel supercomputer Lassen di LLNL per consentire progressi nelle simulazioni di fusione nucleare.

LLNL è un centro di ricerca federale a Livermore, in California, e è finanziato principalmente dal Dipartimento dell’Energia degli Stati Uniti, Amministrazione per la Sicurezza Nucleare Nazionale (NNSA). Secondo LLNL, la sua missione è quella di rafforzare la sicurezza degli Stati Uniti sviluppando e applicando scienza, tecnologia e ingegneria di classe mondiale.

Il laboratorio contiene la National Ignition Facility (NIF), che conduce ricerche sulla fusione nucleare con il laser più potente del mondo. Tuttavia, alcuni degli ostacoli principali includono esperimenti di confinamento inerziale costosi e lunghi, quindi il laboratorio esegue esperimenti simulati con un pacchetto software multi-fisico chiamato HYDRA sul supercomputer Lassen. I modelli HYDRA vengono validati attraverso dati del mondo reale provenienti da NIF, il che consente ai modelli di essere più precisi nella previsione dell’esito degli esperimenti del mondo reale.

Parte dei modelli HYDRA include la cinetica atomica e la radiazione, e questa parte si chiama CRETIN. Prevede come un atomo si comporterà in determinate condizioni, e CRETIN può rappresentare fino al 10% del carico di calcolo totale per HYDRA.

Sostituendo CRETIN con un modello di rete neurale profonda (DNN), o il CRETIN-surrogate, i ricercatori di LLNL possono ridurre l’intensità computazionale.

Sistema Cerebras CS-1

Il sistema Cerebras CS-1 è stato scelto da LLNL per eseguire l’inferenza del CRETIN-surrogate. Il sistema è stato integrato con il supercomputer Lassen e l’installazione ha richiesto meno di 20 ore. I tecnici di Cerebras hanno anche installato una “shell di raffreddamento” e i binari di supporto meccanico e l’hardware.

Gli ingegneri software di apprendimento automatico hanno lavorato con i colleghi di LLNL per scrivere un’API C++ che consente al codice HYDRA di chiamare il modello CRETIN-surrogate. Il modello si basa su un autoencoder per comprimere i dati di input in rappresentazioni a dimensione inferiore, che vengono quindi elaborate da un modello predittivo costruito con DJINN, che è un algoritmo di rete neurale profonda innovativo. Questo algoritmo sceglie automaticamente un’architettura di rete neurale appropriata per i dati dati e non richiede all’utente di regolare manualmente le impostazioni.

Risultati del caso di studio

I primi risultati hanno dimostrato che la combinazione del sistema Lassen con l’acceleratore Cerebras è estremamente efficiente. Collegando il sistema CS-1 alla rete InfiniBand di Lassen, è stato possibile raggiungere una larghezza di banda di 1,2 terabit al secondo per il sistema CS-1.

Grazie ai suoi 19 GB di memoria SRAM abbinati a 400.000 core di calcolo AI, il sistema CS-1 è stato in grado di eseguire molti istanziamenti del modello DNN relativamente compatto in parallelo. Grazie alla combinazione di larghezza di banda e potenza di calcolo, HYDRA è stata in grado di eseguire l’inferenza su 18 milioni di campioni al secondo.

Tutto ciò significa che LLNL può ora eseguire esperimenti che in precedenza erano computazionalmente inaccessibili con il sistema Cerebras, e ciò richiede solo una semplice integrazione e una frazione del costo.

La ricerca si concentrerà ora sul pilotaggio della simulazione e sulla fornitura di informazioni sulla simulazione mentre è in esecuzione, il che consente ai ricercatori di monitorare e interrompere l’esecuzione se la simulazione non funziona correttamente. I risultati di ogni esecuzione diventano quindi parte dell’insieme di addestramento del modello, in modo che possa essere addestrato continuamente. È possibile creare un modello di “apprendimento attivo” che possa ottimizzare le esecuzioni future selezionando i parametri e le condizioni di confine iniziali per il prossimo esperimento.