Cerebras CS-1 Sistemi Lassen Süper Bilgisayarına Entegre Edildi

Cerebras tarafından Cerebras ve Lawrence Livermore National Laboratory (LLNL) ile ortaklaşa yürütülen yeni bir vaka çalışması, Cerebras CS-1 sisteminin LLNL’nin Lassen süper bilgisayarına entegre edilerek nükleer füzyon simülasyonlarında ilerlemelere olanak sağladığını açıklamaktadır.

LLNL, Kaliforniya, Livermore’da bulunan bir federal araştırma tesisi olup,主要 olarak US Department of Energy’nin National Nuclear Security Administration (NNSA) tarafından finanse edilmektedir. LLNL’ye göre, misyonu, dünya sınıfı bilim, teknoloji ve mühendisliği geliştirerek ve uygulayarak ABD güvenliğini güçlendirmektir.

Laboratuvarda, dünyanın en güçlü lazerini kullanarak nükleer füzyon araştırmaları yürüten National Ignition Facility (NIF) bulunmaktadır. Bununla birlikte, bazı önemli engeller, pahalı ve zaman alıcı inertial confinement deneyleri içermektedir, bu nedenle laboratuvar, Lassen süper bilgisayarında HYDRA adlı bir çok fizikli yazılım paketi ile simüle deneyler yürütmektedir. HYDRA modelleri, NIF’den gerçek dünya verisi ile doğrulanır, bu da modellerin gerçek dünya deneylerinin sonuçlarını daha doğru bir şekilde tahmin etmesini sağlar.

HYDRA modellerinin bir kısmı, atomik kinetik ve radyasyonu içermektedir ve bu kısma CRETIN denir. CRETIN, bir atomun belirli koşullar altında nasıl davranacağını öngörür ve CRETIN, HYDRA’nın toplam işlem yükünün %10’una kadar temsil edebilir.

LLNL araştırmacıları, CRETIN’i bir derin sinir ağı modeli (DNN) veya CRETIN-surrogate ile değiştirerek hesaplama yoğunluğunu azaltabilirler.

Cerebras CS-1 Sistemi

Cerebras CS-1 sistemi, LLNL tarafından CRETIN-surrogate çıkarımı gerçekleştirmek üzere seçilmiştir. Sistem, Lassen süper bilgisayarına entegre edilmiştir ve kurulum weniger 20 saat sürmüştür. Cerebras teknisyenleri ayrıca bir “soğutma kabuğu” ve mekanik destek rayları ve donanımı da kurmuşlardır.

Makine öğrenimi yazılım mühendisleri, HYDRA kodunun CRETIN-surrogate modelini çağıran bir C++ API’si yazmak için LLNL meslektaşları ile birlikte çalışmışlardır. Model, girişi daha düşük boyutlu temsilcilere sıkıştırmak için bir otokodlayıcıya dayanır ve bunlar daha sonra DJINN ile oluşturulan bir预测 modeli tarafından işlenir. Bu algoritma, verilen verilere uygun bir sinir ağı mimarisi otomatik olarak seçer ve bir kullanıcının manuel olarak ayarları ayarlamasını gerektirmez.

Vaka Çalışmasının Sonuçları

Erken sonuçlar, Lassen sistemi ile Cerebras hızlandırıcının kombinasyonunun son derece verimli olduğunu göstermiştir. CS-1 sistemini Lassen’ın InfiniBand ağına takarak, 1.2 terabit/saniye bant genişliği CS-1 sistemine ulaşılabilmektedir.

19GB’lik SRAM belleği 400.000 AI işlem çekirdeğine bağlı olan CS-1 sistemi, göreceli olarak kompakt DNN modelinin birçok örneğini paralel olarak çalıştırabilmiştir. Bant genişliği ve beygir gücü kombinasyonu sayesinde, HYDRA saniyede 18 milyon örnek üzerinde çıkarım yapabilmiştir.

Bunun anlamı, LLNL’nin şimdi Cerebras sistemi ile önce hesaplamalı olarak çözülemez olan deneyleri çalıştırabilmesi ve bunun yalnızca basit bir entegrasyon ve maliyetin bir kısmını gerektirmesidir.

Araştırma, şimdi simülasyonu yönlendirme ve simülasyonun çalışırken içgörüler sağlama üzerinde odaklanacak ve bu da araştırmacılara simülasyonun iyi çalışmadığı takdirde durdurma izni verecektir. Her çalışmanın sonuçları daha sonra modelin eğitim kümesinin bir parçası haline gelecek, böylece sürekli olarak eğitilebilecektir. Bir “etkin öğrenme” modeli oluşturulabilir ve bu, gelecekteki çalışmalarda parametreleri ve ilk sınır koşullarını seçerek optimize edebilir.