Partnerstwa
Arena Physica wytrenuje Heaviside na superkomputerze Lux z procesorami AMD
Dodaj Unite.AI do preferowanych źródeł w Google
Arena Physica poinformowała w swoim ogłoszeniu z 12 listopada 2026 r., że będzie współpracować z AMD nad trenowaniem kolejnych generacji swojego modelu elektromagnetyzmu Heaviside na superkomputerze Lux w Oak Ridge National Laboratory. Projekt bazuje na Heaviside-1, modelu o 350 milionach parametrów, wydanym we wrześniu 2026 r.
Arena Physica opisuje Heaviside jako pierwszy model bazowy dla elektromagnetyzmu i informuje, że jego pierwszą wersję wytrenowano na 250 000 trójwymiarowych symulacji pola, obejmujących 500 miliardów pojedynczych próbek pola. Te liczby stanowią punkt odniesienia dla prac z AMD, które są planowanym programem treningowym, a nie zapowiedzią wydania następcy wytrenowanego na superkomputerze Lux.
Dane z symulacji zwiększają zapotrzebowanie na moc obliczeniową
Każda próbka treningowa pochodzi z pełnofalowej symulacji elektromagnetycznej, w której równania Maxwella rozwiązuje się dla szczegółowego, trójwymiarowego modelu struktury. Przygotowanie zbioru danych treningowych jest więc, obok samego trenowania modelu, etapem wymagającym dużej mocy obliczeniowej.
„Pola te są bardzo wrażliwe na szczegóły projektu — od niewielkich lokalnych cech po całą strukturę. Uchwycenie tej złożoności wymaga dużej ilości wysokiej jakości danych oraz architektury modelu zaprojektowanej specjalnie do tego celu” — powiedział Michael Frei, dyrektor ds. badań w Arena Physica.
Arena Physica powiązała to wymaganie z Praktycznymi prawami skalowania, artykułem Christophera M. Bryanta i Hao Liu. Autorzy argumentują, że prawa skalowania wyznaczające kierunek współczesnego trenowania modeli opracowano na podstawie wstępnego trenowania na bogatych w dane zbiorach, w jednej epoce, i wskazują ograniczenia strukturalne występujące poza tym zakresem. W proponowanym ujęciu stratę rozkłada się na składniki związane ze zbyt małą pojemnością modelu, niedostatecznym treningiem i przeuczeniem, rozróżniając przy tym unikatowe przykłady od łącznej liczby przykładów użytych w treningu.
Po kalibracji model ten pozwala przydzielać zasoby z uwzględnieniem kosztów, przesuwając równowagę w stronę mniejszych korpusów i większej liczby epok, gdy dane stają się droższe. Zastosowanie tych założeń do Heaviside pokazuje kompromis infrastrukturalny między generowaniem dodatkowych, unikatowych symulacji a wielokrotnym trenowaniem na istniejących danych.
Lux zapewnia dużą moc obliczeniową do trenowania modeli
Specyfikacja superkomputera Lux w Oak Ridge Leadership Computing Facility wymienia ponad 4000 procesorów graficznych AMD MI355X, 1,1 petabajta pamięci o dużej przepustowości oraz wydajność 20 eksaFLOPS w trenowaniu modeli AI w formacie FP8. Każdy procesor MI355X ma 288 GB pamięci HBM3E i przepustowość 8 TB/s. Przydziały zasobów obejmują również dostęp do systemu plików Lustre Orion, należącego do OLCF, o pojemności ponad 600 petabajtów.
Podane liczby opisują możliwości superkomputera Lux, a nie zmierzone przyspieszenie działania Heaviside. Mają znaczenie dla obu stron obciążenia: przepustowość akceleratorów jest istotna podczas trenowania, a pamięć i przestrzeń dyskowa — przy przechowywaniu zbioru symulacji, na którym opiera się trening.
Planowane modele będą przeznaczone do projektowania układów i systemów komunikacyjnych
Arena Physica planuje, że kolejne generacje Heaviside będą obsługiwać wzorce promieniowania dalekiego pola, bardziej złożone geometrie i szersze zakresy częstotliwości, a także skalować się do większych komponentów i całych systemów. Wśród docelowych zastosowań wymieniono anteny do łączności 5G, 6G i satelitarnej, samochodowe systemy wykrywania wykorzystujące częstotliwości radiowe oraz obudowywanie układów półprzewodnikowych i integralność sygnałową.
W przypadku półprzewodników wymienione zastosowania obejmują projektowanie szybkich układów SerDes. Kumaran Siva, wiceprezes AMD ds. strategii AI w sektorze przedsiębiorstw, powiązał te prace z obudowami 3D układów scalonych oraz wzrostem szybkości SerDes z 224 do 448 gigabitów na sekundę. Jak stwierdził, te trendy sprawiły, że zachowanie elektromagnetyczne stało się jednym z najtrudniejszych problemów w projektowaniu półprzewodników.
Arena Physica twierdzi, że Heaviside ma przewidywać zachowanie elektromagnetyczne o rzędy wielkości szybciej i taniej niż tradycyjne solwery, a także umożliwiać autonomiczne projektowanie odwrotne. Są to cele rozwoju modelu, a nie wyniki pomiarów wydajności uzyskane we współpracy dotyczącej superkomputera Lux.
Arena Physica planuje udostępniać wyniki w miarę postępów trenowania na superkomputerze Lux w nadchodzących miesiącach. Publikowane informacje pozwolą ocenić, czy trenowanie na superkomputerze tej skali zapewni szerszy zakres częstotliwości i geometrii oraz obsługę kompletnych systemów, zapowiadane przez firmę.
