Nie tylko GPU: optymalizacja fabryki AI jako systemu

Fabryka AI to nie po prostu większe centrum danych. Jest budowana specjalnie po to, by wytwarzać inteligentne tokeny, a nie obsługiwać strony internetowe i pocztę elektroniczną. Gdy dostawca usług hiperskalowych lub neochmury inwestuje miliardy dolarów i lata w budowę fabryki AI, procesory GPU wykonujące najcięższe obliczenia naturalnie stają się priorytetem. Jednak optymalizacja samych GPU nie oznacza optymalizacji otaczającej je fabryki. Systemy zasilania i chłodzenia muszą obsługiwać te obliczenia, a decyzje dotyczące jednego systemu mogą mieć znaczące konsekwencje dla pozostałych. AI służy maksymalizacji efektywności złożonych systemów, a jednak fabryki, w których powstaje, często optymalizowano po kolei, komponent po komponencie. Technologia wirtualnego bliźniaka pozwala inżynierom modelować i usprawniać cały system, jeszcze zanim rozpocznie się budowa.

Dlaczego zachowawczy projekt stał się najbezpieczniejszym rozwiązaniem

Ze względu na poważne konsekwencje awarii systemu lub wąskiego gardła ograniczającego wydajność pierwsze obiekty budowano z nadmiernymi zapasami bezpieczeństwa i sprzętu. Wobec braku planu działania dla nowej generacji centrów danych ostrożne podejście mogło wydawać się najbezpieczniejszym rozwiązaniem. Takie zapasy pomagały chronić przed problemami, takimi jak skoki temperatury w pobliżu układów scalonych, które mogą pozostawić operatorom zaledwie minutę na reakcję, zanim sprzęt ulegnie awarii. W niektórych wczesnych obiektach nawet 10 procent dostępnej mocy pozostawało niewykorzystane jako rezerwa.

Fabryki AI są narażone na wpływ temperatury i pogody, awarie sprzętu, niewystarczającą moc, niedoskonałości projektu oraz problemy związane z konserwacją. Przy tak wysokiej stawce, w obiektach o skali gigawatów, każdy dzień opóźnienia w udostępnieniu mocy może oznaczać utratę przychodów z generowania tokenów w wysokości około 100 milionów dolarów. Ostrożność wydawała się konieczna, gdy nie było sposobu, by przewidzieć skutki tych problemów.

Wyzwanie staje się jeszcze większe, gdy te zagrożenia dotyczą wielu niezależnych systemów. Fabryka AI zależy od trzech ściśle powiązanych ze sobą systemów: obliczeniowego, zasilania i zarządzania ciepłem. GPU wymaga rozbudowanego łańcucha zasilania, a także równie wymagającego systemu chłodzenia, który odprowadzi wytwarzane przez nie ciepło. Gdy obliczenia, zasilanie i zarządzanie ciepłem traktuje się jako odrębne etapy, optymalizowane w ramach własnych dziedzin, zespoły mogą nie dostrzec, jak decyzja dotycząca jednego systemu wpływa na pozostałe. Powstają wówczas martwe pola i zaburzenia równowagi, zwłaszcza gdy zasilanie i chłodzenie uznaje się za wymagania infrastrukturalne, którymi należy zająć się dopiero po podjęciu decyzji dotyczących obliczeń.

Zasilania i chłodzenia nie można oddzielać od obliczeń. Są częścią systemu, który decyduje o tym, jak efektywnie mogą one przebiegać. Dlatego należy przejść od optymalizacji poszczególnych systemów do optymalizacji całej fabryki.

Dlaczego warto optymalizować systemy wspólnie

Aby rozwiązać ten problem, trzeba odejść od niezależnej optymalizacji każdego systemu na rzecz wspólnej optymalizacji całej fabryki. Fizyczna budowa wymusza sekwencyjne podejmowanie decyzji: najpierw projektuje się jeden system, potem buduje kolejny wokół niego, a następnie dodaje następny, który ma go wspierać. Utrudnia to optymalizację całej fabryki, ponieważ każda decyzja zawęża możliwości dostępne przy projektowaniu kolejnych systemów. Wspólna optymalizacja wymaga przeniesienia tego procesu do środowiska wirtualnego, w którym można modelować, modyfikować i oceniać cały system, zanim cokolwiek zostanie nieodwracalnie ustalone w świecie fizycznym, tworząc dynamiczny projekt.

Modelowanie fabryki, zanim powstanie

W tym miejscu kluczową rolę zaczyna odgrywać technologia wirtualnego bliźniaka na poziomie systemu.

Wirtualny bliźniak wykorzystuje formalne modelowanie systemów, by przedstawić łącznie infrastrukturę obliczeniową, zasilania i chłodzenia, dzięki czemu można modelować fabrykę AI, zanim powstanie ona fizycznie. W przeciwieństwie do tradycyjnego bliźniaka cyfrowego, który koncentruje się na istniejącym obiekcie fizycznym, wirtualny bliźniak pozwala modelować system, zanim ten powstanie. Umożliwia inżynierom testowanie różnych konfiguracji i zrozumienie, jak zmiany w jednej części systemu wpływają na pozostałe, zanim te wybory zostaną utrwalone w postaci fizycznych rozwiązań.

Na przykład zwiększenie zagęszczenia GPU nie oznacza po prostu dodania większej mocy obliczeniowej. Może zwiększyć obciążenie elektryczne, zmienić wymagania dotyczące odprowadzania ciepła, wpłynąć na rozmieszczenie urządzeń i wprowadzić nowe kwestie związane z uruchomieniem systemu. Wspólne modelowanie tych zależności pozwala inżynierom ocenić kompromisy przed rozpoczęciem budowy, zamiast odkrywać je w miarę postępu projektu.

Technologia wirtualnego bliźniaka pozwala inżynierom popełnić kosztowny błąd wirtualnie, zanim stanie się on kosztownym błędem w świecie fizycznym. Umożliwia wykrywanie potencjalnych problemów i możliwości w środowisku wirtualnym, dzięki czemu zespoły mogą rozwiązać problemy, zanim pojawią się one w rzeczywistości. Testowanie konfiguracji przed fizycznym uruchomieniem systemu pozwala również wykryć i wyeliminować na etapie projektowania niepotrzebne zapasy, niewykorzystaną moc oraz straty wynikające z rezerw bezpieczeństwa. W dużej skali nawet niewielkie ograniczenie tych strat może przełożyć się na milionowe oszczędności kapitałowe i wcześniejsze rozpoczęcie generowania przychodów.

 Jak sprawić, by model przewidywał zachowanie systemu

Model może również wykorzystywać symulacje oparte na prawach fizyki do przewidywania zachowania systemu. Gdy podstawowe zjawiska fizyczne lub chemiczne są dobrze poznane, narzędzia symulacyjne mogą przewidywać zachowanie systemu. Jeśli lepsze rezultaty można uzyskać dzięki dużej ilości danych eksploatacyjnych, symulacje można uzupełnić modelami AI i uczenia maszynowego.

Rezultatem jest środowisko umożliwiające badanie zachowania sprzężonego systemu i koordynowanie decyzji w różnych dziedzinach inżynierii. Model może również ewoluować wraz z dostępnością danych operacyjnych, dzięki czemu wnioski z działania jednego obiektu lub cyklu operacyjnego mogą wpływać na przyszłe projekty i decyzje.

Projekt fabryki AI

Branża już tworzy podstawy takiego podejścia. Projekt DSX firmy NVIDIA ustanawia projekt referencyjny dla fabryk AI o skali gigawatowej. NVIDIA rozpoczęła od opracowania części obliczeniowej tego projektu, wykorzystując modelowanie systemów i symulacje oparte na wirtualnym bliźniaku. Zaprasza też partnerów z różnych obszarów ekosystemu — w tym energetyki, chłodzenia i budownictwa — takich jak Eaton, Vertiv i Jacobs, aby wnieśli własny wkład w projekt. Interoperacyjność projektów referencyjnych zapewnia SysML , który umożliwia definiowanie systemów na poziomie całości, natomiast OpenUSD stanowi podstawę dla danych zorientowanych na 3D.

Celem nie jest to, by każda firma optymalizowała własny komponent, a następnie oczekiwała, że wszystkie elementy będą do siebie pasować. Należy połączyć kompetencje w zakresie obliczeń, energetyki, chłodzenia i infrastruktury, tak aby każda najlepsza w swojej klasie technologia przyczyniała się do wydajności całego systemu.

Każda branża może optymalizować rozwiązania w swojej dziedzinie, ale stworzenie wydajnego produktu końcowego wymaga wspólnej optymalizacji tych systemów. W miarę dojrzewania to podejście umożliwia również rozwój infrastruktury AI: od odizolowanych, jednorazowych projektów pilotażowych ku systemom o skali korporacyjnej, zdolnym zarządzać bardzo złożonymi środowiskami operacyjnymi.

Optymalizacja całej fabryki, nie tylko GPU

GPU pozostanie kluczowym elementem wpływającym na wydajność fabryk AI. Jednak sam zakup najlepszych procesorów graficznych nie wystarczy, by zoptymalizować całą fabrykę. Infrastruktura AI nowej generacji będzie wymagać projektowania systemów obliczeniowych, energetycznych i cieplnych jako jednego zintegrowanego układu, modelowania tych zależności przed podjęciem istotnych zobowiązań dotyczących infrastruktury fizycznej oraz ciągłego wykorzystywania wiedzy zdobywanej przez system do ulepszania kolejnych rozwiązań. Nie możemy przewidzieć przyszłości ani zapobiec każdemu błędowi, ale technologia wirtualnych bliźniaków może pomóc zespołom planować z uwzględnieniem niepewności i optymalizować fabryki AI jako całość.