Liderzy opinii

Ujarzmić bestię: Jak zintegrowane regulatory napięcia rozwiązują kryzys energetyczny w AI

mm
Dodaj Unite.AI do preferowanych źródeł w Google

Sztuczna inteligencja jest głodna. Od szkolenia ogromnych modeli językowych po zasilanie inferencji w czasie rzeczywistym w chmurze, wymagania obliczeniowe AI rosną lawinowo. Ten niezaspokojony apetyt stworzył wtórny kryzys, który zagraża zahamowaniu postępu: nieznośny głód energii elektrycznej. Centra danych, nowoczesne katedry obliczeń, są na drodze do zużycia znacznej części światowej energii elektrycznej, a obciążenia AI są głównym czynnikiem. Według Międzynarodowej Agencji Energii (IEA), centra danych zużywały około 2% globalnej energii elektrycznej w 2022 roku, a ta liczba ma wzrosnąć dramatycznie.

Ten problem zasilania nie dotyczy tylko ogromnych rachunków za energię elektryczną i wpływu na środowisko; jest to podstawowy problem inżynierski. Same procesory, które napędzają AI – GPU, TPU i niestandardowe ASIC – uderzają w ścianę termiczną. Nie można po prostu dalej pakować więcej tranzystorów na chip, jeśli nie można dostarczyć energii do nich w sposób czysty i wydajny, bez przegrzania chipa. Wyzwanie polega nie tylko na generowaniu energii, ale na dostarczaniu jej skutecznie w ostatnich milimetrach przed dotarciem do krzemu. Ale teraz mały kawałek technologii znany jako Zintegrowany Regulator Napięcia (IVR) fundamentalnie zmienia przyszłość obliczeń o wysokiej wydajności.

Problem “Ostatniego Cala” w Dostawie Energii

Aby zrozumieć innowację IVR, należy najpierw zrozumieć tradycyjną metodę zasilania chipa o wysokiej wydajności. Nowoczesny procesor ma miliardy tranzystorów, które włączają się i wyłączają miliardy razy na sekundę. Te operacje wymagają precyzyjnego, stabilnego i niskonapięciowego zasilania DC. Jednak energia pochodząca z gniazdka jest wysokonapięciową prądem przemiennym. Podróż od gniazdka do krzemu obejmuje złożoną sekwencję konwersji i regulacji znaną jako Sieć Dostawy Energii (PDN).

Typowo, ten proces obejmuje wiele etapów. Energia jest konwertowana i obniżana na płycie głównej serwera, a ostateczna, krytyczna konwersja jest obsługiwana przez składnik zwany Regulatorem Napięcia (VR). Te VR są zwykle bulwerskimi składnikami dyskretnymi – kolekcją kontrolerów, stopni mocy i dużych, cewkowych cewek – które siedzą na płycie głównej wokół gniazda procesora.

Ten tradycyjny podejście ma kilka krytycznych wad w erze AI:

  1. Stracona Energia: Energia musi podróżować z tych zewnętrznych VR przez płytę główną i przez opakowanie chipa. Każdy milimetr tej ścieżki wprowadza opór, prowadząc do znacznej straty energii (strata I2R). Ta stracona energia jest rozpraszana jako ciepło, które musi być następnie usunięte przez jeszcze bardziej energochłonne systemy chłodzenia.
  2. Wolny Czas Reakcji: Kiedy procesor nagle przechodzi ze stanu bezczynności do stanu pełnego obciążenia (częsty scenariusz w obciążeniach AI zwany obciążeniem przejściowym), wymaga ogromnego, natychmiastowego przypływu prądu. Zewnętrzne VR mogą być zbyt wolne, aby zareagować, powodując tymczasowy spadek napięcia, czy “opadnięcie”. Aby to skompensować, inżynierowie muszą zaprojektować cały system, aby działał przy wyższym podstawowym napięciu, marnując jeszcze więcej energii.
  3. Ograniczenia Przestrzenne: Te bulwerskie, zewnętrzne składniki zajmują cenne miejsce na płycie głównej, miejsce, które mogłoby być wykorzystane do więcej kanałów pamięci, szybszych połączeń lub innych funkcji zwiększających wydajność. To “plażowe” miejsce wokół procesora jest jednym z najcenniejszych w elektronice.

Zasilanie Na Czipie i Cienkowarstwowa Magnetyka

Niedawne postępy w technologii magnetycznej cienkowarstwowej umożliwiają wytwarzanie wysokowydajnych cewek bezpośrednio na chipie lub jego podłożu za pomocą technik fabrykacji półprzewodników. Te mikroskopijne, wysokowydajne cewki umożliwiają umieszczenie całego regulatora napięcia zaledwie mikrometrów od obwodów, które zasilają.

Ten przesunięcie lokalizacji dostarcza kilka korzyści:

  • Zmniejszona Strata Energii: Skrócenie ścieżki dostarczania energii z cali do mikrometrów znacznie obniża stratę energii podczas transmisji, poprawiając ogólną wydajność systemu.
  • Granularne Zarządzanie Zasilaniem: Wiele niezależnych, ultra-niskonapięciowych domen zasilania może dostarczyć dokładnie to, czego potrzebuje każde jądro lub blok funkcjonalny, kiedy jest to potrzebne, i wyłączyć się natychmiast, gdy nie jest potrzebne.
  • Niemal Natychmiastowa Reakcja: Regulatory napięcia na pakiecie reagują na obciążenia przejściowe w nanosekundach, praktycznie eliminując opadnięcie napięcia i umożliwiając niższe, bardziej wydajne napięcia robocze bez utraty wydajności.
  • Uproszczone Projektowanie i Mniejsza Ślad: Usunięcie regulatorów napięcia z płyty głównej zwalnia miejsce na płycie, upraszcza projektowanie i wspiera gęstsze, bardziej wydajne architektury.

Zmiana Architektury Przyszłości Sprzętu AI

Korzyści z IVR bezpośrednio rozwiązują największe wyzwania stojące przed projektantami sprzętu AI. Dla firm rozwijających następną generację GPU i przyspieszaczy AI, zintegrowane zarządzanie zasilaniem nie jest tylko “miłym dodatkiem”; jest to technologia umożliwiająca.
Zaawansowane techniki pakowania półprzewodników, takie jak chiplety i układanie 3D, są postrzegane jako droga do przodu, teraz, gdy tradycyjne skalowanie prawa Moore’a spowalnia. Te techniki obejmują montaż wielu mniejszych, wyspecjalizowanych die w jeden, potężny pakiet. Jak wyjaśniają liderzy branży, tacy jak TSMC z technologią CoWoS, ten podejście wymaga zaawansowanej strategii dostarczania energii. IVR, w tym te produkowane przez Ferric, są idealnie dopasowane do tego paradygmatu, zapewniając granularne, wydajne zasilanie niezbędne do zarządzania tymi złożonymi, heterogenicznymi systemami.

Wyzwania i Podsumowanie

Droga do powszechnego przyjęcia nie jest pozbawiona przeszkód. Integracja nowych materiałów i procesów do wysoko konserwatywnej i złożonej ekosystemu produkcji półprzewodników jest monumentalnym zadaniem.

Jednak potrzeba rozwiązania jest niepodważalna. Bieżąca trajektoria zużycia energii w AI jest niezrównoważona. Po prostu robienie tranzystorów mniejszych już nie wystarcza; potrzebna jest holistyczna rearchitektura całego systemu, od oprogramowania do dostarczania energii, jest wymagana. Praca firm, takich jak Ferric, reprezentuje krytyczną część tej układanki. Poprzez ujarzmięcie bestii energetycznej u jej źródła, nie tylko tworzą bardziej wydajny komponent, ale także torują drogę dla następnej generacji AI i obliczeń o wysokiej wydajności.

Podróż innowacji sprzętowych jest podróżą pokonywania wąskich gardeł. Przez dziesięciolecia, koncentrowano się na szybkości obliczeń i gęstości tranzystorów. Dziś, najbardziej palącym wąskim gardłem jest energia. Firmy, które rozwiążą to wyzwanie, zdefiniują krajobraz obliczeń na lata do przodu.

Co według Ciebie będzie następnym dużym wąskim gardłem w projekcie sprzętu AI po optymalizacji dostarczania energii? Jak postępy w wydajności energetycznej zmienią ekonomikę dużych wdrożeń AI?

Noah Sturcken jest założycielem i dyrektorem generalnym Ferric, z ponad 40 patentami i 15 publikacjami na temat zintegrowanych regulatorów napięcia. Noah kieruje Ferric, koncentrując się na rozwoju biznesu, marketingu i nowych technologiach. Wcześniej pracował w laboratorium badawczym AMD, gdzie opracował technologię zintegrowanego regulatora napięcia (IVR). Noah posiada tytuł doktora i magistra inżynierii elektrycznej na Uniwersytecie Columbia oraz tytuł licencjata na Uniwersytecie Cornell summa cum laude.