Tämäning av odjuret: Hur integrerade spänningsregulatorer löser AI:s kraftkris

Artificiell intelligens är hungrig. Från att träna stora språkmodeller till att driva realtidsinferens i molnet, ökar de beräkningsmässiga kraven på AI. Denna outsinliga aptit har skapat en sekundär kris som hotar att bromsa framstegen: en ohållbar hunger efter elektrisk kraft. Datacenter, de moderna katedralerna för beräkningar, är på väg att förbruka en betydande del av världens el, med AI-arbetsbelastningar som en primär drivkraft. Enligt Internationella energibyråns (IEA) rapport förbrukade datacenter ungefär 2% av världens el 2022, och denna siffra förväntas öka dramatiskt.

Detta kraftproblem är inte bara ett problem med stora elräkningar och miljöpåverkan; det är en grundläggande teknisk flaskhals. De processorer som driver AI – GPU:er, TPU:er och anpassade ASIC:er – når en termisk vägg. Du kan inte bara fortsätta packa fler transistorer på en chip om du inte kan leverera kraft till dem rent och effektivt utan att chipet överhettas. Utmaningen ligger inte bara i att generera kraft, utan i att leverera den effektivt under de sista millimeterna innan den når kislet. Men nu är en liten bit teknik känd som en Integrerad Spänningsregulator (IVR) i grunden omformar framtiden för högpresterande beräkningar.

“Sista tum”-problemet i kraftleverans

För att förstå IVR:s innovation måste man först förstå den traditionella metoden för att mata en högpresterande chip. En modern processor har miljarder transistorer som slår på och av miljarder gånger per sekund. Dessa operationer kräver en exakt, stabil och lågspänningslikströmskraft. Men kraften från väggen är högspänning likström. Resan från vägguttaget till kislet innefattar en komplex kedja av omvandling och reglering som kallas Kraftleveransnätverket (PDN).

Vanligtvis involverar denna process flera steg. Kraft omvandlas och sänks på servermoderkortet, och den slutliga, kritiska omvandlingen hanteras av en komponent som kallas en Spänningsregulator (VR). Dessa VR:er är vanligtvis klumpiga diskreta komponenter – en samling kontrollenheter, kraftsteg och stora, trådbundna induktorer – som sitter på moderkortet runt processorns sockel.

Denna traditionella metod har flera kritiska brister i AI-eran:

1. Förlorad energi: Kraft måste resa från dessa icke-chip-VR:er över moderkortet och genom chipets förpackning. Varje millimeter av denna väg introducerar resistans, vilket leder till betydande kraftförlust (I2R-förlust). Denna förlorade kraft avges som värme, som sedan måste avlägsnas av ännu mer kraftkrävande kylsystem.
2. Långsamt svarstid: När en processor plötsligt växlar från en inaktiv till en fullasttillstånd (ett vanligt scenario i AI-arbetsbelastningar som kallas en transient belastning), kräver den en massiv, omedelbar strömstöt. Icke-chip-VR:er kan vara för långsamma för att svara, vilket orsakar en tillfällig spänningsdropp, eller “droop”. För att kompensera detta måste ingenjörer utforma hela systemet för att köra på en högre baslinjespänning, vilket slösar bort ännu mer kraft.
3. Utrymmesbegränsningar: Dessa klumpiga, icke-chip-komponenter förbrukar värdefullt utrymme på moderkortet, utrymme som kunde användas för fler minneskanaler, snabbare interconnects eller andra prestandaförbättrande funktioner. Detta “strandområde” runt processorn är bland de mest värdefulla i elektronik.

Chipbaserad kraft och tunnfilmsmagnetism

Nya framsteg inom tunnfilmsmagnetisk teknik möjliggör nu tillverkning av högpresterande induktorer direkt på en chip eller dess paketunderlag med hjälp av halvledartillverkningstekniker. Dessa mikroskopiska, högeffektiva induktorer möjliggör att hela spänningsregulatorn sitter bara mikrometer från de kretsar den matar.

Denna förändring av plats ger flera fördelar:

• Minskad kraftförlust: Att förkorta kraftleveransvägen från tum till mikrometer sänker betydligt den energi som förloras under överföringen, vilket förbättrar systemets totala effektivitet.
• Granulär kraftshantering: Flera oberoende, ultralågspänningskraftdomäner kan mata exakt vad varje kärna eller funktionsblock behöver, när det behövs, och stänga av omedelbart när det inte behövs.
• Nästan omedelbar respons: På-paket-IVR:er svarar på transienta belastningar på nanosekunder, vilket virtuellt eliminerar spänningsdropp och möjliggör lägre, mer effektiva driftspänningar utan att offra prestanda.
• Förenklad design och mindre fotavtryck: Att ta bort spänningsregulatorer från moderkortet frigör moderkortsutrymme, förenklar designen och stöder tätare, högpresterande arkitekturer.

Omformning av AI-hårdvarans framtid

IVR:ernas fördelar hanterar direkt de största utmaningarna som AI-hårdvarudesigners möter. För företag som utvecklar nästa generation av GPU:er och AI-accelleratorer är integrerad kraftshantering inte bara en “nice-to-have”; det är en möjliggörande teknik.

Avancerade halvledarpackningstekniker som chiplets och 3D-stapling ses som vägen framåt nu när traditionell Moores lag snabbt avtar. Dessa tekniker innebär att montera flera mindre, specialiserade chip i en enda, kraftfull paket. Som förklarats av branschledare som TSMC med sin CoWoS-teknik, kräver denna metod en sofistikerad kraftleveransstrategi. IVR:er, inklusive de som tillverkas av Ferric, är perfekt anpassade för denna paradigm och tillhandahåller den granulära, effektiva kraft som behövs för att hantera dessa komplexa, heterogena system.

Utmaningar och slutsats

Vägen till allmän acceptans är inte utan sina hinder. Att integrera nya material och processer i den högt konservativa och komplexa halvledartillverkningsekosystemet är en monumental uppgift.

Men behovet av en lösning är obestridligt. Den nuvarande banan för kraftförbrukning inom AI är ohållbar. Att bara göra transistorer mindre är inte längre tillräckligt; en holistisk omformning av hela systemet, från programvara till kraftleverans, krävs. Ferrics arbete representerar en kritisk del av den pusselbiten. Genom att tämja kraftodjuret vid dess källa banar de väg för nästa generation av AI och högpresterande beräkningar.

Resan för hårdvaruinnovation är en resa för att övervinna flaskhalsar. Under decennier har fokus legat på beräkningshastighet och transistor densitet. Idag är den mest pressande flaskhalsen kraft. Företagen som löser denna utmaning kommer att definiera datormiljön under många år framöver.

Vad tror du kommer att vara den nästa stora flaskhalsen i AI-hårdvarudesign efter att kraftleveransen har optimerats? Hur kommer framsteg inom energieffektivitet att förändra ekonomin för storskalig AI-distribution?