Tämja monstret: Hur integrerade spänningsregulatorer löser AI:s kraftkris

Artificiell intelligens är hungrig. Från att träna massiva språkmodeller till att driva realtidsinferens i molnet, ökar de beräkningsmässiga kraven på AI i raketfart. Denna outsinliga aptit har skapat en sekundär kris som hotar att bromsa framstegen: en ohållbar hunger efter elektrisk kraft. Datacenter, de moderna katedralerna för beräkningar, är på väg att förbruka en betydande andel av världens el, med AI-arbetsbelastningar som en primär drivkraft. Enligt International Energy Agency (IEA), förbrukade datacenter ungefär 2% av den globala elen 2022, och denna siffra förväntas stiga dramatiskt.

Detta elkraftsproblem handlar inte bara om massiva elräkningar och miljöpåverkan; det är en grundläggande ingenjörsbottleneck. De processorer som driver AI – GPU:er, TPU:er och anpassade ASIC:er – har nått en termisk vägg. Du kan inte bara fortsätta packa fler transistorer på en krets om du inte kan leverera kraft till dem rent och effektivt utan att kretsen överhettas. Utmaningen ligger inte bara i att generera kraft, utan i att leverera den effektivt i de sista millimetrarna innan den når kisel. Men nu är en liten del av tekniken känd som en Integrerad Spänningsregulator (IVR) fundamentalt omformar framtiden för högpresterande beräkningar.

“Sista-tum”-problemet i kraftleverans

För att förstå IVR:s innovation måste man först förstå den traditionella metoden för att mata en högpresterande krets. En modern processor har miljarder transistorer som slår på och av miljarder gånger per sekund. Dessa operationer kräver en exakt, stabil och lågspänningslikströmskraft. Men kraften från väggen är högspänning likström. Resan från vägguttaget till kisel involverar en komplex kedja av omvandling och reglering som kallas Power Delivery Network (PDN).

Vanligtvis involverar denna process flera steg. Kraft omvandlas och stegs ned på servermoderkortet, och den slutliga, kritiska omvandlingen hanteras av en komponent som kallas en Spänningsregulator (VR). Dessa VR:er är vanligtvis stora diskreta komponenter – en samling av kontrollenheter, effektfaser och stora, trådbundna induktorer – som sitter på moderkortet runt processorns sockel.

Denna traditionella metod har flera kritiska fel i AI-åldern:

1. Förlorad energi: Kraft måste resa från dessa off-chip VR:er över moderkortet och genom kretsens förpackning. Varje millimeter av denna väg introducerar resistans, vilket leder till betydande kraftförlust (I2R-förlust). Denna förlorade kraft avges som värme, som sedan måste avlägsnas av ännu mer kraftkrävande kylsystem.
2. Långsamt svarstid: När en processor plötsligt växlar från en inaktiv till en fullbelastad tillstånd (ett vanligt scenario i AI-arbetsbelastningar som kallas för en transient belastning), kräver den en massiv, omedelbar strömstöt. Off-chip VR:er kan vara för långsamma för att svara, vilket orsakar en tillfällig spänningsdropp, eller “droop”. För att kompensera detta måste ingenjörer utforma hela systemet för att köra på en högre baslinjespänning, vilket slösar bort ännu mer kraft.
3. Platsbegränsningar: Dessa stora, off-chip-komponenter förbrukar värdefull plats på moderkortet, plats som kunde användas för fler minneskanaler, snabbare interconnects eller andra prestandaförbättrande funktioner. Denna “strandfastighet” runt processorn är bland de mest värdefulla i elektronik.

On-Chip-kraft och tunnfilmsmagnetism

Nya framsteg inom tunnfilmsmagnetisk teknik möjliggör tillverkning av högpresterande induktorer direkt på en krets eller dess paketunderlag med hjälp av halvledartillverkningstekniker. Dessa mikroskopiska, högeffektiva induktorer möjliggör att hela spänningsregulatorn kan sitta bara mikrometer från de kretsar den matar.

Denna förändring av plats ger flera fördelar:

• Minskad kraftförlust: Att förkorta kraftleveransvägen från tum till mikrometer minskar betydligt den energi som förloras under överföringen, vilket förbättrar systemets totala effektivitet.
• Granulär kraftshantering: Flera oberoende, ultralågspänningskraftdomäner kan leverera exakt vad varje kärna eller funktionsblock behöver, när det behövs, och stängs av omedelbart när det inte behövs.
• Nästan omedelbar respons: On-package IVR:er svarar på transienta belastningar på nanosekunder, vilket praktiskt taget eliminerar spänningsdropp och möjliggör lägre, mer effektiva driftspänningar utan att offra prestanda.
• Förenklad design och mindre fotavtryck: Att ta bort spänningsregulatorer från moderkortet frigör plats på kretskortet, förenklar designen och stöder tätare, högpresterande arkitekturer.

Omstrukturera framtiden för AI-hårdvara

IVR:ernas fördelar hanterar direkt de största utmaningarna som AI-hårdvarudesigner möter. För företag som utvecklar nästa generation av GPU:er och AI-acceleratorer är integrerad kraftshantering inte bara en “nice-to-have”; det är en möjliggörande teknik.

Avancerade halvledarpackningstekniker som chiplets och 3D-stapling ses som vägen framåt nu när den traditionella Moore’s Law-utvecklingen avtar. Dessa tekniker involverar att montera flera mindre, specialiserade dies i en enda, kraftfull paket. Som förklarats av branschledare som TSMC med sin CoWoS-teknik, kräver denna metod en sofistikerad kraftleveransstrategi. IVR:er, inklusive de som tillverkas av Ferric, är perfekt anpassade för denna paradigm och tillhandahåller den granulära, effektiva kraft som behövs för att hantera dessa komplexa, heterogena system.

Utmaningar och slutsats

Vägen till allmän acceptans är inte utan sina hinder. Att integrera nya material och processer i det högt konservativa och komplexa halvledartillverkningsekosystemet är en monumental uppgift.

Men behovet av en lösning är obestridligt. Den nuvarande banan för kraftförbrukning i AI är ohållbar. Att bara göra transistorer mindre är inte längre tillräckligt; en holistisk omstrukturering av hela systemet, från programvara till kraftleverans, krävs. Arbetet med företag som Ferric representerar en kritisk del av detta pussel. Genom att tämja kraftmonstret vid dess källa skapar de inte bara en mer effektiv komponent, utan banar också väg för nästa generation av AI och högpresterande beräkningar.

Vad tror du kommer att vara nästa stora flaskhals i AI-hårdvarudesign efter att kraftleveransen har optimerats? Hur kommer framsteg inom energieleffektivitet att förändra ekonomiska aspekter av storskalig AI-distribution?