Het temmen van het beest: Hoe geïntegreerde spanningsregelaars de stroomcrisis van AI oplossen

Kunstmatige intelligentie is hongerig. Van het trainen van enorme taalmodellen tot het leveren van realtime-inferentie in de cloud, de computationele eisen van AI zijn de lucht in geschoten. Deze onstilbare honger heeft een tweede crisis gecreëerd die de vooruitgang kan stoppen: een onhoudbare honger naar elektrische stroom. Datacenters, de moderne kathedralen van berekening, zijn op weg om een aanzienlijk deel van de wereldwijde elektriciteit te verbruiken, waarbij AI-werklasten een belangrijke drijvende kracht zijn. Volgens het Internationaal Energie Agentschap (IEA) verbruikten datacenters ongeveer 2% van de wereldwijde elektriciteit in 2022, en dit cijfer zal naar verwachting dramatisch stijgen.

Dit stroomprobleem gaat niet alleen over enorme elektriciteitsrekeningen en milieueffecten; het is een fundamentele technische bottleneck. De processoren die AI aandrijven – de GPU’s, TPU’s en aangepaste ASIC’s – botsen tegen een thermische muur. Je kunt niet eenvoudigweg meer transistors op een chip blijven plaatsen als je de stroom niet schoon en efficiënt kunt leveren zonder dat de chip oververhit raakt. De uitdaging ligt niet alleen in het opwekken van stroom, maar in het effectief leveren van stroom in de laatste paar millimeters voordat het de silicium bereikt. Maar nu is een klein stukje technologie, bekend als een geïntegreerde spanningsregelaar (IVR), de toekomst van high-performance computing fundamenteel aan het herschappen.

Het “Laatste-Inch”-probleem in stroomlevering

Om de innovatie van de IVR te begrijpen, moet men eerst het traditionele proces van het aandrijven van een high-performance chip begrijpen. Een moderne processor heeft miljarden transistors die miljarden keren per seconde aan- en uitgaan. Deze operaties vereisen een precieze, stabiele en lage-spannings gelijkstroomvoeding. Echter, de stroom die uit het stopcontact komt is hoogspanningswisselstroom. De reis van het stopcontact naar het silicium omvat een complexe keten van omzetting en regulering, bekend als het Power Delivery Network (PDN).

Typisch omvat dit proces meerdere stadia. De stroom wordt omgezet en verlaagd op het servermoederbord, en de laatste, kritieke omzetting wordt afgehandeld door een component genaamd een Spanningsregelaar (VR). Deze VR’s zijn meestal omvangrijke discrete componenten – een verzameling van controllers, vermogensstappen en grote, draadgewikkelde spoelen – die op het moederbord rondom de processorsocket zitten.

Deze traditionele aanpak heeft verschillende kritieke fouten in de leeftijd van AI:

1. Verloren Energie: De stroom moet reizen van deze off-chip VR’s over het moederbord en door de verpakking van de chip. Elke millimeter van deze route introduceert weerstand, wat leidt tot aanzienlijk vermogensverlies (I2R-verlies). Dit verloren vermogen wordt als warmte afgegeven, die vervolgens door nog meer stroomvretende koelsystemen moet worden verwijderd.
2. Langzame Responstijd: Wanneer een processor plotseling overschakelt van een idle naar een volledige belastingsstaat (een gebruikelijk scenario in AI-werklasten genaamd een tijdelijke belasting), vraagt het een enorme, instantane stroomstoot. Off-chip VR’s kunnen te langzaam reageren, waardoor een tijdelijke spanningdaling ontstaat, of “droop”. Om dit te compenseren, moeten ingenieurs het hele systeem ontwerpen om op een hogere basis-spanning te draaien, waardoor nog meer vermogen verloren gaat.
3. Ruimtebeperkingen: Deze omvangrijke, off-chip componenten consumeren waardevolle ruimte op het moederbord, ruimte die gebruikt kan worden voor meer geheugenkanaal, snellere interconnects of andere prestatieverbeterende functies. Deze “strand” rondom de processor is een van de meest waardevolle in de elektronica.

On-Chip Power en Thin-Film Magnetics

Recente vooruitgang in dunne-film magnetische technologie maakt het nu mogelijk om high-performance spoelen rechtstreeks op een chip of zijn verpakkings-substraat te produceren met behulp van halfgeleidertechnieken. Deze microscopisch kleine, hoog-efficiënte spoelen maken het mogelijk om de hele spanningsregelaar op slechts enkele micrometers afstand van de circuits te plaatsen die hij aandrijft.

Deze verschuiving in locatie levert verschillende voordelen op:

• Verlaagd Vermogensverlies: Het verkorten van het stroomleveringspad van inches tot micrometers verlaagt de energie die tijdens de transmissie verloren gaat aanzienlijk, waardoor de algehele systeemefficiëntie verbetert.
• Granulaire Stroombeheer: Meerdere onafhankelijke, ultra-lage-spannings stroomdomeinen kunnen precies leveren wat elke core of functionele blok nodig heeft, wanneer het nodig is, en uitschakelen zodra het niet nodig is.
• Bijna-Instantane Respons: On-package IVR’s reageren op tijdelijke belastingen in nanoseconden, waardoor de spanningdaling vrijwel wordt geëlimineerd en lagere, efficiëntere bedrijfsspanningen mogelijk worden zonder prestaties te offeren.
• Vereenvoudigd Ontwerp en Kleiner Formaat: Het verwijderen van spanningsregelaars van het moederbord maakt het ontwerp eenvoudiger, vermindert de benodigde ruimte en ondersteunt dichtere, high-performance architectuur.

De Toekomst van AI-Hardware Herschappen

De voordelen van IVR’s komen rechtstreeks overeen met de grootste uitdagingen waarmee AI-hardwareontwerpers worden geconfronteerd. Voor bedrijven die de volgende generatie GPU’s en AI-versnellers ontwikkelen, is geïntegreerd stroombeheer geen “leuke extra”; het is een essentiële technologie.

Geavanceerde halfgeleidertechnieken zoals chiplets en 3D-stapeling worden gezien als de weg vooruit nu traditionele Moore’s Law-schaalvergroting vertraagt. Deze technieken houden in dat meerdere kleine, gespecialiseerde dies in één krachtig pakket worden samengesteld. Zoals door industrieleiders zoals TSMC met zijn CoWoS-technologie wordt uitgelegd, vereist deze aanpak een geavanceerde stroomleveringsstrategie. IVR’s, waaronder die van Ferric, zijn perfect geschikt voor dit paradigma, omdat ze de granulaire, efficiënte stroom leveren die nodig is om deze complexe, heterogene systemen te beheren.

Uitdagingen en Conclusie

De weg naar brede acceptatie is niet zonder zijn hindernissen. Het integreren van nieuwe materialen en processen in het zeer conservatieve en complexe halfgeleiderecosysteem is een monumentale taak.

Maar de noodzaak voor een oplossing is onmiskenbaar. Het huidige traject van stroomverbruik in AI is onhoudbaar. Het maken van transistors kleiner is niet langer voldoende; een holistische herschikking van het hele systeem, van software tot stroomlevering, is vereist. Het werk van bedrijven zoals Ferric vertegenwoordigt een kritisch onderdeel van die puzzel. Door het stroombeest bij de bron te temmen, creëren ze niet alleen een efficiënter onderdeel, maar banen ze ook de weg voor de volgende generatie AI en high-performance computing.

De reis van hardware-innovatie is een van het overwinnen van bottlenecks. Decennialang lag de focus op berekeningsnelheid en transistordichtheid. Vandaag is de meest dringende bottleneck stroom. De bedrijven die deze uitdaging aanpakken, zullen de landschapsarchitectuur van computing voor de komende jaren bepalen.

Wat denk je dat de volgende grote bottleneck in AI-hardwareontwerp zal zijn nadat stroomlevering is geoptimaliseerd? Hoe zullen vooruitgang in energie-efficiëntie de economie van grootschalige AI-implementatie veranderen?