Ajatusjohtajat

Kuriin kuilu: Miten integroidut jännitesäätimet ratkaisevat tekoälyn energiakriisin

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Teckoäly on nälkäinen. Massiivisten kielimallien kouluttamisesta pilvipalvelujen reaaliaikaisen inferenceen, tekoälyn laskentavaatimukset räjähtävät. Tämä vaatimaton nälkä on luonut toissijaisen kriisin, joka uhkaa hidastaa edistymistä: epäkehittyneen sähkön nälän. Datakeskukset, modernit laskennan katedraalit, ovat menossa kuluttamaan merkittävän osan maailman sähköstä, ja tekoälykuormat ovat ensisijainen ajuri. Kansainvälisen energiajärjestön (IEA) mukaan datakeskukset kuluttivat noin 2 % maailman sähköstä vuonna 2022, ja tämä luku on arvioitu nousevan dramaattisesti.

Tämä voimavaihtoehto ei ole vain massiivisten sähkölaskujen ja ympäristövaikutuksen suhteen; se on perustavanlaatuinen insinööritieteellinen pullonkaula. Itsensä tekoälyä voimistavat prosessorit – GPU:t, TPU:t ja mukautetut ASIC:t – osuvat termiseen muuriin. Et voi vain jatkaa transistoreiden pakkaamista piiriin, jos et voi toimittaa sähköä puhtaasti ja tehokkaasti ilman, että piiri ylikuumenee. Haaste ei ole vain sähkön tuottamisessa, vaan sen toimittamisessa tehokkaasti viimeisten millimetreien aikana ennen kuin se saavuttaa piin. Mutta nyt pieni teknologian palanen, jota kutsutaan integroiduksi jännitesäätimiksi (IVR), muuttaa perustavalla tavalla tulevaisuuden korkean suorituskyvyn laskennan.

Viimeisen tuuman ongelma tehokkaassa toimittamisessa

Ymmärtääkseen IVR:n innovaation, on ensin ymmärrettävä perinteinen korkean suorituskyvyn piirin voimittamismenetelmä. Moderni prosessori on miljardeja transistoreja, jotka vaihtavat tilaansa miljardeja kertoja sekunnissa. Nämä toiminnot vaativat tarkkaa, vakaata ja matalajännitteistä DC-voimaa. Kuitenkin seinästä tuleva sähkö on korkeajännitteistä AC:ta. Matka seinästä piiriin sisältää monimutkaisen muunnos- ja säätöketjun, jota kutsutaan voimansiirtoverkoksi (PDN).

Tavanomainen prosessi sisältää useita vaiheita. Voima muunnetaan ja lasketaan palvelinäytönohjaimella, ja lopullinen, kriittinen muunnos hoidetaan komponentilla, jota kutsutaan jännitesäätimiksi (VR). Nämä VR:t ovat yleensä massiivisia erillisiä komponentteja – ohjain, voimavaihe ja suuret, langalliset kelaajat – jotka sijaitsevat emolevylaudalla prosessorin soketin ympärillä.

Tämä perinteinen lähestymistapa on useita kriittisiä virheitä tekoälyn aikakaudella:

  1. Energian haaskaus: Voiman on matkattava näistä piirin ulkopuolella olevista VR:istä emolevylaudan yli ja piirin pakkauksen läpi. Jokainen millimetri tästä polusta aiheuttaa resistanssia, josta seuraa merkittävää tehon menetystä (I2R-menetyksen). Tämä menetetty voima häviää lämmönä, joka on poistettava vielä enemmän tehokkailla jäähdytysjärjestelmillä.
  2. Hidas vastausaika: Kun prosessori yhtäkkiä siirtyy idle-tilasta täydelliseen kuormitukseen (yleinen skenaario tekoälykuormissa, jota kutsutaan transientskuormaksi), se vaatii valtavan, välittömän sähkövirtapiikin. Piirin ulkopuolella olevat VR:t voivat olla liian hitaita reagoimaan, aiheuttaen tilapäisen jännitelaskun tai “droopin”. Kompensoidakseen insinöörit on suunniteltava koko järjestelmää toimimaan korkeammalla perusjännitteellä, jolloin haaskataan vielä enemmän sähköä.
  3. Tilarajoitukset: Nämä massiiviset, piirin ulkopuolella olevat komponentit vievät arvokasta tilaa emolevylaudalla, tilaa, jota voisi käyttää enemmän muistikanaviin, nopeampiin liitäntöihin tai muihin suorituskyvyn parantamiseen. Tämä “ranta-omaisuus” prosessorin ympärillä on yksi arvokkaimmista sähkötekniikassa.

Piirin sisäinen voimanhallinta ja ohutkalvojen magneettisuus

Viimeaikaiset edistykset ohutkalvojen magneettiteknologiassa mahdollistavat korkean suorituskyvyn kelaajien valmistamisen suoraan piirille tai sen pakkaukseen puolijohdeteollisuuden menetelmin. Nämä mikroskooppiset, korkean hyötysuhteen kelaajat mahdollistavat koko jännitesäätimen sijoittamisen vain mikrometrejä siitä kohdasta, jonka se voimittaa.

Tämä sijainnin muutos tarjoaa useita etuja:

  • Vähennetty tehon menetys: Voimansiirtoreitin lyhentäminen tuumista mikrometreihin laskee merkittävästi energian menetystä siirrossa, parantaen koko järjestelmän tehokkuutta.
  • Hienojakoinen voimanhallinta: Useat riippumattomat, ultra-alhaisen jännitteen voimapiirit voivat toimittaa tarkalleen sitä, mitä kunkin ydin tai toiminnallinen lohko tarvitsee, kun se tarvitaan, ja sammuttaa välittömästi, kun se ei ole tarpeen.
  • Lähes välittömän vastausajan: Paketin sisäiset IVR:t reagoivat transientskuormiin nanosekunneissa, poistaa käytännössä jännitelaskun ja mahdollistaen matalammat, tehokkaammat toimintajännitteet ilman suorituskyvyn uhraamista.
  • Yksinkertaisempi suunnittelu ja pienempi jalanjälki: Jännitesäätimien poistaminen emolevylaudalta vapauttaa laudan tilaa, yksinkertaisee suunnittelua ja tukee tiheämpiä, korkeampaa suorituskykyä olevia arkkitehtuureja.

Teckoälylähestymisen tulevaisuuden uudelleenarkkitehtuuri

IVR:n hyödyt vastaavat suoraan tekoälylähestymisen suurimpia haasteita. Yrityksille, jotka kehittävät seuraavan sukupolven GPU:ita ja tekoälykiihdyttimiä, integroitu voimanhallinta ei ole vain “hyvä ominaisuus”; se on mahdollistava teknologia.

Edistyneet puolijohdepakkaustekniikat, kuten piirin palat ja 3D-pinoaminen, nähdään tienä eteenpäin nyt, kun perinteinen Mooren laki hidastuu. Nämä tekniikat sisältävät useiden pienempien, erikoistuneiden piirien kokoamisen yhdeksi voimakkaaksi paketiksi. Kuten teollisuuden johtajat, kuten TSMC sen CoWoS-tekniikalla, selittävät, tämä lähestymistapa vaatii monimutkaisen voimansiirtastrategian. IVR:t, mukaan lukien Ferricin valmistamat, ovat täydellisesti sovellettavissa tähän paradigmaan, tarjoen hienojakoinen, tehokas voiman, jota tarvitaan hallitsemaan nämä monimutkaiset, heterogeeniset järjestelmät.

Haasteet ja johtopäätös

Laajamittaisen hyväksynnän tie ei ole ilman esteitä. Uusien materiaalien ja prosessien integrointi hyvin konservatiiviseen ja monimutkaiseen puolijohdeteollisuuden ekosysteemiin on valtava tehtävä.

Kuitenkin ratkaisun tarve on kiistaton. Tekoälyn nykyinen kulutus on kestämätön. Yksinkertaisesti tehokkaampien transistoreiden valmistaminen ei ole enää riittävää; koko järjestelmän uudelleenarkkitehtuuri, ohjelmistosta voimansiirtoon, on vaadittu. Yritysten, kuten Ferricin, työ edustaa kriittistä osaa tästä palapelistä. Säätämällä voimahirviön lähteestä he eivät ainoastaan luo tehokkaampaa komponenttia, vaan luovat tietä seuraavalle tekoäly- ja korkean suorituskyvyn laskennan sukupolvelle.

Teckoälyn kehitysmatka on ylittää pullonkauloja. Vuosikymmenien ajan fokus on ollut laskentanopeudessa ja transistordensiteetissä. Nykyään tärkein pullonkaula on voima. Yritykset, jotka ratkaisevat tämän haasteen, määrittävät tietokoneiden maiseman vuosiksi eteenpäin.

Mitä luulet olevan seuraava suuri pullonkaula tekoälylähestymisen suunnittelussa, kun voimansiirto on optimoitu? Miten energiatehokkuuden edistys vaikuttaa suurten mittakaavojen tekoälykäyttöön taloudellisesti?

Noah Sturcken on Ferricin perustaja ja toimitusjohtaja, jolla on yli 40 patenttia ja 15 julkaisua integroiduista jännitesäätimistä. Noah johtaa Ferriciä keskittyen liiketoimintakehitykseen, markkinointiin ja uuden teknologian kehitykseen. Noah työskenteli aiemmin AMD R&D Labissa, jossa hän kehitti integroidun jännitesäätimen (IVR) teknologian. Noahlla on sähkötekniikan tohtorin ja maisterin tutkinto Columbian yliopistosta ja sähkötekniikan kandidaatin tutkinto Cornellin yliopistosta summa cum laude.