Leader di pensiero

Addomesticare la Bestia: Come i Regolatori di Tensione Integrati Stanno Risolvendo la Crisi di Potenza dell’Intelligenza Artificiale

mm
Aggiungi Unite.AI alle tue fonti preferite su Google

L’intelligenza artificiale ha fame. Dall’addestramento di enormi modelli linguistici alla fornitura di inferenza in tempo reale nel cloud, le richieste computazionali dell’IA stanno aumentando a dismisura. Questo appetito insaziabile ha creato una crisi secondaria che minaccia di bloccare i progressi: un insaziabile appetito per la potenza elettrica. I data center, le moderne cattedrali del calcolo, sono sulla strada per consumare una frazione significativa dell’elettricità mondiale, con i carichi di lavoro dell’IA come principale motore. Secondo l’Agenzia internazionale dell’energia (IEA), i data center hanno consumato circa il 2% dell’elettricità globale nel 2022, e questo numero è destinato a salire drasticamente.

Questo problema di potenza non riguarda solo le enormi bollette elettriche e l’impatto ambientale; è un fondamentale collo di bottiglia ingegneristico. I processori stessi che alimentano l’IA – le GPU, le TPU e i circuiti integrati personalizzati – stanno raggiungendo un muro termico. Non puoi semplicemente continuare a inserire più transistor su un chip se non puoi consegnare la potenza in modo pulito ed efficiente senza che il chip si surriscaldi. La sfida non risiede solo nella generazione di potenza, ma nella sua consegna efficace negli ultimi millimetri prima che raggiunga il silicio. Ma ora un piccolo pezzo di tecnologia noto come Regolatore di Tensione Integrato (IVR) sta fondamentalmente ridefinendo il futuro del calcolo ad alte prestazioni.

Il Problema dell’Ultimo Centimetro nella Consegna di Potenza

Per capire l’innovazione dell’IVR, è necessario comprendere il metodo tradizionale di alimentazione di un chip ad alte prestazioni. Un processore moderno ha miliardi di transistor che si accendono e si spengono miliardi di volte al secondo. Queste operazioni richiedono un’alimentazione CC precisa, stabile e a bassa tensione. Tuttavia, la potenza che proviene dalla presa di corrente è una corrente alternata ad alta tensione. Il viaggio dalla presa di corrente al silicio coinvolge una catena complessa di conversione e regolazione nota come Rete di Consegna di Potenza (PDN).

Tipicamente, questo processo coinvolge più fasi. La potenza viene convertita e ridotta sulla scheda madre del server, e la conversione finale e critica è gestita da un componente chiamato Regolatore di Tensione (VR). Questi VR sono solitamente componenti discreti ingombranti – una raccolta di controller, stadi di potenza e grandi induttori avvolti con filo – che si trovano sulla scheda madre intorno al socket del processore.

Questo approccio tradizionale ha diversi difetti critici nell’era dell’IA:

  1. Energia Sprecata: La potenza deve viaggiare da questi VR fuori chip attraverso la scheda madre e attraverso l’imballaggio del chip. Ogni millimetro di questo percorso introduce resistenza, portando a una perdita di potenza significativa (perdita I2R). Questa potenza persa viene dissipata come calore, che deve poi essere rimosso da sistemi di raffreddamento ancora più potenti.
  2. Tempo di Risposta Lento: Quando un processore passa improvvisamente da uno stato di idle a uno stato di carico completo (uno scenario comune nei carichi di lavoro dell’IA noto come carico transitorio), richiede un’enorme, istantanea ondata di corrente. I VR fuori chip possono essere troppo lenti per rispondere, causando un temporaneo calo di tensione, o “caduta”. Per compensare, gli ingegneri devono progettare l’intero sistema per funzionare a una tensione di base più alta, sprecando ancora più potenza.
  3. Vincoli di Spazio: Questi componenti ingombranti fuori chip consumano prezioso spazio sulla scheda madre, spazio che potrebbe essere utilizzato per più canali di memoria, interconnessioni più veloci o altre funzionalità che migliorano le prestazioni. Questa “proprietà costiera” intorno al processore è tra le più preziose nell’elettronica.

Alimentazione su Chip e Magnetismo a Pellicola Sottile

I recenti progressi nella tecnologia dei magneti a pellicola sottile consentono ora la produzione di induttori ad alta efficienza direttamente sul chip o sul substrato del package utilizzando tecniche di fabbricazione dei semiconduttori. Questi induttori microscopici ad alta efficienza consentono all’intero regolatore di tensione di essere posizionato a pochi micron di distanza dai circuiti che alimenta.

Questo spostamento di posizione offre diversi vantaggi:

  • Riduzione della Perdita di Potenza: La riduzione del percorso di consegna di potenza da pollici a micron riduce significativamente l’energia persa durante la trasmissione, migliorando l’efficienza complessiva del sistema.
  • Gestione della Potenza Granulare: Molti domini di potenza indipendenti e a bassa tensione possono fornire esattamente ciò di cui ogni core o blocco funzionale ha bisogno, quando ne ha bisogno, e spegnersi istantaneamente quando non ne ha bisogno.
  • Risposta Quasi Istantanea: Gli IVR sul package rispondono ai carichi transitori in nanosecondi, eliminando virtualmente il calo di tensione e consentendo tensioni di funzionamento più basse e più efficienti senza sacrificare le prestazioni.
  • Progettazione Semplificata e Footprint Ridotto: La rimozione dei regolatori di tensione dalla scheda madre libera spazio sulla scheda, semplifica la progettazione e supporta architetture più dense e ad alte prestazioni.

Ridefinire il Futuro dell’Hardware dell’IA

I vantaggi degli IVR affrontano direttamente le sfide più grandi che i progettisti di hardware dell’IA devono affrontare. Per le aziende che sviluppano la prossima generazione di GPU e acceleratori dell’IA, la gestione della potenza integrata non è solo una “caratteristica gradita”; è una tecnologia abilitante.

Le tecniche di impacchettamento dei semiconduttori avanzate come chiplet e impilamento 3D sono viste come la strada da percorrere ora che la scalabilità tradizionale di Moore si sta rallentando. Queste tecniche coinvolgono l’assemblaggio di più piccoli, specializzati die in un unico pacchetto potente. Come spiegato da leader del settore come TSMC con la sua tecnologia CoWoS, questo approccio richiede una sofisticata strategia di consegna di potenza. Gli IVR, tra cui quelli prodotti da Ferric, sono perfettamente adatti a questo paradigma, fornendo la gestione della potenza granulare ed efficiente necessaria per gestire questi sistemi complessi e eterogenei.

Sfide e Conclusione

La strada per un’adozione diffusa non è senza ostacoli. Integrare nuovi materiali e processi nell’ecosistema di produzione dei semiconduttori, altamente conservativo e complesso, è una sfida monumentale.

Tuttavia, la necessità di una soluzione è innegabile. L’attuale traiettoria del consumo di potenza nell’IA è insostenibile. Limitarsi a rendere i transistor più piccoli non è più sufficiente; è necessaria una riarchitettura olistica dell’intero sistema, dal software alla consegna di potenza, è richiesta. Il lavoro di aziende come Ferric rappresenta una parte critica di questo puzzle. Controllando la bestia della potenza alla sua fonte, non stanno solo creando un componente più efficiente, ma stanno aprendo la strada per la prossima generazione di IA e calcolo ad alte prestazioni.

Il viaggio dell’innovazione hardware è uno di superamento dei colli di bottiglia. Per decenni, l’attenzione si è concentrata sulla velocità di calcolo e sulla densità dei transistor. Oggi, il collo di bottiglia più pressante è la potenza. Le aziende che risolveranno questa sfida definiranno il paesaggio del calcolo per anni a venire.

Cosa pensi sarà il prossimo grande collo di bottiglia nella progettazione dell’hardware dell’IA dopo che la consegna di potenza sarà stata ottimizzata? Come i progressi nell’efficienza energetica cambieranno l’economia della distribuzione dell’IA su larga scala?

Noah Sturcken è il fondatore e amministratore delegato di Ferric con oltre 40 brevetti rilasciati e 15 pubblicazioni su Regolatori di Tensione Integrati. Noah guida Ferric con un focus sullo sviluppo aziendale, marketing e sviluppo di nuove tecnologie. Noah ha lavorato in precedenza presso il laboratorio di ricerca e sviluppo di AMD, dove ha sviluppato la tecnologia del Regolatore di Tensione Integrato (IVR). Noah detiene un dottorato e un master in Ingegneria Elettrica presso la Columbia University e un bachelor summa cum laude presso la Cornell University.