Hans Hasselby-Andersen, amministratore delegato di Lotus Microsystems – Intervista

Hans Hasselby-Andersen è amministratore delegato di Lotus Microsystems e vanta oltre 20 anni di esperienza nel settore dei semiconduttori come fondatore, dirigente, membro di consigli di amministrazione e investitore. Ha fondato Merus Audio e ne ha guidato l’acquisizione da parte di Infineon nel 2018; ha inoltre ricoperto ruoli dirigenziali presso Texas Instruments, Infineon, Toccata Technology e Nokia. La sua attività si è concentrata sulla commercializzazione di tecnologie per semiconduttori ad alta efficienza energetica.

Lotus Microsystems è un’azienda fabless di semiconduttori con sede a Copenaghen, che sviluppa convertitori di potenza integrati e soluzioni di erogazione dell’energia per l’elettronica avanzata. La sua Power Interposer Technology in silicio combina la conversione di potenza con la gestione termica, anche attraverso la piattaforma vStrata di erogazione verticale dell’energia per l’IA e il calcolo ad alte prestazioni. In questa intervista, Hasselby-Andersen parla delle perdite energetiche a livello di server, dei limiti delle architetture di alimentazione tradizionali e del motivo per cui la distribuzione dell’energia, il raffreddamento e il packaging dei semiconduttori devono sempre più essere progettati insieme.

La sua carriera spazia dai sistemi wireless in Nokia allo sviluppo di semiconduttori in Texas Instruments, dalla fondazione di Merus Audio e la sua acquisizione da parte di Infineon fino alla guida di Lotus Microsystems. In che modo queste esperienze hanno influenzato il suo modo di considerare le sfide legate alla potenza e alla gestione termica che stanno emergendo nelle infrastrutture di IA di oggi?

Sono entrato nel settore dei semiconduttori quasi per caso. Una startup con cui collaboravo è stata acquisita da Texas Instruments, e così ho scoperto come vengono progettati, fabbricati e commercializzati i chip. Non ero un progettista di chip, ma ho imparato moltissimo sul settore.

In seguito, quando ho fondato Merus Audio, tutto è partito dall’individuazione di una chiara lacuna di mercato: la necessità di ridurre le perdite di potenza e prolungare la durata della batteria degli altoparlanti wireless. Da lì, mi sono concentrato sul reperire le persone e le tecnologie giuste per affrontare il problema.

Dopo l’acquisizione di Merus da parte di Infineon, ho trascorso un periodo fuori dal settore dei semiconduttori, ma alla fine ho capito che era proprio lì che volevo essere. A convincermi di Lotus Microsystems è stata l’attenzione del team fondatore verso tre aspetti fondamentali della sua tecnologia avanzata di erogazione dell’energia: efficienza energetica, ingombro fisico e prestazioni termiche. Sono sfide che non scompaiono mai nell’erogazione dell’energia, qualunque sia l’applicazione, ma l’IA le ha rese particolarmente urgenti.

Stiamo assistendo a progressi straordinari nella tecnologia dei processori, ma tutta questa potenza di calcolo comporta vincoli fisici molto concreti. La mia esperienza mi ha insegnato che risolvere questi problemi meno visibili può essere altrettanto importante quanto sviluppare le tecnologie su cui si concentra l’attenzione di tutti.

Le discussioni sulle infrastrutture di IA si concentrano spesso sulle prestazioni delle GPU, sulle reti e sul raffreddamento. Perché ritiene che l’erogazione dell’energia stia diventando uno dei principali ostacoli alla continua espansione dei sistemi di IA?

Dedichiamo molto tempo a discutere della potenza di calcolo che una GPU può offrire, ma assai meno di come fornirle energia elettrica a sufficienza in modo efficiente. I moderni acceleratori di IA richiedono migliaia di ampere a tensioni molto basse, e il loro fabbisogno energetico può cambiare quasi istantaneamente a seconda del carico di lavoro. I sistemi tradizionali di erogazione dell’energia non sono stati progettati per gestire un’intensità di questo livello. Si può avere il processore più avanzato al mondo, ma se non si riesce a fornirgli un’alimentazione stabile quando serve, non se ne sfrutterà tutto il potenziale. Ecco perché l’erogazione dell’energia sta diventando un aspetto così importante della sfida di scalare i sistemi di IA.

Quando gli operatori dei data center parlano di efficienza energetica, gran parte dell’attenzione si concentra sui sistemi di raffreddamento e sugli indicatori relativi alla struttura. Quanta energia viene effettivamente persa all’interno del server prima di raggiungere il processore, e perché questo problema ha ricevuto relativamente poca attenzione?

Non esiste un unico valore valido per tutti i server, ma le perdite possono essere considerevoli. In alcune architetture ad alta corrente, abbiamo stimato che circa il 7–10% dell’energia può andare perso nelle fasi finali della sua distribuzione al processore. Quell’energia non contribuisce a nessuna operazione di calcolo utile: si trasforma in calore, che deve poi essere smaltito. Quando si utilizzano migliaia di processori ininterrottamente, anche inefficienze relativamente ridotte diventano molto costose.

Una ragione per cui il problema è stato trascurato è il modo in cui abbiamo tradizionalmente misurato l’efficienza dei data center. Il Power Usage Effectiveness, o PUE, è diventato lo standard del settore ed è utile per comprendere i consumi ausiliari della struttura, compresi quelli legati al raffreddamento e alla distribuzione dell’energia. Tuttavia, non indica con quale efficienza l’elettricità viene convertita e distribuita all’interno del server stesso.

Non intendo dire che l’efficienza del raffreddamento non sia importante: lo è assolutamente. Ma c’è qualcosa di un po’ paradossale nello spendere somme enormi per rimuovere il calore senza prestare sufficiente attenzione alla provenienza di una parte di quel calore superfluo. Dovremmo cercare di evitare queste perdite fin dall’inizio.

Con l’aumento dei consumi energetici di GPU e altri acceleratori di IA, quali limiti stanno emergendo nelle tradizionali architetture di erogazione dell’energia a livello di scheda?

Il problema diventa più chiaro se si osserva come arriva effettivamente l’energia a una GPU. In un’architettura tradizionale, i convertitori di potenza si trovano accanto al processore e l’elettricità attraversa orizzontalmente il circuito stampato per raggiungerlo. La distanza può sembrare insignificante, ma quando si fanno passare migliaia di ampere, anche piccole resistenze sono rilevanti. Le perdite resistive aumentano con il quadrato della corrente: ciò significa che raddoppiando la corrente a parità di resistenza, le perdite possono quadruplicarsi.

Un’altra sfida consiste nel rispondere alle rapide variazioni della domanda di potenza mantenendo stabile la tensione. Gli ingegneri possono compensarle aggiungendo condensatori e altri componenti, ma queste soluzioni occupano spazio prezioso. A un certo punto, ha più senso ripensare l’architettura che continuare ad aggiungere componenti al progetto esistente.

Quali cambiamenti sono necessari nel modo in cui l’energia viene distribuita dal rack del server al processore, se il settore vuole continuare ad aumentare la densità di calcolo senza creare problemi insostenibili di gestione termica o di efficienza?

A livello di rack sono già in corso molte innovazioni, tra cui il passaggio alla distribuzione dell’energia a tensioni più elevate. È importante perché tensioni più alte consentono di trasmettere elettricità con una corrente inferiore, riducendo le perdite sulle lunghe distanze. Tuttavia, prima o poi l’elettricità deve comunque essere convertita alle tensioni molto basse richieste dai processori: è qui che restano alcune delle sfide più difficili.

Uno degli sviluppi più promettenti è la distribuzione verticale dell’energia, che porta la conversione direttamente sotto il processore anziché collocarla accanto. Accorciare il percorso elettrico aiuta a ridurre le perdite e a migliorare i tempi di risposta. Ma comporta anche una sfida: avvicina molto tra loro componenti che generano calore. Per far funzionare queste architetture su larga scala, dobbiamo smettere di considerare la distribuzione dell’energia, la gestione termica e il packaging come attività di progettazione separate. Vanno progettate insieme fin dall’inizio.

Lotus Microsystems ha presentato di recente la sua piattaforma di distribuzione verticale dell’energia vStrata. Quale problema intende risolvere la distribuzione verticale dell’energia e in che modo questo approccio si differenzia dalle architetture di alimentazione convenzionali utilizzate oggi nei server per l’IA?

L’idea di base della distribuzione verticale dell’energia è piuttosto semplice. Invece di far scorrere enormi quantità di corrente orizzontalmente attraverso un circuito stampato, si porta la sorgente di alimentazione direttamente sotto il processore. In questo modo si accorcia notevolmente il percorso elettrico, riducendo le perdite e aiutando il sistema a reagire più rapidamente alle variazioni del fabbisogno energetico.

Ma c’è una distinzione importante tra avvicinare l’alimentazione al processore e risolvere davvero il problema nel suo complesso. Si concentra anche il calore in uno spazio più ridotto, proprio accanto a componenti già sottoposti a una notevole pressione termica. Se non si affronta questo aspetto, si rischia di creare un nuovo collo di bottiglia mentre si risolve quello iniziale.

È proprio questo il problema che ci siamo proposti di affrontare con vStrata. La nostra tecnologia proprietaria Silicon Power Interposer Technology ci consente di distribuire l’energia verticalmente integrando la gestione termica nella stessa architettura. Il nostro primo modulo, LSC0580, è progettato per raggiungere un’efficienza al punto di carico fino al 96%, con riduzioni della temperatura fino a 25 °C nelle configurazioni ottimizzate. L’obiettivo non è semplicemente far passare più corrente, ma aiutare i data center a ottenere una maggiore capacità di calcolo effettivamente utilizzabile dallo stesso spazio fisico, riducendo al contempo l’energia necessaria e il carico dei sistemi di raffreddamento.

Nel settore dell’IA si presume spesso che i futuri incrementi delle prestazioni deriveranno da chip migliori o da processi a semiconduttore più avanzati. I miglioramenti dell’architettura di alimentazione potrebbero, in definitiva, essere importanti per le prestazioni dell’IA tanto quanto i progressi dei processori stessi?

Assolutamente. Le prestazioni teoriche di un processore sono utili solo se il sistema circostante gli permette di raggiungerle. Se la distribuzione dell’energia non riesce a soddisfare la domanda o il calore eccessivo costringe il sistema a ridurre le prestazioni, non si ottiene tutto ciò per cui si è pagato. È interessante notare che una migliore architettura di alimentazione può contribuire a sfruttare appieno e in modo continuativo le prestazioni dell’hardware esistente, senza necessariamente modificare il processore. Non la metterei sul piano di una scelta tra chip migliori e infrastruttura migliore. Servono entrambi e mi aspetto che il loro rapporto diventi sempre più importante.

I data center per l’IA stanno già esercitando una forte pressione sulle reti elettriche di tutto il mondo. In che misura i miglioramenti nella conversione e nella distribuzione dell’energia a livello di server potrebbero ridurre l’impronta energetica complessiva delle infrastrutture di IA su larga scala?

Il potenziale è notevole, anche se è difficile quantificarlo con un’unica cifra, perché l’impatto dipende dall’architettura e dalle dimensioni della struttura. Un miglioramento di un punto percentuale in una fase di conversione non si traduce automaticamente in una riduzione equivalente del consumo totale di elettricità del data center.

Ma considerate cosa succede quando si moltiplicano anche miglioramenti modesti dell’efficienza per migliaia di processori in funzione continua. Si possono ottenere riduzioni significative degli sprechi energetici, dei costi operativi, degli investimenti di capitale e della quantità di calore che i sistemi di raffreddamento devono gestire. Questo è particolarmente importante quando la capacità della rete elettrica limita già i luoghi in cui è possibile costruire nuovi data center e la rapidità con cui è possibile farlo.

In altre parole, l’energia più ecologica è quella che non si consuma. Ci si è concentrati moltissimo sull’assicurarsi una maggiore disponibilità di energia per sostenere l’espansione dell’IA, comprensibilmente, ma dovremmo dedicarci altrettanto a utilizzare meglio l’elettricità già disponibile.

Con l’evoluzione dell’hardware per l’IA verso GPU più potenti, acceleratori personalizzati e sistemi di calcolo sempre più densi, quali colli di bottiglia tecnici prevedi che gli ingegneri specializzati nell’alimentazione dovranno affrontare nei prossimi anni?

Il fabbisogno di corrente continuerà ad aumentare e stiamo già osservando le difficoltà che ne derivano. Alcuni processori per l’IA richiedono diverse migliaia di ampere e i progetti futuri potrebbero arrivare a 6.000 o persino 8.000 ampere. Fornire tutta questa corrente in modo efficiente è già abbastanza difficile, ma mantenere stabile la tensione mentre i carichi di lavoro cambiano rapidamente aggiunge un ulteriore livello di complessità.

Il settore tende inoltre a concentrarsi sulla densità di corrente come principale indicatore dei progressi. Riuscire a fornire più corrente da un convertitore di potenza più piccolo è notevole, ma se si genera la stessa quantità di calore in uno spazio più ristretto, non è detto che il sistema nel suo complesso sia migliorato. Anzi, si potrebbe aver aggravato il problema termico. Credo che i maggiori progressi saranno opera degli ingegneri capaci di bilanciare efficienza, prestazioni termiche, risposta dinamica e affidabilità.

Guardando alla prossima generazione di infrastrutture per l’IA, quali cambiamenti nell’erogazione dell’energia, nel raffreddamento, nel packaging dei semiconduttori e nell’architettura dei sistemi saranno necessari per sostenere un ulteriore, significativo aumento della capacità di calcolo per l’IA?

Mi aspetto un’integrazione molto più stretta tra l’erogazione dell’energia e il processore stesso. L’alimentazione verticale è un passo importante, ma non credo che l’evoluzione si fermerà qui. Stiamo già valutando moduli di alimentazione più sottili, integrabili nelle schede a circuito stampato, e in futuro architetture in cui una parte maggiore delle funzioni di erogazione dell’energia sia integrata direttamente nei package xPU. Ogni passo avvicina l’alimentazione al punto in cui viene effettivamente utilizzata.

Anche il raffreddamento dovrà evolversi di pari passo. Il raffreddamento a liquido sta diventando sempre più importante per il calcolo ad alta densità, ma migliorare il modo in cui rimuoviamo il calore è solo una parte della soluzione. Dobbiamo anche ridurre la quantità di calore superfluo che generiamo e trovare metodi migliori per gestirlo vicino alla fonte.

Forse il cambiamento più importante riguarderà il modo in cui vengono sviluppati questi sistemi. Tradizionalmente, le diverse parti dell’hardware sono state spesso ottimizzate in modo piuttosto indipendente. Ai livelli di potenza verso cui ci stiamo dirigendo, questo diventa sempre più difficile. I produttori di chip, gli specialisti dell’elettronica di potenza, gli ingegneri del packaging e i progettisti di sistemi dovranno collaborare molto più strettamente. Per anni abbiamo spinto al limite i singoli processori, ma la prossima fase delle infrastrutture per l’IA consisterà nel garantire che l’intero sistema sia in grado di supportare le capacità di questi processori.

Grazie per questa splendida intervista. I lettori che desiderano approfondire l’alimentazione verticale e la gestione termica per le infrastrutture di IA possono visitare Lotus Microsystems.