Hans Hasselby-Andersen, administrerende direktør i Lotus Microsystems – intervjuserie

Hans Hasselby-Andersen er administrerende direktør i Lotus Microsystems og har mer enn 20 års erfaring fra halvlederindustrien som gründer, leder, styremedlem og investor. Han grunnla Merus Audio og ledet selskapet frem til oppkjøpet av Infineon i 2018. Han har også hatt lederstillinger i Texas Instruments, Infineon, Toccata Technology og Nokia. Arbeidet hans har dreid seg om å bringe energieffektive halvlederteknologier ut på markedet.

Lotus Microsystems er et halvlederselskap med base i København og uten egen produksjon. Selskapet utvikler integrerte strømomformere og løsninger for strømforsyning til avansert elektronikk. Selskapets silisiumbaserte Power Interposer Technology kombinerer strømomforming med termisk styring, blant annet gjennom den vertikale strømforsyningsplattformen vStrata for kunstig intelligens og høyytelsesdatabehandling. I dette intervjuet snakker Hasselby-Andersen om energitap på servernivå, begrensningene ved tradisjonelle strømforsyningsarkitekturer, og hvorfor strømforsyning, kjøling og halvlederinnkapsling i stadig større grad må utformes samlet.

Karrieren din har omfattet trådløse systemer i Nokia, halvlederutvikling i Texas Instruments, grunnleggelsen av Merus Audio og ledelsen av selskapet frem til oppkjøpet av Infineon, og nå leder du Lotus Microsystems. Hvordan har disse erfaringene påvirket måten du tenker på utfordringene knyttet til strømforsyning og varmeutvikling som nå oppstår i dagens KI-infrastruktur?

Jeg begynte med halvledere nesten ved en tilfeldighet. En oppstartsbedrift jeg jobbet for, ble kjøpt opp av Texas Instruments, og det var slik jeg først fikk innblikk i hvordan brikker utformes, produseres og bringes ut på markedet. Jeg var ikke selv brikkedesigner, men lærte svært mye om bransjen.

Senere, da jeg grunnla Merus Audio, var det en tydelig mangel i markedet som utløste satsingen: behovet for å redusere strømtap og forlenge batterilevetiden i trådløse høyttalere. Derfra rettet jeg oppmerksomheten mot å finne de rette menneskene og den rette teknologien for å løse dette.

Etter at Merus ble kjøpt opp av Infineon, tilbrakte jeg en tid utenfor halvlederbransjen, men innså til slutt at det var der jeg ønsket å være. Det som tiltrakk meg ved Lotus Microsystems, var grunnleggerteamets fokus på tre grunnleggende egenskaper ved selskapets avanserte strømforsyningsteknologi: energieffektivitet, fysisk størrelse og termisk ytelse. Dette er utfordringer som aldri forsvinner helt innen strømforsyning, uansett bruksområde, men KI har gjort dem spesielt presserende.

Vi ser en enorm utvikling innen prosessorteknologi, men all denne datakraften fører med seg helt reelle fysiske begrensninger. Erfaringen min har lært meg at det å løse disse mindre synlige problemene kan være like verdifullt som å utvikle teknologien alle følger med på.

Samtaler om KI-infrastruktur handler ofte i stor grad om GPU-ytelse, nettverk og kjøling. Hvorfor mener du at strømforsyningen i seg selv blir en av de viktigste begrensningene for fortsatt skalering av KI-systemer?

Vi bruker mye tid på å snakke om hvor stor datakraft en GPU kan levere, men langt mindre tid på hvordan vi effektivt kan sørge for at den får nok strøm. Moderne KI-akseleratorer krever strømstyrker på flere tusen ampere ved svært lave spenninger, og strømbehovet kan endres nesten umiddelbart, avhengig av arbeidsbelastningen. Tradisjonelle strømforsyningssystemer ble ikke utviklet for et slikt belastningsnivå. Du kan ha den mest avanserte prosessoren i verden, men hvis du ikke kan levere stabil strøm når det trengs, får du ikke utnyttet hele potensialet dens. Derfor blir strømforsyning en stadig viktigere del av utfordringen med å skalere KI.

Når datasenteroperatører snakker om energieffektivitet, vies mye oppmerksomhet til kjølesystemer og måltall på anleggsnivå. Hvor mye strøm går faktisk tapt inne i serveren før den når prosessoren, og hvorfor har dette fått forholdsvis lite oppmerksomhet?

Det finnes ikke ett enkelt tall som gjelder for alle servere, men tapene kan være betydelige. I enkelte arkitekturer med høy strømstyrke har vi anslått at rundt 7–10 % av strømmen kan gå tapt i de siste leddene av strømforsyningen til prosessoren. Denne energien brukes ikke til nyttig databehandling, men omdannes til varme som deretter må fjernes. Når du driver tusenvis av prosessorer døgnet rundt, blir selv forholdsvis små ineffektiviteter svært kostbare.

En av grunnene til at dette har blitt oversett, er måten vi tradisjonelt har målt energieffektiviteten i datasentre på. Power Usage Effectiveness, eller PUE, har blitt bransjestandard og er nyttig for å forstå energibruken til støttefunksjoner i anlegget, blant annet kjøling og strømfordeling. Men måltallet viser ikke hvor effektivt strømmen omformes og leveres inne i selve serveren.

Jeg mener ikke at effektiv kjøling er uviktig; det er den absolutt. Men det er noe litt bakvendt ved å bruke enorme summer på å fjerne varme uten å vie nok oppmerksomhet til hvor noe av denne unødvendige varmen kommer fra. Vi bør forsøke å forhindre slike tap fra starten av.

Etter hvert som GPU-er og andre KI-akseleratorer bruker stadig mer strøm, hvilke begrensninger begynner å vise seg ved tradisjonelle strømforsyningsarkitekturer på kretskortnivå?

Problemet blir tydeligere når man ser på hvordan strømmen faktisk når fram til en GPU. I en tradisjonell konstruksjon sitter strømomformerne ved siden av prosessoren, og strømmen går horisontalt gjennom kretskortet for å nå fram til den. Avstanden kan virke ubetydelig, men når man leder tusenvis av ampere, har selv små motstander betydning. Resistive tap øker med kvadratet av strømmen. Det betyr at en dobling av strømmen gjennom den samme motstanden kan firedoble tapene.

En annen utfordring er å håndtere raske endringer i strømbehovet samtidig som spenningen holdes stabil. Ingeniører kan kompensere ved å legge til kondensatorer og andre komponenter, men slike løsninger tar opp verdifull plass. Etter hvert er det mer fornuftig å tenke nytt om arkitekturen enn å fortsette å bygge videre på den eksisterende konstruksjonen.

Hvilke endringer må til i måten strømmen leveres fra serverracket til prosessoren på, hvis bransjen skal fortsette å øke beregningstettheten uten å skape uholdbare problemer med varme eller energieffektivitet?

Det skjer allerede mye innovasjon på racknivå, blant annet en overgang til strømfordeling med høyere spenning. Det er viktig fordi høyere spenning gjør at strøm kan overføres med lavere strømstyrke, noe som reduserer tap over lengre avstander. Men før eller siden må strømmen fortsatt omformes til de svært lave spenningene prosessorene krever, og det er her noen av de største utfordringene gjenstår.

En av de mest lovende utviklingene er vertikal strømforsyning, der strømomformingen plasseres rett under prosessoren i stedet for ved siden av den. Når den elektriske banen blir kortere, reduseres tapene og responstiden blir bedre. Samtidig oppstår en egen utfordring: De varmeutviklende komponentene plasseres mye tettere sammen. For at slike arkitekturer skal fungere i stor skala, må vi slutte å behandle strømforsyning, termisk styring og innkapsling som separate ingeniøroppgaver. De må utformes sammen fra starten av.

Lotus Microsystems lanserte nylig sin plattform for vertikal strømforsyning, vStrata. Hvilket problem skal vertikal strømforsyning løse, og hvordan skiller denne tilnærmingen seg fra de tradisjonelle strømforsyningsarkitekturene som brukes i AI-servere i dag?

Grunntanken bak vertikal strømforsyning er ganske enkel. I stedet for å føre enorme mengder strøm horisontalt over et kretskort plasserer man strømkilden rett under prosessoren. Dermed blir den elektriske banen betydelig kortere, noe som reduserer tapene og hjelper systemet med å reagere raskere når strømbehovet endrer seg.

Men det er viktig å skille mellom å føre strømmen nærmere prosessoren og å løse hele problemet. Varmen samles også på et mindre område, rett ved siden av komponenter som allerede utsettes for betydelig termisk belastning. Hvis man ikke tar hånd om dette, risikerer man å skape en ny flaskehals mens man løser den opprinnelige.

Det var dette vi ønsket å løse med vStrata. Vår egenutviklede silisiumbaserte Power Interposer Technology gjør det mulig å levere strøm vertikalt og samtidig integrere termisk styring i den samme arkitekturen. Vår første modul, LSC0580, er konstruert for en virkningsgrad på opptil 96 % ved punktlast, med temperatursenkninger på opptil 25 °C i optimaliserte konfigurasjoner. Målet er ikke bare å føre mer strøm, men å hjelpe datasentre med å få mer nyttig datakraft ut av det samme fysiske arealet, samtidig som strøm- og kjølebehovet som kreves for å støtte den, reduseres.

AI-bransjen antar ofte at framtidige ytelsesgevinster vil komme fra bedre brikker eller mer avanserte halvlederprosesser. Kan forbedringer i strømforsyningsarkitekturen til syvende og sist være like viktige for AI-ytelsen som framskritt i selve prosessorene?

Absolutt. En prosessors teoretiske ytelse er bare nyttig hvis systemet rundt gjør det mulig for den å yte på dette nivået. Hvis strømforsyningen ikke klarer å holde tritt med behovet, eller for mye varme tvinger systemet til å redusere ytelsen, får du ikke fullt utbytte av det du har betalt for. Det interessante er at en bedre strømforsyningsarkitektur kan bidra til å hente ut mer vedvarende ytelse fra eksisterende maskinvare, uten at selve prosessoren nødvendigvis må endres. Jeg ville ikke framstilt det som et valg mellom bedre brikker og bedre infrastruktur. Vi trenger begge deler, og jeg forventer at samspillet mellom dem blir stadig viktigere.

AI-datasentre legger allerede et betydelig press på strømnettene verden over. Hvor mye kan forbedringer i strømomforming og strømforsyning på servernivå redusere det samlede energifotavtrykket til AI-infrastruktur i stor skala?

Potensialet er betydelig, selv om det er vanskelig å angi ett enkelt tall, fordi virkningen avhenger av anleggets arkitektur og størrelse. En forbedring på ett prosentpoeng i ett trinn av strømomformingen fører ikke automatisk til en tilsvarende reduksjon i det samlede strømforbruket i datasenteret.

Men tenk på hva som skjer når selv moderate effektivitetsforbedringer blir multiplisert på tvers av tusenvis av prosessorer som kjører kontinuerlig. Det kan føre til betydelige reduksjoner i energisløsing, driftskostnader, kapitalutgifter og mengden varme kjølesystemene må håndtere. Dette er særlig verdifullt når kapasiteten i strømnettet allerede begrenser hvor og hvor raskt nye datasentre kan bygges.

En annen måte å si det på er at den grønneste energien er energien du aldri bruker. Det har vært et enormt fokus på å sikre mer kraft for å støtte veksten innen KI, noe som er forståelig, men vi bør være like opptatt av å utnytte strømmen som allerede er tilgjengelig, bedre.

Etter hvert som KI-maskinvare går mot GPU-er med høyere effekt, spesialtilpassede akseleratorer og stadig tettere pakkede datasystemer, hvilke tekniske flaskehalser tror du kraftingeniører vil møte i løpet av de neste årene?

Strømkravene kommer til å fortsette å øke, og vi ser allerede utfordringene dette fører med seg. Noen KI-prosessorer krever flere tusen ampere, og framtidige design kan komme opp i 6 000 eller til og med 8 000 ampere. Det er krevende nok å levere denne strømmen effektivt, men å holde spenningen stabil når arbeidsbelastningen endrer seg raskt, gjør det enda mer komplisert.

Bransjen har også en tendens til å bruke strømtetthet som det viktigste målet på framgang. Det er imponerende å kunne levere mer strøm fra en mindre strømomformer, men hvis du produserer like mye varme på et mindre område, har du ikke nødvendigvis gjort systemet bedre som helhet. Faktisk kan du ha gjort varmeproblemet verre. Jeg tror ingeniørene som klarer å balansere effektivitet, termisk ytelse, dynamisk respons og pålitelighet, vil være dem som gjør de største framskrittene.

Med tanke på neste generasjon KI-infrastruktur, hvilke endringer innen strømforsyning, kjøling, halvlederinnkapsling og systemarkitektur vil være nødvendige for å støtte en ny, betydelig økning i KI-regnekapasiteten?

Jeg forventer at vi vil se en langt tettere integrering av strømforsyningen med selve prosessoren. Vertikal strømforsyning er et viktig steg, men jeg tror ikke utviklingen stopper der. Vi ser allerede på tynnere strømmoduler som kan bygges inn i kretskort, og etter hvert arkitekturer der en større del av strømforsyningsfunksjonaliteten integreres direkte i xPU-pakker. Hvert steg bringer strømforsyningen nærmere stedet der strømmen faktisk brukes.

Kjølingen må utvikles parallelt med disse endringene. Væskekjøling blir stadig viktigere for databehandling med høy tetthet, men forbedringer i varmefjerningen er bare en del av løsningen. Vi må også redusere mengden unødvendig varme vi produserer, og finne bedre måter å håndtere den på nær varmekilden.

Den kanskje største endringen vil være hvordan disse systemene utvikles. Tradisjonelt har ulike deler av maskinvarestakken ofte blitt optimalisert nokså uavhengig av hverandre. På effektnivåene vi beveger oss mot, blir dette stadig vanskeligere. Brikkeprodusenter, spesialister på kraftelektronikk, innkapslingsingeniører og systemdesignere må samarbeide mye tettere. I årevis har vi presset grensene for enkeltprosessorer, men den neste fasen innen KI-infrastruktur vil handle om å sikre at hele systemet kan støtte det prosessorene er i stand til.

Takk for et flott intervju. Lesere som ønsker å utforske vertikal strømforsyning og termisk styring for KI-infrastruktur, bør besøke Lotus Microsystems.