Hans Hasselby-Andersen, administrerende direktør for Lotus Microsystems – interviewserie

Hans Hasselby-Andersen er administrerende direktør for Lotus Microsystems og har mere end 20 års erfaring fra halvlederindustrien som stifter, direktør, bestyrelsesmedlem og investor. Han grundlagde Merus Audio og stod i spidsen for virksomheden frem til opkøbet af Infineon i 2018. Han har desuden haft ledende stillinger hos Texas Instruments, Infineon, Toccata Technology og Nokia. Hans arbejde har især handlet om at bringe energieffektive halvlederteknologier på markedet.

Lotus Microsystems er en fabless-halledervirksomhed med base i København, der udvikler integrerede strømomformere og løsninger til strømforsyning af avanceret elektronik. Virksomhedens Power Interposer Technology i silicium kombinerer strømomformning med termisk styring, blandt andet gennem virksomhedens vStrata-platform til vertikal strømforsyning inden for AI og højtydende databehandling. I dette interview taler Hasselby-Andersen om energitab på serverniveau, begrænsningerne ved konventionelle strømforsyningsarkitekturer og om, hvorfor strømforsyning, køling og halvlederindkapsling i stigende grad skal udvikles i sammenhæng.

Din karriere har omfattet trådløse systemer hos Nokia, udvikling af halvledere hos Texas Instruments, grundlæggelsen af Merus Audio og arbejdet med virksomheden frem til opkøbet af Infineon, og nu står du i spidsen for Lotus Microsystems. Hvordan har disse erfaringer præget din måde at tænke på de strømforsynings- og termiske udfordringer, der opstår i nutidens AI-infrastruktur?

Jeg kom næsten tilfældigt ind i halvlederbranchen. En startup, jeg arbejdede for, blev opkøbt af Texas Instruments, og det blev min introduktion til, hvordan chips designes, fremstilles og bringes på markedet. Jeg var ikke selv chipdesigner, men jeg lærte utrolig meget om branchen.

Senere, da jeg grundlagde Merus Audio, var drivkraften, at jeg så et tydeligt hul i markedet: behovet for at reducere strømtab og forlænge batterilevetiden i trådløse højttalere. Derefter fokuserede jeg på at finde de rette mennesker og den rette teknologi til at løse problemet.

Efter at Merus blev opkøbt af Infineon, tilbragte jeg nogen tid uden for halvlederbranchen, men indså til sidst, at det var dér, jeg gerne ville være. Det, der tiltrak mig ved Lotus Microsystems, var grundlæggerholdets fokus på tre grundlæggende egenskaber ved virksomhedens avancerede teknologi til strømforsyning: energieffektivitet, fysisk størrelse og termisk ydeevne. Det er udfordringer, der aldrig forsvinder inden for strømforsyning, uanset anvendelsen, men AI har gjort dem særligt presserende.

Vi oplever en enestående udvikling inden for processorteknologi, men al den regnekraft er underlagt meget konkrete fysiske begrænsninger. Min erfaring har lært mig, at det kan være lige så værdifuldt at løse de mindre synlige problemer som at udvikle den teknologi, alle holder øje med.

Debatten om AI-infrastruktur fokuserer ofte i høj grad på GPU-ydeevne, netværk og køling. Hvorfor mener du, at strømforsyningen i sig selv bliver en af de vigtigste begrænsninger for den fortsatte skalering af AI-systemer?

Vi bruger meget tid på at tale om, hvor stor regnekraft en GPU kan levere, men langt mindre på, hvordan man effektivt får tilstrækkelig strøm frem til den. Moderne AI-acceleratorer kræver strømstyrker på flere tusinde ampere ved meget lave spændinger, og deres strømbehov kan ændre sig næsten øjeblikkeligt afhængigt af arbejdsbelastningen. Traditionelle strømforsyningssystemer er ikke udviklet til den intensitet. Man kan have verdens mest avancerede processor, men hvis man ikke kan levere stabil strøm, når der er brug for den, får man ikke processorens fulde potentiale. Derfor bliver strømforsyning en stadig vigtigere del af udfordringen med at skalere AI.

Når datacenteroperatører taler om energieffektivitet, rettes meget af opmærksomheden mod kølesystemer og målinger på anlægsniveau. Hvor meget strøm går der faktisk tabt inde i serveren, før den når frem til processoren, og hvorfor har dette problem fået forholdsvis lidt opmærksomhed?

Der findes ikke ét tal, der gælder for alle servere, men tabene kan være betydelige. I visse arkitekturer med høj strømstyrke har vi anslået, at cirka 7–10 % af strømmen kan gå tabt i de sidste led på vej frem til processoren. Denne energi bidrager ikke til nogen nyttig databehandling; den omdannes til varme, som derefter skal fjernes. Når man driver tusindvis af processorer døgnet rundt, bliver selv forholdsvis små ineffektiviteter meget dyre.

En af grundene til, at dette problem er blevet overset, er den måde, vi traditionelt har målt datacentres effektivitet på. Power Usage Effectiveness, eller PUE, er blevet branchens standard og er nyttigt til at forstå anlæggets ekstraforbrug, herunder til køling og strømfordeling. Men målet viser ikke, hvor effektivt strømmen omdannes og leveres inde i selve serveren.

Jeg mener ikke, at køleeffektivitet er uvigtig; det er den bestemt ikke. Men det er lidt bagvendt at bruge enorme summer på at fjerne varme uden at være tilstrækkeligt opmærksom på, hvor noget af denne unødvendige varme kommer fra. Vi bør forsøge at forhindre tabene fra begyndelsen.

Efterhånden som GPU’er og andre AI-acceleratorer bruger stadig større mængder strøm, hvilke begrænsninger viser sig så ved traditionelle strømforsyningsarkitekturer på printkortniveau?

Problemet bliver tydeligere, når man ser på, hvordan strømmen faktisk når frem til en GPU. I et traditionelt design sidder strømomformerne ved siden af processoren, og strømmen løber vandret gennem printkortet for at nå frem til den. Afstanden kan synes ubetydelig, men når man fører tusindvis af ampere, har selv små modstande betydning. Ohmske tab stiger med kvadratet på strømstyrken, hvilket betyder, at en fordobling af strømstyrken gennem den samme modstand kan firedoble tabene.

Der er også den udfordring at reagere på hurtige ændringer i strømbehovet og samtidig opretholde en stabil spænding. Ingeniører kan kompensere ved at tilføje kondensatorer og andre komponenter, men det optager værdifuld plads. På et tidspunkt giver det mere mening at gentænke arkitekturen end fortsat at føje dele til det eksisterende design.

Hvilke ændringer skal der ske i måden, strømmen føres fra serverracket til processoren på, hvis branchen fortsat vil øge beregningstætheden uden at skabe uholdbare problemer med varme eller effektivitet?

Der sker allerede en hel del nytænkning på rackniveau, blandt andet med overgangen til strømfordeling ved højere spænding. Det er vigtigt, fordi højere spændinger gør det muligt at overføre strøm med lavere strømstyrke, hvilket mindsker tabene over længere afstande. Men før eller siden skal strømmen stadig omformes til de meget lave spændinger, som processorer kræver, og det er her, nogle af de vanskeligste udfordringer stadig ligger.

En af de mest lovende udviklinger er lodret strømforsyning, hvor strømmen omformes direkte under processoren i stedet for ved siden af den. En kortere elektrisk vej bidrager til at mindske tabene og forbedre reaktionstiden. Men det medfører også en udfordring, fordi varmeudviklende komponenter placeres meget tættere på hinanden. Hvis vi skal kunne bruge disse arkitekturer i stor skala, skal vi holde op med at behandle strømforsyning, varmestyring og indkapsling som adskilte ingeniøropgaver. De skal designes samlet fra begyndelsen.

Lotus Microsystems lancerede for nylig sin platform til lodret strømforsyning, vStrata. Hvilket problem skal lodret strømforsyning løse, og hvordan adskiller denne tilgang sig fra de traditionelle strømforsyningsarkitekturer, der bruges i AI-servere i dag?

Grundidéen bag lodret strømforsyning er forholdsvis enkel. I stedet for at føre enorme mængder strøm vandret hen over et printkort placerer man strømkilden direkte under processoren. Det forkorter den elektriske vej markant, mindsker tabene og hjælper systemet med at reagere hurtigere, når strømbehovet ændrer sig.

Men det er vigtigt at skelne mellem at føre strømmen tættere på processoren og faktisk at løse hele problemet. Varmen koncentreres også på mindre plads, lige ved siden af komponenter, der allerede udsættes for betydelige termiske belastninger. Hvis man ikke tager hånd om det, risikerer man at skabe en ny flaskehals, mens man løser den oprindelige.

Det var det, vi satte os for at løse med vStrata. Vores proprietære siliciumbaserede Power Interposer Technology gør det muligt at føre strømmen lodret og samtidig integrere varmestyring i den samme arkitektur. Vores første modul, LSC0580, er konstrueret til en virkningsgrad ved belastningspunktet på op til 96 % og temperaturreduktioner på op til 25 °C i optimerede konfigurationer. Målet er ikke blot at føre mere strøm, men at hjælpe datacentre med at få mere nyttig regnekapacitet ud af det samme fysiske areal og samtidig reducere det ekstra strømforbrug og kølebehov, der kræves for at understøtte den.

AI-branchen går ofte ud fra, at fremtidige forbedringer af ydeevnen vil komme fra bedre chips eller mere avancerede halvlederprocesser. Kan forbedringer af strømforsyningsarkitekturen i sidste ende være lige så vigtige for AI-ydeevnen som fremskridt inden for selve processorerne?

Helt sikkert. En processors teoretiske ydeevne er kun nyttig, hvis det omgivende system gør det muligt for den at yde på det niveau. Hvis strømforsyningen ikke kan følge med efterspørgslen, eller overdreven varme tvinger systemet til at drosle ydeevnen ned, får man ikke fuldt udbytte af det, man har betalt for. Det interessante er, at en bedre strømforsyningsarkitektur kan bidrage til at frigøre mere vedvarende ydeevne fra eksisterende hardware uden nødvendigvis at ændre selve processoren. Jeg ville ikke fremstille det som et valg mellem bedre chips og bedre infrastruktur. Vi har brug for begge dele, og jeg forventer, at samspillet mellem dem bliver stadig vigtigere.

AI-datacentre lægger allerede et betydeligt pres på elnet verden over. Hvor meget kan forbedringer af strømomformning og strømforsyning på serverniveau mindske det samlede energiforbrug i AI-infrastruktur i stor skala?

Potentialet er betydeligt, selvom det er svært at sætte ét tal på, fordi virkningen afhænger af anlæggets arkitektur og størrelse. En forbedring på ét procentpoint i et enkelt konverteringstrin fører ikke automatisk til en tilsvarende reduktion i datacentrets samlede elforbrug.

Men tænk på, hvad der sker, når selv beskedne effektivitetsforbedringer ganges op på tværs af tusindvis af processorer, der kører konstant. Det kan føre til betydelige reduktioner i energispild, driftsomkostninger, kapitaludgifter og den mængde varme, kølesystemerne skal håndtere. Det er særligt værdifuldt, når kapaciteten i elnettet allerede begrænser, hvor og hvor hurtigt nye datacentre kan bygges.

Man kan også sige, at den grønneste energi er den energi, man aldrig bruger. Der har været et enormt fokus på at sikre mere strøm til at understøtte AI-væksten, hvilket er forståeligt, men vi bør være lige så optagede af at udnytte den elektricitet, der allerede er til rådighed, bedre.

Efterhånden som AI-hardware bevæger sig i retning af GPU’er med højere effekt, specialudviklede acceleratorer og stadig mere kompakte computersystemer, hvilke tekniske flaskehalse forventer du så, at ingeniører inden for strømforsyning vil støde på i løbet af de næste år?

Strømkravene vil fortsætte med at stige, og vi ser allerede de udfordringer, det medfører. Nogle AI-processorer kræver flere tusinde ampere, og fremtidige design kan nå op på 6.000 eller endda 8.000 ampere. Det er udfordrende nok at levere så høj en strømstyrke effektivt, men det bliver endnu mere komplekst at holde spændingen stabil, når arbejdsbelastningen ændrer sig hurtigt.

Branchen har også en tendens til at fokusere på strømtæthed som det vigtigste mål for fremskridt. Det er imponerende at kunne levere mere strøm fra en mindre strømforsyning, men hvis man udvikler den samme mængde varme på mindre plads, er det ikke nødvendigvis en forbedring af det samlede system. Faktisk kan man have gjort det termiske problem værre. Jeg tror, at de ingeniører, der kan skabe balance mellem effektivitet, termisk ydeevne, dynamisk respons og pålidelighed, vil være dem, der gør de største fremskridt.

Hvis vi ser frem mod næste generation af AI-infrastruktur, hvilke ændringer inden for strømforsyning, køling, halvlederindkapsling og systemarkitektur vil så være nødvendige for at understøtte endnu en markant forøgelse af AI-beregningskapaciteten?

Jeg forventer, at strømforsyningen bliver langt tættere integreret med selve processoren. Vertikal strømforsyning er et vigtigt skridt, men jeg tror ikke, at udviklingen stopper dér. Vi arbejder allerede hen imod tyndere strømmoduler, der kan indbygges i printplader, og på længere sigt arkitekturer, hvor en større del af strømforsyningsfunktionerne integreres direkte i xPU-pakker. Hvert skridt bringer strømmen tættere på det sted, hvor den faktisk forbruges.

Kølingen skal udvikle sig i takt med disse ændringer. Væskekøling bliver stadig vigtigere inden for databehandling med høj tæthed, men forbedringer af varmeafledningen er kun en del af løsningen. Vi skal også reducere mængden af unødvendig varme, vi udvikler, og finde bedre måder at håndtere den tæt på varmekilden.

Den største ændring handler måske om, hvordan disse systemer udvikles. Traditionelt er forskellige dele af hardwarestakken ofte blevet optimeret mere eller mindre uafhængigt af hinanden. Ved de effektniveauer, vi bevæger os hen imod, bliver det stadig vanskeligere. Chipproducenter, specialister i kraftelektronik, ingeniører med ansvar for chipindkapsling og systemdesignere bliver nødt til at arbejde langt tættere sammen. I årevis har vi presset grænserne for de enkelte processorer, men næste fase inden for AI-infrastruktur kommer til at handle om at sikre, at hele systemet kan understøtte det, processorerne er i stand til.

Tak for et godt interview. Læsere, der ønsker at udforske vertikal strømforsyning og termisk styring til AI-infrastruktur, kan besøge Lotus Microsystems.