Hans Hasselby-Andersen, CEO Lotus Microsystems – Seri Wawancara

Hans Hasselby-Andersen adalah CEO Lotus Microsystems, dengan pengalaman lebih dari 20 tahun di industri semikonduktor sebagai pendiri, eksekutif, anggota dewan, dan investor. Ia mendirikan Merus Audio dan memimpin perusahaan tersebut hingga diakuisisi Infineon pada 2018. Ia juga pernah menduduki posisi kepemimpinan di Texas Instruments, Infineon, Toccata Technology, dan Nokia. Kiprahnya berfokus pada upaya membawa teknologi semikonduktor hemat energi ke pasar.

Lotus Microsystems adalah perusahaan semikonduktor fabless yang berbasis di Kopenhagen dan mengembangkan konverter daya terpadu serta solusi penyaluran daya untuk perangkat elektronik canggih. Power Interposer Technology berbasis silikonnya memadukan konversi daya dengan manajemen termal, termasuk melalui platform penyaluran daya vertikal vStrata untuk AI dan komputasi performa tinggi. Dalam wawancara ini, Hasselby-Andersen membahas kehilangan energi di tingkat server, keterbatasan arsitektur daya konvensional, serta alasan penyaluran daya, pendinginan, dan pengemasan semikonduktor semakin perlu dirancang secara terpadu.

Karier Anda mencakup sistem nirkabel di Nokia, pengembangan semikonduktor di Texas Instruments, mendirikan Merus Audio dan memimpinnya hingga diakuisisi Infineon, serta kini memimpin Lotus Microsystems. Bagaimana pengalaman tersebut membentuk cara Anda memandang tantangan daya dan termal yang muncul dalam infrastruktur AI masa kini?

Saya hampir tidak sengaja terjun ke industri semikonduktor. Sebuah perusahaan rintisan tempat saya bekerja diakuisisi Texas Instruments, dan dari situlah saya mulai mengenal proses perancangan, pembuatan, dan pemasaran cip. Saya sendiri bukan perancang cip, tetapi saya belajar banyak sekali tentang industri ini.

Kemudian, saat mendirikan Merus Audio, pemicunya adalah ketika saya melihat kesenjangan pasar yang jelas, yakni kebutuhan untuk mengurangi kehilangan daya dan memperpanjang masa pakai baterai pada pengeras suara nirkabel. Setelah itu, saya berfokus untuk mendapatkan orang-orang dan teknologi yang tepat guna mengatasi kebutuhan tersebut.

Setelah Merus diakuisisi Infineon, saya sempat bekerja di luar industri semikonduktor, tetapi pada akhirnya menyadari bahwa saya ingin berkecimpung di industri ini. Saya tertarik pada Lotus Microsystems karena tim pendirinya berfokus pada tiga aspek mendasar teknologi penyaluran daya canggihnya: efisiensi energi, ukuran fisik, dan kinerja termal. Tantangan-tantangan tersebut selalu ada dalam penyaluran daya, apa pun penerapannya, tetapi AI membuatnya jauh lebih mendesak.

Teknologi prosesor berkembang dengan sangat pesat, tetapi semua daya komputasi itu disertai kendala fisik yang nyata. Pengalaman saya mengajarkan bahwa mengatasi masalah yang kurang terlihat itu bisa sama berharganya dengan mengembangkan teknologi yang menjadi sorotan semua orang.

Pembahasan tentang infrastruktur AI cenderung berfokus pada kinerja GPU, jaringan, dan pendinginan. Mengapa Anda percaya bahwa penyaluran daya sendiri kini menjadi salah satu kendala terpenting bagi peningkatan skala sistem AI?

Kita banyak membicarakan besarnya daya komputasi yang dapat dihasilkan GPU, tetapi jauh lebih jarang membahas cara menyalurkan listrik yang cukup ke GPU secara efisien. Akselerator AI modern membutuhkan arus ribuan ampere pada tegangan yang sangat rendah, dan kebutuhan dayanya dapat berubah hampir seketika, bergantung pada beban kerja. Sistem penyaluran daya tradisional tidak dirancang untuk menangani intensitas sebesar itu. Prosesor paling canggih di dunia pun tidak akan mampu mencapai potensi penuhnya jika daya yang stabil tidak dapat disalurkan saat dibutuhkan. Itulah sebabnya penyaluran daya menjadi bagian yang sangat penting dalam tantangan peningkatan skala AI.

Ketika operator pusat data membahas efisiensi energi, sebagian besar perhatian tertuju pada sistem pendinginan dan metrik tingkat fasilitas. Berapa banyak daya yang sebenarnya hilang di dalam server sebelum mencapai prosesor, dan mengapa masalah ini relatif kurang mendapat perhatian?

Tidak ada satu angka yang berlaku untuk setiap server, tetapi kehilangan dayanya bisa cukup besar. Pada arsitektur tertentu yang menggunakan arus tinggi, perkiraan kami menunjukkan bahwa sekitar 7–10% daya dapat hilang pada tahap akhir penyaluran ke prosesor. Energi itu tidak digunakan untuk komputasi yang bermanfaat, melainkan berubah menjadi panas yang kemudian harus dibuang. Saat ribuan prosesor beroperasi sepanjang waktu, inefisiensi yang relatif kecil sekalipun menjadi sangat mahal.

Salah satu alasan masalah ini luput dari perhatian adalah cara kita mengukur efisiensi pusat data secara tradisional. Power Usage Effectiveness, atau PUE, telah menjadi standar industri dan berguna untuk memahami beban tambahan fasilitas, termasuk pendinginan dan distribusi daya. Namun, metrik ini tidak menunjukkan seberapa efisien listrik dikonversi dan disalurkan di dalam server itu sendiri.

Saya tidak bermaksud mengatakan bahwa efisiensi pendinginan tidak penting; efisiensi itu jelas sangat penting. Namun, agak janggal jika kita mengeluarkan biaya sangat besar untuk membuang panas tanpa cukup memperhatikan sumber sebagian panas yang sebenarnya tidak perlu itu. Seharusnya, kita berupaya mencegah kehilangan tersebut sejak awal.

Seiring meningkatnya konsumsi daya GPU dan akselerator AI lainnya, keterbatasan apa yang mulai muncul pada arsitektur penyaluran daya tradisional di tingkat papan sirkuit?

Masalahnya akan lebih jelas jika kita melihat bagaimana daya sebenarnya disalurkan ke GPU. Dalam desain tradisional, konverter daya ditempatkan berdampingan dengan prosesor, sementara listrik mengalir secara horizontal melalui papan sirkuit untuk mencapainya. Jarak ini mungkin tampak tidak berarti, tetapi saat arus yang dialirkan mencapai ribuan ampere, hambatan sekecil apa pun tetap berpengaruh. Rugi-rugi resistif meningkat sebanding dengan kuadrat arus, yang berarti menggandakan arus melalui hambatan yang sama dapat melipatgandakan rugi-rugi tersebut hingga empat kali.

Tantangan lainnya adalah merespons perubahan kebutuhan daya yang cepat sambil mempertahankan tegangan yang stabil. Insinyur dapat mengatasinya dengan menambahkan kapasitor dan komponen lainnya, tetapi pendekatan tersebut memakan ruang yang berharga. Pada akhirnya, merancang ulang arsitektur akan lebih masuk akal daripada terus menambahkan komponen ke desain yang sudah ada.

Perubahan apa yang perlu dilakukan pada cara daya disalurkan dari rak server ke prosesor agar industri dapat terus meningkatkan kepadatan komputasi tanpa menimbulkan masalah termal atau efisiensi yang tidak berkelanjutan?

Banyak inovasi sudah berlangsung di tingkat rak, termasuk peralihan ke distribusi daya bertegangan lebih tinggi. Hal ini penting karena tegangan yang lebih tinggi memungkinkan listrik disalurkan dengan arus yang lebih rendah, sehingga mengurangi rugi-rugi dalam transmisi jarak jauh. Namun, pada akhirnya, listrik tersebut tetap harus dikonversi menjadi tegangan sangat rendah yang dibutuhkan prosesor, dan di sinilah beberapa tantangan tersulit masih harus diatasi.

Salah satu perkembangan yang paling menjanjikan adalah penyaluran daya vertikal, yang menempatkan konversi daya tepat di bawah prosesor, bukan di sampingnya. Memperpendek jalur listrik ini membantu mengurangi rugi-rugi dan mempercepat respons. Namun, pendekatan ini juga menghadirkan tantangan tersendiri: komponen penghasil panas ditempatkan jauh lebih berdekatan. Agar arsitektur seperti ini dapat diterapkan dalam skala besar, kita perlu berhenti memperlakukan penyaluran daya, manajemen termal, dan pengemasan sebagai pekerjaan rekayasa yang terpisah. Ketiganya harus dirancang bersama sejak awal.

Lotus Microsystems baru-baru ini memperkenalkan platform penyaluran daya vertikal vStrata. Masalah apa yang hendak diatasi dengan penyaluran daya vertikal, dan apa perbedaan pendekatan ini dengan arsitektur daya konvensional yang digunakan pada server AI saat ini?

Prinsip dasar penyaluran daya vertikal relatif sederhana. Alih-alih mengalirkan arus dalam jumlah sangat besar secara horizontal melintasi papan sirkuit, sumber daya ditempatkan tepat di bawah prosesor. Cara ini memangkas jalur listrik secara signifikan, mengurangi rugi-rugi, dan membantu sistem merespons lebih cepat ketika kebutuhan daya berubah.

Namun, ada perbedaan penting antara mendekatkan daya ke prosesor dan benar-benar mengatasi seluruh masalah. Panas juga terkonsentrasi di ruang yang lebih sempit, tepat di samping komponen yang sudah bekerja di bawah tekanan termal tinggi. Jika hal ini tidak ditangani, kita berisiko menciptakan hambatan baru saat berusaha mengatasi hambatan yang semula ada.

Itulah yang ingin kami atasi dengan vStrata. Teknologi Power Interposer Technology berbasis silikon milik kami memungkinkan penyaluran daya secara vertikal sekaligus mengintegrasikan manajemen termal ke dalam arsitektur yang sama. Modul pertama kami, LSC0580, dirancang untuk mencapai efisiensi titik beban hingga 96%, dengan penurunan suhu hingga 25°C dalam konfigurasi yang dioptimalkan. Tujuannya bukan sekadar menyalurkan arus lebih besar, melainkan membantu pusat data memperoleh lebih banyak komputasi yang bermanfaat dari jejak fisik yang sama, sekaligus mengurangi beban daya dan pendinginan yang diperlukan untuk mendukungnya.

Industri AI sering beranggapan bahwa peningkatan kinerja di masa depan akan berasal dari chip yang lebih baik atau proses semikonduktor yang lebih canggih. Pada akhirnya, mungkinkah perbaikan arsitektur daya sama pentingnya bagi kinerja AI dengan kemajuan pada prosesor itu sendiri?

Tentu saja. Kinerja teoretis prosesor hanya berguna jika sistem di sekitarnya memungkinkannya beroperasi pada tingkat tersebut. Jika penyaluran daya tidak mampu memenuhi kebutuhan, atau panas berlebih memaksa sistem menurunkan kinerja, Anda tidak memperoleh seluruh manfaat dari apa yang telah dibayar. Menariknya, arsitektur daya yang lebih baik dapat membantu meningkatkan kinerja berkelanjutan perangkat keras yang ada tanpa harus mengubah prosesornya. Saya tidak akan membingkainya sebagai pilihan antara chip yang lebih baik dan infrastruktur yang lebih baik. Kita membutuhkan keduanya, dan saya memperkirakan hubungan di antara keduanya akan semakin penting.

Pusat data AI sudah memberikan tekanan besar pada jaringan listrik di seluruh dunia. Seberapa besar perbaikan konversi dan penyaluran daya di tingkat server dapat mengurangi jejak energi keseluruhan infrastruktur AI skala besar?

Potensinya besar, meskipun sulit menetapkan satu angka karena dampaknya bergantung pada arsitektur dan skala fasilitas. Peningkatan satu poin persentase pada salah satu tahap konversi tidak serta-merta menghasilkan pengurangan sebesar itu pada total konsumsi listrik pusat data.

Namun, bayangkan dampaknya jika peningkatan efisiensi yang tergolong kecil sekalipun diterapkan pada ribuan prosesor yang beroperasi tanpa henti. Hasilnya bisa berupa pengurangan signifikan dalam energi yang terbuang, biaya operasional, belanja modal, serta jumlah panas yang harus ditangani oleh sistem pendingin. Hal ini sangat bermanfaat ketika kapasitas jaringan listrik sudah membatasi lokasi dan kecepatan pembangunan pusat data baru.

Dengan kata lain, energi paling ramah lingkungan adalah energi yang tidak pernah kita gunakan. Banyak upaya telah dicurahkan untuk mengamankan pasokan listrik yang lebih besar demi mendukung ekspansi AI, dan itu dapat dimengerti. Namun, kita seharusnya sama-sama berfokus pada pemanfaatan listrik yang sudah tersedia secara lebih baik.

Seiring perangkat keras AI beralih ke GPU berdaya lebih tinggi, akselerator khusus, dan sistem komputasi yang semakin padat, kendala teknis apa yang Anda perkirakan akan dihadapi para insinyur sistem daya dalam beberapa tahun ke depan?

Kebutuhan arus akan terus meningkat, dan kita sudah melihat tantangan yang ditimbulkannya. Beberapa prosesor AI memerlukan arus beberapa ribu ampere, sementara rancangan mendatang berpotensi mencapai 6.000 atau bahkan 8.000 ampere. Menyalurkan arus sebesar itu secara efisien saja sudah sulit, tetapi menjaga kestabilan tegangan saat beban kerja berubah dengan cepat menambah lapisan kerumitan lainnya.

Industri juga cenderung menjadikan kepadatan arus sebagai tolok ukur utama kemajuan. Menyalurkan arus yang lebih besar dari konverter daya yang lebih kecil memang mengesankan, tetapi jika jumlah panas yang dihasilkan tetap sama dalam ruang yang lebih sempit, belum tentu sistem secara keseluruhan menjadi lebih baik. Bahkan, masalah termalnya mungkin justru semakin parah. Menurut saya, kemajuan terbesar akan dicapai oleh para insinyur yang mampu menyeimbangkan efisiensi, kinerja termal, respons dinamis, dan keandalan.

Menilik generasi berikutnya dari infrastruktur AI, perubahan apa yang diperlukan dalam penyaluran daya, pendinginan, pengemasan semikonduktor, dan arsitektur sistem untuk mendukung peningkatan besar berikutnya dalam kapasitas komputasi AI?

Saya memperkirakan integrasi antara penyaluran daya dan prosesor itu sendiri akan jauh lebih erat. Penyaluran daya vertikal merupakan langkah penting, tetapi menurut saya perkembangannya tidak akan berhenti sampai di situ. Kita sudah mengembangkan modul daya yang lebih tipis untuk ditanamkan ke dalam papan sirkuit, dan pada akhirnya, arsitektur yang mengintegrasikan lebih banyak fungsi penyaluran daya langsung ke dalam kemasan xPU. Setiap langkah mendekatkan daya ke tempat daya itu benar-benar digunakan.

Teknologi pendinginan juga harus berkembang seiring perubahan tersebut. Pendinginan cair semakin penting untuk komputasi berkepadatan tinggi, tetapi meningkatkan kemampuan kita membuang panas hanyalah salah satu bagian dari solusi. Kita juga perlu mengurangi panas yang tidak perlu dihasilkan dan menemukan cara yang lebih baik untuk mengelolanya di dekat sumbernya.

Mungkin perubahan terbesar terletak pada cara sistem-sistem ini dikembangkan. Secara tradisional, berbagai bagian dalam tumpukan perangkat keras sering kali dioptimalkan secara terpisah. Pada tingkat daya yang sedang kita tuju, pendekatan itu semakin sulit dilakukan. Produsen chip, spesialis elektronika daya, insinyur pengemasan, dan perancang sistem perlu bekerja sama jauh lebih erat. Selama bertahun-tahun, kita telah mendorong kemampuan masing-masing prosesor hingga batasnya, tetapi tahap berikutnya dalam pengembangan infrastruktur AI akan berfokus pada memastikan bahwa seluruh sistem mampu mendukung kemampuan prosesor tersebut.

Terima kasih atas wawancara yang menarik ini. Para pembaca yang ingin mempelajari lebih lanjut tentang penyaluran daya vertikal dan manajemen termal untuk infrastruktur AI dapat mengunjungi Lotus Microsystems.