Menjinakkan Monster: Bagaimana Regulator Tegangan Terintegrasi Menyelesaikan Krisis Daya AI

Kecerdasan buatan sangat lapar. Dari pelatihan model bahasa besar hingga memungkinkan inferensi waktu nyata di cloud, kebutuhan komputasi AI meningkat pesat. Ini menciptakan krisis sekunder yang mengancam untuk menghambat kemajuan: kelaparan listrik yang tidak berkelanjutan. Pusat data, katedral komputasi modern, berada di jalur untuk mengonsumsi sebagian besar listrik dunia, dengan beban kerja AI sebagai penggerak utama. Menurut Badan Energi Internasional (IEA), pusat data mengonsumsi sekitar 2% listrik global pada tahun 2022, dan angka ini diperkirakan akan meningkat secara dramatis.

Masalah daya ini tidak hanya tentang tagihan listrik yang besar dan dampak lingkungan; ini adalah bottleneck rekayasa dasar. Prosesor yang memungkinkan AI—GPU, TPU, dan ASIC kustom—menghadapi dinding termal. Anda tidak bisa terus memasukkan lebih banyak transistor ke dalam chip jika Anda tidak bisa mengantarkan daya secara bersih dan efisien tanpa membuat chip terlalu panas. Tantangan terletak tidak hanya dalam menghasilkan daya, tetapi juga dalam mengantarkannya secara efektif dalam beberapa milimeter terakhir sebelum mencapai silikon. Namun, sekarang, teknologi kecil yang dikenal sebagai Regulator Tegangan Terintegrasi (IVR) secara mendasar mengubah masa depan komputasi kinerja tinggi.

Masalah “Inch Terakhir” dalam Pengiriman Daya

Untuk memahami inovasi IVR, satu harus memahami metode tradisional untuk memberi daya pada chip kinerja tinggi. Prosesor modern memiliki miliaran transistor yang berubah-ubah miliaran kali per detik. Operasi ini memerlukan pasokan daya DC yang presisi, stabil, dan rendah tegangan. Namun, daya yang datang dari dinding adalah tegangan tinggi AC. Perjalanan dari soket dinding ke silikon melibatkan rantai konversi dan regulasi yang kompleks yang dikenal sebagai Jaringan Pengiriman Daya (PDN).

Secara umum, proses ini melibatkan beberapa tahap. Daya dikonversi dan diturunkan pada motherboard server, dan konversi akhir yang kritis ditangani oleh komponen yang disebut Regulator Tegangan (VR). VR ini biasanya adalah komponen diskrit yang besar—kumpulan pengontrol, tahap daya, dan induktor berinti kawat yang besar—yang duduk di motherboard yang mengelilingi soket prosesor.

Pendekatan tradisional ini memiliki beberapa kelemahan kritis di era AI:

1. Energi yang Terbuang: Daya harus bepergian dari VR yang tidak ada di chip melintasi motherboard dan melalui kemasan chip. Setiap milimeter dari jalur ini memperkenalkan resistansi, yang menyebabkan kehilangan daya yang signifikan (I2R loss). Daya yang hilang ini disebarkan sebagai panas, yang kemudian harus dihilangkan oleh sistem pendingin yang lebih banyak daya.
2. Waktu Respon yang Lambat: Ketika prosesor tiba-tiba beralih dari keadaan idle ke keadaan beban penuh (skenario umum dalam beban kerja AI yang disebut beban transien), itu memerlukan arus besar yang instan. VR yang tidak ada di chip dapat terlalu lambat untuk merespons, menyebabkan penurunan tegangan sementara, atau “droop.” Untuk mengkompensasi, insinyur harus merancang sistem secara keseluruhan untuk berjalan pada tegangan dasar yang lebih tinggi, membuang lebih banyak daya.
3. Batasan Ruang: Komponen yang tidak ada di chip ini mengonsumsi real estat yang berharga di motherboard, ruang yang bisa digunakan untuk lebih banyak saluran memori, interkoneksi yang lebih cepat, atau fitur kinerja lainnya. “Pantai” di sekitar prosesor adalah salah satu yang paling berharga dalam elektronik.

Daya di Chip dan Magnetik Tipis-Film

Kemajuan terbaru dalam teknologi magnetik tipis-film sekarang memungkinkan induktor kinerja tinggi untuk dibuat langsung ke chip atau substrat paket menggunakan teknik fabrikasi semikonduktor. Induktor mikroskopis yang efisien ini memungkinkan regulator tegangan keseluruhan untuk duduk hanya beberapa mikron dari sirkuit yang diberi daya.

Perubahan lokasi ini memberikan beberapa keuntungan:

• Pengurangan Kehilangan Daya: Memendekkan jalur pengiriman daya dari inci ke mikron secara signifikan mengurangi energi yang hilang selama transmisi, meningkatkan efisiensi sistem secara keseluruhan.
• Manajemen Daya yang Granular: Beberapa domain daya ultra-rendah tegangan yang independen dapat memberikan secara tepat apa yang dibutuhkan setiap inti atau blok fungsional, kapan dibutuhkan, dan mematikan secara instan ketika tidak dibutuhkan.
• Respon yang Hampir Instan: IVR di paket merespons beban transien dalam nanodetik, hampir menghilangkan penurunan tegangan, dan memungkinkan tegangan operasional yang lebih rendah dan lebih efisien tanpa mengorbankan kinerja.
• Desain yang Disederhanakan dan Footprint yang Lebih Kecil: Menghapus regulator tegangan dari motherboard membebaskan ruang papan, menyederhanakan desain, dan mendukung arsitektur yang lebih padat dan kinerja tinggi.

Mengarsitektur Kembali Masa Depan Perangkat Keras AI

Manfaat IVR secara langsung mengatasi tantangan terbesar yang dihadapi oleh perancang perangkat keras AI. Untuk perusahaan yang mengembangkan generasi berikutnya GPU dan akselerator AI, manajemen daya terintegrasi bukanlah “nice-to-have”; ini adalah teknologi yang memungkinkan.

Teknik pengemasan semikonduktor canggih seperti chiplet dan 3D stacking dilihat sebagai jalur ke depan sekarang bahwa penskalaan Hukum Moore yang tradisional melambat. Teknik ini melibatkan merakit beberapa die kecil yang berspesialisasi menjadi satu paket yang kuat. Seperti yang dijelaskan oleh pemimpin industri seperti TSMC dengan teknologi CoWoS-nya, pendekatan ini memerlukan strategi pengiriman daya yang canggih. IVR, termasuk yang dibuat oleh Ferric, sangat sesuai untuk paradigma ini, memberikan daya granular dan efisien yang diperlukan untuk mengelola sistem heterogen yang kompleks ini.

Tantangan dan Kesimpulan

Jalan menuju adopsi yang luas tidak tanpa hambatan. Mengintegrasikan bahan dan proses baru ke dalam ekosistem manufaktur semikonduktor yang sangat konservatif dan kompleks adalah tugas monumental.

Namun, kebutuhan akan solusi tidak dapat disangkal. Trajektori konsumsi daya saat ini di AI tidak berkelanjutan. Hanya membuat transistor lebih kecil tidak cukup; perancangan ulang holistik dari sistem secara keseluruhan, dari perangkat lunak hingga pengiriman daya, diperlukan. Pekerjaan perusahaan seperti Ferric mewakili bagian kritis dari teka-teki itu. Dengan menjinakkan monster daya di sumbernya, mereka tidak hanya menciptakan komponen yang lebih efisien tetapi juga membuka jalan bagi generasi berikutnya AI dan komputasi kinerja tinggi.

Perjalanan inovasi perangkat keras adalah mengatasi bottleneck. Selama beberapa dekade, fokusnya adalah pada kecepatan komputasi dan kepadatan transistor. Hari ini, bottleneck paling mendesak adalah daya. Perusahaan yang menyelesaikan tantangan ini akan mendefinisikan lanskap komputasi untuk tahun-tahun mendatang.

Apa yang Anda pikir akan menjadi bottleneck utama berikutnya dalam desain perangkat keras AI setelah pengiriman daya dioptimalkan? Bagaimana kemajuan dalam efisiensi energi akan mengubah ekonomi penerapan AI skala besar?