Munculnya Unit Pemrosesan Neural: Meningkatkan Kecepatan dan Keberlanjutan AI Generatif di Perangkat

Evolusi AI generatif tidak hanya mengubah interaksi dan pengalaman kita dengan perangkat komputasi, tetapi juga mengubah inti komputasi itu sendiri. Salah satu pendorong utama transformasi ini adalah kebutuhan untuk menjalankan AI generatif di perangkat dengan sumber daya komputasi yang terbatas. Artikel ini membahas tantangan yang dihadapi dan bagaimana unit pemrosesan neural (NPUs) muncul untuk memecahkan masalah tersebut. Selain itu, artikel ini memperkenalkan beberapa prosesor NPU terbaru yang memimpin di bidang ini.

Tantangan Infrastruktur AI Generatif di Perangkat

AI generatif, yang merupakan kekuatan di balik sintesis gambar, generasi teks, dan komposisi musik, memerlukan sumber daya komputasi yang substansial. Secara konvensional, kebutuhan ini dipenuhi dengan memanfaatkan kemampuan luas platform cloud. Meskipun efektif, pendekatan ini memiliki serangkaian tantangan untuk AI generatif di perangkat, termasuk ketergantungan pada koneksi internet yang konstan dan infrastruktur terpusat. Ketergantungan ini memperkenalkan latensi, kerentanan keamanan, dan konsumsi energi yang lebih tinggi.

Tulang punggung infrastruktur AI berbasis cloud sebagian besar bergantung pada unit pemrosesan pusat (CPUs) dan unit pemrosesan grafis (GPUs) untuk menangani kebutuhan komputasi AI generatif. Namun, ketika diterapkan pada AI generatif di perangkat, prosesor ini menghadapi hambatan signifikan. CPUs dirancang untuk tugas umum dan kekurangan arsitektur khusus yang diperlukan untuk eksekusi efisien dan hemat daya dari beban kerja AI generatif. Kemampuan pemrosesan paralel terbatas mereka menghasilkan throughput yang berkurang, latensi yang lebih tinggi, dan konsumsi daya yang lebih tinggi, membuatnya kurang ideal untuk AI di perangkat. Di sisi lain, meskipun GPUs dapat unggul dalam pemrosesan paralel, mereka dirancang terutama untuk tugas pemrosesan grafis. Untuk melakukan tugas AI generatif secara efektif, GPUs memerlukan sirkuit terintegrasi khusus, yang mengonsumsi daya tinggi dan menghasilkan panas yang signifikan. Selain itu, ukuran fisik mereka yang besar menciptakan hambatan untuk penggunaannya dalam aplikasi perangkat yang kompak.

Munculnya Unit Pemrosesan Neural (NPUs)

Sebagai respons atas tantangan di atas, unit pemrosesan neural (NPUs) muncul sebagai teknologi transformatif untuk mengimplementasikan AI generatif di perangkat. Arsitektur NPUs terutama terinspirasi oleh struktur dan fungsi otak manusia, terutama bagaimana neuron dan sinapsis bekerja sama untuk memproses informasi. Dalam NPUs, neuron buatan bertindak sebagai unit dasar, mencerminkan neuron biologis dengan menerima input, memprosesnya, dan menghasilkan output. Neuron ini dihubungkan oleh sinapsis buatan, yang mengirim sinyal antar neuron dengan kekuatan yang berbeda-beda yang disesuaikan selama proses pembelajaran. Ini meniru proses perubahan bobot sinapsis di otak. NPUs disusun dalam lapisan; lapisan input yang menerima data mentah, lapisan tersembunyi yang melakukan pemrosesan antara, dan lapisan output yang menghasilkan hasil. Struktur berlapis ini mencerminkan kemampuan pemrosesan informasi paralel dan multistage otak. Karena AI generatif juga dibangun menggunakan struktur serupa dari jaringan neuron buatan, NPUs sangat sesuai untuk mengelola beban kerja AI generatif. Keselarasan struktural ini mengurangi kebutuhan akan sirkuit terintegrasi khusus, menghasilkan solusi yang lebih kompak, hemat energi, cepat, dan berkelanjutan.

Mengatasi Kebutuhan Komputasi yang Beragam dari AI Generatif

AI generatif mencakup berbagai tugas, termasuk sintesis gambar, generasi teks, dan komposisi musik, masing-masing dengan kebutuhan komputasi unik. Misalnya, sintesis gambar sangat bergantung pada operasi matriks, sedangkan generasi teks melibatkan pemrosesan berurutan. Untuk secara efektif memenuhi kebutuhan komputasi yang beragam ini, unit pemrosesan neural (NPUs) sering diintegrasikan ke dalam teknologi System-on-Chip (SoC) bersama dengan CPUs dan GPUs.

Masing-masing prosesor ini menawarkan kekuatan komputasi yang unik. CPUs sangat cocok untuk kontrol berurutan dan kecepatan, GPUs unggul dalam pemrosesan data paralel, dan NPUs sangat sesuai untuk operasi inti AI, menangani matematika skalar, vektor, dan tensor. Dengan memanfaatkan arsitektur komputasi heterogen, tugas dapat diberikan kepada prosesor berdasarkan kekuatan dan kebutuhan tugas tertentu.

NPUs, yang dioptimalkan untuk beban kerja AI, dapat secara efisien memindahkan tugas AI generatif dari CPU utama. Pemindahan ini tidak hanya memastikan operasi yang cepat dan hemat energi tetapi juga mempercepat tugas inferensi AI, memungkinkan model AI generatif berjalan lebih lancar di perangkat. Dengan NPUs menangani tugas terkait AI, CPUs dan GPUs dapat mengalokasikan sumber daya untuk fungsi lain, sehingga meningkatkan kinerja aplikasi secara keseluruhan sambil mempertahankan efisiensi termal.

Contoh Dunia Nyata dari NPUs

Pengembangan NPUs mendapatkan momentum. Berikut beberapa contoh dunia nyata dari NPUs:

• Hexagon NPUs oleh Qualcomm (QCOM ) dirancang khusus untuk mempercepat tugas inferensi AI pada perangkat dengan daya dan sumber daya yang terbatas. Ini dibangun untuk menangani tugas AI generatif seperti generasi teks, sintesis gambar, dan pemrosesan audio. Hexagon NPU diintegrasikan ke dalam platform Snapdragon Qualcomm, menyediakan eksekusi efisien dari model jaringan neural di perangkat dengan produk AI Qualcomm.
• Mesin Neural Apple (AAPL ) adalah komponen kunci dari chip A-series dan M-series, yang memungkinkan berbagai fitur AI seperti Face ID, Siri, dan realitas tertambah (AR). Mesin Neural mempercepat tugas seperti pengenalan wajah untuk Face ID yang aman, pemrosesan bahasa alami (NLP) untuk Siri, dan pemahaman objek dan adegan yang ditingkatkan untuk aplikasi AR. Ini secara signifikan meningkatkan kinerja tugas terkait AI di perangkat Apple, menyediakan pengalaman pengguna yang lancar dan efisien.
• NPU Samsung adalah prosesor khusus yang dirancang untuk komputasi AI, mampu menangani ribuan komputasi secara bersamaan. Diintegrasikan ke dalam SoC Exynos Samsung terbaru, yang memungkinkan banyak ponsel Samsung, teknologi NPU ini memungkinkan komputasi AI generatif dengan kecepatan tinggi dan konsumsi daya rendah. Teknologi NPU Samsung juga diintegrasikan ke dalam TV flagship, memungkinkan inovasi suara yang didorong AI dan meningkatkan pengalaman pengguna.
• Arsitektur Da Vinci dari Huawei berfungsi sebagai inti dari prosesor AI Ascend, yang dirancang untuk meningkatkan kemampuan komputasi AI. Arsitektur ini menggunakan mesin komputasi kubus 3D berkinerja tinggi, membuatnya kuat untuk beban kerja AI.

Ringkasan

AI generatif mengubah interaksi kita dengan perangkat dan mengubah komputasi. Tantangan menjalankan AI generatif di perangkat dengan sumber daya komputasi terbatas sangat signifikan, dan CPU serta GPU tradisional sering kali tidak memadai. Unit pemrosesan neural (NPUs) menawarkan solusi yang menjanjikan dengan arsitektur khusus yang dirancang untuk memenuhi kebutuhan AI generatif. Dengan mengintegrasikan NPUs ke dalam teknologi System-on-Chip (SoC) bersama dengan CPU dan GPU, kita dapat memanfaatkan kekuatan masing-masing prosesor, menghasilkan kinerja AI yang lebih cepat, efisien, dan berkelanjutan di perangkat. Ketika NPUs terus berkembang, mereka akan meningkatkan kemampuan AI di perangkat, membuat aplikasi lebih responsif dan hemat energi.