Kemajuan dalam Mikrochip Membawa Kita Lebih Dekat ke Edge Computing AI

Peneliti dari Universitas Princeton telah mengembangkan perangkat keras dan perangkat lunak yang dirancang untuk lebih meningkatkan kecepatan dan efisiensi sistem kecerdasan buatan (AI) khusus.

Naveen Verma adalah profesor teknik elektro dan komputer di Princeton yang memimpin tim penelitian.

“Perangkat lunak adalah bagian kritis dari pengembangan perangkat keras baru,” kata Verma. “Harapannya adalah para desainer dapat terus menggunakan sistem perangkat lunak yang sama — dan hanya membuatnya bekerja sepuluh kali lebih cepat dan efisien.”

Sistem yang dikembangkan oleh peneliti mengurangi kebutuhan daya dan jumlah data yang perlu dipertukarkan dari server jarak jauh. Dengan ini, aplikasi AI seperti perangkat lunak pilot untuk drone dapat dilakukan di tepi infrastruktur komputasi.

Verma juga adalah direktur Pusat Inovasi Keller untuk Pendidikan Teknik di Universitas.

“Untuk membuat AI dapat diakses oleh proses waktu nyata dan sering pribadi di sekitar kita, kita perlu mengatasi keterlambatan dan privasi dengan memindahkan komputasi itu sendiri ke tepi” kata Verma. “Dan itu memerlukan efisiensi energi dan kinerja.”

Desain Chip Baru

Tim dari Princeton mengembangkan desain chip baru dua tahun yang lalu, dan itu dimaksudkan untuk meningkatkan kinerja jaringan saraf. Chip dapat melakukan puluhan hingga ratusan kali lebih baik daripada mikrochip lain di pasar.

“Kerugian besar chip adalah bahwa itu menggunakan arsitektur yang sangat tidak biasa dan mengganggu,” kata Verma pada 2018. “Itu perlu direkonsiliasi dengan infrastruktur dan metode desain besar yang kita miliki dan gunakan hari ini.”

Chip tersebut terus diperbarui selama dua tahun berikutnya, dan sistem perangkat lunak dibuat untuk memungkinkan sistem AI menggunakan teknologi baru secara efisien. Ideanya adalah bahwa chip baru dapat memungkinkan sistem untuk diskalakan dalam perangkat keras dan eksekusi perangkat lunak.

“Ini dapat diprogram di seluruh jaringan,” kata Verma. “Jaringan dapat sangat besar, dan mereka dapat sangat kecil.”

Skenario terbaik untuk komputasi adalah untuk itu dilakukan pada teknologi itu sendiri, bukan di komputer jaringan jarak jauh. Namun, ini memerlukan sejumlah besar daya dan penyimpanan memori, yang membuatnya sulit untuk merancang sistem seperti itu.

Untuk mengatasi keterbatasan ini, peneliti merancang chip yang melakukan komputasi dan menyimpan data di area yang sama, yang disebut komputasi dalam memori. Teknik ini memotong energi dan waktu yang dibutuhkan untuk bertukar informasi dengan memori khusus.

Untuk menghindari operasi analog, yang diperlukan untuk komputasi dalam memori dan sensitif terhadap korupsi, tim tersebut bergantung pada kapasitor bukan transistor dalam desain chip. Kapasitor tidak menghadapi efek yang sama dengan perubahan tegangan, dan mereka lebih presisi.

Meskipun ada tantangan lain yang mengelilingi sistem analog, mereka membawa banyak keuntungan ketika digunakan untuk aplikasi seperti jaringan saraf. Peneliti sekarang mencari untuk menggabungkan kedua jenis sistem, karena sistem digital adalah sentral sementara jaringan saraf yang mengandalkan chip analog dapat menjalankan operasi khusus yang cepat dan efisien.