Kemajuan dalam Mikrochip Membawa Kita Lebih Dekat ke Edge Computing AI

Peneliti dari Universitas Princeton telah mengembangkan perangkat keras dan perangkat lunak yang dirancang untuk lebih meningkatkan kecepatan dan efisiensi sistem kecerdasan buatan (AI) khusus.

Naveen Verma adalah profesor teknik elektro dan komputer di Princeton yang memimpin tim penelitian.

“Perangkat lunak adalah bagian kritis dalam memungkinkan perangkat keras baru,” kata Verma. “Harapannya adalah desainer dapat terus menggunakan sistem perangkat lunak yang sama — dan hanya membuatnya bekerja sepuluh kali lebih cepat dan efisien.”

Sistem yang dikembangkan oleh peneliti mengurangi kebutuhan daya dan jumlah data yang perlu dipertukarkan dari server jarak jauh. Dengan ini, aplikasi AI seperti perangkat lunak pengendali drone dapat berlangsung di tepi infrastruktur komputasi.

Verma juga merupakan direktur Pusat Inovasi Pendidikan Teknik Universitas Keller.

“Untuk membuat AI dapat diakses oleh proses waktu nyata dan seringkali pribadi di sekitar kita, kita perlu mengatasi keterlambatan dan privasi dengan memindahkan komputasi itu sendiri ke tepi” kata Verma. “Dan itu memerlukan efisiensi energi dan kinerja.”

Desain Chip Baru

Tim dari Princeton mengembangkan desain chip baru dua tahun yang lalu, dan itu dimaksudkan untuk meningkatkan kinerja jaringan saraf. Chip tersebut dapat melakukan puluhan hingga ratusan kali lebih baik daripada mikrochip lain di pasar.

“Kelemahan besar chip adalah bahwa itu menggunakan arsitektur yang sangat tidak biasa dan mengganggu,” kata Verma pada 2018. “Itu perlu direkonsiliasi dengan infrastruktur dan metode desain yang besar yang kita miliki dan gunakan hari ini.”

Chip tersebut terus diperbarui selama dua tahun berikutnya, dan sistem perangkat lunak dibuat untuk memungkinkan sistem AI menggunakan teknologi baru secara efisien. Ide tersebut adalah bahwa chip baru dapat memungkinkan sistem untuk diskalabel dalam perangkat keras dan eksekusi perangkat lunak.

“Ini dapat diprogram di seluruh jaringan,” kata Verma. “Jaringan dapat sangat besar, dan mereka dapat sangat kecil.”

Skenario terbaik untuk komputasi adalah untuk itu terjadi pada teknologi itu sendiri, bukan di komputer jaringan jarak jauh. Namun, ini memerlukan sejumlah besar daya dan penyimpanan memori, yang membuatnya sulit untuk merancang sistem seperti itu.

Untuk mengatasi keterbatasan ini, peneliti merancang chip yang melakukan komputasi dan menyimpan data di area yang sama, yang disebut komputasi dalam memori. Teknik ini memotong energi dan waktu yang dibutuhkan untuk bertukar informasi dengan memori khusus.

Untuk menghindari operasi analog, yang diperlukan untuk komputasi dalam memori dan sensitif terhadap korupsi, tim bergantung pada kapasitor bukan transistor dalam desain chip. Kapasitor tidak menghadapi efek yang sama dengan pergeseran tegangan, dan mereka lebih presisi.

Meskipun berbagai tantangan lain yang mengelilingi sistem analog, mereka membawa banyak kelebihan ketika digunakan untuk aplikasi seperti jaringan saraf. Peneliti sekarang berusaha untuk menggabungkan kedua jenis sistem, karena sistem digital adalah pusat sementara jaringan saraf yang bergantung pada chip analog dapat menjalankan operasi khusus dengan cepat dan efisien.