Sistem Baru Dapat Membawa AI ke Perangkat Wearable, Peralatan Rumah Tangga

Tim peneliti di MIT sedang mengerjakan proyek untuk membawa jaringan neural dalam ke mikrokontroler. Kemajuan ini berarti kecerdasan buatan (AI) dapat diimplementasikan ke dalam chip komputer kecil di perangkat medis wearable, peralatan rumah tangga, dan 250 miliar objek lain yang merupakan bagian dari “internet of things” (IoT). IoT adalah jaringan objek fisik yang disematkan dengan sensor, perangkat lunak, dan teknologi lainnya, yang membantu menghubungkan dan menukar data dengan perangkat dan sistem lain.

Penelitian ini akan dipresentasikan pada Konferensi Sistem Informasi Neural di bulan Desember. Penulis utama penelitian ini adalah Ji Lin, seorang mahasiswa Ph.D. di laboratorium Song Han di Departemen Teknik Elektro dan Ilmu Komputer MIT. Co-penulis termasuk Han dan Yujun Lin dari MIT, Wei-Ming Chen dari MIT dan Universitas Nasional Taiwan, dan John Cohn dan Chuan Gan dari Laboratorium MIT-IBM Watson.

Sistem MCUNet

Sistem ini disebut MCUNet, dan dirancang untuk membuat jaringan neural yang kompak dan dapat berjalan dengan kecepatan dan akurasi yang ekstrem pada perangkat IoT, bahkan dengan memori dan daya pemrosesan yang terbatas. Sistem ini dapat lebih hemat energi dan meningkatkan keamanan data.

Tim mengembangkan “tiny deep learning” sistem ini dengan menggabungkan dua komponen – operasi jaringan neural dan mikrokontroler. Komponen pertama adalah TinyEngine, sebuah mesin antarmuka yang berfungsi sebagai sistem operasi dengan mengarahkan manajemen sumber daya. TinyEngine dioptimalkan untuk menjalankan struktur jaringan neural tertentu yang dipilih oleh TinyNAS, yang merupakan komponen lainnya. TinyNAS adalah algoritma pencarian arsitektur neural.

Lin mengembangkan TinyNAS karena kesulitan menerapkan teknik pencarian arsitektur neural yang ada ke mikrokontroler kecil. Teknik-teknik ini akhirnya menemukan struktur jaringan yang paling akurat dan efisien setelah memulai dengan banyak kemungkinan berdasarkan template yang telah ditentukan sebelumnya.

“Ini dapat bekerja dengan baik untuk GPU atau smartphone,” kata Lin. “Tapi ini sulit untuk diterapkan langsung ke mikrokontroler kecil, karena mereka terlalu kecil.”

TinyNAS dapat membuat jaringan dengan ukuran yang disesuaikan.

“Kami memiliki banyak mikrokontroler yang datang dengan kapasitas daya yang berbeda dan ukuran memori yang berbeda,” kata Lin. “Jadi kami mengembangkan algoritma [TinyNAS] untuk mengoptimalkan ruang pencarian untuk mikrokontroler yang berbeda.”

Karena TinyNAS dapat disesuaikan, maka dapat menghasilkan jaringan neural yang kompak dan terbaik untuk mikrokontroler.

“Kemudian kami mengirimkan model yang final dan efisien ke mikrokontroler,” lanjut Lin.

Antarmuka yang bersih dan ramping diperlukan untuk mikrokontroler agar dapat menjalankan jaringan neural yang kecil. Banyak mesin antarmuka memiliki instruksi untuk tugas yang jarang dijalankan, yang dapat menghambat mikrokontroler.

“Ini tidak memiliki memori off-chip, dan tidak memiliki disk,” kata Han. “Semuanya digabungkan menjadi hanya satu megabyte flash, jadi kami harus sangat hati-hati mengelola sumber daya yang sangat kecil ini.”

TinyEngine menghasilkan kode yang diperlukan untuk menjalankan jaringan neural yang disesuaikan yang dikembangkan oleh TinyNAS. Waktu kompilasi dikurangi dengan membuang kode yang tidak perlu.

“Kami hanya menyimpan apa yang kami butuhkan,” kata Han. “Dan karena kami merancang jaringan neural, kami tahu persis apa yang kami butuhkan. Ini adalah kelebihan dari desain sistem-algoritma.”

Pengujian menunjukkan bahwa kode biner yang dikompilasi oleh TinyEngine 1,9 hingga lima kali lebih kecil daripada mesin mikrokontroler lainnya, termasuk yang dari Google (GOOGL ) dan ARM. Penggunaan memori puncak juga dikurangi hampir setengahnya.

Kemampuan MCUNet

Pengujian pertama untuk MCUNet berkisar pada klasifikasi gambar. Basis data ImageNet digunakan untuk melatih sistem dengan gambar yang dilabeli, dan kemampuannya kemudian diuji pada gambar yang baru.

Ketika MCUNet diuji pada mikrokontroler komersial, berhasil mengklasifikasikan 70,7 persen dari gambar yang baru. Ini jauh lebih baik daripada jaringan neural dan mesin antarmuka sebelumnya, yang hanya 54 persen akurat.

“Bahkan peningkatan 1 persen dianggap signifikan,” kata Lin. “Jadi ini adalah lompatan besar untuk pengaturan mikrokontroler.”

Menurut Kurt Keutzer, seorang ilmuwan komputer di Universitas California, Berkeley, ini “memperluas batas desain jaringan neural dalam ke mikrokontroler kecil yang hemat energi.” MCUNet dapat “membawa kemampuan penglihatan komputer yang cerdas ke peralatan rumah tangga sederhana, atau memungkinkan sensor gerak yang lebih cerdas.”

MCUNet juga meningkatkan keamanan data.

“Kelebihan utama adalah menjaga privasi,” kata Han. “Anda tidak perlu mengirimkan data ke cloud.”

Dengan menganalisis data secara lokal, ada kemungkinan yang lebih kecil bahwa informasi pribadi akan dikompromikan.

Selain itu, MCUNet dapat menganalisis dan memberikan wawasan tentang informasi seperti detak jantung, tekanan darah, dan tingkat oksigen, membawa pembelajaran dalam ke perangkat IoT di kendaraan dan tempat lain dengan akses internet terbatas, dan mengurangi jejak karbon dengan hanya menggunakan sebagian kecil dari energi yang diperlukan untuk jaringan neural besar.