Dasar-dasar AI
Apa Itu TinyML? Pembelajaran Mesin pada Mikrokontroler
Tambahkan Unite.AI ke sumber pilihan Anda di Google
TinyML membawa inferensi pembelajaran mesin ke perangkat yang sangat terbatas seperti mikrokontroler, prosesor sinyal digital kecil, dan sensor berdaya rendah. Sistem-sistem ini mungkin memiliki memori dalam kilobyte atau megabyte, anggaran energi yang ketat, tidak memiliki koneksi jaringan terus‑menerus, dan tenggat waktu waktu nyata.
Nilainya bukan hanya model yang lebih kecil. Pemrosesan dekat sensor dapat mengurangi latensi, bandwidth, dan paparan data mentah sekaligus memungkinkan produk yang beroperasi dalam periode lama dengan baterai atau energi yang dihasilkan.
Poin penting
- TinyML didefinisikan oleh keseluruhan anggaran perangkat keras dan perangkat lunak, bukan oleh satu ambang ukuran model.
- Kuantisasi, arsitektur kompak, kernel yang dioptimalkan, dan buffering yang hati‑hati membuat penyebaran menjadi mungkin.
- Inferensi di perangkat dapat meningkatkan privasi, tetapi pembaruan yang aman dan tata kelola data tetap penting.
- Ukur akurasi bersama dengan latensi, memori puncak, energi, siklus tugas, dan ketahanan.
Tumpukan TinyML
Sebuah sensor menangkap audio, gerakan, getaran, gambar, atau sinyal lainnya. Firmware memprosesnya menjadi fitur atau tensor; sebuah model kompak dijalankan melalui runtime tersemat; logika aplikasi memutuskan apakah harus membangunkan sistem yang lebih besar atau bertindak secara lokal.
Ini merupakan bentuk terbatas dari edge AI. Perangkat keras dapat mencakup MCU, memori, antarmuka sensor, dan terkadang akselerator neural. Setiap buffer, operator, dan penyalinan bersaing untuk sumber daya yang terbatas.
Sesuaikan model
Kuantisasi menggantikan nilai presisi tinggi dengan representasi integer yang lebih kecil. Pemangkasan, distilasi, rekayasa fitur, dan pencarian arsitektur dapat mengurangi komputasi atau penyimpanan. Dukungan operator dalam runtime target membatasi model mana yang praktis.
Pelatihan sering terjadi pada perangkat keras yang lebih besar, kemudian model dikonversi dan dikompilasi untuk perangkat. Transfer learning dapat mengurangi kebutuhan data, tetapi artefak akhir harus dievaluasi setelah konversi karena perubahan numerik dapat memengaruhi akurasi.
Data dan pergeseran lingkungan
Rekaman laboratorium jarang mewakili setiap mikrofon, posisi pemasangan, suhu, pola getaran, aksen, atau kondisi latar belakang. Kumpulkan data dari perangkat dan lingkungan yang representatif, pertahankan sumber pelatihan dan pengujian secara independen, dan sertakan kasus ‘tidak ada di atas’.
Pemicu palsu dapat membuang energi atau mengganggu pengguna; anomali yang terlewat dapat mahal. Pilih ambang batas dengan mempertimbangkan biaya kesalahan yang sebenarnya, dan pantau kinerja di lapangan melalui ringkasan yang melindungi privasi atau diagnostik sampel bila tepat.
Ukur seluruh perangkat
Jumlah operasi model tidak sama dengan kinerja produk. Laporkan frekuensi bangun, waktu pra‑pemrosesan, latensi inferensi, RAM puncak, penggunaan flash, daya rata‑rata dan puncak, perilaku termal, serta dampak baterai dalam siklus tugas yang eksplisit.
Rencanakan pembaruan firmware dan model yang ditandatangani, rollback, identitas perangkat, dan respons kerentanan. Perangkat kecil dapat tetap dipasang selama bertahun‑tahun, sehingga kemampuan pemeliharaan menjadi bagian dari kualitas model. Kontrol keamanan siber tidak dapat ditunda hanya karena perangkatnya kecil.
Penganggaran memori dan komputasi
Flash menyimpan firmware, bobot model, dan konstanta; RAM menampung buffer sensor, aktivasi menengah, dan status runtime. Memori aktivasi puncak dapat melebihi ukuran bobot, terutama pada lapisan konvolusional awal. Perencana memori dapat menggunakan kembali buffer yang masa hidupnya tidak tumpang tindih, sementara fitur streaming menghindari penyimpanan seluruh jendela sinyal.
Jumlah operasi adalah perkiraan awal, tetapi efisiensi kernel tergantung pada bentuk tensor, penyelarasan, dukungan instruksi, dan akses memori. Konvolusi depthwise dapat mengurangi operasi aritmetika namun berjalan buruk pada perangkat keras tanpa kernel yang dioptimalkan. Ukur kinerja model yang telah dikompilasi pada papan target, bukan hanya pada profiler desktop.
Siklus tugas mendominasi banyak produk. Sensor dan MCU dapat tidur, bangun untuk pemicu sederhana, menjalankan model kecil, dan mengaktifkan radio atau prosesor yang lebih besar hanya saat diperlukan. Ukur seluruh siklus tugas, termasuk sensor, konversi, pra‑pemrosesan, bangun, inferensi, komunikasi, dan kebocoran saat menganggur.
Pengembangan dan konversi model
Mulailah dengan batasan penyebaran dan kumpulkan data sensor yang representatif. Pra‑pemrosesan yang digunakan dalam pelatihan harus cocok secara tepat dengan implementasi tetap titik atau tertanam. Perbedaan dalam laju sampel, jendela, konversi warna, normalisasi, atau ekstraksi fitur dapat menyebabkan model gagal meskipun konversi berhasil.
Kuantisasi setelah pelatihan mengkalibrasi rentang dari sampel representatif; pelatihan sadar kuantisasi mensimulasikan presisi lebih rendah selama pembelajaran. Skala bobot per‑kanal sering mempertahankan kualitas konvolusi lebih baik dibandingkan satu skala tunggal. Operasi yang tidak didukung dapat ditulis ulang, didekati, atau dipindahkan ke fallback yang lebih lambat, masing‑masing memerlukan evaluasi baru.
Kompresi harus didorong oleh hipotesis. Pemangkasan bobot tidak terstruktur mungkin tidak mempercepat kernel tertanam yang padat; penghapusan kanal terstruktur lebih mudah dimanfaatkan oleh perangkat keras. Distilasi mentransfer perilaku dari guru yang lebih besar namun dapat mentransfer bias dan kesalahannya. Bandingkan dengan pemrosesan sinyal dan ambang batas dasar.
Aplikasi, pengujian lapangan, dan pemeliharaan
Tugas TinyML umum meliputi deteksi kata kunci, deteksi kata bangun, pengenalan gerakan, deteksi anomali getaran, penghuni, peristiwa akustik, dan visi sederhana. Model dapat berfungsi sebagai gerbang alih‑alih keputusan akhir, menghemat bandwidth sambil mengirimkan kasus yang tidak pasti atau penting ke sistem yang lebih mampu.
Pengujian lapangan harus mencakup toleransi perangkat, penuaan sensor, pemasangan, status baterai, suhu, cuaca, pengguna, dan interferensi latar belakang. Catat pemicu palsu per jam atau peristiwa yang terlewat per siklus operasi, bukan hanya akurasi tes yang seimbang. Ambang batas yang dipilih di laboratorium mungkin memerlukan kalibrasi khusus produk.
Rencanakan pembaruan over‑the‑air yang ditandatangani, rollback, telemetri versi model, dan periode dukungan yang panjang. Jika pembaruan tidak memungkinkan, gunakan model konservatif dan dokumentasikan pergeseran lingkungan yang diharapkan. Penghentian penggunaan harus mencabut kredensial perangkat dan menangani data yang tersimpan, bukan hanya menghentikan penjualan produk.
Contoh kerja: monitor getaran TinyML
Akselerometer kecil pada motor mengambil sampel getaran di bawah beban normal dan kondisi kesalahan yang diketahui. Perangkat memotong sinyal, menghilangkan offset, menghitung fitur domain waktu atau frekuensi yang kompak, dan menjalankan detektor anomali atau pengklasifikasi. Laju sampling harus menangkap frekuensi bearing dan poros yang relevan tanpa membebani memori atau daya. Label harus berasal dari inspeksi terverifikasi, bukan semata‑mata dari alarm yang mungkin juga salah.
Pelatihan dilakukan pada workstation, diikuti oleh kuantisasi, konversi, dan kompilasi untuk mikrokontroler target. Ukur flash model, RAM puncak, waktu eksekusi, energi, dan akurasi pada perangkat fisik. Aritmetika integer dan ketersediaan operator dapat mengubah output dari model pelatihan. Uji orientasi sensor, pemasangan, suhu, tegangan, variasi komponen, dan getaran latar belakang nyata, bukan hanya berkas laboratorium yang diseleksi.
Perangkat yang dipasang membutuhkan kalibrasi, pembaruan firmware yang aman, pelaporan versi, perilaku tahan kegagalan, dan rencana untuk pergeseran. Ia dapat mengirim hanya skor kesehatan atau fitur terpilih untuk menghemat energi dan melindungi data mentah, namun alarm palsu lokal tetap menimbulkan biaya pemeliharaan. Gunakan ambang bertahap, perlukan keberlanjutan, dan gabungkan bukti model dengan status operasi. TinyML paling bernilai ketika latensi lokal, privasi, konektivitas, atau batasan energi menjustifikasi batasan tekniknya.
Pengujian produksi harus mencakup pemulihan siklus daya, pergeseran jam, putusnya sensor, input yang rusak, kehabisan memori, dan pembaruan yang terputus. Tentukan apa yang terjadi ketika model tidak dapat dijalankan atau kepercayaan runtuh: nilai default yang aman, indikator kesalahan eksplisit, atau aturan konvensional dapat lebih disukai daripada dugaan diam. Lacak versi perangkat keras dan firmware armada sehingga kesalahan yang baru teramati dapat diisolasi ke revisi perangkat, lingkungan, atau rilis model.
Daftar periksa implementasi praktis
Ubah konsep menjadi alur kerja yang terbatas dan dapat diuji: deteksi → pra‑pemrosesan → inferensi → keputusan → aksi → pembaruan. Tentukan pemilik yang bertanggung jawab, dokumentasikan data dan ketergantungan, buat baseline sederhana, tetapkan kriteria penerimaan dan penghentian, uji kegagalan representatif, serta definisikan pemantauan, rollback, dan tinjauan sebelum memperluas ruang lingkup. Catat versi dan asumsi sehingga tim lain dapat mereproduksi hasil dan memahami apa yang berubah.
Sebelum peluncuran, lakukan tinjauan kesiapan yang terdokumentasi bersama orang‑orang yang membangun, mengoperasikan, mengamankan, dan terdampak oleh sistem. Uji kasus normal, kondisi batas, kegagalan ketergantungan, dan penyalahgunaan; simpan bukti dan risiko yang belum teratasi. Tentukan siapa yang dapat menyetujui rilis, mengubah ambang batas, mengganti output, atau menghentikan operasi. Tinjau kembali keputusan setelah data dunia nyata tiba, karena pilot yang secara teknis berhasil tidak menjamin kinerja yang dapat diandalkan pada skala yang lebih luas.
- MEMORY: bobot, aktivasi, dan buffer.
- ENERGY: siklus tugas dan pergerakan data.
- QUALITY: akurasi lapangan dalam kondisi nyata.
Pertanyaan yang sering diajukan
Apakah TinyML sama dengan AI seluler?
Tidak sepenuhnya. Perangkat seluler adalah sistem edge dengan prosesor dan memori yang relatif besar. TinyML berfokus pada batasan yang jauh lebih ketat pada kelas tertanam dan mikrokontroler.
Dapatkah model TinyML belajar di perangkat?
Sebagian besar penyebaran melatih di tempat lain dan melakukan inferensi di perangkat. Adaptasi terbatas memungkinkan, namun memori, energi, stabilitas, privasi, dan rollback membuat pelatihan di perangkat menjadi lebih sulit.
Referensi utama
