Peran tinyML dalam Mengaktifkan Penglihatan Komputer di Tepi – Pemimpin Pikiran

Oleh: Davis Sawyer, Co-Founder & Chief Product Officer, Deeplite

Penglihatan komputer memiliki potensi besar untuk meningkatkan kehidupan sehari-hari kita – dan ada banyak aplikasi dan penggunaan untuk itu. Beberapa contoh termasuk:

• Pintu pintar untuk keamanan rumah membantu mencegah “perampokan beranda” dan masuk tanpa izin. Menurut penelitian oleh I.H.S. Markit (diterbitkan di SecurityInfoWatch) jumlah kamera pengawasan global di seluruh dunia diperkirakan akan mencapai satu miliar pada tahun 2021. Di Amerika Serikat saja, jumlah kamera diperkirakan akan mencapai 85 juta;
• Di lapangan parkir, kamera yang diaktifkan AI mengotomatisasi pelacakan tempat parkir yang tersedia dan yang terisi untuk memberitahu konsumen di mana ruang terbuka;
• Kamera dasbor pada truk sekarang membaca tanda batas kecepatan dan mengurangi kecepatan truk secara dinamis untuk meningkatkan keamanan;
• Dan drone dengan kamera terhubung memantau area terpencil dan sulit dijangkau, dan dapat memproses gambar dan membuat keputusan secara waktu nyata.

Semua aplikasi ini menggunakan analitik video cerdas, yang didorong oleh AI dan Pembelajaran Mesin (ML), untuk menonton video, menggunakan kecerdasan untuk membuat keputusan, dan kemudian mengambil tindakan.

Penglihatan Komputer Membutuhkan Lebih Banyak Sumber Daya di Tepi

Namun, seperti banyak aplikasi yang didorong AI, penglihatan komputer membutuhkan ledakan daya komputasi, memori, dan energi untuk melakukan analisis yang kompleks dan membuat keputusan. Sementara ini baik di pusat data dengan banyak daya komputasi, ini dapat mencegah perpindahan AI ke tepi. Secara khusus, perangkat kecil yang terletak jauh dari pusat data perusahaan dan beroperasi pada baterai kecil memerlukan jenis AI yang baru yang lebih kecil, lebih cepat, dan “lebih ringan” daripada pendekatan tradisional. Dan perangkat yang ada akan memerlukan peningkatan dengan fungsi AI + ML (penglihatan komputer) baru untuk tetap layak dan kompetitif.

Kemajuan Baru Meningkatkan Jaringan Saraf Dalam

Hari ini, kemajuan baru dalam AI membuat Jaringan Saraf Dalam (DNN) lebih cepat, lebih kecil, dan lebih hemat energi – dan membantu memindahkan AI dari cloud dan pusat data ke perangkat tepi dan sensor yang berdaya baterai. Ketika datang ke pelatihan model AI, jejak karbon yang mengesankan telah didokumentasikan dan dibahas (yaitu, pelatihan satu model bahasa AI mengeluarkan sekitar CO2 seperti 5 mobil sepanjang masa hidupnya). Namun, kita perlu memahami apa dampak lingkungan dari inferensi model AI dan bagaimana mengurangi jejak ini. Inilah tempat di mana optimasi model dapat memiliki manfaat besar melalui pengurangan biaya ekonomi dan lingkungan dari DNN.

TinyML Mengaktifkan AI pada Perangkat Kecil

Salah satu kemajuan seperti itu adalah tinyML, tren baru yang kuat untuk mengaktifkan perangkat kecil yang berdaya baterai untuk menggunakan ML lanjutan untuk mengirimkan penglihatan komputer dan tugas persepsi lainnya. Ini memfasilitasi inferensi ML pada perangkat kecil yang terbatas sumber daya, biasanya di tepi cloud, dan membantu mengaktifkan aplikasi tepi yang lebih dekat dengan pengguna.

Sebagai contoh, server GPU seperti NVIDIA A100 memiliki lebih dari 40GB memori yang tersedia, yang cocok untuk menjalankan AI yang kompleks seperti penglihatan komputer dan pemrosesan bahasa alami. Namun, ketika kita berbicara tentang perangkat tepi dan tinyML, mikrokontroler (MCU) umum hanya memiliki 256KB memori onboard, yang lebih dari 100.000 kali lebih sedikit memori daripada cloud! Selain itu, tidak seperti pusat data dan cloud, perangkat keras perangkat tepi tidak dapat dengan mudah diperbarui di lapangan. Ini berarti kita harus “memasukkan” AI kita ke dalam perangkat keras yang tersedia, yang dapat memakan waktu berbulan-bulan hingga bertahun-tahun untuk dicapai oleh pengembang, jika sama sekali. Inilah tempat tinyML, khususnya pembelajaran mesin otomatis (juga disebut AutoML), dapat memainkan peran besar dalam memecahkan hambatan untuk mengadopsi AI di dunia nyata.

Dan pengaruh tinyML terus berkembang. Dengan lebih dari 10.000 anggota, Yayasan tinyML tumbuh untuk mendukung pengembangan dan penerapan solusi pembelajaran mesin ultra-hemat daya di tepi. Yayasan ini menyatukan komunitas global dari perangkat keras, perangkat lunak, ilmuwan pembelajaran mesin, ilmuwan data, insinyur sistem, desainer, produk, dan bisnis.

Dunia Kesempatan

Secara keseluruhan, ada miliaran perangkat kecil yang terhubung yang dapat memanfaatkan kecerdasan lanjutan. Tantangannya adalah bahwa mereka memiliki sumber daya yang sangat terbatas, jadi bagaimana kita dapat menambahkan kecerdasan ke dalamnya? tinyML dapat memainkan peran kunci dalam membawa AI dan ML ke lebih banyak aplikasi berbasis penglihatan komputer, di tepi pada perangkat kecil. Dan ini dapat membuka dunia manfaat bagi orang dan perusahaan di seluruh berbagai produk, layanan, dan industri, membantu kita mendorong ke arah frontir baru untuk AI.