Yubei Chen, Co-Founder Aizip Inc – Seri Wawancara

Yubei Chen adalah co-founder Aizip inc., sebuah perusahaan yang membangun model AI terkecil dan paling efisien di dunia. Ia juga merupakan asisten profesor di Departemen ECE Universitas California, Davis. Penelitian Chen berada di persimpangan antara neurosains komputasi dan pembelajaran tak terawasi (self-supervised), meningkatkan pemahaman kita tentang prinsip-prinsip komputasi yang mengatur pembelajaran representasi tak terawasi di otak dan mesin, serta mengubah wawasan kita tentang statistik sinyal alami.

Sebelum bergabung dengan UC Davis, Chen melakukan studi postdoc dengan Prof. Yann LeCun di NYU Center for Data Science (CDS) dan Meta Fundamental AI Research (FAIR). Ia menyelesaikan Ph.D.-nya di Redwood Center for Theoretical Neuroscience dan Berkeley AI Research (BAIR), UC Berkeley, dibimbing oleh Prof. Bruno Olshausen.

Aizip mengembangkan solusi AI ultra-efisien yang dioptimalkan untuk perangkat edge, menawarkan model kompak untuk aplikasi visi, audio, time-series, bahasa, dan fusi sensor. Produknya memungkinkan tugas seperti pengenalan wajah dan objek, pengenalan kata kunci, analisis ECG/EEG, dan chatbot on-device, semua didukung oleh TinyML. Melalui platform AI nanofactory-nya, Aizipline, perusahaan ini mempercepat pengembangan model menggunakan model dasar dan generatif untuk mendorong otomatisasi desain AI penuh. Seri Gizmo Aizip dari model bahasa kecil (300M–2B parameter) mendukung berbagai perangkat, membawa kemampuan cerdas ke edge.

Anda melakukan postdoc dengan Yann LeCun di NYU dan Meta FAIR. Bagaimana bekerja dengan dia dan penelitian Anda di UC Berkeley membentuk pendekatan Anda dalam membangun solusi AI dunia nyata?

Di Berkeley, pekerjaan saya sangat berakar pada penyelidikan ilmiah dan ketat matematis. Penelitian Ph.D. saya, yang menggabungkan teknik elektro, ilmu komputer, dan neurosains komputasi, berfokus pada memahami sistem AI dari perspektif “white-box”, atau mengembangkan metode untuk mengungkap struktur dasar data dan model pembelajaran. Saya bekerja pada membangun model AI yang dapat diinterpretasikan, berkinerja tinggi, dan teknik visualisasi yang membantu membuka sistem AI “black-box”.

Di Meta FAIR, fokusnya adalah pada teknik sistem AI untuk mencapai kinerja terbaik di skala besar. Dengan akses ke sumber daya komputasi kelas dunia, saya menjelajahi batas-batas pembelajaran tak terawasi dan berkontribusi pada apa yang sekarang kita sebut “world models” — sistem AI yang belajar dari data dan membayangkan lingkungan yang mungkin. Pengalaman ganda ini — pemahaman ilmiah di Berkeley dan skala teknik di Meta — telah memberi saya perspektif komprehensif tentang pengembangan AI. Ini menekankan pentingnya teori dan implementasi praktis ketika Anda mengembangkan solusi AI untuk aplikasi dunia nyata

Penelitian Anda menggabungkan neurosains komputasi dengan AI. Bagaimana wawasan dari neurosains mempengaruhi cara Anda mengembangkan model AI?

Dalam neurosains komputasi, kita mempelajari bagaimana otak memproses informasi dengan mengukur responsnya terhadap berbagai stimulus, mirip dengan cara kita menyelidiki model AI untuk memahami mekanisme internalnya. Awal dalam karir saya, saya mengembangkan teknik visualisasi untuk menganalisis word embeddings — memecah kata seperti “apple” menjadi elemen semantik konstituennya, seperti “buah” dan “teknologi”. Kemudian, pendekatan ini diperluas ke model AI yang lebih kompleks seperti transformer dan model bahasa besar yang membantu mengungkap bagaimana mereka memproses dan menyimpan pengetahuan.

Metode-metode ini sebenarnya paralel dengan teknik di neurosains, seperti menggunakan elektroda atau fMRI untuk mempelajari aktivitas otak. Menyelidiki representasi internal model AI memungkinkan kita untuk memahami strategi penalaran dan mendeteksi sifat-sifat yang muncul, seperti neuron konsep yang diaktifkan untuk ide-ide tertentu (seperti fitur Jembatan Golden Gate yang ditemukan Anthropic ketika memetakan Claude). Garis penelitian ini sekarang secara luas diadopsi di industri karena terbukti dapat memungkinkan baik interpretasi dan intervensi praktis, menghilangkan bias dari model. Jadi, pendekatan yang terinspirasi neurosains pada dasarnya membantu kita membuat AI lebih dapat dijelaskan, dapat dipercaya, dan efisien.

Apa yang menginspirasi Anda untuk menjadi co-founder Aizip? Bagaimana perjalanan dari konsep hingga peluncuran perusahaan?

Sebagai peneliti AI fundamental, banyak pekerjaan saya yang bersifat teoretis, tetapi saya ingin menjembatani kesenjangan antara penelitian dan aplikasi dunia nyata. Saya co-founder Aizip untuk membawa inovasi AI mutakhir ke dalam penggunaan praktis, terutama di lingkungan yang terbatas sumber daya. Alih-alih membangun model dasar besar, kami fokus pada mengembangkan model AI terkecil dan paling efisien yang dioptimalkan untuk perangkat edge.

Perjalanan dasarnya dimulai dengan pengamatan kunci: Sementara kemajuan AI berkembang pesat, aplikasi dunia nyata sering memerlukan model yang ringan dan sangat efisien. Kami kemudian melihat kesempatan untuk mempelopori arah baru yang menyeimbangkan ketat ilmiah dengan penerapan praktis. Dengan memanfaatkan wawasan dari pembelajaran tak terawasi dan arsitektur model kompak, Aizip telah dapat menyampaikan solusi AI yang beroperasi dengan efisien di edge dan membuka kemungkinan baru untuk AI di sistem tertanam, IoT, dan lain-lain.

Aizip berspesialisasi dalam model AI kecil untuk perangkat edge. Apa celah di pasar yang Anda lihat sehingga memfokuskan pada hal ini?

Industri AI secara luas telah fokus pada menskalakan model, tetapi aplikasi dunia nyata sering memerlukan sebaliknya — efisiensi tinggi, konsumsi daya rendah, dan latensi minimal. Banyak model AI saat ini terlalu mahal secara komputasi untuk diterapkan pada perangkat tertanam kecil. Kami melihat celah di pasar untuk solusi AI yang dapat menyampaikan kinerja kuat sambil beroperasi dalam keterbatasan sumber daya yang ekstrem.

Kami mengakui bahwa tidak perlu setiap aplikasi AI untuk berjalan pada model besar, dan itu juga tidak akan scalable untuk mengandalkan model sebesar itu untuk semua hal. Sebaliknya, kami fokus pada mengoptimalkan algoritma untuk mencapai efisiensi maksimum sambil mempertahankan akurasi. Dengan merancang model AI yang dirancang untuk aplikasi edge — apakah di sensor pintar, wearable, atau otomasi industri — kami memungkinkan AI untuk berjalan di tempat-tempat di mana model tradisional akan tidak praktis. Pendekatan kami membuat AI lebih dapat diakses, scalable, dan hemat energi, membuka kemungkinan baru untuk inovasi AI yang didorong di luar cloud.

Aizip telah berada di garis depan pengembangan Small Language Models (SLMs). Bagaimana Anda melihat SLMs bersaing atau melengkapi model yang lebih besar seperti GPT-4?

SLMs dan model yang lebih besar seperti GPT-4 tidak secara langsung bersaing karena mereka melayani kebutuhan yang berbeda. Model yang lebih besar kuat dalam hal generalisasi dan penalaran dalam, tetapi memerlukan sumber daya komputasi yang substantial. SLMs dirancang untuk efisiensi dan penerapan pada perangkat edge yang rendah daya. Mereka melengkapi model besar dengan memungkinkan kemampuan AI di aplikasi dunia nyata di mana daya komputasi, latensi, dan biaya menjadi penting — seperti di perangkat IoT, wearable, dan otomasi industri. Ketika adopsi AI tumbuh, kami melihat pendekatan hibrida muncul, di mana model besar berbasis cloud menangani pertanyaan kompleks sementara SLMs menyediakan intelijen lokal waktu nyata di edge.

Apa tantangan teknis terbesar dalam membuat model AI cukup efisien untuk perangkat edge yang rendah daya?

Salah satu tantangan fundamental adalah kurangnya pemahaman teoretis yang lengkap tentang bagaimana model AI bekerja. Tanpa fondasi teoretis yang jelas, upaya optimisasi sering empiris, membatasi peningkatan efisiensi. Selain itu, pembelajaran manusia terjadi dengan cara yang beragam yang tidak sepenuhnya ditangkap oleh paradigma pembelajaran mesin saat ini, membuatnya sulit untuk merancang model yang meniru efisiensi manusia.

Dari perspektif teknik, mendorong AI untuk bekerja dalam keterbatasan yang ekstrem memerlukan solusi inovatif dalam kompresi model, kuantisasi, dan desain arsitektur. Tantangan lainnya adalah menciptakan model AI yang dapat beradaptasi dengan berbagai perangkat dan lingkungan sambil mempertahankan kekuatan. Ketika AI semakin berinteraksi dengan dunia fisik melalui IoT dan sensor, kebutuhan akan antarmuka alami dan efisien — seperti pengenalan suara dan gerakan dan input non-tradisional lainnya — menjadi kritis. AI di edge adalah tentang meredefinisi bagaimana pengguna berinteraksi dengan dunia digital secara lancar.

Bisakah Anda berbagi beberapa detail tentang kerja sama Aizip dengan perusahaan seperti Softbank?

Kami baru-baru ini bermitra dengan SoftBank pada proyek akuakultur yang memenangkan Penghargaan Inovasi CES — salah satu yang kami banggakan. Kami mengembangkan model AI edge-berbasis yang efisien untuk aplikasi penghitungan ikan yang dapat digunakan oleh operator akuakultur untuk pertanian ikan. Solusi ini menangani tantangan kritis dalam pertanian ikan yang dapat pada akhirnya menciptakan masalah keberlanjutan, limbah makanan, dan profitabilitas. Industri ini telah lambat dalam mengadopsi AI sebagai solusi karena daya dan koneksi yang tidak dapat diandalkan di laut, membuat solusi AI berbasis cloud tidak praktis.

Untuk menyelesaikan ini, kami mengembangkan solusi berbasis perangkat. Kami menggabungkan simulasi grafis komputer SoftBank untuk data pelatihan dengan model AI kompak kami dan menciptakan sistem yang sangat akurat yang berjalan pada smartphone. Dalam pengujian lapangan bawah air, itu mencapai tingkat pengenalan 95%, secara dramatis meningkatkan akurasi penghitungan ikan. Ini memungkinkan peternak untuk mengoptimalkan kondisi penyimpanan, menentukan apakah ikan harus diangkut hidup atau beku, dan mendeteksi kemungkinan penyakit atau masalah kesehatan lainnya pada ikan.

Terobosan itu meningkatkan efisiensi, mengurangi biaya, dan mengurangi ketergantungan pada tenaga kerja manual. Lebih luas, itu menunjukkan bagaimana AI dapat memiliki dampak nyata pada masalah dunia nyata.

Aizip telah memperkenalkan konsep “AI Nanofactory”. Bisakah Anda menjelaskan apa itu dan bagaimana itu mengotomatisasi pengembangan model AI?

AI Nanofactory adalah pipa otomatisasi desain AI internal kami, terinspirasi oleh Electronic Design Automation (EDA) dalam manufaktur semikonduktor. Pengembangan awal dalam bidang teknologi yang muncul melibatkan banyak upaya manual, sehingga otomatisasi menjadi kunci untuk mempercepat kemajuan dan menskalakan solusi ketika bidang tersebut matang.

Kami bertanya, bisakah AI mempercepat pengembangannya sendiri? AI Nanofactory mengotomatisasi setiap tahap pengembangan model AI, dari pengolahan data hingga desain arsitektur, pemilihan model, pelatihan, kuantisasi, penerapan, dan debugging. Dengan memanfaatkan AI untuk mengoptimalkan dirinya sendiri, kami telah dapat mengurangi waktu pengembangan model baru rata-rata dengan faktor 10. Dalam beberapa kasus, lebih dari 1.000 kali. Ini berarti model yang sebelumnya membutuhkan lebih dari setahun untuk dikembangkan sekarang dapat dibuat dalam beberapa jam saja.

Manfaat lainnya adalah bahwa otomatisasi ini juga memastikan bahwa solusi AI ekonomis viabel untuk berbagai aplikasi, membuat penerapan AI dunia nyata lebih dapat diakses dan scalable.

Bagaimana Anda melihat peran AI edge berkembang dalam lima tahun ke depan?

AI edge berjanji untuk mengubah cara kita berinteraksi dengan teknologi, mirip dengan bagaimana smartphone merevolusi akses internet. Sebagian besar aplikasi AI saat ini berbasis cloud, tetapi ini mulai bergeser ketika AI semakin dekat dengan sensor dan perangkat yang berinteraksi dengan dunia fisik. Pergeseran ini menekankan kebutuhan kritis akan pemrosesan waktu nyata di edge.

Dalam lima tahun ke depan, kami berharap AI edge akan memungkinkan interaksi manusia-komputer yang lebih alami, seperti pengenalan suara dan gerakan dan antarmuka lain yang intuitif, yang akan menghilangkan ketergantungan pada hambatan tradisional seperti keyboard dan layar sentuh. AI juga diharapkan menjadi lebih tertanam dalam lingkungan sehari-hari seperti rumah pintar atau otomasi industri untuk memungkinkan pengambilan keputusan waktu nyata dengan latensi minimal.

Satu tren kunci lainnya akan menjadi autonomi yang meningkat dari sistem AI edge. Model AI akan menjadi lebih self-optimizing dan adaptif berkat kemajuan dalam otomatisasi gaya AI Nanofactory, sehingga mereka akan dapat mengurangi kebutuhan akan intervensi manusia dalam penerapan dan pemeliharaan. Ini akan membuka peluang baru di berbagai industri seperti kesehatan, otomotif, dan pertanian.

Apa beberapa perangkat AI yang akan datang dari Aizip yang paling Anda antusias?

Kami bekerja untuk memperluas kasus penggunaan model kami di industri baru, dan salah satu yang paling kami antusias adalah Agen AI untuk sektor otomotif. Ada momentum yang tumbuh, terutama di antara pembuat mobil Cina, untuk mengembangkan asisten suara yang ditenagai oleh model bahasa yang terasa seperti ChatGPT di dalam kabin. Tantangan adalah bahwa sebagian besar asisten saat ini masih bergantung pada cloud, terutama untuk dialog alami dan fleksibel. Hanya tugas perintah dan kontrol (seperti “nyalakan AC” atau “buka bagasi”) yang biasanya berjalan secara lokal di kendaraan, dan sifat kaku dari perintah tersebut dapat menjadi gangguan bagi pengemudi jika mereka tidak memiliki perintah tersebut dengan akurasi total.

Kami telah mengembangkan serangkaian agen AI ultra-efisien yang ditenagai oleh model bahasa kecil (SLM) yang disebut Gizmo yang saat ini digunakan dalam berbagai aplikasi untuk industri yang berbeda, dan kami bekerja untuk menerapkannya sebagai “co-pilot” kabin untuk kendaraan juga. Gizmo dilatih untuk memahami niat dengan cara yang lebih halus, dan ketika berfungsi sebagai Agen AI kendaraan, bisa menjalankan perintah melalui bahasa percakapan, bebas. Misalnya, agen bisa menyesuaikan suhu kabin jika pengemudi hanya mengatakan, “Aku kedinginan,” atau merespon prompt seperti, “Aku mengemudi ke Boston besok, apa yang harus aku kenakan?” dengan memeriksa cuaca dan menawarkan saran.

Karena mereka berjalan secara lokal dan tidak bergantung pada cloud, agen-agen ini terus berfungsi di zona mati atau daerah dengan koneksi yang buruk, seperti terowongan, gunung, atau jalan pedesaan. Mereka juga meningkatkan keselamatan dengan memberikan pengemudi kontrol suara penuh tanpa mengalihkan perhatian mereka dari jalan. Dan, pada catatan yang terpisah dan lebih ringan, saya juga ingin menyebutkan bahwa kami saat ini dalam proses memproduksi model karaoke AI yang ditenagai untuk kendaraan dan speaker Bluetooth, yang berjalan secara lokal seperti co-pilot. Secara dasar, itu mengambil input audio apa pun dan menghapus suara manusia dari itu, yang memungkinkan Anda untuk membuat versi karaoke dari lagu apa pun secara waktu nyata. Jadi, selain membantu pelanggan mengelola kontrol di dalam mobil dengan lebih aman, kami juga mencari cara untuk membuat pengalaman lebih menyenangkan.

Solusi-solusi seperti itu, yang membuat perbedaan yang signifikan dalam kehidupan sehari-hari orang, adalah yang paling kami banggakan.

Aizip mengembangkan solusi AI ultra-efisien yang dioptimalkan untuk perangkat edge, menawarkan model kompak untuk aplikasi visi, audio, time-series, bahasa, dan fusi sensor. Produknya memungkinkan tugas seperti pengenalan wajah dan objek, pengenalan kata kunci, analisis ECG/EEG, dan chatbot on-device, semua didukung oleh TinyML. Melalui platform AI nanofactory-nya, Aizipline, perusahaan ini mempercepat pengembangan model menggunakan model dasar dan generatif untuk mendorong otomatisasi desain AI penuh. Seri Gizmo Aizip dari model bahasa kecil (300M–2B parameter) mendukung berbagai perangkat, membawa kemampuan cerdas ke edge.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Aizip.