Kecerdasan Buatan Tepi Industri Membutuhkan Lebih Dari Kekuatan Komputasi Kasar

Selama beberapa dekade, desain perangkat keras tepi mengikuti hierarki yang sederhana: maksimalkan throughput, kemudian kelola daya dan termal di sekitarnya. Kekuatan komputasi kasar adalah batas yang semua else dibangun di bawahnya. Logika itu masuk akal ketika perangkat tepi adalah stasioner, lingkungan terkendali, dan pemrosesan terpusat dapat menangani apa pun yang tidak dapat dilakukan oleh tepi. Namun, tidak satu pun dari kondisi tersebut berlaku di lingkungan industri saat ini, dan hierarki lama itu mulai runtuh karena itu.

Operator fasilitas industri sekarang mendorong otomatisasi yang didorong AI langsung ke lantai pabrik, menuntut tindakan cerdas dan tepat waktu sedekat mungkin dengan operasi. Ambisi itu solid. Namun, menerjemahkan itu menjadi perangkat keras yang dapat diandalkan yang berfungsi di bawah kondisi industri yang sebenarnya memerlukan pemikiran ulang tentang desain chip dari awal.

Hierarki Konstrain Baru

Pasaran tepi industri global diperkirakan akan tumbuh dari $21 miliar pada 2025 menjadi hampir $45 miliar pada 2030, dan tuntutan perangkat keras yang meningkat seiring pertumbuhan itu terlihat sangat berbeda dari apa yang telah dioptimalkan oleh desainer chip sebelumnya. Ketika otomatisasi yang didorong AI berpindah dari lingkungan pengujian yang terkendali ke lantai pabrik yang sebenarnya, hierarki konstrain yang mengatur penerapan tepi telah efektif terbalik:

1. Daya sekarang menduduki peringkat tertinggi. Operasi yang selalu aktif menuntut mode kontrol yang fleksibel untuk mengurangi pemborosan dan meminimalkan biaya yang terkait dengan penerapan sistem AI tepi.
2. Faktor termal dan lingkungan dapat sangat mempengaruhi kinerja. Fasilitas industri memperkenalkan ekstrem lingkungan seperti suhu tinggi dan throttling termal, serta potensi debris dan kelembaban, yang semuanya dapat menurunkan fungsionalitas secara tidak terduga.
3. Latensi dan determinisme sangat penting dalam kasus penggunaan yang berfokus pada presisi seperti yang ditemukan di fasilitas industri, karena tindakan yang tepat waktu dan akurat dapat membuat perbedaan antara keberhasilan dan limbah.
4. Kapasitas komputasi kasar datang terakhir dalam paradigma ini. Meskipun penting, bandwidth dan throughput kurang penting ketika kemampuan yang tertanam kuat. Pemrosesan dan penalaran kritis terjadi pada perangkat, mengurangi kebutuhan untuk transmisi konstan ke sistem pemrosesan terpusat.

Pembalikan konstrain ini menuntut bahwa desainer mengadopsi pendekatan baru ketika merancang untuk tepi industri, yang mempertimbangkan lebih dari sekedar kekuatan komputasi kasar.

Mencari yang “Tepat”

Dalam lingkungan pengembangan, misalnya ketika merancang robot industri di meja kerja, GPU mungkin cukup baik. Mereka adalah komponen yang sangat mampu dan efisien yang dapat memproses sejumlah besar data dengan cepat dan akurat. Namun, proses ini terjadi dalam lingkungan yang terkendali.

Perangkat industri sering dipasang pada peralatan legacy di fasilitas yang sudah beroperasi. Mereka mungkin mobile. Daya, ruang, dan kapasitas termal telah ditentukan oleh lingkungan, bukan oleh kebutuhan perangkat. Itu hanya meninggalkan desain chip itu sendiri sebagai variabel, dan silikon umum tidak cocok untuk mengisi peran itu. Ini terlalu kaku atau terlalu luas untuk memenuhi tuntutan spesifik dan berkelanjutan dari AI tepi jauh.

Misalnya, SoC dengan NPU terintegrasi menawarkan titik tengah untuk jenis bangunan ini, menawarkan kemampuan daya rendah dan fitur deterministik yang kuat. Namun, mereka cenderung gagal dalam lingkungan tepi jauh yang menuntut karena desain mereka, yang dioptimalkan untuk fungsionalitas sporadis dalam lingkungan termal yang terkendali. Desain yang berfokus pada inferensi burst membuat mereka tidak dapat diandalkan untuk kenyataan yang lebih kompleks dari fasilitas industri.

Untuk membuat operasi industri otomatis menjadi kenyataan, desainer membutuhkan sesuatu di antaranya: chip yang cukup fleksibel untuk mengisi celah yang luas tetapi cukup spesifik untuk menangani aplikasi khusus.

FPGA: Mitra yang Lebih Mampu

Semakin banyak pengembang tepi mulai menggunakan array gerbang yang dapat diprogram (FPGA) sebagai jawabannya. Yang penting, FPGA tidak diposisikan sebagai pengganti wholesale untuk GPU, CPU, atau opsi pemrosesan terpusat lainnya. Sebaliknya, mereka berfungsi sebagai chip mitra, duduk di samping prosesor primer untuk menangani tugas yang silikon umum tidak dapat menanganinya dengan baik dalam kondisi lapangan: pemantauan sensor yang selalu aktif, pra-pemrosesan waktu nyata, respons deterministik, dan penguncian daya.

Bergantung pada arsitektur, perangkat mitra ini dapat ditempatkan di samping GPU atau CPU, atau ditempatkan lebih dekat ke sensor itu sendiri, memberikan desainer fleksibilitas dalam cara dan di mana beban kerja itu dibebankan. Kapasitas untuk berfungsi dalam peran mitra ini adalah apa yang membuat FPGA sangat sesuai untuk lingkungan tepi jauh industri, di mana prosesor primer perlu dilindungi dari being overwhelmed oleh tuntutan pemrosesan tingkat rendah yang berkelanjutan.

Pasaran FPGA global dinilai sebesar $11,6 miliar pada 2024 dan diperkirakan akan mencapai $41,6 miliar pada 2033, sebuah trajektori yang mencerminkan pengakuan yang semakin meningkat tentang arsitektur mitra ini dalam penerapan industri dan tepi. Sebagai chip mitra, FPGA membawa serangkaian kemampuan yang secara langsung menangani hierarki konstrain yang terbalik:

• Pemrosesan paralel, berorientasi data, yang memungkinkan perangkat menangani pra-pemrosesan lanjutan sebelum transmisi ke perangkat keras pemrosesan terpusat. Ini mengurangi volume data, mengurangi latensi, dan menjaga operasi yang dapat diandalkan.
• Kemampuan penalaran deterministik, yang dapat mengidentifikasi acara pemicu yang diketahui untuk memungkinkan respons waktu nyata dalam skenario kritis.
• Penguncian daya yang didorong logika, yang memungkinkan perangkat untuk menskalakan penggunaan energi berdasarkan pemicu lingkungan (gerakan atau perubahan lain), sehingga proses yang menuntut tinggi hanya aktif ketika diperlukan.
• Fitur keamanan bawaan, yang memungkinkan FPGA untuk bertindak sebagai akar kepercayaan perangkat keras (HRoT) dan membantu melindungi komputasi terpusat dari pelanggaran yang berasal dari perangkat yang ditempatkan di lokasi yang dapat diakses publik, menambahkan lapisan keamanan tambahan untuk sistem yang semakin kompleks.

Meskipun fitur-fitur ini sangat penting untuk meningkatkan kemampuan AI tepi, kelenturan FPGA pada akhirnya adalah apa yang membuat mereka menjadi “pemecah masalah” yang optimal untuk bangunan tepi jauh. Mereka paling sering berfungsi sebagai pre-prosesor cerdas, menangani fusi sensor waktu nyata pada perangkat untuk mengurangi kebutuhan transmisi data dan memungkinkan respons yang tepat waktu.

Kemampuan pemrosesan paralel mereka memungkinkan mereka untuk mengintegrasikan dan menganalisis data dengan cepat dan meningkatkan ke prosesor daya tinggi jika diperlukan, atau bertindak dalam waktu nyata dalam krisis. Karena FPGA dapat menangani tugas-tugas kecil ini sendiri, komputasi terpusat mempertahankan lebih banyak bandwidth untuk menangani tugas-tugas yang lebih kompleks yang benar-benar diteruskan.

Selain itu, FPGA dapat diprogram ulang oleh desain, sehingga manajer sistem dapat memperbarui implementasi AI tepi mereka ketika beban kerja, lingkungan, dan kebutuhan berubah. Perangkat yang menggunakan FPGA sebagai chip mitra dapat berkembang bersama kebutuhan sistem tanpa perlu mengganti perangkat keras atau menerapkan kembali. Misalnya, mereka menyediakan fleksibilitas yang diperlukan untuk beradaptasi ketika kriptografi pasca-kuantum berkembang dan merender algoritma kriptografi yang ada tidak efektif.

Lebih Baik Bersama

Tepi industri adalah tempat di mana otomatisasi berbasis AI akan membuktikan potensinya yang paling lengkap, dan tuntutan otomatisasi dunia nyata tidak menunggu sampai chip umum mengejar. Pengembang tepi perlu mulai mengadopsi prinsip desain baru dan membangun fondasi yang dioptimalkan yang menyeimbangkan fleksibilitas dan spesifisitas dalam ukuran yang sama.

FPGA dapat melakukan hal itu. Di mana GPU dan SoC mencapai batasnya, FPGA mengisi celah sebagai chip mitra yang mampu, menyediakan inferensi yang selalu aktif, kontrol deterministik, operasi daya rendah, dan potensi untuk tumbuh bersama dengan kemampuan AI yang berkembang dan kasus penggunaan industri. Apakah diterapkan secara mandiri atau dipasangkan dengan prosesor umum, FPGA membantu meletakkan fondasi yang kuat, dapat diandalkan, dan fleksibel yang diperlukan untuk membuat ekosistem AI tepi jauh menjadi kenyataan.