NTT Luncurkan Chip Inferensi AI Terobosan untuk Pemrosesan Video 4K Real-Time di Edge

Dalam lompatan besar untuk pemrosesan AI tepi, Perusahaan NTT telah mengumumkan chip inferensi AI yang inovatif yang dapat memproses video 4K real-time pada 30 frame per detik—menggunakan daya kurang dari 20 watt. Chip baru ini integrasi skala besar (LSI) Chip ini merupakan yang pertama di dunia yang mampu mencapai inferensi video AI berperforma tinggi dalam lingkungan dengan daya terbatas, sehingga menjadikannya terobosan untuk aplikasi komputasi tepi.

Terungkap selama NTT'nya Tingkatkan 2025 puncak Di San Francisco, chip ini dirancang khusus untuk digunakan di perangkat edge—perangkat keras yang terletak dekat dengan sumber data, seperti drone, kamera pintar, dan sensor. Tidak seperti sistem AI tradisional yang mengandalkan komputasi awan untuk inferensi, chip ini menghadirkan kemampuan AI yang canggih langsung ke edge, mengurangi latensi secara drastis, dan menghilangkan kebutuhan untuk mengirimkan video definisi ultra-tinggi ke server awan terpusat untuk analisis.

Edge Computing vs. Cloud Computing: Mengapa Itu Penting

Dalam komputasi awan tradisional, data dari perangkat seperti drone atau kamera dikirim ke pusat data jarak jauh—seringkali terletak ratusan atau ribuan mil jauhnya—tempat data tersebut diproses dan dianalisis. Meskipun pendekatan ini menawarkan daya komputasi yang hampir tak terbatas, terdapat penundaan akibat transmisi data, yang menjadi masalah bagi aplikasi waktu nyata seperti navigasi otonom, pemantauan keamanan, dan pengambilan keputusan langsung.

Sebaliknya, komputasi tepi memproses data secara lokal, di dalam atau di dekat perangkat itu sendiri. Hal ini mengurangi latensi, menjaga bandwidth, dan memungkinkan wawasan waktu nyata bahkan di lingkungan dengan konektivitas internet terbatas atau terputus-putus. Hal ini juga meningkatkan privasi dan keamanan data dengan meminimalkan kebutuhan untuk mengirimkan data sensitif melalui jaringan publik.

Chip AI baru NTT sepenuhnya menganut filosofi edge-first ini—memberikan analisis video 4K real-time langsung dalam perangkat, tanpa bergantung pada cloud.

Era Baru AI Real-Time pada Drone dan Perangkat

Dengan chip ini terpasang, drone dapat mendeteksi orang atau objek dari jarak hingga 150 meter (492 kaki)—batas ketinggian yang diizinkan untuk drone di Jepang. Ini merupakan peningkatan yang dramatis dibandingkan sistem AI real-time tradisional, yang umumnya terbatas pada jarak 30 meter karena resolusi atau kecepatan pemrosesan yang lebih rendah.

Kemajuan ini memungkinkan sejumlah kasus penggunaan baru, termasuk:

• Inspeksi infrastruktur di tempat yang sulit dijangkau

• Respon bencana di daerah dengan konektivitas terbatas

• Pemantauan pertanian melintasi ladang yang luas

• Keamanan dan pengawasan tanpa uplink cloud yang konstan

Semua ini tercapai dengan chip yang mengonsumsi daya kurang dari 20 watt—jauh lebih rendah dibandingkan ratusan watt yang dibutuhkan oleh server AI bertenaga GPU, yang tidak praktis untuk sistem seluler atau bertenaga baterai.

Di Dalam Chip: Mesin Inferensi AI Milik NTT

Performa LSI bergantung pada mesin inferensi AI buatan NTT, yang memastikan hasil yang akurat dan berkecepatan tinggi sekaligus meminimalkan penggunaan daya. Inovasi utama meliputi:

• Korelasi antar bingkai: Dengan membandingkan bingkai video berurutan, chip tersebut mengurangi perhitungan yang berlebihan dan meningkatkan efisiensi.

• Kontrol presisi bit dinamis: Teknik ini menyesuaikan ketepatan numerik yang dibutuhkan dengan cepat, menggunakan lebih sedikit bit untuk tugas yang lebih sederhana, menghemat energi tanpa mengurangi akurasi.

• Eksekusi YOLOv3 asli:Chip mendukung eksekusi langsung Anda Hanya Melihat Sekali v3, salah satu algoritma deteksi objek waktu nyata tercepat dalam pembelajaran mesin.

Fitur-fitur gabungan ini memungkinkan chip tersebut menghadirkan kinerja AI yang tangguh di lingkungan yang sebelumnya dianggap terlalu terbatas daya atau bandwidth untuk inferensi tingkat lanjut.

Jalan Menuju Komersialisasi dan Visi IOWN

NTT berencana untuk mengomersialkan chip tersebut dalam tahun fiskal 2025 melalui perusahaan operasinya, Perusahaan Perangkat Inovatif NTT.

Para peneliti sudah mengeksplorasi integrasinya ke dalam Jaringan Optik dan Nirkabel Inovatif (IOWN)—Visi infrastruktur generasi mendatang NTT yang bertujuan untuk merombak tulang punggung digital masyarakat modern. Dalam kerangka IOWN, Infrastruktur Berpusat pada Data (DCI), chip tersebut akan memanfaatkan Jaringan All-Photonics untuk latensi sangat rendah, komunikasi berkecepatan tinggi, melengkapi daya pemrosesan lokal yang dibawanya ke perangkat tepi.

NTT juga berkolaborasi dengan NTT DATA, Incuntuk menggabungkan kemampuan chip dengan Enkripsi Berbasis Atribut (ABE) teknologi yang memungkinkan kontrol akses yang aman dan terperinci atas data sensitif. Bersama-sama, teknologi ini akan mendukung aplikasi AI yang membutuhkan kecepatan dan keamanan—seperti dalam perawatan kesehatan, kota pintar, dan sistem otonom.

Warisan Inovasi dan Visi untuk Masa Depan

Chip inferensi AI ini merupakan demonstrasi terbaru dari misi NTT untuk memberdayakan masyarakat yang cerdas dan berkelanjutan melalui inovasi teknologi yang mendalam. Sebagai pemimpin global dengan pendapatan lebih dari $92 miliar, 330,000 karyawan, dan R&D tahunan senilai $3.6 miliar, NTT melayani lebih dari 75% perusahaan Fortune Global 100 dan jutaan konsumen di 190 negara.

Baik itu drone yang terbang melampaui garis pandang visual, kamera yang mendeteksi kejadian secara real-time tanpa ketergantungan cloud, atau mengamankan aliran data dengan enkripsi berbasis atribut, chip baru NTT menyiapkan panggung untuk bidang berikutnya dalam AI di tepian—tempat kecerdasan bertemu dengan kedekatan.