NTT Mengumumkan Chip Inferensi AI Terobosan untuk Pemrosesan Video 4K Waktu Nyata di Tepi

Dalam lompatan besar untuk pemrosesan AI tepi, NTT Corporation telah mengumumkan chip inferensi AI terobosan yang dapat memproses video 4K waktu nyata pada 30 frame per detik—menggunakan kurang dari 20 watt daya. Chip large-scale integration (LSI) ini adalah yang pertama di dunia untuk mencapai performa AI video inferensi tinggi seperti ini dalam lingkungan yang terbatas daya, membuatnya menjadi terobosan untuk aplikasi pemrosesan tepi.

Diumumkan selama summit Upgrade 2025 NTT di San Francisco, chip ini dirancang khusus untuk diterapkan pada perangkat tepi—perangkat keras yang terletak secara fisik dekat dengan sumber data, seperti drone, kamera pintar, dan sensor. Tidak seperti sistem AI tradisional yang bergantung pada komputasi awan untuk inferensi, chip ini membawa kemampuan AI yang kuat langsung ke tepi, mengurangi latensi secara drastis dan menghilangkan kebutuhan untuk mengirimkan video definisi ultra-tinggi ke server awan terpusat untuk analisis.

Pemrosesan Tepi vs. Pemrosesan Awan: Mengapa Ini Penting

Dalam komputasi awan tradisional, data dari perangkat seperti drone atau kamera dikirim ke pusat data jarak jauh—seringkali terletak ratusan atau ribuan mil jauhnya—di mana data diproses dan dianalisis. Sementara pendekatan ini menawarkan daya komputasi yang hampir tidak terbatas, itu memperkenalkan keterlambatan karena transmisi data, yang menjadi masalah untuk aplikasi waktu nyata seperti navigasi otonom, pemantauan keamanan, dan pengambilan keputusan langsung.

Dibandingkan dengan itu, pemrosesan tepi memproses data secara lokal, pada atau dekat perangkat itu sendiri. Ini mengurangi latensi, melestarikan bandwidth, dan memungkinkan wawasan waktu nyata bahkan dalam lingkungan dengan koneksi internet yang terbatas atau tidak stabil. Ini juga meningkatkan privasi dan keamanan data dengan meminimalkan kebutuhan untuk mengirimkan data sensitif melalui jaringan publik.

Chip AI baru NTT sepenuhnya menerima filosofi tepi-pertama ini—menyampaikan analisis video 4K waktu nyata langsung di dalam perangkat, tanpa bergantung pada awan.

Era Baru untuk AI Waktu Nyata pada Drone dan Perangkat

Dengan chip ini terpasang, drone dapat mendeteksi orang atau objek dari jarak hingga 150 meter (492 kaki)—batas ketinggian legal untuk drone di Jepang. Ini adalah perbaikan dramatis atas sistem AI waktu nyata tradisional, yang umumnya terbatas pada jarak 30 meter karena resolusi atau kecepatan pemrosesan yang lebih rendah.

Kemajuan ini memungkinkan sejumlah kasus penggunaan baru, termasuk:

• Inspeksi infrastruktur di tempat yang sulit dijangkau

• Tanggapan bencana di daerah dengan koneksi terbatas

• Pemantauan pertanian di lapangan yang luas

• Keamanan dan pengawasan tanpa koneksi awan yang konstan

Semua ini dicapai dengan chip yang mengonsumsi kurang dari 20 watt—jauh lebih rendah dari ratusan watt yang diperlukan oleh server AI yang ditenagai GPU, yang tidak praktis untuk sistem mobile atau bertenaga baterai.

Di Dalam Chip: Mesin Inferensi AI Paten NTT

Kinerja LSI ini bergantung pada mesin inferensi AI paten NTT, yang memastikan hasil yang akurat dan cepat sambil meminimalkan penggunaan daya. Inovasi kunci termasuk:

• Korelasi antar frame: Dengan membandingkan frame video berurutan, chip mengurangi perhitungan berlebihan, meningkatkan efisiensi.

• Kontrol presisi bit dinamis: Teknik ini menyesuaikan presisi numerik yang diperlukan secara langsung, menggunakan lebih sedikit bit untuk tugas yang lebih sederhana, menghemat energi tanpa mengorbankan akurasi.

• Eksekusi YOLOv3 asli: Chip ini mendukung eksekusi langsung You Only Look Once v3, salah satu algoritma deteksi objek waktu nyata tercepat dalam pembelajaran mesin.

Fitur-fitur ini dikombinasikan memungkinkan chip untuk menyampaikan kinerja AI yang kuat dalam lingkungan yang sebelumnya dianggap terlalu terbatas daya atau bandwidth untuk inferensi lanjutan.

Jalan Menuju Komersialisasi dan Visi IOWN

NTT berencana untuk mengomersialisasikan chip ini dalam tahun fiskal 2025 melalui perusahaan operasionalnya, NTT Innovative Devices Corporation.

Peneliti sudah menjelajahi integrasinya ke dalam Innovative Optical and Wireless Network (IOWN)—visi infrastruktur generasi berikutnya NTT yang bertujuan untuk memperbarui tulang punggung digital masyarakat modern. Dalam Data-Centric Infrastructure (DCI) IOWN, chip ini akan memanfaatkan Jaringan All-Photonik untuk latensi ultra-rendah, komunikasi kecepatan tinggi, melengkapi kekuatan pemrosesan lokal yang dibawanya ke perangkat tepi.

NTT juga berkolaborasi dengan NTT DATA, Inc. untuk menggabungkan kemampuan chip ini dengan teknologi Enkripsi Berbasis Atribut (ABE), yang memungkinkan kontrol akses yang aman dan halus terhadap data sensitif. Bersama, teknologi ini akan mendukung aplikasi AI yang memerlukan kecepatan dan keamanan—seperti dalam perawatan kesehatan, kota pintar, dan sistem otonom.

Warisan Inovasi dan Visi untuk Masa Depan

Chip inferensi AI ini adalah demonstrasi terbaru dari misi NTT untuk memungkinkan masyarakat yang berkelanjutan dan cerdas melalui inovasi teknologi yang mendalam. Sebagai pemimpin global dengan lebih dari $92 miliar pendapatan, 330.000 karyawan, dan $3,6 miliar dalam penelitian dan pengembangan tahunan, NTT melayani lebih dari 75% perusahaan Fortune Global 100 dan jutaan konsumen di 190 negara.

Apakah itu drone yang terbang di luar garis pandang visual, kamera yang mendeteksi peristiwa secara waktu nyata tanpa ketergantungan awan, atau mengamankan aliran data dengan enkripsi berbasis atribut, chip baru NTT menetapkan panggung untuk frontier berikutnya dalam AI di tepi—di mana kecerdasan bertemu dengan kecepatan.