NTT представляє революційний чіп AI Inference для обробки відео 4K у реальному часі на межі

У значний стрибок для периферійної обробки ШІ, Корпорація НТТ анонсувала революційну мікросхему штучного інтелекту, яка може обробляти відео 4K у реальному часі зі швидкістю 30 кадрів на секунду, споживаючи менше 20 Вт енергії. Цей новий великомасштабна інтеграція (LSI) chip є першим у світі, який досяг такого високопродуктивного штучного інтелекту для відеовведення в середовищах з обмеженим енергоспоживанням, що робить його проривом для додатків периферійних обчислень.

Виявлено під час НТТ Оновити 2025 саміт у Сан-Франциско чіп розроблений спеціально для розгортання в периферійних пристроях — обладнанні, розташованому фізично близько до джерела даних, наприклад дронах, розумних камерах і датчиках. На відміну від традиційних систем штучного інтелекту, які покладаються на хмарні обчислення для висновків, цей чіп надає потужні можливості штучного інтелекту безпосередньо на межі, суттєво зменшуючи затримку та усуваючи необхідність передавати відео надвисокої чіткості на централізовані хмарні сервери для аналізу.

Граничні обчислення проти хмарних обчислень: чому це важливо

У традиційних хмарних обчисленнях дані з таких пристроїв, як дрони або камери, надсилаються до віддалених центрів обробки даних, які часто розташовані за сотні або тисячі миль, де вони обробляються та аналізуються. Хоча такий підхід пропонує практично необмежену обчислювальну потужність, він призводить до затримок через передачу даних, що є проблематичним для програм реального часу, таких як автономна навігація, моніторинг безпеки та прийняття рішень у реальному часі.

На відміну від, краю обчислень обробляє дані локально, на самому пристрої або поблизу нього. Це зменшує затримку, зберігає пропускну здатність і дає змогу отримувати статистику в реальному часі навіть у середовищах з обмеженим або переривчастим підключенням до Інтернету. Це також покращує конфіденційність і безпеку даних, зводячи до мінімуму необхідність передачі конфіденційних даних через публічні мережі.

Новий чіп зі штучним інтелектом від NTT повністю використовує цю передову філософію, надаючи аналіз відео 4K у реальному часі безпосередньо на пристрої, не покладаючись на хмару.

Нова ера штучного інтелекту в реальному часі на дронах і пристроях

Завдяки встановленому чіпу безпілотник може виявляти людей або об’єкти на відстані до 150 метрів (492 футів) — дозволеного обмеження висоти для дронів у Японії. Це значне покращення в порівнянні з традиційними системами штучного інтелекту в режимі реального часу, які, як правило, обмежені 30-метровим діапазоном через нижчу роздільну здатність або швидкість обробки.

Цей прогрес дає змогу використовувати безліч нових випадків використання, зокрема:

• Перевірки інфраструктури у важкодоступних місцях

• Відповідь на катастрофи в районах з обмеженим сполученням

• Сільськогосподарський моніторинг через широкі поля

• Безпека та спостереження без постійних хмарних висхідних каналів

Все це досягається за допомогою чіпа, який споживає менше 20 Вт — значно менше, ніж сотні Вт, які потрібні для серверів штучного інтелекту з графічним процесором, які є непрактичними для мобільних систем або систем з живленням від батарей.

Всередині чіпа: власний механізм штучного інтелекту NTT

Продуктивність LSI залежить від спеціально створеного механізму AI Inference від NTT, який забезпечує високошвидкісні точні результати при мінімізації енергоспоживання. Серед ключових інновацій:

• Міжкадрова кореляція: Порівнюючи послідовні відеокадри, чіп зменшує зайві обчислення, підвищуючи ефективність.

• Динамічний контроль бітової точності: Ця техніка налаштовує необхідну чисельну точність на льоту, використовуючи менше бітів для простіших завдань, зберігаючи енергію без шкоди для точності.

• Рідне виконання YOLOv3: чіп підтримує пряме виконання Дивишся лише раз v3, один із найшвидших алгоритмів виявлення об’єктів у реальному часі в машинному навчанні.

Ці комбіновані функції дозволяють чіпу забезпечувати надійну продуктивність штучного інтелекту в середовищах, які раніше вважалися занадто обмеженими в потужності або пропускній здатності для розширеного висновку.

Шлях до комерціалізації та власне бачення

NTT планує комерціалізувати чіп протягом 2025 фінансового року через свою операційну компанію, NTT Innovative Devices Corporation.

Дослідники вже вивчають його інтеграцію в Інноваційна оптична та бездротова мережа (IOWN)— Бачення інфраструктури наступного покоління NTT, спрямоване на перебудову цифрового хребта сучасного суспільства. У межах IOWN Інфраструктура, орієнтована на дані (DCI)чіп використовуватиме переваги All-Photonics Network для наднизької затримки, високошвидкісного зв’язку, що доповнює потужність локальної обробки, яку він забезпечує периферійним пристроям.

НТТ також співпрацює з NTT DATA, Inc. щоб поєднати можливості чіпа з його Шифрування на основі атрибутів (ABE) технологія, яка забезпечує безпечний, детальний контроль доступу до конфіденційних даних. Разом ці технології підтримуватимуть програми штучного інтелекту, які потребують як швидкості, так і безпеки, наприклад, у сфері охорони здоров’я, розумних містах та автономних системах.

Спадщина інновацій і бачення майбутнього

Цей чіп штучного інтелекту є останньою демонстрацією місії NTT щодо розширення можливостей сталого, розумного суспільства через глибокі технологічні інновації. Будучи світовим лідером із доходом понад 92 мільярди доларів США, 330,000 3.6 співробітників і щорічними дослідженнями та розробками в розмірі 75 мільярда доларів США, NTT обслуговує понад 100% компаній зі списку Fortune Global 190 і мільйони споживачів у XNUMX країнах.

Незалежно від того, чи це дрони, що літають за межами прямої видимості, камери, які виявляють події в режимі реального часу без залежності від хмари, чи захист потоків даних за допомогою шифрування на основі атрибутів, новий чіп NTT закладає основу для наступного рубежу ШІ на краю — де інтелект зустрічається з безпосередністю.