NTT представляє революційний чіп інференції штучного інтелекту для обробки відео 4K в режимі реального часу на краю мережі

Компанія NTT Corporation зробила значний крок у сфері обробки штучного інтелекту на краю мережі, представивши революційний чіп інференції штучного інтелекту, який може обробляти відео 4K в режимі реального часу з частотою 30 кадрів на секунду, використовуючи менше 20 Вт енергії. Цей новий чіп великомасштабної інтеграції (LSI) є першим у світі, який досяг такого високого рівня обробки відео штучного інтелекту в умовах обмеженої потужності, що робить його проривом для застосунків обробки на краю мережі.

Чіп був представлений під час саміту NTT Upgrade 2025 у Сан-Франциско, і він розроблений спеціально для використання в пристроях на краю мережі – апаратному забезпеченні, розташованому фізично близько до джерела даних, таких як дрони, розумні камери та датчики. На відміну від традиційних систем штучного інтелекту, які залежать від обробки в хмарі, цей чіп забезпечує потужні можливості штучного інтелекту безпосередньо на краю мережі, що суттєво знижує затримку та усуває необхідність передавати відео високої чіткості до централізованих серверів хмари для аналізу.

Обробка на краю мережі проти обробки в хмарі: чому це важливо

У традиційній обробці в хмарі дані з пристроїв, таких як дрони або камери, передаються до віддалених центрів даних – часто розташованих сотнями або тисячами кілометрів від джерела, – де вони обробляються та аналізуються. Хоча такий підхід пропонує практично необмежену обчислювальну потужність, він вводить затримку через передачу даних, що є проблематичним для застосунків в режимі реального часу, таких як автономна навігація, моніторинг безпеки та прийняття рішень в режимі реального часу.

Натомість обробка на краю мережі обробляє дані локально, на самому пристрої або поблизу нього. Це знижує затримку, зберігає смугу пропускання та забезпечує аналіз в режимі реального часу навіть у середовищах з обмеженою або періодичною підключенням до Інтернету. Крім того, це підвищує конфіденційність та безпеку даних, мінімізуючи необхідність передавати чутливі дані через публічні мережі.

Новий чіп NTT повністю підтримує цю філософію обробки на краю мережі, забезпечуючи аналіз відео 4K в режимі реального часу безпосередньо на пристрої, без залежності від хмари.

Нова ера штучного інтелекту в режимі реального часу на дронах та пристроях

З цим чіптом дрон може виявляти людей або об’єкти на відстані до 150 метрів (492 фути) – це законовий ліміт висоти польоту дронів у Японії. Це суттєве покращення порівняно з традиційними системами штучного інтелекту в режимі реального часу, які зазвичай обмежені відстанню 30 метрів через нижчу роздільну здатність або швидкість обробки.

Це досягнення дозволяє використовувати ряд нових застосунків, включаючи:

• Інспекцію інфраструктури в важкодоступних місцях

• Відповідь на стихійні лиха в районах з обмеженою підключенням

• Моніторинг сільського господарства на великих полях

• Безпека та спостереження без постійної передачі даних до хмари

Все це досягається за допомогою чіпу, який споживає менше 20 Вт – суттєво менше, ніж сотні Вт, необхідні для серверів штучного інтелекту з підтримкою GPU, які є непрактичними для мобільних або батарейних систем.

Всередині чіпу: пропрієтарний двигун інференції штучного інтелекту NTT

Продуктивність LSI залежить від пропрієтарного двигуна інференції штучного інтелекту NTT, який забезпечує високу швидкість, точність та мінімальне споживання енергії. Ключові інновації включають:

• Кореляція між кадрами: порівнюючи послідовні кадри відео, чіп знижує зайві обчислення, покращуючи ефективність.

• Динамічний контроль точності біта: ця техніка регулює числову точність в режимі реального часу, використовуючи менше біт для простіших завдань, зберігаючи енергію без компромісу точності.

• Вбудована підтримка YOLOv3: чіп підтримує безпосередню обробку You Only Look Once v3, одного з найшвидших алгоритмів виявлення об’єктів в режимі реального часу в машинному навчанні.

Ці об’єднані функції дозволяють чіпу забезпечувати потужну продуктивність штучного інтелекту в середовищах, які раніше вважалися обмеженими потужністю або смугою пропускання для передових інференцій.

Шлях до комерціалізації та бачення IOWN

NTT планує комерціалізувати чіп у фінансовому році 2025 через свою дочірню компанію NTT Innovative Devices Corporation.

Дослідники вже досліджують можливість інтеграції цього чіпу до Інновативної оптичної та бездротової мережі (IOWN) – бачення NTT щодо наступного покоління інфраструктури, спрямованого на оновлення цифрової інфраструктури сучасного суспільства. У рамках Інфраструктури, орієнтованої на дані (DCI), чіп буде використовувати优势 All-Photonics Network для наднизької затримки та високошвидкісної передачі даних, доповнюючи локальну обробку даних на пристроях на краю мережі.

NTT також співпрацює з NTT DATA, Inc. для об’єднання можливостей чіпу з технологією Атрибутного шифрування (ABE), яка забезпечує безпечний, детальний контроль доступу до чутливих даних. Разом ці технології підтримуватимуть застосунки штучного інтелекту, які вимагають як швидкості, так і безпеки – наприклад, у сфері охорони здоров’я, розумних міст та автономних систем.

Спадщина інновацій та бачення майбутнього

Цей чіп інференції штучного інтелекту є останнім демонстрацією місії NTT щодо надання можливостей для сталого, інтелектуального суспільства через глибоку технологічну інновацію. Як глобальний лідер з понад $92 млрд доходу, 330 000 співробітників та $3,6 млрд витрат на дослідження та розробку щороку, NTT обслуговує понад 75% компаній з Fortune Global 100 та мільйони споживачів у 190 країнах.

Чи то дрони, що літають за межами візуальної лінії, чи камери, що виявляють події в режимі реального часу без залежності від хмари, чи забезпечення безпеки потоків даних за допомогою атрибутного шифрування, новий чіп NTT відкриває шлях до наступного етапу розвитку штучного інтелекту на краю мережі – де інтелект зустрічається з негайністю.