NTT представляє революційний чіп AI для обробки відео 4K в режимі реального часу на краю

Відбулося значний стрибок для обробки AI на краю, NTT Corporation оголосила про революційний чіп AI, який може обробляти відео 4K в режимі реального часу з частотою 30 кадрів на секунду, використовуючи менше 20 ват енергії. Цей новий чіп великомасштабної інтеграції (LSI) є першим у світі, який досяг такого високопродуктивного AI-відеоінференсу в середовищах з обмеженою потужністю, що робить його проривом для застосунків=edge обчислень.

Представлений під час саміту NTT Upgrade 2025 у Сан-Франциско, чіп спеціально розроблений для розгортання на пристроях краю – апаратному забезпеченні, розташованому фізично близько до джерела даних, як дрони, розумні камери та датчики. На відміну від традиційних систем AI, які покладаються на обчислення в хмарі для інференсу, цей чіп надає потужні можливості AI безпосередньо на краю, суттєво зменшуючи затримку та ліквідуючи необхідність передавати відео надвищої чіткості на центральні сервери хмари для аналізу.

Обчислення на краю проти обчислень у хмарі: чому це має значення

У традиційних обчисленнях у хмарі дані з пристроїв, таких як дрони або камери, передаються на віддалені дані центри – часто розташовані сотні або тисячі миль від джерела, – де вони обробляються та аналізуються. Хоча цей підхід пропонує практично необмежену потужність обчислень, він вводить затримку через передачу даних, що є проблематичним для застосунків у режимі реального часу, таких як автономна навігація, моніторинг безпеки та прийняття рішень у режимі реального часу.

Натомість обчислення на краю обробляють дані локально, на самому пристрої або біля нього. Це зменшує затримку, зберігає смугу пропускання та дозволяє отримувати інформацію у режимі реального часу навіть у середовищах з обмеженою або періодичною підключенням до Інтернету. Це також підвищує приватність та безпеку даних, мінімізуючи необхідність передавати конфіденційні дані через публічні мережі.

Новий чіп AI компанії NTT повністю підтримує цю філософію “край-спершу” – забезпечуючи аналіз відео 4K у режимі реального часу безпосередньо всередині пристрою, без використання хмари.

Нова ера для реального часу AI на дронах та пристроях

З встановленням цього чіпа дрон може виявляти людей або об’єкти з відстані до 150 метрів (492 фути) – це законодавчий ліміт для польотів дронів у Японії. Це драматичне покращення порівняно з традиційними системами AI у режимі реального часу, які зазвичай обмежені діапазоном 30 метрів через нижчу роздільну здатність або швидкість обробки.

Це досягнення дозволяє реалізувати ряд нових застосунків, включаючи:

• Інспекцію інфраструктури в важкодоступних місцях

• Відповідь на стихійні лиха в районах з обмеженою підключенням

• Моніторинг сільського господарства на великих полях

• Безпеку та спостереження без постійного зв’язку з хмарою

Все це досягається за допомогою чіпа, який споживає менше 20 ват – суттєво менше, ніж сотні ват, необхідні для серверів AI з підтримкою GPU, які є непрактичними для мобільних або батарейних систем.

Внутрішня структура чіпа: пропріетарний двигун інференсу AI компанії NTT

Продуктивність LSI залежить від пропріетарного двигуна інференсу AI компанії NTT, який забезпечує високу швидкість та точність результатів, мінімізуючи споживання енергії. Ключові інновації включають:

• Міжкадрову кореляцію: порівнюючи послідовні кадри відео, чіп зменшує зайві обчислення, покращуючи ефективність.

• Динамічний контроль розрядності: цей метод регулює числову розрядність, необхідну в режимі реального часу, використовуючи менше біт для простіших завдань, зберігаючи енергію без компромісу точності.

• Вбудовану реалізацію YOLOv3: чіп підтримує пряму реалізацію You Only Look Once v3, одного з найшвидших алгоритмів детекції об’єктів у режимі реального часу в машинному навчанні.

Ці об’єднані функції дозволяють чіпу забезпечувати надійну продуктивність AI в середовищах, які раніше вважалися обмеженими за потужністю або смугою пропускання для передових інференсу.

Шлях до комерціалізації та бачення IOWN

Компанія NTT планує комерціалізувати чіп у фінансовому році 2025 через свою оперативну компанію NTT Innovative Devices Corporation.

Дослідники вже досліджують його інтеграцію в Інноваційну оптичну та бездротову мережу (IOWN) – бачення компанії NTT щодо наступної генерації інфраструктури, спрямоване на оновлення цифрового хребта сучасного суспільства. У рамках Інфраструктури, орієнтованої на дані (DCI), чіп буде використовувати优势 Все-фотонної мережі для наднизької затримки та високошвидкісної передачі даних, доповнюючи локальну обробку даних, яку він надає пристроям краю.

Компанія NTT також співпрацює з NTT DATA, Inc. для об’єднання можливостей чіпа з технологією Атрибутного шифрування (ABE), яка забезпечує безпечний, деталізований контроль доступу до конфіденційних даних. Разом ці технології підтримуватимуть застосунки AI, які вимагають як швидкості, так і безпеки – наприклад, у сфері охорони здоров’я, розумних міст та автономних систем.

Спадщина інновацій та бачення майбутнього

Цей чіп AI є останньою демонстрацією місії компанії NTT щодо забезпечення сталого, інтелектуального суспільства за допомогою глибоких технологічних інновацій. Як глобальний лідер з понад 92 мільярдами доларів доходу, 330 000 співробітників та 3,6 мільярдами доларів щорічних витрат на дослідження та розробки, компанія NTT обслуговує понад 75% компаній Fortune Global 100 та мільйони споживачів у 190 країнах.

Чи то дрони, що літають за межами візуальної лінії, чи камери, що виявляють події у режимі реального часу без залежності від хмари, чи забезпечення безпеки потоків даних за допомогою атрибутного шифрування, новий чіп компанії NTT відкриває сцену для наступного етапу розвитку AI на краю – де інтелект зустрічається з негайністю.