NTT, 4K 실시간 비디오 처리를 위한 혁신적인 에지 AI 추론 칩 공개

에지 AI 처리 분야에서 큰 발전을 이루어낸 NTT Corporation은 30 프레임으로 4K 비디오를 처리할 수 있는 혁신적인 AI 추론 칩을 발표했습니다. 이 새로운 대규모 집적 회로(LSI) 칩은 전 세계에서 처음으로 저전력 환경에서 높은 성능의 AI 비디오 추론을 달성했습니다. 이는 에지 컴퓨팅 애플리케이션을 위한 획기적인 발전입니다.

샌프란시스코에서 열린 NTT의 Upgrade 2025 서밋에서 공개된 이 칩은 에지 디바이스에 특화되어 있습니다. 에지 디바이스는 데이터의 원천에 물리적으로 가까운 하드웨어로, 드론, 스마트 카메라, 센서 등이 있습니다. 전통적인 AI 시스템과 달리 이 칩은 클라우드 컴퓨팅에 의존하지 않고 강력한 AI 기능을 에지에 직접 제공하여 지연 시간을 크게 줄이고 초고선명 비디오를 중앙 클라우드 서버로 전송하여 분석할 필요를 제거합니다.

에지 컴퓨팅 vs. 클라우드 컴퓨팅: 왜 중요한가

전통적인 클라우드 컴퓨팅에서는 드론이나 카메라와 같은 디바이스에서 데이터를 수백 또는 수천 마일 떨어진 원격 데이터 센터로 전송하여 처리하고 분석합니다. 이 접근 방식은 거의 무한한 컴퓨팅 파워를 제공하지만, 데이터 전송으로 인해 지연 시간이 발생하여 실시간 애플리케이션에 문제가 됩니다.

반면에 에지 컴퓨팅은 데이터를 로컬에서 처리하거나 디바이스 자체에서 처리합니다. 이는 지연 시간을 줄이고 대역폭을 보존하며 제한적이거나 간헐적인 인터넷 연결이 있는 환경에서도 실시간 통찰력을 제공합니다. 또한 공공 네트워크를 통해 민감한 데이터를 전송할 필요를 최소화하여 개인 정보와 데이터 보안을 강화합니다.

NTT의 새로운 AI 칩은 이 에지 우선 철학을 완전히 수용하여 클라우드에 의존하지 않고 디바이스 내에서 실시간 4K 비디오 분석을 제공합니다.

드론과 디바이스를 위한 실시간 AI의 새로운 시대

이 칩이 설치된 드론은 일본에서 허용되는 최대 고도인 150미터(492피트) 거리에서 사람이나 물체를 감지할 수 있습니다. 이는 전통적인 실시간 AI 시스템보다 Dramatic한 향상입니다. 전통적인 시스템은 일반적으로 낮은 해상도 또는 처리 속도 때문에 30미터 범위로 제한됩니다.

이러한 발전은 다음과 같은 새로운 사용 사례를 가능하게 합니다:

• 도시의 어려운 지역에서의 인프라 검사

• 제한된 연결성 지역에서의 재해 대응

• 광범위한 지역에서의 농업 모니터링

• 클라우드 업링크 없이 보안 및 감시

모두 20와트 미만의 전력 소비로 달성되며, 이는 GPU 기반 AI 서버에서 수백 와트를 소비하는 것보다 Dramatic한 감소입니다. 이러한 서버는 이동형 또는 배터리 구동 시스템에서는 실용적이지 않습니다.

칩 내부: NTT의 특허 출원된 AI 추론 엔진

LSI의 성능은 NTT의 맞춤형 AI 추론 엔진에 달려 있습니다. 이 엔진은 높은 속도와 정확성을 제공하면서 전력 소비를 최소화합니다. 주요 혁신에는 다음이 포함됩니다:

• 인터프레임 상관관계: 순차적인 비디오 프레임을 비교함으로써 칩은冗余 계산을 줄이고 효율성을 향상시킵니다.

• 동적 비트 정밀도 제어: 이 기술은 숫자 정밀도를 실시간으로 조정하여 더 прост한 작업에 대해 더 적은 비트를 사용하여 에너지를 보존하면서도 정확성을 손상시키지 않습니다.

• 네이티브 YOLOv3 실행: 칩은 기계 학습에서 가장 빠른 실시간 객체 감지 알고리즘 중 하나인 You Only Look Once v3를 직접 실행할 수 있습니다.

이 결합된 기능으로 칩은 이전에 고급 추론에 대한 전력 또는 대역폭이 제한된 환경에서 강력한 AI 성능을 제공할 수 있습니다.

상용화로의 길과 IOWN 비전

NTT는 2025 회계 연도 내에 운영 회사인 NTT Innovative Devices Corporation을 통해 칩을 상용화할 계획입니다.

연구자들은 이미 이 칩을 Innovative Optical and Wireless Network (IOWN)에 통합하는 것을 탐색하고 있습니다. IOWN은 현대 사회의 디지털 기반을 개혁하기 위한 NTT의 차세대 인프라 비전입니다. IOWN의 Data-Centric Infrastructure (DCI)에서 칩은 모든 광자 네트워크를 利用하여 초저 지연, 고속 통신을 달성할 것입니다. 이는 에지 디바이스에서 제공하는 로컬 처리 능력을 보완할 것입니다.

NTT는 또한 NTT DATA, Inc.와 협력하여 칩의 능력을 속성 기반 암호화 (ABE) 기술과 결합하고 있습니다. ABE는 민감한 데이터에 대한 보안 및 세분화된 액세스 제어를 가능하게 합니다. 이러한 기술의 결합은 보안과 속도가 필요한 애플리케이션(예: 의료, 스마트 시티, 자율 시스템)을 지원할 것입니다.

혁신의 유산과 미래의 비전

이 AI 추론 칩은 지속 가능한 지능형 사회를 위한 깊은 기술 혁신을 통해 강화하는 NTT의 임무의 최신 증거입니다. 920억 달러 이상의 매출, 33만 명의 직원, 연간 36억 달러의 연구 개발 투자로 NTT는 포춘 글로벌 100대 기업의 75% 이상과 190개국에 걸쳐 수백만 명의 소비자에게 서비스를 제공합니다.

드론이 시각적 선을 넘어서 비행하거나, 카메라가 클라우드 의존성 없이 실시간으로 이벤트를 감지하거나, 속성 기반 암호화를 사용하여 데이터 흐름을 보안하는 경우, NTT의 새로운 칩은 에지에서 지능과 즉시성이 만나는 다음 프론티어를 위한 무대를 설정합니다.