NTT 发布突破性 AI 推理芯片，实现边缘实时 4K 视频处理

在边缘 AI 处理方面，NTT 公司宣布了一款开创性的 AI 推理芯片，可以处理实时 4K 视频，帧率为 30 帧每秒，功耗不到 20 瓦。这款新型的大规模集成（LSI）芯片是世界上第一款在功耗和带宽有限的环境中实现高性能 AI 视频推理的芯片，这是边缘计算应用的一个突破。

在旧金山举行的 NTT 的 Upgrade 2025峰会上，芯片专门为部署在边缘设备中设计——这些设备位于数据源附近，如无人机、智能摄像头和传感器。与传统的依赖云计算进行推理的 AI 系统不同，这款芯片将强大的 AI 能力直接带到边缘，大大减少了延迟，并消除了将超高清视频传输到集中式云服务器进行分析的需要。

边缘计算与云计算：为什么重要

在传统的云计算中，来自设备如无人机或摄像头的数据被发送到远程数据中心——通常位于几百或几千英里以外——在那里进行处理和分析。虽然这种方法提供了几乎无限的计算能力，但由于数据传输引入了延迟，这对于实时应用（如自主导航、安全监控和实时决策）来说是一个问题。

相比之下，边缘计算在设备本身或附近进行数据处理。这减少了延迟，节省了带宽，并使即使在互联网连接有限或间歇性的环境中也能实现实时洞察。它还通过最小化传输敏感数据到公共网络的需要来增强隐私和数据安全。

NTT 的新 AI 芯片完全体现了这种边缘优先的理念——直接在设备内提供实时 4K 视频分析，而无需依赖云计算。

无人机和设备上的实时 AI 新时代

安装了这款芯片的无人机可以在 150 米（492 英尺）的距离内检测到人或物体——这是日本无人机的法定高度限制。与传统的实时 AI 系统相比，这是一个显著的改进，传统系统通常由于分辨率较低或处理速度较慢而限制在 30 米的范围内。

这一进步使得以下新用例成为可能：

• 基础设施检查在难以到达的地方

• 灾难响应在连接有限的地区

• 农业监测在广阔的领域

• 安全和监视无需不断的云连接

所有这些都通过一款功耗不到 20 瓦的芯片实现——这比 GPU 驱动的 AI 服务器所需的几百瓦功耗大大降低，这些服务器对于移动或电池供电的系统来说是不切实际的。

芯片内：NTT 的专有 AI 推理引擎

LSI 的性能依赖于 NTT 的自定义 AI 推理引擎，该引擎确保高速、准确的结果同时最小化功耗。关键创新包括：

• 帧间关联：通过比较连续的视频帧，芯片减少了冗余计算，提高了效率。

• 动态位精度控制：该技术根据需要调整数字精度，使用较少的位数进行较简单的任务，节省能量而不损害准确性。

• 本地 YOLOv3 执行：芯片支持直接执行 You Only Look Once v3，机器学习中最快的实时物体检测算法之一。

这些综合功能使芯片能够在以前被认为对高级推理来说功耗或带宽有限的环境中提供强大的 AI 性能。

商业化路径和 IOWN 愿景

NTT 计划在 2025 财年内通过其运营公司 NTT 创新设备公司商业化这款芯片。

研究人员已经开始探索将其集成到 创新光学和无线网络（IOWN）中的可能性——NTT 的下一代基础设施愿景，旨在改造现代社会的数字基础设施。在 IOWN 的 数据中心基础设施（DCI）中，芯片将利用全光网络实现超低延迟、高速通信，补充它为边缘设备带来的本地处理能力。

NTT 还与 NTT 数据公司合作，将芯片的功能与其 基于属性的加密（ABE）技术相结合，这项技术可以对敏感数据进行安全、细粒度的访问控制。这些技术的结合将支持需要同时具备速度和安全性的 AI 应用，例如在医疗保健、智能城市和自主系统中。

创新遗产和未来愿景

这款 AI 推理芯片是 NTT 致力于通过深层次的技术创新赋予可持续、智能社会的最新体现。作为一家全球领先企业，NTT 的收入超过 920 亿美元，拥有 33 万名员工，每年研发投入 36 亿美元，服务于全球 75% 的财富 100 强公司和 190 个国家的数百万消费者。

无论是无人机飞行超出视线范围、摄像头在不依赖云计算的情况下实时检测事件，还是使用基于属性的加密来保护数据流，NTT 的新芯片为边缘 AI 的下一个前沿领域奠定了基础——在那里，智能与即时性相遇。