人工智能
NTT推出突破性AI推理芯片，用于边缘实时4K视频处理
边缘人工智能处理的重大飞跃， NTT公司 宣布推出一款突破性的AI推理芯片，能够以每秒4帧的速度处理实时30K视频，功耗不到20瓦。这款新芯片 大规模集成电路（LSI） 该芯片在全球率先实现如此高性能的AI视频推理，为边缘计算应用带来了突破。
在展示期间 NTT的 升级2025 首脑 该芯片位于旧金山，专为部署在边缘设备（物理位置靠近数据源的硬件，例如无人机、智能摄像头和传感器）而设计。与依赖云计算进行推理的传统人工智能系统不同，该芯片将强大的人工智能功能直接带到边缘，大幅降低延迟，并无需将超高清视频传输到集中式云服务器进行分析。
边缘计算与云计算：为何重要
在传统的云计算中，来自无人机或摄像头等设备的数据会被发送到远程数据中心（通常位于数百或数千英里之外），在那里进行处理和分析。虽然这种方法提供了几乎无限的计算能力，但它会因数据传输而引入延迟，这对于自主导航、安全监控和实时决策等实时应用来说是一个问题。
与此相反， 边缘计算 在设备本身或附近本地处理数据。这可以减少延迟、节省带宽，即使在网络连接受限或断断续续的环境中也能提供实时洞察。此外，它还能最大限度地减少通过公共网络传输敏感数据的需要，从而增强隐私和数据安全性。
NTT 的新型 AI 芯片完全遵循了这种边缘优先理念——无需依赖云端，即可直接在设备内提供实时 4K 视频分析。
无人机和设备实时人工智能的新时代
安装该芯片后，无人机可以探测距离高达 150 米（492 英尺）的人员或物体——这是日本无人机的法定飞行高度限制。这比传统的实时人工智能系统有了显著的提升，传统的实时人工智能系统由于分辨率或处理速度较低，探测范围通常限制在 30 米以内。
这一进步实现了许多新的用例，包括：
-
基础设施检查 在难以到达的地方
-
灾难响应 在连通性有限的地区
-
农业监测 穿过广阔的田野
-
安全和监控 无需持续的云上行链路
所有这些都是通过功耗不到 20 瓦的芯片实现的——远低于 GPU 驱动的 AI 服务器所需的数百瓦，而这对于移动或电池供电的系统来说是不切实际的。
芯片内部：NTT 专有的 AI 推理引擎
该 LSI 的性能取决于 NTT 定制的 AI 推理引擎，该引擎可确保高速、准确的结果，同时最大限度地降低功耗。关键创新包括：
-
帧间相关性：通过比较连续的视频帧，该芯片减少了冗余计算，提高了效率。
-
动态位精度控制：该技术可以动态调整所需的数值精度，使用更少的位来完成更简单的任务，节省能源而不影响准确性。
-
原生 YOLOv3 执行：该芯片支持直接执行 你只看一次 v3，机器学习中最快的实时物体检测算法之一。
这些组合特性使得该芯片能够在之前被认为功率或带宽太有限而无法进行高级推理的环境中提供强大的人工智能性能。
商业化之路和IOWN愿景
NTT 计划在 2025 财年内通过其运营公司将该芯片商业化， NTT 创新设备公司.
研究人员已经在探索将其融入 创新光纤和无线网络 (IOWN)—NTT 的下一代基础设施愿景旨在彻底改造现代社会的数字骨干。在 IOWN 的 数据中心基础设施（DCI）该芯片将利用全光子网络实现超低延迟、高速通信，补充其为边缘设备带来的本地处理能力。
NTT 还与 NTT DATA公司. 将芯片的功能与其 基于属性的加密 (ABE) 技术，可实现对敏感数据的安全、细粒度的访问控制。这些技术将共同支持对速度和安全性都要求极高的人工智能应用，例如医疗保健、智慧城市和自主系统。
创新的传承与未来的愿景
这款AI推理芯片是NTT通过深度技术创新赋能可持续发展的智能社会使命的最新体现。NTT是一家全球领先企业，营收超过92亿美元，拥有330,000万名员工，年度研发投入达3.6亿美元，服务于超过75%的《财富》全球100强企业以及190个国家/地区的数百万消费者。
无论是超视距飞行的无人机、不依赖云的实时检测事件的摄像头，还是使用基于属性的加密来保护数据流，NTT 的新芯片都为边缘 AI 的下一个前沿领域奠定了基础——智能与即时性在这里相遇。
