NTT představuje průlomový AI inference čip pro zpracování videa 4K v reálném čase na okraji sítě

Ve velkém skoku pro zpracování AI na okraji sítě společnost NTT Corporation oznámila průlomový AI inference čip, který může zpracovat video 4K v reálném čase při 30 snímcích za sekundu – při spotřebě méně než 20 wattů. Tento nový čip s velkou integrací (LSI) je prvním na světě, který dosáhl takového vysokého výkonu AI videa v prostředí s omezenou spotřebou, což je průlom pro aplikace edge computingu.

Odhaleno během NTT’s Upgrade 2025 summitu v San Franciscu, je čip navržen speciálně pro nasazení v zařízeních na okraji – hardwaru umístěného fyzicky blízko zdroje dat, jako jsou drony, chytré kamery a senzory. Na rozdíl od tradičních AI systémů, které spoléhají na cloud computing pro inferencing, tento čip přináší powerfulní AI schopnosti přímo na okraj, dramaticky snižuje latenci a eliminuje potřebu přenosu ultra-vysokého rozlišení videa do centralizovaných cloud serverů pro analýzu.

Edge Computing vs. Cloud Computing: Proč to matters

V tradičním cloud computingu jsou data z zařízení, jako jsou drony nebo kamery, odeslána do vzdálených datových center – často umístěných stovky nebo tisíce mil daleko – kde jsou zpracována a analyzována. Zatímco tento přístup nabízí téměř neomezenou výpočetní sílu, zavádí zpoždění kvůli přenosu dat, což je problematické pro aplikace v reálném čase, jako je autonomní navigace, bezpečnostní monitorování a živé rozhodování.

Naopak edge computing zpracovává data místně, na nebo poblíž zařízení samotného. To snižuje latenci, zachovává šířku pásma a umožňuje získání informací v reálném čase, i v prostředích s omezenou nebo přerušovanou internetovou konektivitou. Také zvyšuje soukromí a bezpečnost dat, minimalizuje potřebu přenosu citlivých dat přes veřejné sítě.

NTT’s nový AI čip plně přijímá tuto filozofii edge-first – dodává analýzu videa 4K v reálném čase přímo uvnitř zařízení, bez závislosti na cloudu.

Nová éra pro zpracování AI v reálném čase na drony a zařízeních

S tímto čipem instalovaným, může dron detekovat lidi nebo objekty z až 150 metrů (492 stop) – legální výškový limit pro drony v Japonsku. To je dramatické zlepšení oproti tradičním systémům AI v reálném čase, které jsou obecně omezeny na 30 metrů kvůli nižšímu rozlišení nebo rychlosti zpracování.

Tento pokrok umožňuje řadu nových použití, včetně:

• Inspekcí infrastruktury v těžko přístupných místech

• Reakce na katastrofy v oblastech s omezenou konektivitou

• Agriculturální monitorování přes široká pole

• Bezpečnost a dohled bez stálého cloudu

To vše je dosaženo s čipem, který spotřebuje méně než 20 wattů – dramaticky nižší než stovky wattů požadovaných GPU-pohonými AI servery, které jsou nepraktické pro mobilní nebo bateriově poháněné systémy.

Uvnitř čipu: NTT’s Proprietary AI Inference Engine

Výkon LSI závisí na NTT’s custom-built AI inference engine, který zajišťuje vysokorychlostní, přesné výsledky, zatímco minimalizuje spotřebu energie. Mezi klíčové inovace patří:

• Mezi-snímková korelace: Porovnáním sekvenčních snímků videa, čip snižuje redundatní výpočty, zlepšuje efektivitu.

• Dynamická kontrola bitové přesnosti: Tato technika upravuje numerickou přesnost požadovanou na letu, používá méně bitů pro jednodušší úkoly, šetří energii bez kompromisů na přesnosti.

• Rodné YOLOv3 provedení: Čip podporuje přímé provedení You Only Look Once v3, jeden z nejrychlejších algoritmů detekce objektů v reálném čase v strojovém učení.

Tyto kombinované funkce umožňují čipu dodávat robustní AI výkon v prostředích, které byly dříve považovány za příliš omezené pro pokročilé inferencing.

Cesta k commercializaci a vizi IOWN

NTT plánuje commercializovat čip do konce fiskálního roku 2025 prostřednictvím své provozní společnosti, NTT Innovative Devices Corporation.

Výzkumníci již prozkoumávají jeho integraci do Innovative Optical and Wireless Network (IOWN) – NTT’s vize pro next-generační infrastrukturu, zaměřenou na přestavbu digitální páteře moderní společnosti. V rámci IOWN’s Data-Centric Infrastructure (DCI), by čip využil All-Photonics Network pro ultra-nízkou latenci, vysokorychlostní komunikaci, doplňující lokální zpracování, které přináší na okraj zařízení.

NTT také spolupracuje s NTT DATA, Inc. na kombinaci schopností čipu s jeho Attribute-Based Encryption (ABE) technologií, která umožňuje zabezpečený, jemný přístupový kontrolní mechanismus pro citlivá data. Tyto technologie budou podporovat AI aplikace, které vyžadují jak rychlost, tak bezpečnost – jako je zdravotnictví, chytrá města a autonomní systémy.

Odkaz na inovace a vize pro budoucnost

Tento AI inference čip je nejnovějším demonstrací NTT’s mise, aby posílil udržitelnou, inteligentní společnost prostřednictvím hluboké technologické inovace. Jako globální lídr s více než 92 miliardami dolarů v příjmu, 330 000 zaměstnanci a 3,6 miliardami dolarů v ročním výzkumu a vývoji, NTT slouží více než 75 % společností z Fortune Global 100 a milionům spotřebitelů ve 190 zemích.

Buď to let dronů za hranicí viditelnosti, detekce událostí v reálném čase bez závislosti na cloudu, nebo zabezpečení toků dat s atributovým šifrováním, NTT’s nový čip nastavuje scénu pro další hranici AI na okraji – kde inteligence potkává okamžitost.