NTT presenterar banbrytande AI-inferenschip för realtidsbearbetning av 4K-video på kanten

I ett stort steg för bearbetning av AI på kanten har NTT Corporation tillkännagett ett banbrytande AI-inferenschip som kan bearbeta realtids-4K-video i 30 bilder per sekund – med mindre än 20 watt effekt. Denna nya storskalig integreringschip (LSI) är den första i världen som uppnår så högpresterande AI-videobearbetning i miljöer med begränsad effekt eller bandbredd, vilket gör det till en banbrytning för edge computing-applikationer.

Det presenterades under NTT:s Upgrade 2025-konferens i San Francisco, och chipet är utformat specifikt för distribution i enheter på kanten – hårdvara som är fysiskt belägen nära datakällan, som drönare, smarta kameror och sensorer. Till skillnad från traditionella AI-system som förlitar sig på molnbearbetning för inferens, bringar detta chip kraftfulla AI-funktioner direkt till kanten, vilket drastiskt minskar fördröjningen och eliminerar behovet av att överföra ultra-högupplösta videor till centrala molnservrar för analys.

Edge Computing vs. Cloud Computing: Varför det spelar roll

I traditionell molnbearbetning skickas data från enheter som drönare eller kameror till avlägsna datacenter – ofta belägna hundratals eller tusentals mil bort – där de bearbetas och analyseras. Medan detta tillvägagångssätt erbjuder i princip obegränsad beräkningskraft, introducerar det fördröjningar på grund av dataöverföring, vilket är problematiskt för realtidsapplikationer som autonom navigering, säkerhetsövervakning och direkt beslutsfattande.

I kontrast bearbetar edge computing data lokalt, på eller i närheten av enheten själv. Detta minskar fördröjningen, bevarar bandbredden och möjliggör realtidsinsikter även i miljöer med begränsad eller intermittent internetanslutning. Det förbättrar också sekretess och datasäkerhet genom att minimera behovet av att överföra känsliga data över offentliga nätverk.

NTT:s nya AI-chip omfamnar fullständigt denna edge-första filosofi – och levererar realtids-4K-videanalys direkt inom enheten, utan att förlita sig på molnet.

En ny era för realtids-AI på drönare och enheter

Med detta chip installerat kan en drönare upptäcka människor eller föremål på upp till 150 meter (492 fot) – den lagliga höjdgränsen för drönare i Japan. Det är en dramatisk förbättring jämfört med traditionella realtids-AI-system, som vanligtvis är begränsade till en 30-meters räckvidd på grund av lägre upplösning eller bearbetningshastighet.

Denna framsteg möjliggör en mängd nya användningsfall, inklusive:

• Infrastrukturinspektioner i svåråtkomliga områden

• Katastrofinsatser i områden med begränsad anslutning

• Jordbruksövervakning över stora fält

• Säkerhets- och övervakning utan konstant molnuppkoppling

Allt detta uppnås med ett chip som förbrukar mindre än 20 watt – dramatiskt lägre än de hundratals watt som krävs av GPU-drivna AI-servrar, som är opraktiska för mobila eller batteridrivna system.

Inuti chipet: NTT:s egenutvecklade AI-inferensmotor

LSI-chipets prestanda hänger samman med NTT:s egenutvecklade AI-inferensmotor, som säkerställer höghastighets-, exakta resultat samtidigt som effektanvändningen minskas. Nyckelinnovationer inkluderar:

• Mellanramskorrelation: Genom att jämföra sekventiella videoramar minskar chipet redundanta beräkningar, vilket förbättrar effektiviteten.

• Dynamisk bitprecisionskontroll: Denna teknik justerar den numeriska precisionen som krävs på flyget, med färre bitar för enklare uppgifter, vilket sparar energi utan att kompromissa med noggrannheten.

• Inbyggd YOLOv3-exekvering: Chipet stöder direkt exekvering av You Only Look Once v3, en av de snabbaste realtidsobjektidentifieringsalgoritmerna inom maskinlärning.

Dessa kombinerade funktioner möjliggör att chipet levererar robust AI-prestanda i miljöer som tidigare ansågs för begränsade avseende effekt eller bandbredd för avancerad inferens.

Vägen till kommersialisering och IOWN-visionen

NTT planerar att kommersialisera chipet inom räkenskapsåret 2025 genom sitt dotterbolag NTT Innovative Devices Corporation.

Forskare undersöker redan dess integration i Innovative Optical and Wireless Network (IOWN) – NTT:s vision för nästa generations infrastruktur, som syftar till att förnya det digitala samhällets ryggrad. Inom IOWN:s Data-Centric Infrastructure (DCI) skulle chipet dra nytta av All-Photonics Network för ultra-låg fördröjning, höghastighetskommunikation, som kompletterar den lokala bearbetningskraft det bringar till enheter på kanten.

NTT samarbetar också med NTT DATA, Inc. för att kombinera chipets funktioner med dess Attribute-Based Encryption (ABE)-teknik, som möjliggör säker, finmaskerad åtkomstkontroll över känsliga data. Tillsammans kommer dessa tekniker att stödja AI-applikationer som kräver både hastighet och säkerhet – som inom hälsovård, smarta städer och autonoma system.

Ett arv av innovation och en vision för framtiden

Detta AI-inferenschip är den senaste demonstrationen av NTT:s uppdrag att stärka ett hållbart, intelligent samhälle genom djup teknisk innovation. Som en global ledare med över 92 miljarder dollar i omsättning, 330 000 anställda och 3,6 miljarder dollar i årlig FoU, tjänar NTT mer än 75 % av Fortune Global 100-företagen och miljontals konsumenter i 190 länder.

Oavsett om det handlar om drönare som flyger bortom synlinjen, kameror som upptäcker händelser i realtid utan molnberoende eller säkrar dataflöden med attributbaserad kryptering, sätter NTT:s nya chip scenen för den nästa fronten inom AI på kanten – där intelligens möter omedelbarhet.