NTT Avslöjar Genombrott i AI-Inferenschip för Real-Tid 4K-Videobearbetning på Kanten

I ett stort språng för kantbaserad AI-bearbetning har NTT Corporation tillkännagett ett banbrytande AI-inferenschip som kan bearbeta realtids-4K-video i 30 bilder per sekund – med mindre än 20 watt effektförbrukning. Denna nya large-scale integration (LSI)-chip är den första i världen som uppnår så högpresterande AI-videoinferens i effektbegränsade miljöer, vilket gör det till ett genombrott för kantbaserade applikationer.

Avslöjad under NTT:s Upgrade 2025-toppmöte i San Francisco, är chipen specifikt utformad för distribution i kantenheter – hårdvara som är fysiskt belagd nära datakällan, som drönare, smarta kameror och sensorer. Till skillnad från traditionella AI-system som förlitar sig på molnbaserad bearbetning för inferens, bringar denna chip kraftfulla AI-funktioner direkt till kanten, vilket drastiskt minskar latency och eliminerar behovet av att överföra ultra-högupplösta videor till centrala molnservrar för analys.

Kantbaserad Bearbetning vs. Molnbaserad Bearbetning: Varför Det Är Viktigt

I traditionell molnbaserad bearbetning skickas data från enheter som drönare eller kameror till avlägsna datacenter – ofta belägna hundratals eller tusentals mil bort – där de bearbetas och analyseras. Medan detta tillvägagångssätt erbjuder i princip obegränsad beräkningskraft, introducerar det fördröjningar på grund av dataöverföring, vilket är problematiskt för realtidsapplikationer som autonom navigering, säkerhetsövervakning och beslutsfattning i realtid.

Till skillnad från detta bearbetar kantbaserad bearbetning data lokalt, på eller i närheten av enheten själv. Detta minskar latency, bevarar bandbredd och möjliggör realtidsinsikter även i miljöer med begränsad eller intermittent internetanslutning. Det förbättrar också sekretess och datasäkerhet genom att minimera behovet av att överföra känslig data över offentliga nätverk.

NTT:s nya AI-chip omfamnar fullständigt denna kantbaserade filosofi – levererar realtids-4K-videanalys direkt inom enheten, utan att förlita sig på molnet.

En Ny Era för Realtids-AI på Drönare och Enheter

Med denna chip installerad kan en drönare upptäcka människor eller föremål på upp till 150 meter (492 fot) – den lagliga höjdgränsen för drönare i Japan. Det är en dramatisk förbättring jämfört med traditionella realtids-AI-system, som vanligtvis är begränsade till en 30-meters räckvidd på grund av lägre upplösning eller bearbetningshastighet.

Denna framsteg möjliggör en mängd nya användningsfall, inklusive:

• Infrastrukturinspektioner på svåråtkomliga platser

• Katastrofhjälp i områden med begränsad anslutning

• Jordbruksövervakning över stora fält

• Säkerhet och övervakning utan konstant molnuppkoppling

Allt detta uppnås med en chip som förbrukar mindre än 20 watt – dramatiskt lägre än de hundratals watt som krävs av GPU-baserade AI-servrar, som är opraktiska för mobila eller batteridrivna system.

Inuti Chipen: NTT:s Proprietära AI-Inferensmotor

LSI-chipens prestanda vilar på NTT:s anpassade AI-inferensmotor, som säkerställer höghastighets-, exakta resultat samtidigt som den minskar effektförbrukningen. Nyckelinnovationer inkluderar:

• Mellanramskorrelation: Genom att jämföra sekventiella videoramar minskar chipen redundanta beräkningar, vilket förbättrar effektiviteten.

• Dynamisk bitprecisionskontroll: Denna teknik justerar den numeriska precision som krävs på flygande, med färre bitar för enklare uppgifter, vilket sparar energi utan att kompromissa med precisionen.

• Inbyggd YOLOv3-exekvering: Chipen stöder direkt exekvering av You Only Look Once v3, en av de snabbaste realtidsobjektdetektionsalgoritmerna inom maskinlärning.

Dessa kombinerade funktioner möjliggör att chipen levererar robust AI-prestanda i miljöer som tidigare ansågs för effekt- eller bandbreddsbegränsade för avancerad inferens.

Vägen till Kommersialisering och IOWN-Visionen

NTT planerar att kommersialisera chipen inom räkenskapsåret 2025 genom sitt operativa bolag, NTT Innovative Devices Corporation.

Forskare undersöker redan dess integration i Innovative Optical and Wireless Network (IOWN) – NTT:s vision för nästa generations infrastruktur, som syftar till att förnya det digitala ryggraden i det moderna samhället. Inom IOWN:s Data-Centric Infrastructure (DCI) skulle chipen dra nytta av All-Photonics Network för ultra-låg latency, höghastighetskommunikation, som kompletterar den lokala bearbetningskraft den bringar till kantenheter.

NTT samarbetar också med NTT DATA, Inc. för att kombinera chipens funktioner med dess Attribute-Based Encryption (ABE)-teknik, som möjliggör säker, finmaskerad åtkomstkontroll över känslig data. Tillsammans kommer dessa tekniker att stödja AI-applikationer som kräver både hastighet och säkerhet – som inom hälsovård, smarta städer och autonoma system.

Ett Arv av Innovation och en Vision för Framtiden

Denna AI-inferenschip är det senaste exemplet på NTT:s uppdrag att möjliggöra ett hållbart, intelligent samhälle genom djup teknisk innovation. Som en global ledare med över 92 miljarder dollar i omsättning, 330 000 anställda och 3,6 miljarder dollar i årlig FoU, tjänar NTT över 75% av Fortune Global 100-företag och miljontals konsumenter i 190 länder.

Oavsett om det handlar om drönare som flyger bortom synlig linje, kameror som upptäcker händelser i realtid utan molnberoende eller säkerställer dataflöden med attributbaserad kryptering, så sätter NTT:s nya chip scenen för nästa frontier inom AI på kanten – där intelligens möter omedelbarhet.