NTT onthult doorbraak in AI-inferentiechip voor real-time 4K-videobewerking op de edge

In een belangrijke stap voorwaarts voor edge-AI-verwerking heeft NTT Corporation een baanbrekende AI-inferentiechip aangekondigd die real-time 4K-video kan verwerken met 30 frames per seconde – met minder dan 20 watt aan stroom. Deze nieuwe large-scale integration (LSI) chip is de eerste ter wereld die zo’n hoge prestaties levert bij AI-video-inferencing in omgevingen met beperkte stroom- of bandbreedte, waardoor het een doorbraak is voor edge-computing-toepassingen.

Tijdens NTT’s Upgrade 2025 top in San Francisco is de chip specifiek ontworpen voor inzet in edge-apparaten – hardware die fysiek dicht bij de bron van de gegevens staat, zoals drones, slimme camera’s en sensoren. In tegenstelling tot traditionele AI-systemen die afhankelijk zijn van cloud-computing voor inferencing, brengt deze chip krachtige AI-mogelijkheden rechtstreeks naar de edge, waardoor de latentie aanzienlijk wordt verlaagd en de noodzaak om ultra-hoge-definitievideo naar centrale cloud-servers te verzenden voor analyse, wordt geëlimineerd.

Edge Computing vs. Cloud Computing: Waarom het ertoe doet

Bij traditionele cloud-computing worden gegevens van apparaten zoals drones of camera’s verzonden naar afgelegen datacentra – vaak honderden of duizenden kilometers verderop – waar ze worden verwerkt en geanalyseerd. Hoewel deze benadering vrijwel onbeperkte rekenkracht biedt, introduceert het vertragingen vanwege gegevensoverdracht, wat problematisch is voor real-time-toepassingen zoals autonome navigatie, beveiligingsbewaking en live-besluitvorming.

In tegenstelling tot edge-computing, die gegevens lokaal verwerkt, op of nabij het apparaat zelf. Dit vermindert de latentie, behoudt de bandbreedte en maakt real-time inzichten mogelijk, zelfs in omgevingen met beperkte of intermittent internetverbinding. Het verbetert ook de privacy en gegevensbeveiliging door de noodzaak om gevoelige gegevens over openbare netwerken te verzenden te minimaliseren.

NTT’s nieuwe AI-chip omarmt deze edge-georiënteerde filosofie volledig – het levert real-time 4K-video-analyse rechtstreeks binnen het apparaat, zonder afhankelijk te zijn van de cloud.

Een nieuwe tijdperk voor real-time AI op drones en apparaten

Met deze chip geïnstalleerd, kan een drone mensen of objecten detecteren vanaf een afstand van 150 meter (492 voet) – het wettelijke hoogte-limiet voor drones in Japan. Dat is een dramatische verbetering ten opzichte van traditionele real-time AI-systemen, die over het algemeen beperkt zijn tot een bereik van 30 meter vanwege de lagere resolutie of verwerkingssnelheid.

Deze vooruitgang maakt een reeks nieuwe toepassingen mogelijk, waaronder:

• Infrastructuur inspecties in moeilijk bereikbare gebieden

• Rampenrespons in gebieden met beperkte connectiviteit

• Landbouwmonitoring over brede velden

• Beveiliging en bewaking zonder constante cloud-uplinks

Alles wordt bereikt met een chip die minder dan 20 watt verbruikt – dramatisch lager dan de honderden watts die nodig zijn voor GPU-geactiveerde AI-servers, die onpraktisch zijn voor mobiele of op batterijen werkende systemen.

Binnenin de chip: NTT’s Proprietary AI-inferentie-engine

De prestaties van de LSI hangen af van NTT’s aangepaste AI-inferentie-engine, die hoge-snelheid, nauwkeurige resultaten levert terwijl het stroomverbruik minimaliseert. Belangrijke innovaties zijn:

• Interframe-correlatie: Door opeenvolgende videoframes te vergelijken, vermindert de chip redundantieberekeningen, waardoor de efficiëntie verbetert.

• Dynamische bit-precisiebeheersing: Deze techniek past de numerieke precisie aan op het vliegtuig, door minder bits te gebruiken voor eenvoudigere taken, waardoor energie wordt bespaard zonder de nauwkeurigheid te compromitteren.

• Native YOLOv3-uitvoering: De chip ondersteunt directe uitvoering van You Only Look Once v3, een van de snelste real-time objectdetectie-algoritmen in machine learning.

Deze gecombineerde functies stellen de chip in staat om robuuste AI-prestaties te leveren in omgevingen die eerder te stroom- of bandbreedtebeperkt werden geacht voor geavanceerde inferencing.

Pad naar commercialisatie en de IOWN-visie

NTT plant de chip te commercialiseren binnen het fiscale jaar 2025 via zijn opererende bedrijf, NTT Innovative Devices Corporation.

Onderzoekers onderzoeken momenteel de integratie ervan in de Innovative Optical and Wireless Network (IOWN) – NTT’s visie voor de volgende generatie-infrastructuur, gericht op het vernieuwen van de digitale ruggengraat van de moderne samenleving. Binnen IOWN’s Data-Centric Infrastructure (DCI), zou de chip profiteren van het All-Photonics Network voor ultra-lage latentie, hoge-snelheid communicatie, waardoor de lokale verwerking die het naar edge-apparaten brengt, wordt aangevuld.

NTT werkt ook samen met NTT DATA, Inc. om de mogelijkheden van de chip te combineren met zijn Attribute-Based Encryption (ABE) technologie, die beveiligde, fijnekorrelige toegangscontrole over gevoelige gegevens mogelijk maakt. Samen zullen deze technologieën AI-toepassingen ondersteunen die zowel snelheid als beveiliging vereisen – zoals in de gezondheidszorg, slimme steden en autonome systemen.

Een erfgoed van innovatie en een visie voor de toekomst

Deze AI-inferentiechip is de laatste demonstratie van NTT’s missie om een duurzame, intelligente samenleving te empoweren door middel van diepe technologische innovatie. Als een wereldleider met meer dan $92 miljard aan omzet, 330.000 werknemers en $3,6 miljard aan jaarlijks onderzoek en ontwikkeling, dient NTT meer dan 75% van de Fortune Global 100-bedrijven en miljoenen consumenten in 190 landen.

Of het nu gaat om drones die vliegen buiten het zicht, camera’s die gebeurtenissen detecteren in real-time zonder afhankelijk te zijn van de cloud, of het beveiligen van gegevensstromen met attribuut-gebaseerde encryptie, NTT’s nieuwe chip zet de toon voor de volgende frontier in AI op de edge – waar intelligentie ontmoet onmiddellijkheid.