NTT præsenterer gennembrud i AI-inferenschip til realtids-4K-video-behandling på kanten

I et stort skridt for kant-AI-behandling har NTT Corporation annonceret en banebrydende AI-inferenschip, der kan behandle realtids-4K-video med 30 billeder i sekundet – og det med mindre end 20 watt effekt. Denne nye large-scale integration (LSI)-chip er den første i verden, der opnår så høj-ydelse AI-video-inferencing i strøm-begrænsede miljøer, og det er et gennembrud for kant-computing-applikationer.

Under NTT’s Upgrade 2025-topmøde i San Francisco er chippen specifikt designet til at blive anvendt i kant-enheder – hardware, der er placeret fysisk tæt på datakilden, som f.eks. droner, smarte kameralinser og sensorer. I modsætning til traditionelle AI-systemer, der afhænger af cloud-computing til inferencing, bringer denne chip kraftfulde AI-kapaciteter direkte til kanten, hvilket reducerer forsinkelsen og eliminerer behovet for at overføre ultra-højopløsningsvideo til centraliserede cloud-servere til analyse.

Kant-computing vs. Cloud-computing: Hvorfor det betyder noget

I traditionel cloud-computing sendes data fra enheder som f.eks. droner eller kameralinser til fjerne datacentre – ofte placeret hundredvis eller tusindvis af kilometer væk – hvor de behandles og analyseres. Selvom denne tilgang tilbyder næsten ubegrænset beregningskraft, introducerer den forsinkelser på grund af dataoverførsel, hvilket er problematisk for realtids-applikationer som f.eks. autonome navigation, sikkerheds-overvågning og live-beslutning.

Til gengæld behandler kant-computing data lokalt, på eller nær enheden selv. Dette reducerer forsinkelsen, bevarer båndbredde og muliggør realtids-indsigter, selv i miljøer med begrænsede eller intermittent internet-forbindelse. Det forbedrer også privatliv og datasikkerhed ved at minimere behovet for at overføre følsomme data over offentlige netværk.

NTT’s nye AI-chip omfatter fuldt ud denne kant-først-filosofi – leverer realtids-4K-video-analyse direkte inden for enheden, uden at afhænge af cloud-computing.

En ny æra for realtids-AI på droner og enheder

Med denne chip installeret kan en drone opdage mennesker eller objekter på op til 150 meter (492 fod) – det lovlige højde-limits for droner i Japan. Det er en dramatisk forbedring i forhold til traditionelle realtids-AI-systemer, der generelt er begrænsede til en 30-meter-række på grund af lavere opløsning eller proceshastighed.

Denne fremgang muliggør en række nye brugsområder, herunder:

• Infrastruktur-inspektioner i svært tilgængelige områder

• Katastrofe-reaktion i områder med begrænsede forbindelser

• Landbrugs-overvågning på store arealer

• Sikkerhed og overvågning uden konstant cloud-forbindelse

Alt dette opnås med en chip, der forbruger mindre end 20 watt – dramatisk lavere end de hundredvis af watt, der kræves af GPU-drevne AI-servere, som er upraktiske for mobile eller batteridrevne systemer.

Indenfor chippen: NTT’s proprietære AI-inferens-motor

LSI’s ydelse afhænger af NTT’s specialbyggede AI-inferens-motor, der sikrer højhastigheds-, nøjagtige resultater samtidig med, at den reducerer strømforbrug. Nøgle-innovationer omfatter:

• Interframe-korrelation: Ved at sammenligne sekventielle video-frames reducerer chippen redundante beregninger og forbedrer effektiviteten.

• Dynamisk bit-præcision-kontrol: Denne teknik justerer den numeriske præcision på flyveskema, ved at bruge færre bits til enklere opgaver, og bevarer energi uden at gå på kompromis med nøjagtigheden.

• Native YOLOv3-eksekvering: Chippen understøtter direkte eksekvering af You Only Look Once v3, en af de hurtigste realtids-objekt-detektions-algoritmer i maskinlæring.

Disse kombinerede funktioner giver chippen mulighed for at levere robust AI-ydelse i miljøer, der tidligere blev betragtet som for strøm- eller båndbredde-begrænsede til avanceret inferencing.

Vejen til kommerciel anvendelse og IOWN-visionen

NTT planlægger at kommerciel-gøre chippen inden for regnskabsåret 2025 gennem sin drifts-selskab, NTT Innovative Devices Corporation.

Forskere er allerede i gang med at undersøge dens integration i Innovative Optical and Wireless Network (IOWN) – NTT’s næste-generations-infrastruktur-vision, der sigter på at omstrukturere den digitale rygmarv af det moderne samfund. Inden for IOWN’s Data-Centric Infrastructure (DCI) vil chippen udnytte All-Photonics-Netværket til ultra-lav forsinkelse, højhastigheds-kommunikation, og supplere den lokale proceskraft, den bringer til kant-enheder.

NTT samarbejder også med NTT DATA, Inc. for at kombinere chippen’s kapaciteter med dens Attribute-Based Encryption (ABE)-teknologi, der muliggør sikker, finmasket adgangskontrol over følsomme data. Sammen vil disse teknologier understøtte AI-applikationer, der kræver både hastighed og sikkerhed – som f.eks. i sundhedssektoren, smarte byer og autonome systemer.

En arv af innovation og en vision for fremtiden

Denne AI-inferens-chip er det seneste eksempel på NTT’s mission om at styrke et bæredygtigt, intelligent samfund gennem dyb teknologisk innovation. Som en global leder med over 92 milliarder dollar i omsætning, 330.000 ansatte og 3,6 milliarder dollar i årlig forskning og udvikling, betjener NTT mere end 75% af Fortune Global 100-selskaberne og millioner af forbrugere i 190 lande.

Uanset om det er droner, der flyver ud over syns-linjen, kameralinser, der opdager begivenheder i realtid uden cloud-afhængighed, eller sikrer data-flows med attribute-baseret kryptering, så sætter NTT’s nye chip scenen for den næste front i AI på kanten – hvor intelligens møder øjeblikkelighed.