NTT enthüllt bahnbrechenden AI-Inference-Chip für Echtzeit-4K-Videoverarbeitung am Edge

Mit einem großen Sprung für die Edge-AI-Verarbeitung hat NTT Corporation einen bahnbrechenden AI-Inference-Chip angekündigt, der in der Lage ist, Echtzeit-4K-Videos mit 30 Bildern pro Sekunde zu verarbeiten – bei weniger als 20 Watt Leistung. Dieser neue Large-Scale-Integration-(LSI)-Chip ist der erste auf der Welt, der eine so hohe Leistung bei der AI-Video-Inferenz in umweltbedingten Umgebungen erreicht, was ihn zu einem Durchbruch für Edge-Computing-Anwendungen macht.

Während des NTT-Upgrade 2025-Gipfels in San Francisco wurde der Chip speziell für den Einsatz in Edge-Geräten entwickelt – Hardware, die sich physisch nahe an der Datenquelle befindet, wie z.B. Drohnen, intelligente Kameras und Sensoren. Im Gegensatz zu herkömmlichen AI-Systemen, die auf Cloud-Computing für die Inferenz angewiesen sind, bringt dieser Chip leistungsstarke AI-Fähigkeiten direkt an den Edge, wodurch die Latenz drastisch reduziert und die Notwendigkeit, Ultra-HD-Videos an zentrale Cloud-Server zur Analyse zu übertragen, eliminiert wird.

Edge-Computing vs. Cloud-Computing: Warum es wichtig ist

Bei herkömmlichem Cloud-Computing werden Daten von Geräten wie Drohnen oder Kameras an entfernte Rechenzentren gesendet – oft Hunderte oder Tausende von Meilen entfernt -, wo sie verarbeitet und analysiert werden. Während dieser Ansatz nahezu unbegrenzte Rechenleistung bietet, führt er zu Verzögerungen aufgrund der Datenübertragung, was problematisch für Echtzeit-Anwendungen wie autonome Navigation, Sicherheitsüberwachung und Echtzeit-Entscheidungsfindung ist.

Im Gegensatz dazu verarbeitet Edge-Computing Daten lokal, auf oder in der Nähe des Geräts selbst. Dies reduziert die Latenz, bewahrt die Bandbreite und ermöglicht Echtzeit-Einblicke, sogar in Umgebungen mit begrenzter oder intermittierender Internetverbindung. Es verbessert auch die Privatsphäre und die Datensicherheit, indem es die Notwendigkeit minimiert, sensible Daten über öffentliche Netzwerke zu übertragen.

NTT’s neuer AI-Chip verfolgt voll und ganz diese Edge-First-Philosophie – er liefert Echtzeit-4K-Videoanalyse direkt innerhalb des Geräts, ohne auf die Cloud angewiesen zu sein.

Ein neues Zeitalter für Echtzeit-KI auf Drohnen und Geräten

Mit diesem Chip kann eine Drohne Menschen oder Objekte aus bis zu 150 Metern (492 Fuß) Entfernung erkennen – der gesetzlichen Höhenbegrenzung für Drohnen in Japan. Das ist eine dramatische Verbesserung gegenüber herkömmlichen Echtzeit-KI-Systemen, die in der Regel auf eine Reichweite von 30 Metern begrenzt sind, aufgrund der geringeren Auflösung oder Verarbeitungsgeschwindigkeit.

Diese Weiterentwicklung ermöglicht eine Vielzahl neuer Anwendungsfälle, darunter:

• Infrastruktur-Inspektionen in schwer zugänglichen Gebieten

• Katastrophenreaktion in Gebieten mit begrenzter Konnektivität

• Landwirtschaftliche Überwachung über weite Felder

• Sicherheit und Überwachung ohne ständige Cloud-Verbindungen

All dies wird mit einem Chip erreicht, der weniger als 20 Watt verbraucht – dramatisch weniger als die Hunderte von Watt, die von GPU-basierten AI-Servern benötigt werden, die für mobile oder batteriebetriebene Systeme ungeeignet sind.

Innerhalb des Chips: NTT’s proprietärer AI-Inference-Motor

Die Leistung des LSI hängt von NTT’s benutzerdefiniertem AI-Inference-Motor ab, der hohe Geschwindigkeit und genaue Ergebnisse bei minimalem Energieverbrauch gewährleistet. Zu den wichtigsten Innovationen gehören:

• Interframe-Korrelation: Durch den Vergleich sequenzieller Videoframes reduziert der Chip redundante Berechnungen und verbessert die Effizienz.

• Dynamische Bit-Präzisionskontrolle: Diese Technik passt die numerische Präzision, die für die Aufgaben erforderlich ist, dynamisch an und verwendet für einfache Aufgaben weniger Bits, wodurch Energie konserviert wird, ohne die Genauigkeit zu beeinträchtigen.

• Native YOLOv3-Ausführung: Der Chip unterstützt die direkte Ausführung von You Only Look Once v3, einem der schnellsten Echtzeit-Objekterkennungsalgorithmen im maschinellen Lernen.

Diese kombinierten Funktionen ermöglichen es dem Chip, robuste AI-Leistung in Umgebungen zu liefern, die zuvor als zu leistungs- oder bandbreitenschwach für fortschrittliche Inferenz angesehen wurden.

Weg zur Kommerzialisierung und die IOWN-Vision

NTT plant, den Chip innerhalb des Geschäftsjahres 2025 durch sein Tochterunternehmen NTT Innovative Devices Corporation zu kommerzialisieren.

Forscher erkunden bereits die Integration in das Innovative Optical and Wireless Network (IOWN) – NTT’s Vision für die nächste Generation von Infrastrukturen, die darauf abzielt, das digitale Rückgrat der modernen Gesellschaft zu überarbeiten. Innerhalb von IOWN’s Data-Centric Infrastructure (DCI) würde der Chip die Vorteile des All-Photonics-Netzwerks für ultra-niedrige Latenz und Hochgeschwindigkeitskommunikation nutzen und die lokale Verarbeitungsleistung, die er für Edge-Geräte mitbringt, ergänzen.

NTT arbeitet auch mit NTT DATA, Inc. zusammen, um die Fähigkeiten des Chips mit seiner Attribute-Based Encryption (ABE)-Technologie zu kombinieren, die eine sichere, feingranulierte Zugriffskontrolle über sensible Daten ermöglicht. Zusammen werden diese Technologien AI-Anwendungen unterstützen, die sowohl Geschwindigkeit als auch Sicherheit erfordern – wie in der Gesundheitsversorgung, intelligenten Städten und autonomen Systemen.

Ein Erbe der Innovation und eine Vision für die Zukunft

Dieser AI-Inference-Chip ist die neueste Demonstration von NTT’s Mission, eine nachhaltige, intelligente Gesellschaft durch tiefe technologische Innovation zu ermöglichen. Als globaler Marktführer mit über 92 Milliarden US-Dollar Umsatz, 330.000 Mitarbeitern und 3,6 Milliarden US-Dollar Forschungs- und Entwicklungsaufwendungen pro Jahr dient NTT mehr als 75 % der Fortune Global 100-Unternehmen und Millionen von Verbrauchern in 190 Ländern.

Ob es sich um Drohnen handelt, die jenseits der Sichtlinie fliegen, Kameras, die Ereignisse in Echtzeit ohne Cloud-Abhängigkeit erkennen, oder um die Sicherung von Datenflüssen mit attributbasierter Verschlüsselung – NTT’s neuer Chip ebnet den Weg für die nächste Front in der KI am Edge, wo Intelligenz auf Unmittelbarkeit trifft.