NTT präsentiert bahnbrechenden AI-Inference-Chip für Echtzeit-4K-Videoverarbeitung am Edge

Im Bereich der Edge-AI-Verarbeitung hat die NTT Corporation einen bahnbrechenden AI-Inference-Chip angekündigt, der in der Lage ist, Echtzeit-4K-Videos mit 30 Bildern pro Sekunde zu verarbeiten – bei weniger als 20 Watt Leistung. Dieser neue Large-Scale-Integration-(LSI)-Chip ist der erste der Welt, der eine so hohe Leistung bei der AI-Video-Verarbeitung in umweltbedingten Einschränkungen erreicht und somit einen Durchbruch für Edge-Computing-Anwendungen darstellt.

Während des NTT-Upgrade-2025-Summit in San Francisco wurde der Chip speziell für die Verwendung in Edge-Geräten entwickelt – Hardware, die sich physisch nahe an der Datenquelle befindet, wie z. B. Drohnen, intelligente Kameras und Sensoren. Im Gegensatz zu herkömmlichen AI-Systemen, die auf Cloud-Computing für die Verarbeitung angewiesen sind, bringt dieser Chip leistungsstarke AI-Fähigkeiten direkt zum Edge, reduziert die Latenzzeit erheblich und eliminiert die Notwendigkeit, ultra-hochauflösende Videos an zentrale Cloud-Server zur Analyse zu übertragen.

Edge-Computing vs. Cloud-Computing: Warum es wichtig ist

Bei herkömmlichem Cloud-Computing werden Daten von Geräten wie Drohnen oder Kameras an entfernte Rechenzentren gesendet – oft Hunderte oder Tausende von Meilen entfernt –, wo sie verarbeitet und analysiert werden. Dieser Ansatz bietet nahezu unbegrenzte Rechenleistung, führt jedoch zu Verzögerungen aufgrund der Datenübertragung, was problematisch für Echtzeit-Anwendungen wie autonome Navigation, Sicherheitsüberwachung und Live-Entscheidungsfindung ist.

Im Gegensatz dazu verarbeitet Edge-Computing Daten lokal, auf oder in der Nähe des Geräts selbst. Dies reduziert die Latenz, bewahrt die Bandbreite und ermöglicht Echtzeit-Einblicke, auch in Umgebungen mit begrenzter oder intermittierender Internetverbindung. Es verbessert auch die Privatsphäre und die Datensicherheit, indem es die Notwendigkeit minimiert, sensible Daten über öffentliche Netzwerke zu übertragen.

NTT’s neuer AI-Chip verfolgt voll und ganz diese Edge-First-Philosophie – er liefert Echtzeit-4K-Videoanalyse direkt innerhalb des Geräts, ohne auf die Cloud angewiesen zu sein.

Eine neue Ära für Echtzeit-AI auf Drohnen und Geräten

Mit diesem Chip kann eine Drohne Menschen oder Objekte aus bis zu 150 Metern (492 Fuß) Entfernung erkennen – der gesetzlichen Höhenbegrenzung für Drohnen in Japan. Das ist eine dramatische Verbesserung gegenüber herkömmlichen Echtzeit-AI-Systemen, die in der Regel aufgrund ihrer geringeren Auflösung oder Verarbeitungsgeschwindigkeit auf eine Reichweite von 30 Metern beschränkt sind.

Diese Weiterentwicklung ermöglicht eine Vielzahl neuer Anwendungsfälle, darunter:

• Infrastruktur-Inspektionen in schwer zugänglichen Gebieten

• Katastrophenhilfe in Gebieten mit begrenzter Konnektivität

• Landwirtschaftliche Überwachung über weite Felder

• Sicherheit und Überwachung ohne ständige Cloud-Verbindungen

All dies wird mit einem Chip erreicht, der weniger als 20 Watt verbraucht – deutlich weniger als die Hunderte von Watt, die von GPU-basierten AI-Servern benötigt werden, die für mobile oder batteriebetriebene Systeme ungeeignet sind.

Im Inneren des Chips: NTT’s proprietärer AI-Inference-Motor

Die Leistung des LSI hängt von NTT’s benutzerdefiniertem AI-Inference-Motor ab, der hohe Geschwindigkeit, genaue Ergebnisse und minimale Leistungsverbrauch gewährleistet. Zu den wichtigsten Innovationen gehören:

• Interframe-Korrelation: Durch den Vergleich aufeinanderfolgender Videoframes reduziert der Chip redundante Berechnungen und verbessert so die Effizienz.

• Dynamische Bit-Präzisionssteuerung: Diese Technik passt die numerische Präzision dynamisch an, verwendet für einfache Aufgaben weniger Bits und spart so Energie, ohne die Genauigkeit zu beeinträchtigen.

• Native YOLOv3-Ausführung: Der Chip unterstützt die direkte Ausführung von You Only Look Once v3, einem der schnellsten Echtzeit-Objekterkennungsalgorithmen im maschinellen Lernen.

Diese kombinierten Funktionen ermöglichen es dem Chip, robuste AI-Leistung in Umgebungen zu liefern, die zuvor aufgrund von Leistungs- oder Bandbreiteneinschränkungen für fortschrittliche Inferenz nicht geeignet waren.

Weg zur Kommerzialisierung und die IOWN-Vision

NTT plant, den Chip innerhalb des Geschäftsjahres 2025 durch sein Tochterunternehmen NTT Innovative Devices Corporation zu kommerzialisieren.

Forscher erkunden bereits die Integration in das Innovative Optical and Wireless Network (IOWN) – NTT’s Vision für die nächste Generation von Infrastrukturen, die darauf abzielt, das digitale Rückgrat der modernen Gesellschaft zu überarbeiten. Innerhalb von IOWN’s Data-Centric Infrastructure (DCI) würde der Chip die All-Photonics-Netzwerk-Technologie für ultra-niedrige Latenz und Hochgeschwindigkeitskommunikation nutzen, was die lokale Verarbeitungsleistung, die er für Edge-Geräte bereitstellt, ergänzen würde.

NTT arbeitet auch mit NTT DATA, Inc. zusammen, um die Fähigkeiten des Chips mit seiner Attribute-Based Encryption (ABE)-Technologie zu kombinieren, die eine sichere, feingranulierte Zugriffskontrolle über sensible Daten ermöglicht. Zusammen werden diese Technologien AI-Anwendungen unterstützen, die sowohl Geschwindigkeit als auch Sicherheit erfordern – wie in der Gesundheitsversorgung, intelligenten Städten und autonomen Systemen.

Ein Erbe der Innovation und eine Vision für die Zukunft

Dieser AI-Inference-Chip ist die neueste Demonstration von NTT’s Mission, eine nachhaltige, intelligente Gesellschaft durch tiefe technologische Innovation zu ermöglichen. Als globaler Marktführer mit über 92 Milliarden US-Dollar Umsatz, 330.000 Mitarbeitern und 3,6 Milliarden US-Dollar jährlicher Forschungs- und Entwicklungsaufwendungen dient NTT mehr als 75 % der Fortune-Global-100-Unternehmen und Millionen von Verbrauchern in 190 Ländern.

Ob es sich um Drohnen handelt, die jenseits der Sichtlinie fliegen, Kameras, die Ereignisse in Echtzeit ohne Cloud-Abhängigkeit erkennen, oder um die Sicherung von Datenflüssen mit attributbasierter Verschlüsselung – NTT’s neuer Chip ebnet den Weg für die nächste Generation von KI am Edge, wo Intelligenz auf unmittelbarkeit trifft.