Fortschritte bei Mikrochips bringen uns näher an die KI-Edge-Computing

Forscher der Princeton University haben Hardware und Software entwickelt, die darauf abzielen, die Geschwindigkeit und Effizienz von spezialisierten künstlichen Intelligenzsystemen (KI) weiter zu steigern.

Naveen Verma ist Professor für Elektrotechnik und Informatik an der Princeton University und leitet das Forschungsteam.

“Software ist ein entscheidender Teil, um neue Hardware zu ermöglichen”, sagte Verma. “Die Hoffnung ist, dass Designer weiterhin das gleiche Softwaresystem verwenden können – und es einfach zehnmal schneller und effizienter funktioniert.”

Die von den Forschern entwickelten Systeme reduzieren den Energiebedarf und die Menge an Daten, die von Remote-Servern ausgetauscht werden müssen. Damit können KI-Anwendungen wie Steuerungssoftware für Drohnen am Rand der Recheninfrastruktur stattfinden.

Verma ist auch der Direktor des Keller Centers für Innovation in der Ingenieurausbildung an der Universität.

“Um KI für Echtzeit- und oft persönliche Prozesse zugänglich zu machen, müssen wir die Latenz und den Datenschutz durch die Verlagerung der Berechnung selbst an den Rand angehen”, sagte Verma. “Und das erfordert sowohl Energieeffizienz als auch Leistung.”

Neue Chip-Designs

Das Team von der Princeton University entwickelte vor zwei Jahren ein neues Chip-Design, das die Leistung von neuronalen Netzen verbessern sollte. Der Chip konnte bis zu hundertmal besser als andere Mikrochips auf dem Markt performen.

“Der größte Nachteil des Chips ist, dass er eine sehr ungewöhnliche und störende Architektur verwendet”, sagte Verma 2018. “Das muss mit der riesigen Menge an Infrastruktur und Designmethoden, die wir haben und verwenden, in Einklang gebracht werden.”

Der Chip wurde über die nächsten zwei Jahre kontinuierlich verfeinert und ein Softwaresystem entwickelt, um es KI-Systemen zu ermöglichen, die neue Technologie effizient zu nutzen. Die Idee war, dass die neuen Chips es Systemen ermöglichen sollten, in Hardware und Software-Ausführung skalierbar zu sein.

“Es ist programmierbar über alle diese Netze”, sagte Verma. “Die Netze können sehr groß oder sehr klein sein.”

Der beste Fall für die Berechnung ist, wenn sie direkt auf der Technologie selbst stattfindet, anstatt in einem Remote-Netzcomputer. Allerdings erfordert dies riesige Mengen an Energie und Speicher, was es schwierig macht, ein solches System zu entwerfen.

Um diese Einschränkungen zu überwinden, entwarfen die Forscher einen Chip, der Berechnungen und Daten im gleichen Bereich durchführt, was als In-Memory-Computing bezeichnet wird. Diese Technik reduziert die Energie und Zeit, die zum Austausch von Informationen mit dedizierter Speicher benötigt wird.

Um die analoge Operation zu umgehen, die für das In-Memory-Computing erforderlich ist und anfällig für Korruption ist, verließen sich die Forscher auf Kondensatoren anstelle von Transistoren im Chip-Design. Kondensatoren sind nicht von Spannungsverschiebungen betroffen und sind präziser.

Trotz verschiedener anderer Herausforderungen im Zusammenhang mit analogen Systemen bieten sie viele Vorteile, wenn sie für Anwendungen wie neuronale Netze verwendet werden. Die Forscher versuchen nun, die beiden Arten von Systemen zu kombinieren, da digitale Systeme zentral sind, während neuronale Netze, die auf analogen Chips basieren, in der Lage sind, schnell und effizient spezialisierte Operationen auszuführen.