Neues System kann künstliche Intelligenz in tragbare Geräte und Haushaltsgeräte bringen

Ein Team von Forschern am MIT arbeitet daran, tiefes Lernen und neuronale Netze auf Mikrocontroller zu bringen. Der Fortschritt bedeutet, dass künstliche Intelligenz (KI) in winzige Computerchips in tragbaren medizinischen Geräten, Haushaltsgeräten und den anderen 250 Milliarden Objekten, die das “Internet der Dinge” (IoT) bilden, implementiert werden kann. Das IoT ist ein Netzwerk von physischen Objekten, die mit Sensoren, Software und anderen Technologien ausgestattet sind, die helfen, Daten mit anderen Geräten und Systemen auszutauschen.

Die Forschung soll im Dezember auf der Konferenz über neuronale Informationsverarbeitungssysteme präsentiert werden. Der erste Autor der Forschung ist Ji Lin, ein Doktorand in Song Hans Labor im Department of Electrical Engineering and Computer Science des MIT. Co-Autoren sind MITs Han und Yujun Lin, Wei-Ming Chen von MIT und der Nationaluniversität Taiwan, sowie John Cohn und Chuan Gan vom MIT-IBM Watson Lab.

MCUNet-System

Das System heißt MCUNet und es entwirft kompakte neuronale Netze, die auf IoT-Geräten extreme Geschwindigkeit und Genauigkeit erreichen können, auch bei begrenztem Speicher und Rechenleistung. Dieses System kann energieeffizienter sein und die Datensicherheit erhöhen.

Das Team entwickelte das “kleine tiefes Lernen”-System, indem es zwei Komponenten kombinierte – die Operation von neuronalen Netzen und Mikrocontrollern. Die erste Komponente ist TinyEngine, eine Schnittstelle, die als Betriebssystem fungiert und die Ressourcenverwaltung leitet. TinyEngine ist optimiert, um eine bestimmte neuronale Netzwerkstruktur auszuführen, die von TinyNAS ausgewählt wurde, der anderen Komponente. TinyNAS ist ein Algorithmus zur Suche nach neuronalen Architekturen.

Lin entwickelte TinyNAS, weil es schwierig war, bestehende Techniken zur Suche nach neuronalen Architekturen auf winzige Mikrocontroller anzuwenden. Diese Techniken finden letztendlich die genaueste und kosteneffizienteste Netzwerkstruktur nach dem Start mit vielen möglichen Strukturen basierend auf einer vordefinierten Vorlage.

“Es kann für GPUs oder Smartphones gut funktionieren”, sagt Lin. “Aber es ist schwierig, diese Techniken direkt auf winzige Mikrocontroller anzuwenden, weil sie zu klein sind.”

TinyNAS kann benutzerdefinierte Netzwerke erstellen.

“Wir haben viele Mikrocontroller mit unterschiedlichen Leistungskapazitäten und unterschiedlichen Speichergrößen”, sagt Lin. “Also entwickelten wir den Algorithmus [TinyNAS], um den Suchraum für verschiedene Mikrocontroller zu optimieren.”

Da TinyNAS anpassbar ist, kann es die besten möglichen kompakten neuronalen Netze für Mikrocontroller erzeugen.

“Dann liefern wir das endgültige, effiziente Modell an den Mikrocontroller”, fährt Lin fort.

Eine saubere und schlanke Schnittstelle ist erforderlich, damit ein Mikrocontroller das kleine neuronale Netz ausführen kann. Viele Schnittstellen haben Anweisungen für selten ausgeführte Aufgaben, die einen Mikrocontroller behindern könnten.

“Es hat kein externes Speichermedium und keine Festplatte”, sagt Han. “Alles zusammen ist nur ein Megabyte Flash, also müssen wir diese kleine Ressource sehr sorgfältig verwalten.”

TinyEngine generiert den Code, der benötigt wird, um das benutzerdefinierte neuronale Netz auszuführen, das von TinyNAS entwickelt wurde. Die Kompilierzeit wird durch das Entfernen von Dead-Code-Code reduziert.

“Wir behalten nur, was wir benötigen”, sagt Han. “Und da wir das neuronale Netz entworfen haben, wissen wir genau, was wir benötigen. Das ist der Vorteil von System-Algorithmus-Design.”

Tests zeigten, dass der kompilierte Binärcode von TinyEngine 1,9 bis fünf Mal kleiner war als ähnliche Mikrocontroller-Engines, einschließlich der von Google (GOOGL ) und ARM. Die Spitzen-Speicher-Nutzung wurde auch fast halbiert.

MCUNets Fähigkeit

Die ersten Tests für MCUNet konzentrierten sich auf die Bildklassifizierung. Die ImageNet-Datenbank wurde verwendet, um das System mit beschrifteten Bildern zu trainieren, und seine Fähigkeit wurde dann auf neuen Bildern getestet.

Als MCUNet auf einem kommerziellen Mikrocontroller getestet wurde, klassifizierte es erfolgreich 70,7 Prozent der neuen Bilder. Das ist viel besser als die vorherige beste neuronale Netzwerk- und Interferenz-Engine-Kombination, die 54 Prozent genau war.

“Sogar eine 1-prozentige Verbesserung gilt als signifikant”, sagt Lin. “Also ist dies ein großer Schritt für Mikrocontroller-Einstellungen.”

Laut Kurt Keutzer, einem Computerwissenschaftler an der University of California in Berkeley, “erweitert dies die Grenzen des Designs von tiefen neuronalen Netzen noch weiter in den Bereich von kleinen, energieeffizienten Mikrocontrollern.” MCUNet könnte “intelligente Computer-Vision-Fähigkeiten sogar in die einfachsten Küchengeräte bringen oder intelligente Bewegungssensoren ermöglichen.”

MCUNet verbessert auch die Datensicherheit.

“Ein wichtiger Vorteil ist die Wahrung der Privatsphäre”, sagt Han. “Sie müssen die Daten nicht in die Cloud übertragen.”

Durch die lokale Analyse der Daten besteht eine geringere Chance, dass persönliche Informationen gefährdet werden.

Darüber hinaus könnte MCUNet Analysen und Erkenntnisse über Informationen wie Herzfrequenz-, Blutdruck- und Sauerstoffgehaltsmessungen liefern, tiefes Lernen in IoT-Geräten in Fahrzeugen und anderen Orten mit begrenztem Internetzugang ermöglichen und den Kohlenstoff-Fußabdruck durch die Verwendung nur eines kleinen Teils der Energie, die für große neuronale Netze erforderlich ist, reduzieren.