tinyMLs Rolle bei der Ermöglichung von Computer Vision am Rand – Thought Leaders

Von: Davis Sawyer, Co-Founder & Chief Product Officer, Deeplite

Computer Vision hat ein großes Potenzial, unser tägliches Leben zu verbessern – und es gibt viele Anwendungen und Verwendungen dafür. Einige Beispiele sind:

• Intelligente Türsprechanlagen für die Heimsicherheit helfen, “Porch-Piraten” und Einbrüche zu verhindern. Laut einer Studie von I.H.S. Markit (veröffentlicht in SecurityInfoWatch) wurde die Anzahl der globalen Überwachungskameras im Jahr 2021 auf eine Milliarde geschätzt. Allein in den USA wurde die Anzahl der Kameras auf 85 Millionen geschätzt;
• In Parkplätzen automatisieren AI-gesteuerte Kameras die Verfolgung von verfügbaren und besetzten Parkplätzen, um den Verbrauchern mitzuteilen, wo freie Plätze sind;
• Armaturenbrett-Kameras in LKWs lesen jetzt Geschwindigkeitsbegrenzungschilder und reduzieren dynamisch die Geschwindigkeit des LKWs, um die Sicherheit zu verbessern;
• Und Drohnen mit verbundenen Kameras überwachen abgelegene und schwer zugängliche Gebiete und können Bilder verarbeiten und in Echtzeit Entscheidungen treffen.

All diese Anwendungen verwenden intelligente Videoanalytik, die von KI und Machine Learning (ML) angetrieben wird, um Videos zu beobachten, Intelligenz zu nutzen, um Entscheidungen zu treffen, und dann zu handeln.

Computer Vision benötigt mehr Ressourcen am Rand

Jedoch benötigt Computer Vision, wie viele AI-gesteuerte Anwendungen, Burst von Rechenleistung, Speicher und Energie, um komplexe Analysen durchzuführen und Entscheidungen zu treffen. Während dies in einem Rechenzentrum mit viel Rechenleistung in Ordnung ist, kann es die Verlagerung von AI an den Rand verhindern. Insbesondere kleine Geräte, die weit von Unternehmensrechenzentren entfernt sind und auf kleinen Batterien operieren, benötigen eine neue Generation von AI, die kleiner, schneller und “leichter” als herkömmliche Ansätze ist. Und bestehende Geräte müssen mit neuen AI- + ML-Funktionen (Computer Vision) aufgerüstet werden, um weiterhin wettbewerbsfähig zu bleiben.

Neue Fortschritte beschleunigen Deep Neural Networks

Heute ermöglichen neue Fortschritte in der KI, Deep Neural Networks (DNNs) schneller, kleiner und energiesparender zu machen – und helfen, AI von der Cloud und Rechenzentren zu Geräten am Rand und batteriebetriebenen Sensoren zu verlagern. Wenn es um die AI-Modelltrainings geht, wurde der atemberaubende CO2-Fußabdruck dokumentiert und diskutiert (z. B. emittiert die Trainings eines AI-Sprachmodells so viel CO2 wie 5 Autos über ihre gesamte Lebensdauer). Wir müssen jedoch verstehen, was der Umweltimpact von AI-Modellinferenz ist und wie man diesen Fußabdruck reduzieren kann. Hier kann die Modelloptimierung enorme Vorteile durch die Reduzierung der wirtschaftlichen und ökologischen Kosten von DNNs haben.

TinyML ermöglicht AI auf kleinen Geräten

Eine solche Entwicklung ist tinyML, ein mächtiger neuer Trend, der es ermöglicht, kleinere, batteriebetriebene Geräte zu verwenden, um fortschrittliches ML für Computer Vision und andere Wahrnehmungsaufgaben zu nutzen. Es ermöglicht ML-Inferenz auf kleinen, ressourcenbeschränkten Geräten, die normalerweise am Rand der Cloud sind, und hilft, Edge-Anwendungen näher an den Benutzer zu bringen.

Zum Beispiel hat ein Server-GPU wie ein NVIDIA A100 über 40 GB verfügbaren Speicher, was geeignet ist, um komplexe AI wie Computer Vision und Sprachverarbeitung zu betreiben. Wenn wir jedoch über Edge-Geräte und tinyML sprechen, kann ein gemeinsamer Mikrocontroller (MCU) nur 256 KB On-Chip-Speicher haben, was über 100.000-mal weniger Speicher als die Cloud ist! Darüber hinaus kann die Hardware von Edge-Geräten im Gegensatz zu Rechenzentren und der Cloud nicht leicht im Feld aktualisiert werden. Das bedeutet, dass wir unsere AI in die verfügbare Hardware “passen” müssen, was für Entwickler Monate bis Jahre des Trial-and-Error bedeuten kann, wenn überhaupt. Hier kann tinyML, insbesondere automatisiertes Machine Learning (auch AutoML genannt), eine wichtige Rolle bei der Überwindung von Barrieren für die Adoption von AI in der realen Welt spielen.

Und tinyMLs Einfluss wächst. Mit über 10.000 Mitgliedern wächst die tinyML-Foundation das Ökosystem, um die Entwicklung und Bereitstellung von ultra-niedrigenergetischen Machine-Learning-Lösungen am Rand zu unterstützen. Die Foundation vereint eine globale Gemeinschaft von Hardware-, Software-, Machine-Learning-, Datenwissenschaftlern, Systemingenieuren, Designern, Produkt- und Geschäftsleuten.

Eine Welt der Möglichkeiten

Insgesamt gibt es Milliarden von kleinen, vernetzten Geräten, die von fortschrittlicher Intelligenz profitieren können. Die Herausforderung besteht darin, dass sie sehr begrenzte Ressourcen haben, also wie können wir Intelligenz hinzufügen? tinyML kann eine Schlüsselrolle bei der Einführung von AI und ML in mehr Computer-Vision-basierten, realen Anwendungen am Rand auf kleinen Geräten spielen. Und dies kann eine Welt von Vorteilen für Menschen und Unternehmen in einer Reihe von Produkten, Dienstleistungen und Branchen freischalten, uns helfen, in neue Grenzbereiche für AI vorzustoßen.