dem tinyML seng Roll beim Erlaaben Computer Visioun um Rand - Thought Leaders

Auteur: Davis Sawyer, Co-Founder & Chief Product Officer, Déifgräifend

Computer Visioun huet e grousst Potenzial fir eisen Alldag ze verbesseren - an et gi vill Uwendungen a Gebrauch dofir. E puer Beispiller enthalen:

• Smart doorbells fir doheem Sécherheet hëllefen "Veranda Piraten" an Abroch ze verhënneren. Laut Fuerschung vum IHS Markit (publizéiert an SecurityInfoWatch) d'Zuel vun de globale Iwwerwaachungskameraen weltwäit war erwaart eng Milliard z'erreechen 2021. Alleng an den USA war d'Zuel vun de Kameraen erwaart 85 Milliounen ze erreechen;
• In Parkplazen, AI-aktivéiert Kameraen automatiséieren d'Verfollegung vu verfügbaren a besate Parkplazen fir d'Konsumenten ze wëssen, wou oppe Plazen sinn;
• Dashboard Kameraen op Camionen sinn elo Vitesse Limite Schëlder liesen an dynamesch reduzéieren de Camion Vitesse Sécherheet ze verbesseren;
• an Dronen mat verbonne Kameraen iwwerwaachen Remote a schwéier z'erreechen Beräicher, a si kënne Biller veraarbechten an Entscheedungen an Echtzäit treffen.

All dës Uwendungen benotzen intelligent Videoanalytik, gedriwwe vun AI a Machine Learning (ML), fir Video ze kucken, Intelligenz ze benotzen fir Entscheedungen ze treffen, an dann handelen.

Computer Visioun brauch méi Ressourcen um Rand

Wéi och ëmmer, wéi vill AI-driven Uwendungen, brauch Computervisioun Bursts vu Rechenkraaft, Erënnerung an Energie fir seng komplex Analyse ze maachen an Entscheedungen ze treffen. Och wann dëst gutt ass an engem Datenzenter mat vill Computerkraaft, kann et d'Bewegung vun AI op de Rand verhënneren. Besonnesch kleng Geräter, déi wäit vun de Firmenrechenzentren lokaliséiert sinn an op kleng Batterien funktionnéieren, brauchen eng nei Rasse vun AI déi méi kleng, méi séier a "liicht" ass wéi traditionell Approche. A bestehend Geräter musse mat neier AI + ML (Computervisioun) Funktionalitéit aktualiséiert ginn fir liewensfäeg a kompetitiv ze bleiwen.

Nei Fortschrëtter Boost Deep Neural Networks

Haut maachen nei Fortschrëtter an AI Deep Neural Networks (DNNs) méi séier, méi kleng a méi energieeffizient - an hëllefen AI vun der Wollek an Datenzenteren op Randgeräter a Batterie-ugedriwwen Sensoren ze bewegen. Wann et ëm AI Modell Training kënnt, ass de verréckten Kuelestoffofdrock dokumentéiert an diskutéiert (dh Training vun engem AI Sproochemodell esou vill CO2 wéi 5 Autoen iwwer hiert Liewen ausstoen). Wéi och ëmmer, mir musse verstoen wat den Ëmweltimpakt ass AI Modell Inference ass a wéi dëse Foussofdrock ze reduzéieren. Dëst ass wou d'Modelloptiméierung enorm Virdeeler kann hunn duerch d'Reduktioun vun de wirtschaftlechen an ökologesche Käschte vun DNNs.

TinyML Aktivéiert AI op klengen Apparater

Een esou Fortschrëtt ass kleng ML, e mächtege neien Trend fir méi kleng, Batterie-ugedriwwen Apparater z'erméiglechen, fortgeschratt ML ze benotzen fir Computervisioun an aner Perceptiounsaufgaben ze liwweren. Et erliichtert ML Inferenz op klengen, Ressource-begrenzten Apparater typesch um Rand vun der Wollek, an hëlleft Randapplikatiounen méi no beim Benotzer z'erméiglechen.

Zum Beispill, e Server GPU wéi en NVIDIA A100 huet iwwer 40GB verfügbar Erënnerung, wat gëeegent ass fir komplex AI wéi Computervisioun an natierlech Sproochveraarbechtung ze lafen. Wéi och ëmmer, wa mir iwwer Randgeräter a tinyML schwätzen, kann e gemeinsame Mikrokontroller (MCU) nëmmen 256KB On-Chip Erënnerung hunn, wat iwwer 100,000x manner Erënnerung ass wéi d'Wollek! Zousätzlech, am Géigesaz zu Datenzenteren an der Wollek, kann d'Randapparat Hardware net einfach am Feld aktualiséiert ginn. Dëst bedeit datt mir eis AI an déi verfügbar Hardware musse "passen", wat Méint bis Joere vu Versuch a Feeler fir Entwéckler daueren kann, wann iwwerhaapt. Dëst ass wou tinyML, besonnesch automatiséiert Maschinnléieren (och AutoML genannt) eng grouss Roll spille kann fir Barrièren ze briechen fir AI an der realer Welt z'adoptéieren.

An den Afloss vum tinyML wiisst. Mat iwwer 10,000 Memberen huet de tinyML Foundation wuesse den Ökosystem fir d'Entwécklung an d'Deployment vun ultra-niddereg Kraaft Maschinn Léieren Léisungen um Rand z'ënnerstëtzen. D'Stëftung vereenegt eng global Gemeinschaft vun Hardware, Software, Maschinnléieren, Datewëssenschaftler, Systemingenieuren, Designer, Produkt, a Geschäftsleit.

Eng Welt vun Méiglechkeeten

Am Ganze ginn et Milliarde vu klengen, verbonne Geräter iwwerall, déi vun fortgeschrattem Intelligenz profitéiere kënnen. D'Erausfuerderung ass datt se ganz limitéiert Ressourcen hunn, also wéi kënne mir hinnen Intelligenz derbäi ginn? tinyML kann eng Schlësselroll spillen fir AI an ML op méi Computervisioun-baséiert, real-Welt Uwendungen ze bréngen, um Rand op klengen Apparater. An dëst kann eng Welt vu Virdeeler fir Leit a Firmen iwwer eng Rei vu Produkter, Servicer an Industrien opmaachen, fir eis an nei Grenze fir AI ze drécken.