Roli i tinyML në Mundësimin e Vizionit Kompjuterik në Edge – Udhëheqësit e Mendimit

Nga: Davis Sawyer, Bashkëthemelues dhe Drejtor Kryesor i Produkteve, E thellë

Vizioni kompjuterik ka potencial të madh për të përmirësuar jetën tonë të përditshme – dhe ka shumë aplikacione dhe përdorime për të. Disa shembuj përfshijnë:

• Zilet e zgjuara të derës për sigurinë e shtëpisë ndihmoni në parandalimin e "piratëve të verandës" dhe vjedhjeve. Sipas hulumtimit të IHS Markit (publikuar në SecurityInfoWatch) numri i kamerave globale të vëzhgimit në mbarë botën pritej të arrinte një miliard në vitin 2021. Vetëm në SHBA, numri i kamerave pritej të arrinte në 85 milionë;
• In parkingje, kamerat e aktivizuara me AI automatizojnë gjurmimin e pikave të parkimit të disponueshme dhe të zëna për t'u bërë të ditur konsumatorëve se ku janë hapësirat e hapura;
• Kamerat e pultit në kamionë tani po lexojnë shenjat e kufirit të shpejtësisë dhe po reduktojnë në mënyrë dinamike shpejtësinë e kamionit për të përmirësuar sigurinë;
• dhe dronë me kamera të lidhura po monitorojnë zonat e largëta dhe të vështira për t'u arritur, dhe ata mund të përpunojnë imazhe dhe të marrin vendime në kohë reale.

Të gjitha këto aplikacione përdorin analitikë inteligjente video, të drejtuara nga AI dhe Machine Learning (ML), për të parë video, për të përdorur inteligjencën për të marrë vendime dhe më pas për të ndërmarrë veprime.

Vizioni kompjuterik ka nevojë për më shumë burime në Edge

Megjithatë, si shumë aplikacione të drejtuara nga AI, vizioni kompjuterik ka nevojë për shpërthime të fuqisë kompjuterike, memorie dhe energjie për të bërë analizën e tij komplekse dhe për të marrë vendime. Ndërsa kjo është e mirë në një qendër të dhënash me shumë fuqi kompjuterike, mund të parandalojë lëvizjen e AI në skaj. Në mënyrë të veçantë, pajisjet e vogla që ndodhen larg qendrave të të dhënave të korporatave dhe funksionojnë me bateri të vogla kanë nevojë për një lloj të ri të AI që është më i vogël, më i shpejtë dhe "më i lehtë" se sa qasjet tradicionale. Dhe pajisjet ekzistuese do të duhet të përmirësohen me funksionalitet të ri AI + ML (vizion kompjuterik) për të qëndruar të qëndrueshëm dhe konkurrues.

Përparimet e reja nxisin rrjetet e thella nervore

Sot, përparimet e reja në AI po i bëjnë rrjetet nervore të thella (DNN) më të shpejta, më të vogla dhe më efikase në energji – dhe po ndihmojnë në lëvizjen e AI nga cloud dhe qendrat e të dhënave në pajisjet e skajshme dhe sensorët me bateri. Kur bëhet fjalë për trajnimin e modelit të AI, gjurma marramendëse e karbonit është dokumentuar dhe diskutuar (dmth. trajnimi i një modeli të gjuhës së AI emetojnë CO2 sa 5 makina gjatë jetës së tyre). Megjithatë, ne duhet të kuptojmë se cili është ndikimi mjedisor Konkluzioni i modelit të AI është dhe si të zvogëlohet kjo gjurmë. Këtu optimizimi i modelit mund të ketë përfitime të jashtëzakonshme duke reduktuar koston ekonomike dhe mjedisore të DNN-ve.

TinyML mundëson AI në pajisjet e vogla

Një përparim i tillë është vogël ML, një prirje e re e fuqishme për të mundësuar pajisje më të vogla me bateri që të përdorin ML të avancuar për të ofruar vizion kompjuterik dhe detyra të tjera të perceptimit. Ai lehtëson konkluzionet e ML në pajisjet e vogla, me burime të kufizuara, zakonisht në skajin e resë kompjuterike dhe ndihmon në aktivizimin e aplikacioneve të skajeve më afër përdoruesit.

Për shembull, një server GPU si një NVIDIA A100 ka mbi 40 GB memorie të disponueshme, e cila është e përshtatshme për të ekzekutuar AI komplekse si vizioni kompjuterik dhe përpunimi i gjuhës natyrore. Megjithatë, kur flasim për pajisjet e skajshme dhe tinyML, një mikrokontrollues i zakonshëm (MCU) mund të ketë vetëm 256 KB memorie në çip, që është mbi 100,000 herë më pak memorie se cloud! Për më tepër, ndryshe nga qendrat e të dhënave dhe cloud, hardueri i pajisjes skajore nuk mund të përditësohet lehtësisht në terren. Kjo do të thotë që ne duhet të "përshtatim" AI-në tonë në harduerin e disponueshëm, të cilit mund t'i duhen muaj deri në vite provash dhe gabimesh që zhvilluesit ta arrijnë, nëse fare. Kjo është ajo ku tinyML, në veçanti mësimi i automatizuar i makinerisë (i quajtur edhe AutoML) mund të luajë një rol të madh në thyerjen e barrierave për adoptimin e AI në botën reale.

Dhe ndikimi i tinyML po rritet. Me mbi 10,000 anëtarë, Fondacioni tinyML po rrit ekosistemin për të mbështetur zhvillimin dhe vendosjen e zgjidhjeve të mësimit të makinerive me fuqi ultra të ulët në avantazh. Fondacioni bashkon një komunitet global të harduerit, softuerit, mësimit të makinerive, shkencëtarëve të të dhënave, inxhinierëve të sistemeve, projektuesve, produkteve dhe njerëzve të biznesit.

Një Botë Mundësish

Në përgjithësi, ka miliarda pajisje të vogla dhe të lidhura kudo që mund të përfitojnë nga inteligjenca e avancuar. Sfida është se ata kanë burime shumë të kufizuara, kështu që si mund t'u shtojmë inteligjencën atyre? tinyML mund të luajë një rol kyç në sjelljen e AI dhe ML në më shumë aplikacione të botës reale të bazuara në vizion kompjuterik, në avantazhin e pajisjeve të vogla. Dhe kjo mund të zhbllokojë një botë përfitimesh për njerëzit dhe kompanitë në një gamë produktesh, shërbimesh dhe industrish, duke na ndihmuar të shtyjmë në kufij të rinj për AI.