Ajatusjohtajat
tinyML:n rooli konenäön mahdollistamisessa reunalaitteissa – Ajatusjohtajat

Keskeiset kohdattinyML mahdollistaa tietokonenäön mikrokontrollereilla, joissa on 100 000 kertaa…
Näytä lisää
- tinyML mahdollistaa tietokonenäön mikrokontrollereilla, joissa on 100 000 kertaa vähemmän muistia kuin pilvessä toimivilla GPU:illa.
- Automatisoitu koneoppiminen tinyML:n avulla murentaa esteitä tekoälyn käyttöönotolle resurssirajoitteisissa reunapäätelaitteissa.
- tinyML-säätiö yhdistää yli 10 000 jäsentä edistämään erittäin vähätehoista koneoppimista reunalla.
Davis Sawyer, Co-Founder & Chief Product Officer, Deeplite
Konenäköllä on valtava potentiaali parantaa arkipäivämme – ja sille on monia sovelluksia ja käyttökohteita. Muutamia esimerkkejä ovat:
- Älyovikellot kotiturvallisuuden parantamiseen estää ovelle jätettyjen pakettien varkauksia ja murtoja. I.H.S. Markitin tutkimuksen mukaan (julkaistu SecurityInfoWatchissa) maailmanlaajuinen valvontakameroiden määrä odotettiin yltävän miljardiin vuonna 2021. Yhdysvalloissa kameroiden määrä odotettiin yltävän 85 miljoonaan;
- Pysäköimisalueilla tekoälykamerat automaattisesti seuraavat vapaata ja varattua pysäköintitilaa, jotta kuluttajat tietävät, missä ovat vapaat tilat;
- Ohjaamon kamerat kuorma-autoissa lukevat nopeusrajoitusmerkkejä ja pienentävät dynaamisesti kuorma-auton nopeutta turvallisuuden parantamiseksi;
- Ja droneilla on kytketty kamerat, jotka valvovat etäisiä ja vaikeasti tavoitettavia alueita, ja ne voivat prosessoida kuvia ja tehdä päätöksiä reaaliajassa.
Kaikki nämä sovellukset käyttävät älykkäitä videoanalytiikkaa, jota ohjaa tekoäly ja koneoppiminen, katsomaan videoita, käyttämään älykkyyttä päätöksenteossa ja tekemään sitten toimia.
Näkökyvylle tarvitaan enemmän resursseja reunassa
Kuitenkin, kuten monilla tekoälysovelluksilla, näkökyvylle tarvitaan laskentatehon, muistin ja energian purkausia monimutkaisen analyysin tekemiseksi ja päätöksenteon. Vaikka tämä on ok datakeskuksessa, jossa on paljon laskentatehoa, se voi estää tekoälyn siirtymisen reunalle. Nimenomaan pienet laitteet, jotka sijaitsevat kaukana yritysten datakeskuksista ja toimivat pienillä akkuilla, tarvitsevat uuden sukupolven tekoälyä, joka on pienempi, nopeampi ja “kevyempi” kuin perinteiset lähestymistavat. Ja olemassa olevat laitteet tarvitsevat päivityksiä uudella tekoäly- ja koneoppimisominaisuudella (konenäkö) pysyäkseen elinkelpoisina ja kilpailukykyisinä.
Uudet edistysaskeleet vauhdittavat syviä neuroverkkoja
Tänään uudet edistysaskeleet tekoälyssä tekevät syvistä neuroverkoista nopeampia, pienempiä ja energiatehokkaampia – ja auttavat siirtämään tekoälyä pilvestä ja datakeskuksista reunan laitteisiin ja paristovaraisiin antureihin. Kun on kyse tekoälymallin koulutuksesta, hämmästyttävä hiilijalanjälki on dokumentoitu ja keskusteltu (esim. yhden tekoälykielen mallin koulutus aiheuttaa yhtä paljon CO2:ta kuin 5 autoa koko elinikänsä ajan). Kuitenkin meidän on ymmärrettävä, mikä on tekoälymallin päättelyn ympäristövaikutus ja miten vähentää tämän jalanjäljen kustannuksia. Tässä kohtaa mallin optimointi voi tuoda valtavat hyödyt laskemalla DNN:n taloudellisen ja ympäristöllisen kustannuksen.
TinyML mahdollistaa tekoälyn pienten laitteiden käytössä
Yksi tällainen edistysaskel on tinyML, voimakas uusi suuntaus, joka mahdollistaa pienille, paristokäyttöisille laitteille käyttää edistynyttä koneoppimista näkökyvyn ja muiden havaintotehtävien toimittamiseksi. Se mahdollistaa koneoppimismallien päättelyn pienissä, resursseiltaan rajoitetuissa laitteissa, jotka ovat tyypillisesti pilven reunalla, ja auttaa mahdollistamaan reunan sovelluksia lähempänä käyttäjää.
Esimerkiksi palvelin-GPU kuten NVIDIA A100:lla on yli 40 GB käytettävissä olevaa muistia, mikä on sopiva suorittamaan monimutkaisia tekoälysovelluksia kuten konenäköä ja luonnollisen kielen prosessointia. Kuitenkin kun puhumme reunan laitteista ja tinyML:stä, yleinen mikroohjain (MCU) voi olla vain 256 KB:n muisti, mikä on yli 100 000 kertaa vähemmän muistia kuin pilvessä! Lisäksi toisin kuin datakeskukset ja pilvi, reunan laitteiden laitteistoa ei voida helposti päivittää kenttässä. Tämä tarkoittaa, että meidän on “sovitettava” tekoälymme saatavilla olevaan laitteistoon, mikä voi kestää kuukausia tai jopa vuosia kokeiluja ja virheitä kehittäjiltä, jos se on lainkaan mahdollista. Tässä tinyML, erityisesti automaattinen koneoppiminen (myös kutsutaan AutoML:ksi), voi pelata merkittävän roolin esteiden murtamisessa tekoälyn omaksumisessa todellisessa maailmassa.
Ja tinyML:n vaikutus kasvaa. Yli 10 000 jäsenen tinyML Foundation kasvattaa ekosysteemiä tukeakseen ultra-alhaisen tehon koneoppimisen kehittämistä ja käyttöönottoa reunassa. Säätiö yhdistää globaalin yhteisön laitteiston, ohjelmiston, koneoppimisen, data- ja järjestelmäinsinöörien, suunnittelijoiden, tuotteen ja liiketoiminnan ammattilaisten.
Maailma mahdollisuuksia
Kaiken kaikkiaan on miljardeja pieniä, yhdistettyjä laitteita, jotka voivat hyötyä edistyneestä älykkyydestä. Haaste on, että niillä on hyvin rajoitetut resurssit, joten miten voimme lisätä älykkyyttä niihin? tinyML voi pelata avainroolin tekoälyn ja koneoppimisen tuomisessa enemmän konenäköyn perustuviin, todellisiin sovelluksiin reunassa pienten laitteiden kanssa. Ja tämä voi avata maailman hyödyistä ihmisille ja yrityksille laajalla tuotteiden, palvelujen ja alojen kirjolla, auttaen meitä etenemään tekoälyn uusille alueille.












