tinyML:n rooli tekoälyä käyttävien reuna-älysovellusten mahdollistamisessa – Ajattelijat

Davis Sawyer, Co-Founder & Chief Product Officer, Deeplite

Näkökykyllä on valtava potentiaali parantaa arkipäivämme – ja sille on monia sovelluksia ja käyttökohteita. Muutamia esimerkkejä ovat:

• Älyovi kotiturvallisuuden parantamiseen estää “porch pirates” -ryöstelyjä ja murtoja. I.H.S. Markitin tutkimuksen mukaan (julkaistu SecurityInfoWatchissa) maailmanlaajuinen valvontakameroiden määrä odotettiin yltävän miljardiin vuonna 2021. Yhdysvalloissa kameroiden määrä odotettiin yltävän 85 miljoonaan;
• Pysäköimisalueilla tekoälykamerat automaattisesti seuraavat vapaata ja varattua pysäköintitilaa, jotta kuluttajat tietävät, missä ovat vapaat tilat;
• Ohjaamon kamerat kuorma-autoissa lukevat nopeusrajoitusmerkkejä ja pienentävät dynaamisesti kuorma-auton nopeutta turvallisuuden parantamiseksi;
• Ja droneilla on kytketty kamerat, jotka valvovat etäisiä ja vaikeasti tavoitettavia alueita, ja ne voivat prosessoida kuvia ja tehdä päätöksiä reaaliajassa.

Kaikki nämä sovellukset käyttävät älykkäitä videoanalytiikkaa, jota ohjaa tekoäly ja koneoppiminen, katsomaan videoita, käyttämään älykkyyttä päätöksenteossa ja tekemään sitten toimia.

Näkökyvylle tarvitaan enemmän resursseja reunassa

Kuitenkin, kuten monilla tekoälysovelluksilla, näkökyvylle tarvitaan laskentatehon, muistin ja energian purkausia monimutkaisen analyysin tekemiseksi ja päätöksenteon. Vaikka tämä on ok datakeskuksessa, jossa on paljon laskentatehoa, se voi estää tekoälyn siirtymisen reunalle. Nimenomaan pienet laitteet, jotka sijaitsevat kaukana yritysten datakeskuksista ja toimivat pienillä akkuilla, tarvitsevat uuden sukupolven tekoälyä, joka on pienempi, nopeampi ja “kevyempi” kuin perinteiset lähestymistavat. Ja olemassa olevat laitteet tarvitsevat päivityksiä uudella tekoäly- ja koneoppimisominaisuudella (näkökyky) pysyäkseen elinkelpoisina ja kilpailukykyisinä.

Uudet edistysaskeleet vauhdittavat syviä neurverkkoja

Tänään uudet edistysaskeleet tekoälyssä tekevät syvistä neurverkoista nopeampia, pienempiä ja energiatehokkaampia – ja auttavat siirtämään tekoälyä pilvestä ja datakeskuksista reunan laitteisiin ja paristovaraisiin antureihin. Kun on kyse tekoälymallin koulutuksesta, hämmästyttävä hiilijalanjälki on dokumentoitu ja keskusteltu (esim. yhden tekoälykielen mallin koulutus aiheuttaa yhtä paljon CO2:ta kuin 5 autoa koko elinikänsä ajan). Kuitenkin meidän on ymmärrettävä, mikä on tekoälymallin päätöksenteon ympäristövaikutus ja miten vähentää tämän jalanjäljen kustannuksia. Tässä kohtaa mallin optimointi voi tuoda valtavat hyödyt laskemalla DNN:n taloudellisen ja ympäristöllisen kustannuksen.

TinyML mahdollistaa tekoälyn pienten laitteiden käytössä

Yksi tällainen edistysaskel on tinyML, voimakas uusi suuntaus, joka mahdollistaa pienille, paristovaroituisille laitteille käyttää edistynyttä koneoppimista näkökyvyn ja muiden havaintotehtävien toimittamiseksi. Se mahdollistaa koneoppimisen pienten, resursseiltaan rajoitettujen laitteiden käytössä, jotka ovat tyypillisesti pilven reunalla, ja auttaa mahdollistamaan reunan sovelluksia lähempänä käyttäjää.

Esimerkiksi palvelin-GPU kuten NVIDIA A100:lla on yli 40 GB käytettävissä olevaa muistia, mikä on sopiva suorittamaan monimutkaisia tekoälysovelluksia kuten näkökykyä ja luonnollisen kielen prosessointia. Kuitenkin kun puhumme reunan laitteista ja tinyML:stä, yleinen mikroohjain (MCU) voi olla vain 256 KB:n muisti, mikä on yli 100 000 kertaa vähemmän muistia kuin pilvessä! Lisäksi toisin kuin datakeskukset ja pilvi, reunan laitteiden laitteistoa ei voida helposti päivittää kenttässä. Tämä tarkoittaa, että meidän on “sovitettava” tekoälymme saatavilla olevaan laitteistoon, mikä voi kestää kuukausia tai jopa vuosia kokeiluja ja virheitä kehittäjiltä, jos se on lainkaan mahdollista. Tässä tinyML, erityisesti automaattinen koneoppiminen (myös kutsutaan AutoML:ksi), voi pelata merkittävän roolin esteiden murtamisessa tekoälyn omaksumisessa todellisessa maailmassa.

Ja tinyML:n vaikutus kasvaa. Yli 10 000 jäsenen tinyML Foundation kasvattaa ekosysteemiä tukeakseen ultra-alhaisen tehon koneoppimisen kehittämistä ja käyttöönottoa reunassa. Säätiö yhdistää globaalin yhteisön laitteiston, ohjelmiston, koneoppimisen, data- ja järjestelmäinsinöörien, suunnittelijoiden, tuotteen ja liiketoiminnan ammattilaisten.

Maailma mahdollisuuksia

Kaiken kaikkiaan on miljardeja pieniä, yhdistettyjä laitteita, jotka voivat hyötyä edistyneestä älykkyydestä. Haaste on, että niillä on hyvin rajoitetut resurssit, joten miten voimme lisätä älykkyyttä niihin? tinyML voi pelata avainroolin tekoälyn ja koneoppimisen tuomisessa enemmän näkökykyyn perustuviin, todellisiin sovelluksiin reunassa pienten laitteiden kanssa. Ja tämä voi avata maailman hyödyistä ihmisille ja yrityksille laajalla tuotteiden, palvelujen ja alojen kirjolla, auttaen meitä etenemään uusiin rajoitteisiin tekoälyssä.