Улогата на tinyML во овозможување на компјутерска визија на работ - лидери на мислите

Од: Дејвис Соер, ко-основач и главен директор за производи, Длабоко

Компјутерската визија има голем потенцијал да го подобри нашиот секојдневен живот – и има многу апликации и употреби за тоа. Неколку примери вклучуваат:

• Паметни ѕвончиња за безбедност на домот помогне да се спречат „пирати од тремот“ и упади. Според истражувањето на IHS Markit (објавено во SecurityInfoWatch) бројот на глобални камери за надзор ширум светот се очекуваше да достигне една милијарда во 2021 година. Само во САД, бројот на камери се очекуваше да достигне 85 милиони;
• In места за паркирање, камерите со ВИ го автоматизираат следењето на достапните и окупираните места за паркирање за да им кажат на потрошувачите каде се отворените простори;
• Камери на контролната табла на камионите сега ги читаат знаците за ограничување на брзината и динамично ја намалуваат брзината на камионот за да ја подобрат безбедноста;
• И дронови со поврзани камери ги следат оддалечените и тешко достапните области и можат да обработуваат слики и да донесуваат одлуки во реално време.

Сите овие апликации користат интелигентна видео аналитика, водена од AI и машинско учење (ML), за гледање видео, користат интелигенција за донесување одлуки и потоа преземаат акција.

Компјутерската визија има потреба од повеќе ресурси на работ

Како и да е, како и многу апликации управувани со вештачка интелигенција, на компјутерската визија му требаат изливи на компјутерска моќ, меморија и енергија за да ја направи својата сложена анализа и да донесе одлуки. Иако ова е во ред во центарот за податоци со многу компјутерска моќ, може да го спречи движењето на вештачката интелигенција до работ. Поточно, на малите уреди кои се наоѓаат далеку од корпоративните центри за податоци и работат на мали батерии им треба нов вид на вештачка интелигенција што е помала, побрза и „полесна“ од традиционалните пристапи. А постоечките уреди ќе треба да се надградат со нова функционалност AI + ML (компјутерска визија) за да останат остварливи и конкурентни.

Новите достигнувања ги зајакнуваат длабоките невронски мрежи

Денес, новите достигнувања во вештачката интелигенција ги прават длабоките невронски мрежи (DNN) побрзи, помали и енергетски поефикасни - и помагаат да се премести вештачката интелигенција од облакот и центрите за податоци до рабните уреди и сензорите на батерии. Кога станува збор за обука за модели со вештачка интелигенција, запрепастувачкиот јаглероден отпечаток е документиран и дискутиран (т.е. обука на еден јазичен модел на вештачка интелигенција испушта CO2 колку 5 автомобили во текот на нивниот животен век). Сепак, треба да разбереме какво е влијанието врз животната средина AI модел Заклучок е и како да се намали овој отпечаток. Ова е местото каде што оптимизацијата на моделот може да има огромни придобивки преку намалување на економските и еколошките трошоци на DNN.

TinyML овозможува вештачка интелигенција на мали уреди

Еден таков напредок е tinyML, моќен нов тренд кој им овозможува на помалите уреди на батерии да користат напредна ML за да испорачаат компјутерска визија и други задачи за перцепција. Го олеснува заклучувањето на ML на мали уреди со ограничени ресурси обично на работ на облакот и помага да се овозможат рабните апликации поблиску до корисникот.

На пример, графичкиот процесор на серверот како NVIDIA A100 има над 40 GB достапна меморија, што е погодна за извршување на сложена вештачка интелигенција како компјутерска визија и обработка на природен јазик. Меѓутоа, кога зборуваме за рабните уреди и tinyML, заедничкиот микроконтролер (MCU) може да има само 256 KB меморија на чипот, што е над 100,000 пати помалку меморија од облакот! Дополнително, за разлика од центрите за податоци и облакот, хардверот на рабовите уреди не може лесно да се ажурира на терен. Ова значи дека мора да ја „вклопиме“ нашата вештачка интелигенција во достапниот хардвер, што може да потрае неколку месеци до години на обиди и грешки за програмерите да го постигнат, ако воопшто го постигнат. Ова е местото каде што tinyML, особено автоматското машинско учење (исто така наречено AutoML) може да игра голема улога во кршењето на бариерите за усвојување на вештачката интелигенција во реалниот свет.

И влијанието на tinyML расте. Со над 10,000 членови, на Фондацијата tinyML го развива екосистемот за да го поддржи развојот и распоредувањето на решенија за машинско учење со ултра ниска моќност на работ. Фондацијата обединува глобална заедница на хардвер, софтвер, машинско учење, научници за податоци, системски инженери, дизајнери, производи и деловни луѓе.

Светот на можностите

Севкупно, насекаде има милијарди мали, поврзани уреди кои можат да имаат корист од напредната интелигенција. Предизвикот е што тие имаат многу ограничени ресурси, па како можеме да им додадеме интелигенција? tinyML може да игра клучна улога во приближувањето на AI и ML до повеќе апликации од реалниот свет базирани на компјутерска визија, на работ на мали уреди. И ова може да го отклучи светот на бенефиции за луѓето и компаниите во низа производи, услуги и индустрии, помагајќи ни да се пробиеме во нови граници за вештачката интелигенција.