Orr Danon, CEO & Co-Fondator al Hailo – Seria de Interviuri

Orr Danon este CEO & Co-Fondator al Hailo, o companie cu misiunea de a permite tehnologiilor inteligente de margine să-și atingă potențialul maxim. Soluția prezentată de Hailo acoperă golul dintre tehnologiile actuale și viitoare de inteligență artificială și capacitatea de calcul necesară pentru a alimenta aceste aplicații. Compania se concentrează pe construirea de procesoare de inteligență artificială eficiente și compacte, capabile să calculeze și să interpreteze cantități uriașe de date în timp real.

Puteți împărtăși povestea de origine a Hailo?

Am co-fondat Hailo în 2017, împreună cu colegi pe care i-am cunoscut anterior în unitatea de tehnologie avansată a Forțelor de Apărare Israeliene (IDF). În timp ce lucram cu co-fondatorii mei, Rami Feig și Avi Baum, la soluții IoT (Internetul Lucrurilor), un concept mai puțin cunoscut – “Învățarea profundă” – a apărut constant în cercetările noastre. În cele din urmă, am adunat împreună experți în domeniu pentru a dezvolta o nouă soluție de învățare profundă care să rezolve deficiențele arhitecturii calculate învechite, pentru a permite dispozitivelor inteligente să funcționeze mai eficient și mai eficace la margine. După moartea prematură a lui Rami, echipa Hailo a dus la îndeplinire viziunea sa, creând procesorul de inteligență artificială revoluționar al Hailo.

Puteți explica pe scurt de ce calculul la margine este adesea o soluție superioară calculului în cloud?

Când am început Hailo, tehnologiile de inteligență artificială inovatoare erau în mare măsură limitate la cloud sau la centre de date mari, deoarece acestea sunt costisitoare, necesită o putere de calcul ridicată și o cantitate semnificativă de energie pentru a funcționa. Credem că inteligența artificială ajută la crearea unui lume mai bună, mai sigură, mai productivă și mai interesantă, dar pentru ca acest lucru să se întâmple, inteligența artificială trebuie să fie disponibilă și la margine. Pentru implementarea de aplicații în timp real și cu latență scăzută pe dispozitive, cum ar fi camerele conectate la rețea, vehiculele și dispozitivele IoT, procesarea la sursă este esențială pentru funcționarea eficientă. Cu inteligența artificială la margine, putem valorifica pe deplin o serie de cazuri de utilizare cheie care alimentează viitorul orașelor inteligente, transportului inteligent, conducerea autonomă, sistemele de management video (VMS), Industria 4.0 și multe altele.

Care sunt unele dintre provocările din spatele procesării datelor vizuale la margine?

Scopul este de a obține cât mai multă performanță și de a pune la dispoziție cât mai multe caracteristici posibile în dispozitivele de margine, astfel încât acestea să poată procesa o cantitate uriașă de date vizuale rapid și cu latență scăzută; cu toate acestea, una dintre principalele constrângeri este consumul de energie – atât în ceea ce privește cantitatea de energie care poate fi furnizată dispozitivului, cât și căldura generată de procesor.

Cu camere inteligente, de exemplu, producătorii au nevoie de un procesor de inteligență artificială care să se încadreze într-un interval de 2-3W, deoarece camera nu poate utiliza răcire cu ventilator și deoarece, în general, va avea o sursă de alimentare limitată. Acestea sunt puncte dureroase acute, deoarece, la o putere atât de scăzută, performanța este extrem de limitată atunci când se utilizează majoritatea procesoarelor de pe piață.

Cum a reimaginat Hailo arhitectura procesorului de inteligență artificială?

Am făcut acest lucru prin proiectarea specifică a unui procesor de inteligență artificială care este conceput pentru a funcționa pe dispozitive de margine, ținând cont de limitările de dimensiune și de putere. Prin urmare, permitem o putere de calcul fără precedent pe dispozitive de margine, permițându-le să ruleze inteligența artificială mai eficient și mai eficace și să execute aplicații sofisticate de învățare profundă, cum ar fi detectarea obiectelor, recunoașterea obiectelor, segmentarea și altele, cu niveluri de performanță care au fost posibile anterior doar în cloud. Această arhitectură unică permite procesarea multi-stream și multi-aplicație, îmbunătățind performanța și eficiența costurilor dispozitivelor de margine.

Un exemplu al utilizării acestei arhitecturi este reprezentat de Sistemele de Management Video (VMS). Aceste sisteme sunt utilizate în zone cu numeroase camere, cum ar fi clădirile de birouri, stadioanele, aplicațiile orașelor inteligente și autostrăzile, pentru a gestiona mai bine siguranța și securitatea, inclusiv monitorizarea situațiilor de urgență și a accidentelor, a activităților suspecte, a managementului traficului, a controlului accesului, a colectării taxelor și multe altele. În multe ani, întreprinderile s-au bazat în întregime pe procese manuale atunci când a venit vorba de colectarea, analiza și stocarea datelor video. Acum, cu arhitectura de rețele neurale unică a Hailo, VMS poate efectua multiple sarcini în paralel, în timp real, permițând procesarea mai multor canale și a mai multor aplicații simultan. Aplicațiile includ recunoașterea avansată a plăcuțelor de înmatriculare (LPR), monitorizarea traficului, detectarea comportamentului și multe altele.

Puteți discuta despre nucleul de procesare a rețelelor neurale și abordarea dvs. de calculare a rețelelor neurale în paralel, și nu în mod secvențial?

Procesorul nostru de inteligență artificială combină multiple inovații care abordează proprietățile fundamentale ale rețelelor neurale. Am aplicat un sistem de control inovator care se bazează pe o combinație de hardware și software pentru a atinge un nivel foarte scăzut de jouli pe operație, cu un grad ridicat de flexibilitate.

Arhitectura noastră orientată către fluxul de date se adaptează la structura rețelei neurale și permite o utilizare ridicată a resurselor. Compilatorul de flux de date Hailo este alcătuit din software complet, proiectat împreună cu hardware-ul nostru, pentru a permite o implementare eficientă a rețelelor neurale. Compilatorul de flux de date primește modelul utilizatorului ca intrare. Ca parte a fluxului de construire, compilatorul de flux de date descompune fiecare strat al rețelei în elementele computaționale necesare, generând un grafic de resurse care este o reprezentare a rețelei țintă. Compilatorul de flux de date apoi asociază graficul de resurse al rețelei țintă cu resursele fizice disponibile pe procesor, generând o conductă de date personalizată pentru rețeaua țintă. Atunci când se efectuează în acest mod, rularea unui model pe un dispozitiv este foarte eficientă, utilizând resursele de calcul minimale în orice moment.

Care sunt unele dintre platformele actuale bazate pe Hailo care sunt disponibile pentru afaceri?

Procesorul Hailo-8 și modulele de inteligență artificială pot fi conectate la o varietate de dispozitive de margine, ajutând la alimentarea mai multor sectoare cu capacități de inteligență artificială superioare – incluzând automotive, orașe inteligente, retail inteligent și industria 4.0.

Hailo a colaborat cu jucători de top din domeniul VMS și ISV, cum ar fi Innovatrics, Network Optix, GeoVision și Art of Logic, pentru a permite analize video de top la scară.

Cât timp pot economisi aceste soluții pentru clienții care integrează soluții de inteligență artificială?

Sursa de soluții integrate care rulează pe platforme VMS stabilite este economisitoare de timp, dar acesta nu este principalul beneficiu al sistemului. Soluțiile VMS bazate pe Hailo permit mai multe fluxuri să ruleze în paralel și mai multe aplicații să fie procesate pentru fiecare flux.

Capacitatea de a valorifica inteligența artificială pentru a procesa multiple fluxuri video înseamnă, de asemenea, că doar evenimente specifice trebuie să fie transmise în cloud pentru stocare, permițând economii semnificative de bandă și capacitate de stocare.

Care sunt unele dintre lecțiile pe care le-ați învățat din implementarea aplicațiilor de învățare profundă pe dispozitive de margine?

Am văzut direct cum inteligența artificială la margine va juca un rol cheie în stimularea inovației într-o varietate de sectoare în anii următori. Pe măsură ce întreprinderile caută soluții care să le asigure dispozitive mai puternice, mai versatile, mai receptive și mai sigure, cloud-ul va continua să cedeze locul dispozitivelor de margine și modelelor hibride. Cei care reușesc să implementeze inteligența artificială la margine vor obține un avantaj în toate domeniile.

Care este viziunea dvs. pentru viitorul calculului la margine?

Calculul la margine – în special inteligența artificială la margine – are capacitatea de a transforma complet modul în care funcționează lumea din jurul nostru, permițând dispozitivelor, cum ar fi camerele inteligente, vehiculele inteligente, roboții autonomi, uneltele de management avansate ale traficului, construcția inteligentă, fabricile inteligente și multe altele, să devină mai inteligente și mai sigure. Tehnologia de procesare a inteligenței artificiale a Hailo este un factor important care permite toate aceste cazuri de utilizare. Vom continua să colaborăm cu producători și inovatori din întreaga lume pentru a face aceste soluții mai accesibile.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Hailo ar trebui să viziteze Hailo.