Orr Danon, CEO & Co-Founder of Hailo – Interviu Seria

Orr Danon, este CEO & Co-Fondator al Hailo, o companie cu misiunea de a permite tehnologiilor inteligente de margine să-și atingă potențialul maxim. Soluția prezentată de Hailo podeste gap-ul dintre tehnologiile actuale și viitoare de inteligență artificială și capacitatea de calcul necesară pentru a alimenta aceste aplicații. Compania se axează pe construirea de procesoare de inteligență artificială eficiente și compacte enough pentru a calcula și interpreta cantități uriașe de date în timp real.

Ne puteți împărtăși povestea de origine din spatele Hailo?

Am co-fondat Hailo în 2017, împreună cu colegi pe care i-am cunoscut anterior în unitatea de tehnologie de elită a Forțelor de Apărare Israeliene (IDF). În timp ce lucram cu co-fondatorii mei Rami Feig și Avi Baum la soluții IoT (Internet of Things), un construct mai puțin cunoscut – “Deep Learning” – a continuat să apară pe parcursul cercetărilor noastre. În cele din urmă, am adunat împreună experți în domeniu pentru a dezvolta o nouă soluție de deep learning care să rezolve limitările arhitecturii calculate învechite, pentru a permite dispozitivelor inteligente să funcționeze mai eficient și mai eficace la margine. După decesul lui Rami, echipa Hailo a văzut viziunea lui – creând procesorul de inteligență artificială revoluționar al Hailo.

Ne puteți explica pe scurt de ce calculul la margine este adesea o soluție superioară calculului în cloud?

Când am început Hailo, tehnologiile de inteligență artificială disruptivă erau în mare măsură limitate la cloud, sau la centre de date mari, deoarece sunt costisitoare, necesită o putere de calcul ridicată și o cantitate semnificativă de hardware pentru a funcționa, și consumă o cantitate semnificativă de energie. Credem că inteligența artificială ajută la crearea unui lume mai bună, mai sigură, mai productivă și mai interesantă, dar pentru ca acest lucru să se întâmple, inteligența artificială trebuie să fie disponibilă și la margine. Pentru implementarea aplicațiilor în timp real și cu latență scăzută pe dispozitive precum camerele conectate la rețea, vehicule și dispozitive IoT, procesarea la sursă este esențială pentru funcționarea eficientă. Cu inteligența artificială la margine, putem valorifica pe deplin o serie de cazuri de utilizare cheie care alimentează viitorul orașelor inteligente, transportului inteligent, conducerea autonomă, sistemele de management al videocamerelor (VMS), Industria 4.0 și multe altele.

Care sunt unele dintre provocările din spatele procesării datelor vizuale la margine?

Scopul este de a obține cât mai multă performanță și cât mai multe caracteristici care pot fi încorporate în dispozitivele de margine, astfel încât acestea să poată procesa o cantitate uriașă de date vizuale rapid și cu o latență scăzută; cu toate acestea, una dintre principalele constrângeri este consumul de energie – atât în ceea ce privește cantitatea de energie care poate fi furnizată dispozitivului, cât și căldura generată de procesor.

Cu camere inteligente, de exemplu, producătorii au nevoie de un procesor de inteligență artificială care să se încadreze într-un interval de 2-3W, deoarece camera nu poate utiliza răcire cu ventilator și deoarece, în general, va avea o alimentare limitată. Acestea sunt puncte dureroase acute, deoarece, la o putere atât de scăzută, performanța este extrem de limitată atunci când se utilizează majoritatea procesoarelor de pe piață.

Cum a reimaginat Hailo arhitectura procesorului de inteligență artificială?

Am făcut acest lucru prin proiectarea specifică a unui procesor de inteligență artificială care este conceput pentru a funcționa pe dispozitive de margine, ținând cont de limitările de dimensiune și de putere. Prin urmare, permitem o putere de calcul fără precedent pe dispozitive de margine, permițându-le să ruleze inteligența artificială mai eficient și mai eficace și să execute aplicații de învățare profundă sofisticate, cum ar fi detectarea obiectelor, recunoașterea obiectelor, segmentarea și altele, cu niveluri de performanță care au fost posibile anterior doar în cloud. Această arhitectură unică permite procesarea multi-stream și multi-aplicație, îmbunătățind performanța și eficiența costurilor dispozitivelor de margine.

Un exemplu al utilizării acestei arhitecturi este reprezentat de sistemele de management al videocamerelor (VMS). Aceste sisteme sunt utilizate în zone cu numeroase camere, cum ar fi clădirile de birouri, stadioanele, aplicațiile orașelor inteligente și autostrăzile, pentru a gestiona mai bine siguranța și securitatea, inclusiv monitorizarea situațiilor de urgență și a accidentelor, a activităților suspecte, a managementului traficului, a controlului accesului, a colectării taxelor și multe altele. În multe ani, întreprinderile s-au bazat în întregime pe procese manuale atunci când a venit vorba de colectarea, analiza și stocarea datelor video. Acum, cu arhitectura unică de rețele neuronale a Hailo, VMS poate efectua multiple sarcini în paralel, în timp real, permițând procesarea mai multor canale și a mai multor aplicații simultan. Aplicațiile includ recunoașterea avansată a plăcuțelor de înmatriculare (LPR), monitorizarea traficului, detectarea comportamentului și multe altele.

Ne puteți discuta despre nucleul de procesare a rețelelor neuronale și abordarea dvs. de calcul a rețelelor neuronale în paralel versus secvențial?

Procesorul nostru de inteligență artificială combină multiple inovații care abordează proprietățile fundamentale ale rețelelor neuronale. Am aplicat un sistem de control inovator care se bazează pe o combinație de hardware și software pentru a atinge un nivel foarte scăzut de jouli pe operație, cu un grad ridicat de flexibilitate.

Arhitectura noastră orientată spre flux de date se adaptează la structura rețelei neuronale și permite o utilizare ridicată a resurselor. Compilatorul de flux de date Hailo este compus dintr-un software complet, proiectat împreună cu hardware-ul nostru, pentru a permite o implementare eficientă a rețelelor neuronale. Compilatorul de flux de date primește modelul utilizatorului ca intrare. Ca parte a fluxului de construire, compilatorul de flux de date descompune fiecare strat al rețelei în elementele computaționale necesare, generând un grafic de resurse care este o reprezentare a rețelei țintă. Compilatorul de flux de date apoi asociază graficul de resurse al rețelei țintă cu resursele fizice disponibile pe procesor, generând o conductă de date personalizată pentru rețeaua țintă. Când se efectuează în acest mod, rularea unui model pe un dispozitiv este foarte eficientă, utilizând resursele de calcul minimale în orice moment.

Care sunt unele dintre platformele Hailo actuale disponibile pentru afaceri?

Procesorul Hailo-8 și modulele de inteligență artificială pot fi conectate la o varietate de dispozitive de margine, ajutând la alimentarea mai multor sectoare cu capacități de inteligență artificială superioare – inclusiv automotive, orașe inteligente, retail inteligent și industrie 4.0.

Hailo a colaborat cu jucători de VMS și ISV de top, cum ar fi Innovatrics, Network Optix, GeoVision și Art of Logic, pentru a permite analize video de înaltă performanță la scară.

Cât timp pot salva aceste soluții clienților care integrează soluții de inteligență artificială?

Sursa de soluții integrate care rulează pe platforme VMS stabilite este economisitoare de timp, dar acesta nu este principalul beneficiu al sistemului. Soluțiile VMS bazate pe Hailo permit mai multe fluxuri să ruleze în paralel și mai multe aplicații să fie procesate pentru fiecare flux.

Capacitatea de a valorifica inteligența artificială pentru a procesa multiple fluxuri video înseamnă, de asemenea, că doar evenimente specifice trebuie să fie transmise în cloud pentru stocare, permițând economii semnificative la banda și capacitatea de stocare.

Care sunt unele dintre lecțiile pe care le-ați învățat din implementarea aplicațiilor de învățare profundă pe dispozitive de margine?

Am văzut cu ochii noștri cum inteligența artificială la margine va juca un rol cheie în stimularea inovației într-o varietate de sectoare în anii următori. Pe măsură ce întreprinderile caută soluții care să le asigure dispozitive mai puternice, mai versatile, mai receptive și mai sigure, cloud-ul va continua să cedeze dispozitivelor de margine și modelelor hibride. Cei care reușesc să implementeze inteligența artificială la margine vor obține un avantaj pe toate planurile.

Care este viziunea dvs. asupra viitorului calculului la margine?

Calculul la margine – în special inteligența artificială la margine – are capacitatea de a transforma complet modul în care funcționează lumea din jurul nostru, permițând dispozitivelor precum camerele inteligente, vehiculele autonome, roboții autonomi, uneltele avansate de management al traficului, construcția inteligentă, fabricile inteligente și multe altele. Inteligența artificială la margine are puterea de a schimba orice și totul, permițând noi aplicații care să facă lumea noastră mai inteligentă și mai sigură. Tehnologia de procesare a inteligenței artificiale a Hailo este un factor important care permite toate aceste cazuri de utilizare. Vom continua să colaborăm cu producători și inovatori din întreaga lume pentru a face aceste soluții mai accesibile.

Mulțumim pentru acest interviu, cititorilor care doresc să afle mai multe despre Hailo.