Orr Danon, CEO & Co-Founder di Hailo – Serie di Interviste

Orr Danon, è il CEO & Co-Founder di Hailo, un’azienda con la missione di abilitare le tecnologie smart edge per raggiungere il loro pieno potenziale. La soluzione presentata da Hailo colma il divario tra le tecnologie AI esistenti e future e la capacità di calcolo necessaria per alimentare queste applicazioni. L’azienda si concentra sulla costruzione di processori AI efficienti e compatibili abbastanza da calcolare e interpretare grandi quantità di dati in tempo reale.

Potresti condividere la storia di come è nata Hailo?

Ho co-fondato Hailo nel 2017 insieme a colleghi che avevo incontrato precedentemente nell’unità tecnologica d’élite delle Forze di Difesa israeliane (IDF). Mentre lavoravo con i miei co-fondatori Rami Feig e Avi Baum su soluzioni IoT (Internet delle Cose), un costrutto meno noto – “Deep Learning” – continuava a emergere durante le nostre ricerche. Alla fine, abbiamo riunito esperti nel settore per sviluppare una nuova soluzione di deep learning che aveva lo scopo di risolvere le carenze dell’architettura informatica obsoleta per consentire ai dispositivi intelligenti di funzionare in modo più efficace e efficiente ai margini. Dopo la scomparsa di Rami, il team di Hailo ha portato avanti la sua visione – creando il rivoluzionario processore AI di Hailo.

Potresti spiegare brevemente perché l’elaborazione ai margini è spesso una soluzione superiore all’elaborazione cloud?

Quando abbiamo iniziato Hailo, le tecnologie AI innovative erano in gran parte limitate al cloud o a grandi centri dati, poiché sono costose, richiedono una grande potenza di calcolo e un’ampia quantità di hardware per funzionare e consumano una quantità significativa di energia. Crediamo che l’AI stia aiutando a creare un mondo migliore, più sicuro, più produttivo e più emozionante, ma perché ciò accada, l’AI deve essere disponibile anche ai margini. Per l’implementazione di applicazioni in tempo reale e a bassa latenza su dispositivi come telecamere connesse in rete, veicoli e dispositivi IoT, l’elaborazione alla fonte è essenziale per un funzionamento efficace. Con l’AI ai margini, possiamo sfruttare appieno una serie di casi d’uso chiave che alimentano il futuro delle città intelligenti, dei trasporti intelligenti, della guida autonoma, dei sistemi di gestione video (VMS), dell’Industria 4.0 e molto altro.

Quali sono alcune delle sfide dietro l’elaborazione dei dati visivi ai margini?

L’obiettivo è ottenere il massimo delle prestazioni e delle funzionalità che possono essere inserite nei dispositivi ai margini in modo che possano elaborare una grande quantità di dati visivi rapidamente e con poca latenza; tuttavia, una delle principali limitazioni è il consumo di energia – sia in termini di quanto potere può essere fornito al dispositivo che di calore generato dal processore.

Con le telecamere intelligenti, ad esempio, i produttori hanno bisogno di un processore AI che si adatti a un involucro di 2-3W perché la telecamera non può utilizzare un raffreddamento a ventola e perché in generale avrà una limitata alimentazione. Questi sono punti dolenti acuti perché, a tale bassa potenza, le prestazioni sono estremamente limitate quando si utilizzano la maggior parte dei processori sul mercato.

Come Hailo ha ripensato l’architettura del processore AI?

Lo abbiamo fatto progettando specificamente un processore AI che funzioni sui dispositivi ai margini, tenendo conto delle limitazioni di dimensione e potenza. Facendo ciò, abilitiamo una potenza di calcolo senza precedenti sui dispositivi ai margini, consentendo loro di eseguire l’AI in modo più efficiente ed efficace e di eseguire applicazioni di apprendimento profondo sofisticate come la rilevazione degli oggetti, il riconoscimento degli oggetti, la segmentazione e altre, con livelli di prestazioni precedentemente possibili solo nel cloud. Questa architettura unica consente l’elaborazione multi-flusso e multi-applicazione, migliorando le prestazioni e la convenienza dei dispositivi ai margini.

Un esempio dell’utilizzo di questa architettura sono i Sistemi di Gestione Video (VMS). Questi sistemi vengono utilizzati in aree con numerose telecamere, come edifici per uffici, stadi, applicazioni di città intelligenti e autostrade per gestire meglio la sicurezza e la sicurezza, compresa la sorveglianza per emergenze e incidenti, attività sospette, gestione del traffico, controllo di accesso, raccolta pedaggi e altro. Per molti anni, le aziende si sono affidate interamente a processi manuali quando si trattava di raccogliere, analizzare e archiviare dati video. Ora, con l’architettura di rete neurale unica di Hailo, i VMS possono eseguire più attività in parallelo, in tempo reale, consentendo l’elaborazione di più canali e più applicazioni contemporaneamente. Le applicazioni includono il riconoscimento avanzato di targhe (LPR), la sorveglianza del traffico, la rilevazione del comportamento e altro.

Potresti discutere il nucleo di elaborazione della rete neurale e il tuo approccio di calcolo delle reti neurali in parallelo rispetto a quelle sequenziali?

Il nostro processore AI combina più innovazioni che affrontano le proprietà fondamentali delle reti neurali. Abbiamo applicato uno schema di controllo innovativo basato su una combinazione di hardware e software per raggiungere joule molto bassi per operazione con un alto grado di flessibilità.

La nostra architettura orientata ai dati si adatta alla struttura della rete neurale e consente un alto utilizzo delle risorse. Il compilatore di flusso di dati di Hailo è composto da software full stack, progettato insieme al nostro hardware, per consentire la distribuzione efficiente delle reti neurali. Il compilatore di flusso di dati riceve il modello dell’utente come input. Come parte del flusso di costruzione, il compilatore di flusso di dati divide ogni livello della rete in elementi computazionali richiesti, generando un grafico di risorse che è una rappresentazione della rete di destinazione. Il compilatore di flusso di dati quindi fa corrispondere il grafico di risorse della rete di destinazione alle risorse fisiche disponibili sul processore, generando una pipeline di dati personalizzata per la rete di destinazione. Quando eseguito in questo modo, l’esecuzione di un modello su un dispositivo è altamente efficiente, utilizzando risorse di calcolo minime in ogni momento.

Quali sono alcune delle piattaforme Hailo attualmente disponibili per le aziende?

Il processore Hailo-8 e i moduli AI possono essere inseriti in una varietà di dispositivi ai margini, aiutando a fornire più settori con capacità AI superiori – tra cui automotive, città intelligenti, retail intelligente e Industria 4.0.

Hailo ha collaborato con importanti giocatori VMS e ISV come Innovatrics, Network Optix, GeoVision e Art of Logic, per abilitare analisi video di alto livello su larga scala.

Quanto tempo possono risparmiare queste soluzioni ai clienti che integrano soluzioni AI?

Trovare soluzioni integrate che funzionino su piattaforme VMS stabilite risparmia tempo, ma questo non è il principale vantaggio del sistema. Le soluzioni VMS basate su Hailo consentono di eseguire più flussi in parallelo e più applicazioni per ogni flusso.

La capacità di sfruttare l’AI per elaborare più flussi video significa anche che solo eventi specifici devono essere trasmessi al cloud per l’archiviazione, consentendo risparmi significativi sulla larghezza di banda e sulla capacità di archiviazione.

Quali sono alcune delle lezioni che hai imparato dall’implementazione di applicazioni di apprendimento profondo sui dispositivi ai margini?

Abbiamo visto di persona come l’AI ai margini giocherà un ruolo chiave nel guidare l’innovazione in una vasta gamma di settori negli anni a venire. Mentre le aziende cercano soluzioni che garantiscano che i loro dispositivi siano più potenti, versatili, reattivi e sicuri, il cloud continuerà a cedere il passo ai dispositivi ai margini e ai modelli ibridi. Coloro che avranno successo nell’implementazione dell’AI ai margini guadagneranno un vantaggio in tutti gli aspetti.

Qual è la tua visione per il futuro dell’elaborazione ai margini?

L’elaborazione ai margini – in particolare l’AI ai margini – ha la capacità di trasformare completamente il modo in cui funziona il mondo intorno a noi, abilitando dispositivi come telecamere intelligenti, veicoli intelligenti, robot autonomi, strumenti di gestione del traffico avanzati, costruzione intelligente, fabbriche intelligenti e altro. L’AI ai margini ha il potere di cambiare tutto, abilitando nuove applicazioni per rendere il nostro mondo più intelligente e più sicuro. La tecnologia di elaborazione AI di Hailo è un importante abilitatore di tutti questi casi d’uso. Continueremo a collaborare con produttori e innovatori in tutto il mondo per rendere queste soluzioni più accessibili.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Hailo.