Orr Danon, CEO & Co-Founder of Hailo – Interview Series

Orr Danon, é o CEO & Co-Founder da Hailo, uma empresa com a missão de permitir que as tecnologias de edge inteligentes atinjam seu potencial máximo. A solução apresentada pela Hailo fecha a lacuna entre as tecnologias de IA existentes e futuras e a capacidade de computação necessária para alimentar essas aplicações. A empresa está focada em construir processadores de IA eficientes e compactos o suficiente para computar e interpretar vastas quantidades de dados em tempo real.

Poderia compartilhar a história de origem por trás da Hailo?

Eu co-fundei a Hailo em 2017, junto com colegas que eu havia conhecido anteriormente na unidade de tecnologia de elite das Forças de Defesa de Israel (IDF). Enquanto trabalhava com meus co-fundadores Rami Feig e Avi Baum em soluções de IoT (Internet das Coisas), um constructo menos conhecido – “Aprendizado Profundo” – continuava surgindo ao longo de nossa pesquisa. Eventualmente, reunimos especialistas na área para desenvolver uma nova solução de aprendizado profundo que visava resolver as limitações da arquitetura de computador em idade para permitir que dispositivos inteligentes operassem de forma mais eficaz e eficiente na edge. Após a morte prematura de Rami, a equipe da Hailo viu sua visão se tornar realidade – criando o processador de IA revolucionário da Hailo.

Poderia explicar brevemente por que a computação de edge é frequentemente uma solução superior à computação em nuvem?

Quando começamos a Hailo, as tecnologias de IA disruptivas estavam em grande parte limitadas à nuvem, ou a grandes centros de dados, pois são caras, requerem alto poder de computação e hardware extensivo para executar, e consomem uma quantidade significativa de energia. Acreditamos que a IA está ajudando a criar um mundo melhor, mais seguro, mais produtivo e mais emocionante, mas para que isso aconteça, a IA precisa estar disponível na edge também. Para a implementação de aplicações em tempo real e de baixa latência em dispositivos como câmeras conectadas à rede, veículos e dispositivos de IoT, o processamento na fonte é essencial para uma operação eficaz. Com a IA de edge, podemos aproveitar completamente uma série de casos de uso-chave que impulsionam o futuro de cidades inteligentes, transporte inteligente, direção autônoma, sistemas de gerenciamento de vídeo (VMS), Indústria 4.0 e muito mais.

Quais são alguns dos desafios por trás do processamento de dados visuais na edge?

O objetivo é obter o máximo de desempenho e o máximo de recursos que possam ser embutidos em dispositivos de edge para que eles possam processar uma enorme quantidade de dados visuais rapidamente e com pouca latência; no entanto, uma das principais restrições é o consumo de energia – tanto em termos de quanto de energia pode ser entregue ao dispositivo quanto do calor gerado pelo processador.

Com câmeras inteligentes, por exemplo, os fabricantes precisam de um processador de IA que se encaixe em um envelope de 2-3W porque a câmera não pode usar refrigeração por ventoinha e porque geralmente terá um suprimento de energia limitado. Esses são pontos de dor agudos porque, com um poder tão baixo, o desempenho é extremamente limitado ao usar a maioria dos processadores disponíveis no mercado.

Como a Hailo reimaginou a arquitetura do processador de IA?

Fizemos isso projetando especificamente um processador de IA que é construído para funcionar em dispositivos de edge, levando em consideração as limitações de tamanho e energia. Ao fazer isso, habilitamos um poder de computação sem precedentes em dispositivos de edge, permitindo que eles executem IA de forma mais eficiente e eficaz e realizem aplicações de aprendizado profundo sofisticadas, como detecção de objetos, reconhecimento de objetos, segmentação e outras, com níveis de desempenho anteriormente possíveis apenas na nuvem. Essa arquitetura única permite o processamento de múltiplos fluxos e múltiplas aplicações, melhorando o desempenho e a eficiência de custo dos dispositivos de edge.

Um exemplo do uso dessa arquitetura é o Sistema de Gerenciamento de Vídeo (VMS). Esses sistemas estão sendo utilizados em áreas com muitas câmeras, como prédios de escritórios, estádios, aplicações de cidades inteligentes e rodovias para melhor gerenciar a segurança e a segurança, incluindo monitoramento de emergências e acidentes, atividade suspeita, gerenciamento de tráfego, controle de acesso, cobrança de pedágio e muito mais. Por muitos anos, as empresas confiaram inteiramente em processos manuais quando se tratava de coletar, analisar e armazenar dados de vídeo. Agora, com a arquitetura de rede neural única da Hailo, o VMS pode realizar múltiplas tarefas em paralelo, em tempo real, habilitando o processamento de mais canais e mais aplicações simultaneamente. As aplicações incluem reconhecimento avançado de placas de veículos (LPR), monitoramento de tráfego, detecção de comportamento e muito mais.

Poderia discutir o núcleo de processamento de rede neural e sua abordagem de cálculo de redes neurais em paralelo em vez de sequencialmente?

Nosso processador de IA combina várias inovações que abordam as propriedades fundamentais das redes neurais. Aplicamos um esquema de controle inovador que é baseado em uma combinação de hardware e software para atingir joules por operação muito baixos com um alto grau de flexibilidade.

Nossa arquitetura orientada a fluxo de dados única se adapta à estrutura da rede neural e permite uma alta utilização de recursos. O compilador de fluxo de dados da Hailo é composto por software de pilha completa, co-projetado com nosso hardware, para permitir a implantação eficiente de redes neurais. O compilador de fluxo de dados recebe o modelo do usuário como entrada. Como parte do fluxo de construção, o compilador de fluxo de dados divide cada uma das camadas da rede em elementos computacionais necessários, gerando um gráfico de recursos que é uma representação da rede de destino. O compilador de fluxo de dados, em seguida, combina o gráfico de recursos da rede de destino com os recursos físicos disponíveis no processador, gerando um pipe de dados personalizado para a rede de destino. Quando realizado desta forma, executar um modelo em um dispositivo é altamente eficiente, usando recursos de computação mínimos em todos os momentos.

Quais são algumas das plataformas atuais baseadas em Hailo disponíveis para empresas?

O processador Hailo-8 ™ e os módulos de IA podem ser conectados a uma variedade de dispositivos de edge, ajudando a impulsionar vários setores com capacidades de IA superiores – incluindo automotivo, cidades inteligentes, varejo inteligente e indústria 4.0.

A Hailo se associou a principais jogadores de VMS e ISV, como Innovatrics, Network Optix, GeoVision e Art of Logic, para habilitar análise de vídeo de alto desempenho em escala.

Quanto tempo essas soluções podem economizar para os clientes que estão integrando soluções de IA?

Obter soluções integradas que funcionam em plataformas de VMS estabelecidas é economia de tempo, mas isso não é o principal benefício do sistema. As soluções de VMS baseadas em Hailo permitem que mais fluxos sejam executados em paralelo e mais aplicações sejam processadas para cada fluxo.

A capacidade de aproveitar a IA para processar várias streams de vídeo também significa que apenas eventos específicos precisam ser transmitidos para a nuvem para armazenamento, permitindo economias significativas de largura de banda e capacidade de armazenamento.

Quais são algumas lições que você aprendeu com a implantação de aplicações de aprendizado profundo em dispositivos de edge?

Vimos em primeira mão como a IA na edge desempenhará um papel fundamental na impulsionar a inovação em uma ampla variedade de setores nos próximos anos. À medida que as empresas buscam soluções que garantam que seus dispositivos sejam mais poderosos, versáteis, responsivos e seguros, a nuvem continuará cedendo lugar aos dispositivos de edge e modelos híbridos. Aqueles que tiverem sucesso na implementação da IA na edge obterão uma vantagem em todos os aspectos.

Qual é sua visão para o futuro da computação de edge?

A computação de edge – especificamente a IA na edge – tem a capacidade de transformar completamente a forma como o mundo ao nosso redor funciona, permitindo que dispositivos como câmeras inteligentes, veículos inteligentes, robôs autônomos, ferramentas de gerenciamento de tráfego avançadas, construção inteligente, fábricas inteligentes e muito mais. A IA na edge tem o poder de mudar tudo e qualquer coisa, permitindo que novas aplicações tornem o nosso mundo mais inteligente e seguro. A tecnologia de processamento de IA da Hailo é um grande facilitador de todos esses casos de uso. Continuaremos a nos associar a fabricantes e inovadores em todo o mundo para tornar essas soluções mais acessíveis.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Hailo.