Orr Danon, CEO & Co-Fundador da Hailo – Série de Entrevistas

Orr Danon é o CEO e Co-Fundador da Hailo, uma empresa com a missão de permitir que as tecnologias de borda inteligentes atinjam seu potencial máximo. A solução apresentada pela Hailo fecha a lacuna entre as tecnologias de IA existentes e futuras e a capacidade de computação necessária para alimentar essas aplicações. A empresa está focada em construir processadores de IA eficientes e compactos o suficiente para computar e interpretar vastas quantidades de dados em tempo real.

Poderia compartilhar a história por trás da criação da Hailo?

Eu co-fundei a Hailo em 2017, junto com colegas que eu havia conhecido anteriormente na unidade de tecnologia de elite das Forças de Defesa de Israel (IDF). Enquanto trabalhava com meus co-fundadores Rami Feig e Avi Baum em soluções de IoT (Internet das Coisas), um construto menos conhecido – “Aprendizado Profundo” – continuava surgindo em nossas pesquisas. Eventualmente, reunimos especialistas na área para desenvolver uma nova solução de aprendizado profundo que visava resolver as limitações da arquitetura de computador em uso para permitir que dispositivos inteligentes operassem de forma mais eficaz e eficiente na borda. Após a morte de Rami, a equipe da Hailo deu continuidade à sua visão, criando o processador de IA revolucionário da Hailo.

Poderia explicar brevemente por que a computação de borda é frequentemente uma solução superior à computação em nuvem?

Quando começamos a Hailo, as tecnologias de IA disruptivas estavam em grande parte limitadas à nuvem ou a grandes centros de dados, pois são caras, requerem alto poder de computação e hardware extensivo para executar, e consomem uma quantidade significativa de energia. Acreditamos que a IA está ajudando a criar um mundo melhor, mais seguro, mais produtivo e mais emocionante, mas para que isso aconteça, a IA precisa estar disponível na borda também. Para a implementação de aplicações em tempo real e de baixa latência em dispositivos como câmeras conectadas à rede, veículos e dispositivos de IoT, o processamento na fonte é essencial para o funcionamento eficaz. Com a IA de borda, podemos aproveitar completamente uma série de casos de uso-chave que impulsionam o futuro das cidades inteligentes, do transporte inteligente, da direção autônoma, dos sistemas de gerenciamento de vídeo (VMS), da Indústria 4.0 e muito mais.

Quais são alguns dos desafios por trás do processamento de dados visuais na borda?

O objetivo é obter o máximo de desempenho e recursos que possam ser embutidos em dispositivos de borda para que eles possam processar uma enorme quantidade de dados visuais rapidamente e com pouca latência; no entanto, uma das principais restrições é o consumo de energia – tanto em termos de quanto poder pode ser entregue ao dispositivo quanto o calor gerado pelo processador.

Com câmeras inteligentes, por exemplo, os fabricantes precisam de um processador de IA que se encaixe em um envelope de 2-3W porque a câmera não pode usar refrigeração por ventoinha e geralmente terá um suprimento de energia limitado. Esses são pontos de dor agudos porque, com tal baixo poder, o desempenho é extremamente limitado ao usar a maioria dos processadores disponíveis no mercado.

Como a Hailo reimaginou a arquitetura do processador de IA?

Fizemos isso projetando especificamente um processador de IA que é construído para funcionar em dispositivos de borda, levando em conta as limitações de tamanho e energia. Ao fazer isso, habilitamos um poder de computação sem precedentes em dispositivos de borda, permitindo que eles executem IA de forma mais eficiente e eficaz e realizem aplicações de aprendizado profundo sofisticadas, como detecção de objetos, reconhecimento de objetos, segmentação e outras, com níveis de desempenho anteriormente possíveis apenas na nuvem. Essa arquitetura única permite o processamento de múltiplos fluxos e múltiplas aplicações, melhorando o desempenho e a eficiência dos dispositivos de borda.

Um exemplo do uso dessa arquitetura é o Sistema de Gerenciamento de Vídeo (VMS). Esses sistemas estão sendo utilizados em áreas com muitas câmeras, como prédios de escritórios, estádios, aplicações de cidades inteligentes e rodovias para melhor gerenciar a segurança e a segurança, incluindo monitoramento de emergências e acidentes, atividade suspeita, gerenciamento de tráfego, controle de acesso, cobrança de pedágio e muito mais. Por muitos anos, as empresas confiaram inteiramente em processos manuais quando se tratava de coletar, analisar e armazenar dados de vídeo. Agora, com a arquitetura de rede neural única da Hailo, os VMS podem realizar múltiplas tarefas em paralelo, em tempo real, habilitando o processamento de mais canais e mais aplicações simultaneamente. As aplicações incluem reconhecimento avançado de placas de licença (LPR), monitoramento de tráfego, detecção de comportamento e muito mais.

Poderia discutir o núcleo de processamento de rede neural e sua abordagem de calcular redes neurais em paralelo em vez de sequencialmente?

Nosso processador de IA combina várias inovações que abordam as propriedades fundamentais das redes neurais. Aplicamos um esquema de controle inovador que é baseado em uma combinação de hardware e software para alcançar joules muito baixos por operação com um alto grau de flexibilidade.

Nossa arquitetura orientada a fluxo de dados se adapta à estrutura da rede neural e permite uma alta utilização de recursos. O compilador de fluxo de dados da Hailo é composto por software de pilha completa, co-projetado com nosso hardware, para permitir a implantação eficiente de redes neurais. O compilador de fluxo de dados recebe o modelo do usuário como entrada. Como parte do fluxo de construção, o compilador de fluxo de dados divide cada uma das camadas da rede em elementos computacionais necessários, gerando um gráfico de recursos que é uma representação da rede-alvo. O compilador de fluxo de dados, em seguida, associa o gráfico de recursos da rede-alvo aos recursos físicos disponíveis no processador, gerando um pipeline de dados personalizado para a rede-alvo. Quando realizado desta forma, executar um modelo em um dispositivo é altamente eficiente, usando recursos computacionais mínimos em todos os momentos.

Quais são algumas das plataformas atuais baseadas em Hailo disponíveis para empresas?

O processador Hailo-8 ™ e os módulos de IA podem ser conectados a uma variedade de dispositivos de borda, ajudando a impulsionar vários setores com capacidades de IA superiores – incluindo automotivo, cidades inteligentes, varejo inteligente e indústria 4.0.

A Hailo se associou a principais jogadores de VMS e ISV, como Innovatrics, Network Optix, GeoVision e Art of Logic, para habilitar análise de vídeo de alto desempenho em escala.

Quanto tempo essas soluções podem economizar para os clientes que estão integrando soluções de IA?

Obter soluções integradas que funcionam em plataformas de VMS estabelecidas é economia de tempo, mas isso não é o principal benefício do sistema. As soluções de VMS baseadas em Hailo permitem que mais fluxos sejam executados em paralelo e mais aplicações sejam processadas para cada fluxo.

A capacidade de aproveitar a IA para processar múltiplos fluxos de vídeo também significa que apenas eventos específicos precisam ser transmitidos para a nuvem para armazenamento, permitindo economias significativas em largura de banda e capacidade de armazenamento.

Quais são algumas lições que você aprendeu ao implantar aplicações de aprendizado profundo em dispositivos de borda?

Vimos em primeira mão como a IA na borda desempenhará um papel fundamental na impulsionar a inovação em uma ampla variedade de setores nos próximos anos. À medida que as empresas buscam soluções que garantam que seus dispositivos sejam mais poderosos, versáteis, responsivos e seguros, a nuvem continuará cedendo lugar aos dispositivos de borda e aos modelos híbridos. Aqueles que tiverem sucesso na implementação da IA na borda ganharão uma vantagem em todos os aspectos.

Qual é sua visão para o futuro da computação de borda?

A computação de borda – especificamente a IA na borda – tem a capacidade de transformar completamente a forma como o mundo ao nosso redor funciona, permitindo dispositivos como câmeras inteligentes, veículos inteligentes, robôs autônomos, ferramentas de gerenciamento de tráfego avançadas, construção inteligente, fábricas inteligentes e muito mais. A IA na borda tem o poder de mudar tudo e qualquer coisa, permitindo novas aplicações para tornar o nosso mundo mais inteligente e mais seguro. A tecnologia de processamento de IA da Hailo é um grande impulsionador de todos esses casos de uso. Continuaremos a nos associar a fabricantes e inovadores em todo o mundo para tornar essas soluções mais acessíveis.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Hailo.