Orr Danon, CEO y Co-Fundador de Hailo – Serie de Entrevistas

Orr Danon, es el CEO y Co-Fundador de Hailo, una empresa con la misión de permitir que las tecnologías de borde inteligentes alcancen su máximo potencial. La solución que presenta Hailo cubre la brecha entre las tecnologías de inteligencia artificial existentes y futuras y la capacidad de cómputo necesaria para alimentar estas aplicaciones. La empresa se centra en construir procesadores de inteligencia artificial eficientes y compactos para calcular e interpretar grandes cantidades de datos en tiempo real.

¿Podría compartir la historia de origen detrás de Hailo?

Co-fundé Hailo en 2017 junto con colegas que había conocido anteriormente en la unidad de tecnología élite de las Fuerzas de Defensa de Israel. Mientras trabajaba con mis co-fundadores Rami Feig y Avi Baum en soluciones de Internet de las cosas, un concepto menos conocido, “Aprendizaje Profundo”, seguía apareciendo a lo largo de nuestra investigación. Finalmente, reunimos a expertos en el campo para desarrollar una nueva solución de aprendizaje profundo que tuviera como objetivo resolver las limitaciones de la arquitectura informática envejecida para permitir que los dispositivos inteligentes funcionen de manera más efectiva y eficiente en el borde. Después de la muerte de Rami, el equipo de Hailo llevó a cabo su visión, creando el procesador de inteligencia artificial innovador de Hailo.

¿Podría explicar brevemente por qué la computación de borde es a menudo una solución superior a la computación en la nube?

Cuando comenzamos Hailo, las tecnologías de inteligencia artificial disruptivas estaban en gran medida limitadas a la nube o a grandes centros de datos, ya que son costosas, requieren una gran potencia de cómputo y hardware extensivo para ejecutarse, y consumen una cantidad significativa de energía. Creemos que la inteligencia artificial está ayudando a crear un mundo mejor, más seguro, más productivo y más emocionante, pero para que esto suceda, la inteligencia artificial necesita estar disponible en el borde también. Para la implementación de aplicaciones en tiempo real y de baja latencia en dispositivos como cámaras conectadas a la red, vehículos y dispositivos de Internet de las cosas, el procesamiento en la fuente es esencial para una operación efectiva. Con la inteligencia artificial en el borde, podemos aprovechar al máximo una serie de casos de uso clave que impulsan el futuro de las ciudades inteligentes, el transporte inteligente, la conducción autónoma, los sistemas de gestión de video, la Industria 4.0 y más.

¿Cuáles son algunos de los desafíos detrás del procesamiento de datos visuales en el borde?

El objetivo es obtener el máximo rendimiento y la mayor cantidad de características que se pueden empaquetar en dispositivos de borde para que puedan procesar una gran cantidad de datos visuales rápidamente y con poca latencia; sin embargo, una de las limitaciones clave es el consumo de energía, tanto en términos de la cantidad de energía que se puede entregar al dispositivo como del calor generado por el procesador.

Con cámaras inteligentes, por ejemplo, los fabricantes necesitan un procesador de inteligencia artificial que se ajuste a un rango de 2-3W porque la cámara no puede utilizar enfriamiento por ventilador y porque generalmente tendrá un suministro de energía limitado. Estos son puntos dolorosos agudos porque, a tal baja potencia, el rendimiento es extremadamente limitado cuando se utilizan la mayoría de los procesadores del mercado.

¿Cómo reimaginó Hailo la arquitectura del procesador de inteligencia artificial?

Lo hicimos diseñando específicamente un procesador de inteligencia artificial que se ejecuta en dispositivos de borde, teniendo en cuenta las limitaciones de tamaño y potencia. Al hacerlo, permitimos una potencia de cómputo sin precedentes en dispositivos de borde, lo que les permite ejecutar inteligencia artificial de manera más eficiente y efectiva y realizar aplicaciones de aprendizaje profundo sofisticadas, como la detección de objetos, el reconocimiento de objetos, la segmentación y otras, con niveles de rendimiento que anteriormente solo eran posibles en la nube. Esta arquitectura única permite el procesamiento de múltiples flujos y múltiples aplicaciones, mejorando el rendimiento y la rentabilidad de los dispositivos de borde.

Un ejemplo del uso de esta arquitectura es el sistema de gestión de video. Estos sistemas se utilizan en áreas con numerosas cámaras, como edificios de oficinas, estadios, aplicaciones de ciudad inteligente y carreteras para gestionar mejor la seguridad y la seguridad, incluida la supervisión de emergencias y accidentes, la actividad sospechosa, la gestión del tráfico, el control de acceso, la recopilación de peajes y más. Durante muchos años, las empresas dependieron en gran medida de procesos manuales cuando se trataba de recopilar, analizar y almacenar datos de video. Ahora, con la arquitectura de red neuronal única de Hailo, los sistemas de gestión de video pueden realizar múltiples tareas en paralelo, en tiempo real, lo que permite el procesamiento de más canales y aplicaciones concurrentes. Las aplicaciones incluyen el reconocimiento avanzado de matrículas, la supervisión del tráfico, la detección de comportamiento y más.

¿Podría discutir el núcleo de procesamiento de redes neuronales y su enfoque de cálculo de redes neuronales en paralelo en lugar de secuencialmente?

Nuestro procesador de inteligencia artificial combina múltiples innovaciones que abordan las propiedades fundamentales de las redes neuronales. Aplicamos un esquema de control innovador que se basa en una combinación de hardware y software para alcanzar muy bajos julios por operación con un alto grado de flexibilidad.

Nuestra arquitectura orientada a flujo de datos se adapta a la estructura de la red neuronal y permite una alta utilización de recursos. El compilador de flujo de datos de Hailo está compuesto por software de pila completa, diseñado conjuntamente con nuestro hardware, para permitir la implementación eficiente de redes neuronales. El compilador de flujo de datos recibe el modelo del usuario como entrada. Como parte del flujo de compilación, el compilador de flujo de datos descompone cada una de las capas de la red en los elementos computacionales requeridos, generando un gráfico de recursos que es una representación de la red objetivo. El compilador de flujo de datos luego coincide con el gráfico de recursos de la red objetivo con los recursos físicos disponibles en el procesador, generando una tubería de datos personalizada para la red objetivo. Cuando se realiza de esta manera, ejecutar un modelo en un dispositivo es muy eficiente, utilizando recursos de cómputo mínimos en todo momento.

¿Cuáles son algunas de las plataformas actuales basadas en Hailo que están disponibles para las empresas?

El procesador Hailo-8 y los módulos de inteligencia artificial se pueden conectar a una variedad de dispositivos de borde, lo que ayuda a impulsar múltiples sectores con capacidades de inteligencia artificial superiores, incluidos el automotriz, las ciudades inteligentes, el comercio minorista inteligente y la industria 4.0.

Hailo ha colaborado con jugadores líderes de VMS e ISV como Innovatrics, Network Optix, GeoVision y Art of Logic, para permitir análisis de video de alto rendimiento a escala.

¿Cuánto tiempo pueden ahorrar estas soluciones a los clientes que integran soluciones de inteligencia artificial?

Buscar soluciones integradas que se ejecuten en plataformas de VMS establecidas ahorra tiempo, pero esto no es el principal beneficio del sistema. Las soluciones de VMS basadas en Hailo permiten que más flujos se ejecuten en paralelo y que más aplicaciones se procesen para cada flujo.

La capacidad de aprovechar la inteligencia artificial para procesar múltiples flujos de video también significa que solo es necesario transmitir eventos específicos a la nube para su almacenamiento, lo que permite ahorros significativos en ancho de banda y capacidad de almacenamiento.

¿Qué lecciones ha aprendido al implementar aplicaciones de aprendizaje profundo en dispositivos de borde?

Hemos visto de primera mano cómo la inteligencia artificial en el borde desempeñará un papel clave en impulsar la innovación en una amplia variedad de sectores en los próximos años. A medida que las empresas buscan soluciones que garanticen que sus dispositivos sean más potentes, versátiles, receptivos y seguros, la nube seguirá cediendo el paso a los dispositivos de borde y a los modelos híbridos. Aquellos que tengan éxito en la implementación de la inteligencia artificial en el borde obtendrán una ventaja en todos los sentidos.

¿Cuál es su visión para el futuro de la computación de borde?

La computación de borde, específicamente la inteligencia artificial en el borde, tiene la capacidad de transformar completamente la forma en que funciona el mundo que nos rodea, permitiendo dispositivos como cámaras inteligentes, vehículos inteligentes, robots autónomos, herramientas de gestión de tráfico avanzadas, construcción inteligente, fábricas inteligentes y más. La inteligencia artificial en el borde tiene el poder de cambiar todo y cualquier cosa, permitiendo nuevas aplicaciones que hagan que nuestro mundo sea más inteligente y más seguro. La tecnología de procesamiento de inteligencia artificial de Hailo es un gran habilitador de todos estos casos de uso. Seguiremos colaborando con fabricantes e innovadores de todo el mundo para hacer que estas soluciones sean más accesibles.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Hailo.