Orr Danon，Hailo 首席执行官兼联合创始人 – 采访系列

Orr Danon 是 Hailo 的首席执行官兼联合创始人，Hailo 是一家致力于使智能边缘技术达到其全部潜力的公司。Hailo 提出的解决方案弥合了现有和未来的人工智能技术与计算能力之间的差距，公司专注于构建高效和紧凑的人工智能处理器，以实时计算和解释大量数据。

您能否分享 Hailo 的创立故事？

我在 2017 年与之前在以色列国防军精锐技术单位工作的同事共同创立了 Hailo。在与我的联合创始人 Rami Feig 和 Avi Baum 合作开发物联网解决方案时，我们不断遇到一个较为鲜为人知的概念 – “深度学习”。最终，我们聚集了该领域的专家，开发了一种新的深度学习解决方案，旨在解决老化计算机架构的缺陷，以使智能设备更有效地在边缘运行。Rami 不幸去世后，Hailo 团队继续实现他的愿景，创建了开创性的 AI 处理器。

您能否简要解释为什么边缘计算通常是比云计算更好的解决方案？

当我们开始构建 Hailo 时，颠覆性的 AI 技术大多仅限于云端或大型数据中心，因为它们需要高计算能力和大量硬件来运行，并且消耗大量能量。我们相信，AI 正在帮助创造一个更好的、更安全、更高效、更令人兴奋的世界，但为了实现这一点，AI 需要在边缘也可用。对于网络相机、车辆和物联网设备等设备上的实时和低延迟应用，源处理是有效运行的必要条件。通过边缘 AI，我们可以充分利用智能城市、智能交通、自动驾驶、视频管理系统（VMS）、工业 4.0 等领域的关键用例。

边缘处理视觉数据的一些挑战是什么？

目标是将尽可能多的性能和功能打包到边缘设备中，使其能够快速处理大量视觉数据并最小化延迟；然而，一个关键的限制是功耗 – 既包括设备可以接受的功率，也包括处理器产生的热量。

例如，智能相机 的制造商需要一个可以适应 2-3W 包装的 AI 处理器，因为相机不能使用风扇冷却，并且通常具有有限的电源供应。这是一个关键的痛点，因为在如此低的功耗下，大多数市场上的处理器的性能都非常有限。

Hailo 如何重新构想 AI 处理器架构？

我们通过专门为边缘设备设计 AI 处理器来实现这一点，考虑到尺寸和功耗限制。通过这样做，我们在边缘设备上实现了前所未有的计算能力，使其能够更高效、更有效地运行 AI，并执行诸如对象检测、对象识别、分割等复杂的深度学习应用，之前这些应用只可能在云端实现。这种独特的架构允许多流和多应用处理，提高了边缘设备的性能和成本效益。

这种架构的一个例子是视频管理系统（VMS）。这些系统用于具有多个相机的区域，例如办公楼、体育场、智能城市应用和高速公路，以更好地管理安全和保安，包括监测紧急情况和事故、可疑活动、交通管理、出入控制、收费站等。多年来，企业在收集、分析和存储视频数据时完全依赖手动流程。现在，凭借 Hailo 的独特神经网络架构，VMS 可以并行执行多个任务，实时处理更多通道和应用。应用包括高级车牌识别（LPR）、交通监测、行为检测等。

您能否讨论神经网络处理核心以及您并行计算神经网络而不是顺序计算的方法？

我们的 AI 处理器结合了多项创新，解决了神经网络的基本属性。我们应用了一种基于硬件和软件的创新控制方案，实现了非常低的每操作焦耳和高灵活性。

我们的独特数据流架构适应了神经网络的结构，实现了高资源利用率。Hailo 数据流编译器由与我们的硬件共同设计的全栈软件组成，实现了神经网络的高效部署。数据流编译器接收用户模型作为输入。在构建流程的一部分中，数据流编译器将每个网络层分解为所需的计算元素，生成一个资源图，即目标网络的表示。然后，数据流编译器将目标网络的资源图匹配到处理器上可用的物理资源，生成一个定制的数据管道用于目标网络。当以这种方式执行时，在设备上运行模型非常高效，始终使用最少的计算资源。

目前有哪些基于 Hailo 的平台可供企业使用？

Hailo-8 处理器和 AI 模块可以插入各种边缘设备，帮助多个行业提供更好的 AI 能力，包括汽车、智能城市、智能零售和工业 4.0。

Hailo 与领先的 VMS 和 ISV 玩家（如 Innovatrics、Network Optix、GeoVision 和 Art of Logic）合作，实现大规模的顶级视频分析。

这些解决方案可以为集成 AI 解决方案的客户节省多少时间？

集成在已建立的 VMS 平台上运行的解决方案可以节省时间，但这并不是系统的主要好处。Hailo 基础的 VMS 解决方案可以并行运行更多流，并为每个流处理更多应用。

利用 AI 处理多个视频流的能力还意味着，只有特定事件需要流式传输到云端进行存储，从而在带宽和存储容量上实现了显著的节省。

您从在边缘设备中部署深度学习应用中获得了哪些经验教训？

我们亲眼见证了边缘 AI 将在未来几年内在各个领域推动创新。随着企业寻求使其设备更强大、更通用、更响应迅速和更安全的解决方案，云将继续让位给边缘设备和混合模型。那些成功实施边缘 AI 的企业将在各个方面获得优势。

您对边缘计算的未来有什么展望？

边缘计算 – 特别是边缘 AI – 有能力彻底改变我们周围的世界，使得智能相机、智能车辆、自动机器人、先进交通管理工具、智能建筑、智能工厂等设备能够发挥作用。边缘 AI 有能力改变一切，使新的应用程序能够使我们的世界变得更智能、更安全。Hailo 的 AI 处理技术是所有这些用例的主要驱动力。我们将继续与全球的制造商和创新者合作，使这些解决方案更加便捷。

感谢您接受这次精彩的采访，希望阅读本文的读者可以访问 Hailo 了解更多信息。