Orr Danon，Hailo 的 CEO 和联合创始人 – 采访系列

Orr Danon 是 Hailo 的 CEO 和联合创始人，Hailo 的使命是使智能边缘技术达到其全部潜能。Hailo 提出的解决方案弥合了现有和未来的人工智能技术与实现这些应用程序所需的计算能力之间的差距。该公司专注于构建高效和紧凑的人工智能处理器，能够实时计算和解释大量数据。

您能否分享 Hailo 的创立故事？

我于 2017 年与之前在以色列国防军（IDF）的精英技术单位中认识的同事共同创立了 Hailo。在与我的联合创始人 Rami Feig 和 Avi Baum 合作开发物联网（IoT）解决方案时，一个鲜为人知的概念 – “深度学习” -不断出现在我们的研究中。最终，我们聚集了该领域的专家来开发一种新的深度学习解决方案，旨在解决老化的计算机架构的缺陷，以便使智能设备更有效地和高效地在边缘运行。Rami 不幸去世后，Hailo 团队实现了他的愿景 – 创建了 Hailo 的开创性人工智能处理器。

您能否简要解释为什么边缘计算通常是比云计算更好的解决方案？

当我们开始 Hailo 时，颠覆性的人工智能技术主要局限于云端或大型数据中心，因为它们昂贵，需要高计算能力和大量硬件来运行，并且消耗大量能量。我们相信，人工智能正在帮助创造一个更好的、更安全的、更高效的和更令人兴奋的世界，但为了实现这一点，人工智能需要在边缘也可用。对于在设备（如网络连接的摄像头、车辆和 IoT 设备）上实现实时和低延迟应用，源处理是有效运行的必要条件。通过边缘人工智能，我们可以充分利用智能城市、智能交通、自动驾驶、视频管理系统（VMS）、工业 4.0 等领域的众多关键用例。

边缘处理视觉数据的一些挑战是什么？

目标是将尽可能多的性能和功能打包到边缘设备中，以便它们可以快速处理大量视觉数据并且延迟很小；然而，一个关键的限制是功耗 – 不仅是设备可以提供的功耗，还包括处理器产生的热量。

例如，智能摄像头，制造商需要一个可以适应 2-3W 包装的 AI 处理器，因为摄像头不能使用风扇冷却，并且通常具有有限的电源供应。这些是急迫的痛点，因为在如此低的功耗下，使用市场上大多数处理器时性能将非常有限。

Hailo 如何重新构想 AI 处理器架构？

我们通过专门设计一个适用于边缘设备的 AI 处理器来实现这一点，考虑到尺寸和功耗限制。通过这样做，我们可以在边缘设备上实现前所未有的计算能力，使其能够更高效、更有效地运行人工智能，并执行诸如对象检测、对象识别、分割等复杂的深度学习应用，之前这些应用只可能在云端实现。这种独特的架构允许多流和多应用处理，提高了边缘设备的性能和成本效益。

使用此架构的一个例子是视频管理系统（VMS）。这些系统用于具有许多摄像头的区域，例如办公楼、体育场、智能城市应用和高速公路，以更好地管理安全和安全，包括监测紧急情况和事故、可疑活动、交通管理、访问控制、收费和更多。在很多年里，企业完全依赖手动流程来收集、分析和存储视频数据。现在，使用 Hailo 的独特神经网络架构，VMS 可以并行执行多个任务，实时处理更多通道和应用，包括高级车牌识别（LPR）、交通监测、行为检测等。

您能否讨论神经网络处理核心和您的并行计算神经网络方法？

我们的 AI 处理器结合了多项创新，解决了神经网络的基本属性。我们应用了一种基于硬件和软件组合的创新控制方案，实现了非常低的每操作焦耳和高灵活性。

我们的独特数据流架构适应了神经网络的结构，并允许高资源利用率。Hailo 数据流编译器由与我们的硬件联合设计的全栈软件组成，实现了神经网络的高效部署。数据流编译器接收用户模型作为输入。在构建流程的一部分中，数据流编译器将每个网络层分解为所需的计算元素，生成一个资源图，它是目标网络的表示。然后，数据流编译器将目标网络的资源图匹配到处理器上可用的物理资源，生成一个针对目标网络的定制数据管道。当以这种方式执行时，在设备上运行模型非常高效，使用最少的计算资源。

目前有哪些基于 Hailo 的平台可供企业使用？

Hailo-8™ 处理器和 AI 模块可以插入各种边缘设备，帮助多个行业具有更好的 AI 能力 – 包括汽车、智能城市、智能零售和工业 4.0。

Hailo 与领先的 VMS 和 ISV 玩家（如 Innovatrics、Network Optix、GeoVision 和 Art of Logic）合作，实现大规模的顶级视频分析。

这些解决方案可以为集成 AI 解决方案的客户节省多少时间？

集成在已建立的 VMS 平台上运行的解决方案可以节省时间，但这并不是系统的主要好处。Hailo 基于的 VMS 解决方案可以并行运行更多流，并为每个流处理更多应用。

利用人工智能处理多个视频流的能力还意味着，只有特定事件需要流式传输到云端进行存储，从而可以节省大量的带宽和存储容量。

您从在边缘设备中部署深度学习应用程序中得到了什么经验教训？

我们亲眼见证了边缘人工智能在未来几年将在各个行业推动创新方面将发挥关键作用。随着企业寻求能够使其设备更强大、更通用、更响应迅速和更安全的解决方案，云将继续让位给边缘设备和混合模型。那些能够成功地在边缘实现人工智能的企业将在各个方面获得优势。

您对边缘计算的未来有什么展望？

边缘计算 – 特别是边缘人工智能 – 有能力完全改变我们周围的世界，使得诸如智能摄像头、智能车辆、自主机器人、先进的交通管理工具、智能建筑、智能工厂等设备成为可能。边缘人工智能有改变一切和使我们的世界更智能、更安全的力量。Hailo 的人工智能处理技术是所有这些用例的主要驱动力。我们将继续与全球的制造商和创新者合作，使这些解决方案更容易获得。

感谢这次精彩的采访，希望了解更多的读者可以访问 Hailo。