SiMa.ai创始人兼CEO Krishna Rangasayee – 采访系列

Krishna Rangasayee 是 SiMa.ai 的创始人兼 CEO。之前，Krishna 曾担任 Groq 的 COO，并在 Xilinx 工作了 18 年，期间他担任过多个高级领导职位，包括高级副总裁兼整体业务总经理，以及全球销售执行副总裁。在 Xilinx 期间，Krishna 将业务收入增长到 25 亿美元，毛利率达到 70%，同时为连续十多个季度的环比增长和市场份额扩张奠定了基础。在 Xilinx 之前，他曾在 Altera Corporation 和 Cypress Semiconductor 担任过各种工程和商务职位。他拥有 25 项以上的国际专利，并曾担任公私公司的董事会成员。

是什么最初吸引你进入机器学习领域？

我已经研究嵌入式边缘和云市场二十年了。我看到云端有很多创新，但边缘端几乎没有。边缘端是一个巨大的、需求远未得到满足的市场，价值超过 400 亿美元，几十年来一直依赖旧技术。

因此，我们开始做以前从未有人做过的事情——使嵌入式边缘的机器学习变得轻松。

能否分享 SiMa 的创立故事？

在我的二十多年职业生涯中，我从未见过嵌入式边缘市场的架构创新。然而，随着云端和物联网的发展，对边缘端机器学习的需求增加了。这证明了虽然公司需要边缘端的机器学习，但使其成为现实的技术太过陈旧。

因此，在 SiMa.ai 开始设计之前，了解客户最大的挑战至关重要。然而，获取客户的时间来获取有意义的反馈是一个挑战。幸运的是，团队和我能够利用过去的关系来巩固 SiMa.ai 的愿景，并与正确的目标公司合作。

我们会见了 30 多位客户，并提出两个基本问题：“扩展机器学习到嵌入式边缘的最大挑战是什么？”和“我们如何帮助您？”在多次讨论如何改变行业和听取他们的挑战后，我们深入了解了他们的痛点，并开发了解决方案，包括：

• 在不需要陡峭学习曲线的情况下获得机器学习的好处。
• 保留传统应用程序，同时使机器学习部署能够适应未来需求。
• 在用户友好的环境中使用高性能、低功耗解决方案。

我们很快意识到，我们需要提供一个分阶段的风险缓解方法来帮助我们的客户。作为一家初创公司，我们必须提供一些令人信服和与众不同的东西。没有其他公司解决这个明显的需求，因此我们选择了这条路。

SiMa.ai 通过从头开始设计行业首个软件为中心的机器学习系统芯片（MLSoC）平台实现了这一罕见的壮举。凭借其硅和软件的结合，机器学习现在可以通过按钮点击添加到嵌入式边缘应用程序中。

您如何看待机器学习将改变一切以适应边缘计算？

大多数机器学习公司专注于高增长市场，例如云计算和自动驾驶。然而，机器人、无人机、零售、智能城市和工业自动化等领域需要最新的机器学习技术来提高效率和降低成本。

这些增长领域与当前在嵌入式边缘部署机器学习的挫折相结合，这就是为什么我们认为时机已经成熟。SiMa.ai 正在以完全不同的方式解决这个问题；我们希望使广泛采用成为现实。

是什么阻止了机器学习在边缘的扩展？

机器学习必须轻松集成到传统系统中。财富 500 强公司和初创公司都在其当前技术平台上投入了大量资金，但大多数公司不会重写所有代码或完全更换其底层基础设施以集成机器学习。为了减轻风险同时获得机器学习的好处，需要有技术来实现传统代码和机器学习的无缝集成。这将为开发和部署系统提供一个简单的路径，以满足应用需求，同时提供机器学习带来的好处。

没有大型单一芯片采购机会，也没有哪一家大客户能够带来决定性的增长，因此我们必须支持一千多个客户来真正扩展机器学习并为他们提供体验。我们发现这些客户渴望机器学习，但他们没有内部能力来构建，也没有内部的知识基础。因此，他们希望实施机器学习体验，但不需要边缘学习曲线，实际上需要一个轻松的机器学习体验。

SiMA 如何与竞争对手相比大幅降低功耗？

我们的 MLSoC 是实现这一切的底层引擎。我们并不是在构建一个机器学习加速器。对于边缘机器学习 SoC 初创公司投资的 20 亿美元，行业的创新回应都是一个机器学习加速器块作为核心或芯片。人们没有认识到，要将人们从传统 SoC 迁移到机器学习环境中，需要一个机器学习 SoC 环境，这样人们可以从第一天开始运行传统代码，并逐渐以分阶段、降低风险的方式将功能部署到机器学习组件中。例如，客户今天可以用传统计算机视觉方法进行语义分割，明天再改用机器学习方法。无论选择哪种方式，我们都允许客户根据自身需要，使用传统计算机视觉、传统 ARM 系统处理或异构机器学习计算来部署和划分问题。对我们而言，机器学习不是最终产品，因此单独的机器学习加速器无法成功。机器学习是一种能力，是我们向客户提供的其他工具之外的又一套工具。借助一键式方法，客户可以在同一平台上迭代预处理、后处理、分析和机器学习加速设计，同时以最低功耗实现最高的系统级应用性能。

SiMa 的主要市场优先事项是什么？

我们已经确定了几个关键市场，其中一些市场比其他市场更快地产生收入。智能视觉、机器人、工业 4.0 和无人机是最快产生收入的市场。汽车和医疗保健应用需要更长时间，因为它们需要资格和标准。我们已经在所有这些领域中与顶级玩家合作。

图像捕获通常在边缘进行，而分析在云端。改变这种部署策略的好处是什么？

边缘应用需要在本地进行处理，对于许多应用程序，数据没有足够的时间传输到云端并返回。机器学习能力对于边缘应用至关重要，因为需要实时做出决策，例如在自动驾驶和机器人应用中，需要快速高效地处理决策。

为什么企业应该考虑 SiMa 解决方案而不是竞争对手？

我们的独特方法是软件为中心的方法，配以完整的硬件解决方案。我们专注于一个完整的解决方案，解决我们所谓的任何、10 倍和按钮式的核心客户问题。公司的最初设想是：按下一个按钮，就能获得令人惊叹的体验。经验需要抽象到一个点，您想要让成千上万的开发人员使用它，但您不希望他们都成为机器学习天才，您不希望他们都在调整层次并手动编码以获得所需的性能，您希望他们保持在最高层次的抽象，并快速、有效地部署易用的机器学习。因此，我们坚持这一思路，是因为它与规模化密切相关：机器学习体验必须轻松易用，不能依赖大量手把手指导和服务投入，否则就会妨碍规模化。

第一年，我们走访了全球 50 多家客户，试图理解：既然大家都想要机器学习，为什么却没有部署？是什么阻碍了有效部署？要实现大规模部署，又需要什么？最终我们认识到三个关键支柱。第一个是 ANY，即广泛适用。客户、使用模式、机器学习网络、传感器、帧率和分辨率都存在巨大差异，各个市场的前端设计也完全不同。如果只服务其中很窄的一部分，公司就无法在经济上成立。我们必须建立能够接纳广泛应用领域的入口，就像计算机视觉领域的埃利斯岛一样。客户可能使用 TensorFlow 或 Python，也可能使用 1080 分辨率或 4K 分辨率的摄像头传感器。只要能将这些差异统一并接入平台，具体选择就不重要。没有这样的前端，就没有可规模化的公司。

第二个支柱是 10 倍。客户难以部署并创建衍生平台，因为每次构建新模型或新流水线都需要从头开始。作为初创公司，我们还必须提供足够令人兴奋、足够有说服力的成果，让客户愿意承担选择初创企业的风险，而 10 倍性能就是这样的指标。对于计算机视觉问题，我们重点解决的技术指标是每瓦每秒帧数。我们必须远远优于其他方案，保持领先一到两代，因此将其纳入以软件为中心的方法。这种方法形成了异构计算平台，用户可以在一块芯片上解决整个计算机视觉流水线，并实现其他方案 10 倍的性能。

第三个支柱是一键式体验，源于在嵌入式边缘有效扩展机器学习的需要。机器学习工具链尚不成熟，经常出现故障，还没有哪家公司真正打造出世界级的机器学习软件体验。我们也认识到，嵌入式市场需要隐藏嵌入式代码的复杂性，同时提供迭代流程，让客户能够快速更新和优化平台。客户需要一键式体验，在几分钟而不是几个月内得到响应或解决方案，实现轻松易用的机器学习。广泛适用、10 倍性能和一键式体验是我们的关键价值主张。如果做好这三件事，就能切实推动易用机器学习及其在嵌入式边缘的规模化应用。

关于 SiMa，还有您想分享的内容吗？

在 MLSoC 平台的早期开发中，我们正在突破技术和架构的界限。我们全力以赴地开发一个软件为中心的平台，这是一个完全新的方法，违背了所有传统的智慧。弄清楚它并实施它很困难。

最近的一个重大胜利验证了我们构建的技术的力量和独特性。SiMa.ai 在 2023 年 4 月取得了一个重要里程碑，在首次 MLPerf 基准测试性能中超越了现有的领导者，在封闭边缘功率类别中取得了胜利。我们为成为首个参与并在业界最流行和最广泛认可的 MLPerf 基准测试中取得胜利的初创公司感到自豪，这是 Resnet-50 的性能和功耗。

我们开始时有着高尚的志向，直到今天，我为能说我们的愿景仍然保持不变而感到自豪。我们的 MLSoC 是专门为提供革命性的机器学习解决方案给嵌入式边缘市场而设计的。

感谢这次精彩的采访，希望了解更多的读者可以访问 SiMa.ai。