融资
Ludovic Larzul，Mipsology 的创始人和 CEO – 采访系列
Ludovic Larzul 是 Mipsology 的创始人和 CEO，这是一家开创性的初创公司，专注于深度学习推理的最先进加速技术。他们开发了加速推理神经网络计算的技术，并将硬件加速器隐藏于 AI 用户。Mipsology 的 Zebra 是第一个将此类技术商业化的加速器，提供高性能和易用性。
是什么让你最初对 AI 和微芯片感兴趣？
我曾在我的前公司 EVE 任职约 20 年，设计了一种特定的超级计算机，直到 2012 年被 Synopsys 收购。这些计算机，也称为 ASIC 模拟器，被许多设计 ASIC 的公司使用。我非常喜欢这项工作的复杂性和多样性。为了成功，你必须（a）了解电子、软件、复杂算法、芯片设计以及如何确保它们正常工作、芯片架构、功率和更多深度技术，（b）正确预测客户几年后的需求，（c）不断创新，（d）作为初创公司，用有限的资源击败竞争对手。20 年成功后，我正在寻找新的挑战。这是 AI 开始重回聚光灯下的时期。AlexNet 在图像理解方面取得了突破（回顾过去，它仍处于初期阶段）。深度学习是全新的，但很有前途（谁还记得在简单网络上花费数天才能得到结果？）。我觉得这很有趣，但也认识到存在许多挑战。
是什么启发你创立 Mipsology？
我不确定是否会使用“启发”这个词。最初更像：“我们可以做些不同且更好的东西吗？”它始于对 AI 人员的假设和他们会做什么，并在接下来的几年里不断找到更好的解决方案。我的团队喜欢在他们创造的东西上做到最好，这是一种积极的竞争态度。这使得团队变得强大，能够解决其他人无法解决的问题。
Mipsology 使用 FPGA 板而不是 GPU。可以描述一下什么是 FPGA 吗？
FPGA 是可以在硬件级别编程的电子组件。你可以把它想象成一套乐高积木——几百万个。每个小积木执行一个简单的操作，如保持值或稍微复杂的操作，如加法。通过将所有这些积木分组，可以在芯片制造后创建特定的行为。这与 GPU 和几乎所有其他芯片相反，它们是为特定功能设计的，不能在之后更改。
一些，如 CPU 和 GPU，可以编程，但它们不如 FPGA 并行。在任何时候，FPGA 执行数百万个简单操作。并且这可以每秒发生六到七百万次。由于它们是可编程的，可以在任何时候更改它们所做的事情，以适应不同的问题，因此可以有效地利用其非凡的计算能力。FPGA 几乎无处不在，包括移动电话的基站、网络、卫星、汽车等。人们不太了解它们，因为它们不像笔记本电脑中的 CPU那样可见。
是什么让这些 FPGA 板成为比更流行的 GPU 更好的解决方案？
FPGA 在许多方面都更好。让我们关注几个重要的方面。
GPU 主要用于渲染图像，主要用于游戏。它们被发现与 AI 中的一些计算很匹配，因为操作的相似性。但它们仍主要用于游戏，这意味着它们带有不太适合神经网络的限制。
它们的编程也仅限于两三年前决定的指令。问题是神经网络的进步速度比 ASIC 的设计速度更快，GPU 是 ASIC。所以，这就像预测未来：很难做到正确。你可以看到趋势，但细节才是真正影响结果的东西，例如性能。相比之下，由于 FPGA 可以在硬件级别编程，我们可以更容易地跟上 AI 的进步。这使我们能够提供更好的产品，具有更高的性能，并满足客户的需求，而不必等待下一代硅。
此外，GPU 是为消费品设计的。它们的寿命故意很短，因为设计 GPU 的公司希望几年后向游戏玩家出售新产品。这不适用于需要可靠运行多年的电子系统。FPGA 是为强壮和 24/7 运行多年而设计的。
FPGA 的其他众所周知的优势包括：
- 有很多选项可以适应特定领域，如网络或视频处理
- 它们在数据中心和边缘或嵌入式系统中都能很好地工作
- 它们不需要特殊的冷却（比如大型 GPU 的水冷却）
一个主要的缺点是 FPGA 编程困难。需要特定的知识。尽管出售 FPGA 的公司已经付出了巨大的努力来弥合复杂性差距，但它仍然不像 CPU 那样简单。事实上，GPU 也不是简单的。但是，隐藏其编程的软件使得这种知识变得不必要。这是 Mipsology 首先解决的问题：消除 AI 计算对 FPGA 编程或任何知识的需求。
FPGA 板目前存在哪些限制？
一些 FPGA 板类似于一些 GPU 板。它们可以插入计算机的 PCIe 插槽。一个众所周知的优势，除了我之前提到的寿命，是其功耗通常低于 GPU。另一个不太知名的优势是 FPGA 板的选择比 GPU 板多。有更多的 FPGA 适用于更多的市场，这导致了更多的板卡可以适应市场的不同领域。这只是意味着有更多的可能性，以较低的成本在任何地方计算神经网络。GPU 更加有限；它们适用于数据中心，但不适用于其他场景。
Mipsology 的 Zebra 是第一个将 FPGA 板封装以提供高性能和易用性的商业加速器。可以描述一下 Zebra 是什么吗？
对于那些熟悉 AI 和 GPU 的人，Zebra 最容易的描述是 Zebra 对 FPGA 的作用就像 Cuda/CuDNN 对 GPU 的作用一样。它是一个软件栈，完全隐藏了 FPGA，并在像 PyTorch 或 TensorFlow 这样的常用框架后面运行。我们主要针对图像和视频的推理。Zebra 从一个典型的浮点训练的神经网络开始，并且在没有任何手动用户努力或专有工具的情况下，使其在任何 FPGA 基础卡上运行。就像：插入 FPGA 板，加载驱动程序，源 Zebra 环境，并启动与在 CPU 或 GPU 上运行的相同的推理应用程序一样简单。我们有自己的量化，保留准确性，性能是开箱即用的。用户不需要学习任何专有工具，也不需要花费数小时的工程时间来获得高吞吐量或低延迟。这意味着简单的过渡，也减少了成本和上市时间。
Zebra 最适合哪些类型的应用程序？
Zebra 是一个非常通用的加速引擎，因此它可以加速任何需要计算神经网络的应用程序，主要关注图像和视频，因为这种数据的计算需求更大。我们收到了来自不同市场的请求，但它们在计算神经网络时都很相似。它们通常需要分类、分割、超分辨率、人体定位等。
由于 Zebra 在 FPGA 上运行，因此可以使用任何类型的板卡。有些板卡具有高吞吐量，通常用于数据中心。其他板卡更适合边缘或嵌入式系统。我们的愿景是，如果可以安装 FPGA，用户可以立即使用 Zebra 来加速他们的神经网络计算。如果使用 GPU 或 CPU，Zebra 可以替换它们并降低 AI 基础设施的成本。我们交谈的大多数公司都面临类似的问题：他们可以部署更多的 AI 应用程序，但成本限制了他们。
对于希望使用 Zebra 的公司，流程是什么？
只需让我们知道，在 [email protected]，我们将帮助您开始。
您是否还有其他关于 Mipsology 的信息想要分享？
我们对 AI 社区对 Zebra 解决方案的反馈感到非常鼓舞。特别是，我们被告知这可能是市场上最好的加速器。在仅仅几个月的时间里，我们继续扩大生态系统，包括有兴趣的合作伙伴，如 Xilinx、Dell、Western Digital、Avnet、TUL 和 Advantech 等。
我真的很享受学习这项开创性的技术。希望了解更多的读者应该访问 Mipsology。
