NextSilicon 首席执行官 Elad Raz – 采访系列

Elad Raz，NextSilicon 的首席执行官，是一位经验丰富的企业家和技术领导者，广受尊敬的低级系统、安全、网络和文件系统开发的深入专业知识。 在他的职业生涯中，Raz 曾担任过精英军事工程角色、软件高级领导、公司创立和长期投资。他曾领导过复杂的、任务关键的项目，涉及操作系统内部和硬件软件集成。在创立 NextSilicon 之前，他建立并退出了多家技术公司，担任过领先的半导体公司的高级领导职位，并投资了多家初创公司，结合了实践的工程深度和强大的执行力以及长期的战略远见。

NextSilicon 是一家以色列的高性能计算和半导体公司，成立于 2017 年，正在重新定义计算架构，以满足人工智能和科学计算等高需求工作负载的需求。 该公司开发了一个软件定义的智能计算平台，旨在在不需要开发人员重写应用程序的情况下提供高性能和效率。 通过专注于硬件级别的适应性，NextSilicon 旨在解决现代数据中心和超级计算环境中的基本瓶颈，将自己定位为传统加速器的下一代替代品。

您能告诉我们您在创立 NextSilicon 之前的经历吗？什么激发了最初的想法，您早期的计算经验如何塑造了您的愿景？

我从小就对计算机着迷。这种迷恋让我从摆弄旧的 Commodore 64 和 Atari（我至今仍然收藏）到共同创立初创公司，最后卖掉了我之前的公司给 Mellanox。但即使在早期的成功中，我仍然不断地看到这个行业中同样的挑战。随着计算工作负载变得更加复杂，传统的 CPU 和 GPU 架构正在达到性能、功耗效率和可扩展性限制。无论是优化算法还是运行大规模模拟，都清楚当前的架构正在迫使工作负载适应硬件，而不是相反。

NextSilicon 的想法源于这个反复出现的挑战，并提出了一个问题：如果我们可以改变这种情况，构建能够适应工作负载的计算架构，而不是迫使工作负载适应硬件呢？我早期对算法设计和硬件的接触教会了我，真正的突破将来自于实时地将两者结合起来。这是我们智能计算架构（ICA）的基础，也是 NextSilicon 从一开始就有的指导理念。

Maverick-2 被描述为一个适应实时工作负载的智能计算加速器。其架构与传统的 GPU 或 FPGA 相比如何，它的适应性如何实现？

CPU 和 GPU 已经改变了我们的世界，并且服务得很好。但是，它们从来没有被设计为满足现代人工智能和高性能计算（HPC）工作负载的需求，例如科学、天气、能源和国防领域的工作负载。这些工作负载具有复杂的数据依赖、内存访问模式和计算模式，当前的处理器没有被设计为处理这些负载。结果是瓶颈，减慢了创新。

Maverick-2 的关键区别在于其新颖的方法，它将可重构的数据流引擎与实时软件优化相结合。关键的架构区别在于，硬件是根据工作负载配置的，而不是相反。对于 Maverick-2，数据可用性驱动计算，而不是像传统处理器一样由程序计数器驱动指令执行。这使我们能够创建软件定义的虚拟处理单元，可以在实时中配置和重新配置以匹配特定的工作负载模式。

结果很明显：Maverick-2 比 GPU 提供了 4 倍以上的每瓦性能，比高端 CPU 提供了 20 倍以上的性能，同时将运营成本降低了 50% 以上。因此，研究人员和工程师可以更快、更高效地运行大型、不规则的模拟，解锁见解和突破，在很短的时间内实现。

您报告称 Maverick-2 相比 GPU 和高端 CPU 有 4 倍以上的性能提升。是什么关键创新驱动了这些性能提升，在实际工作负载中？

性能提升来自几个关键创新共同作用。

首先，我们偏离了在 80 年里主导计算的冯·诺伊曼模型。相反，Maverick-2 使用了一种数据流架构，计算遵循数据可用性。这对于不规则、内存密集的工作负载来说，基本上更好。

第二，我们的自优化架构实时生成软件定义的处理器核心。硬件适应每个应用程序的需求，而无需代码重写——您可以在没有开销的情况下获得优化。

第三，这一点至关重要：我们专注于持续的实际性能，而不是理论峰值。许多架构在纸面上看起来很好，但在实际工作负载中却会失望。Maverick-2 通过不断适应工作负载的需求，在人工智能、HPC 和向量数据库中保持效率。

Maverick-2 支持 C/C++、Fortran、OpenMP 和 Kokkos，无需代码更改。开发人员如何对此类兼容性做出反应，您计划如何支持 CUDA、ROCm 或流行的 AI 框架？

开发人员喜欢 Maverick-2 是一个真正的“即插即用”替代品。他们可以立即运行现有的应用程序，而无需移植障碍，我们目前支持 C/C++、Fortran、OpenMP 和 Kokkos，CUDA、ROCm 和主要 AI 框架（如 TensorFlow、JAX、PyTorch 和 ONNX）正在积极开发中。这消除了供应商锁定和昂贵的代码重写，并允许客户在不中断工作流的情况下评估和采用新架构。

Maverick-2 的遥测驱动系统优化如何在后台工作？配置和重新配置芯片需要什么？

可以将我们的系统优化视为一个持续的循环：在执行过程中，我们的遥测系统测量数百个性能指标（例如内存带宽、利用率、队列深度）。所有这些数据都被输入到一个运行时优化器中，该优化器确定当前的硬件配置是否仍然适合工作负载及其预期需求。如果不是，它可以重新分区资源、重新排序数据路径和调整计算管道，应用程序不会停止。这发生在几毫秒内，因此应用程序在其计算配置文件更改时保持一致的峰值效率。

是否存在特定的工作负载或边缘情况，其中适应性运行时性能调优的效果较差或在延迟或功耗方面带来权衡？

任何架构都有权衡。Maverick-2 在复杂、不规则的工作负载中表现出色，具有不断变化的计算和数据访问模式。对于高度可预测的固定功能工作负载，一个良好调优的 GPU 可以非常高效，而不需要适应性的开销。在这些情况下，我们的适应性仍然提供了坚实的性能，但相对优势可能较小。

NextSilicon 的设计是关于多功能性和在直接情况下的竞争力，但在具有挑战性的情况下，它是变革性的。

为什么您决定优先考虑 HPC 市场，而大多数初创公司都在涌向人工智能？这如何塑造了您的产品和业务策略？

HPC 代表了计算复杂性和问题解决的前沿，涉及大型数据集、不规则的内存访问和不可预测的计算模式。如果您可以构建一个在那里茁壮成长的架构，例如在气候建模或粒子物理中运行 exabyte 级别的模拟，它也将在人工智能中表现出色。

通过首先关注 HPC，我们在气候建模、物理和生命科学中证明了 Maverick-2 的成熟度和实际性能数据，然后在没有损害我们的架构以利用短期趋势或需求的情况下转入更广泛的人工智能和数据密集型市场。该行业由固定架构主导。我们提供了不同的东西，从一开始就构建了适应性。

现在 Maverick-2 已经投入生产并部署在数十个客户中，您可以分享一些它的使用示例吗？是否有任何具体的结果或基准测试来自标志性的部署？

一个标志性的例子是我们在 Sandia 国家实验室的部署，Maverick-2 为他们的 Spectra 超级计算机提供动力，作为 Vanguard-II 计划的一部分。我们看到令人印象深刻的开箱即用性能结果，而无需代码修改。我们还与 ODISSEE（在线数据密集型解决方案，用于科学中的 exabyte 级数据）合作，ODISSEE 将领先的研究机构聚集在一起，以处理来自 CERN 高亮度大型强子对撞机和平方公里阵列天文台的 exabyte 级数据。Maverick-2 将在解决处理来自 CERN 和平方公里阵列天文台的原始实验数据的挑战中发挥作用，仅需以前所需的时间和能量的一小部分。最终目标是实现更快的物理分析和天文学发现。

您已经筹集了超过 3 亿美元，2021 年和最近宣布了重大融资轮。您可以分享这笔资金如何加速您的产品开发和市场覆盖吗？

这笔资金使我们能够做三件事。首先，我们可以进一步推进架构，不仅仅是渐进式改进，而是基本上的进步，使 Maverick-2 成为生产就绪。第二，我们扩大了我们的制造和供应链，以满足日益增长的需求，这对于新型硅来说是一个非平凡的挑战。第三，我们扩展了我们的软件生态系统，使客户能够更快地集成和部署。

这也使我们能够与超级计算中心和云提供商建立战略合作伙伴关系，使我们能够简化我们的概念到部署流程，并比传统硬件初创公司扩展得更快。

在包括 Cerebras (CBRS ) 、SambaNova 和 Nvidia (NVDA ) 在内的竞争格局中，您如何看待 NextSilicon 的定位？您作为挑战者的市场策略是什么？

我们将 NextSilicon 视为更像是一家技术公司，而不是仅仅是一家芯片公司。我们优化每个工作负载，提供适应性，并且不将客户锁定在专有的编程或硬件中。我们的客户可以带来他们现有的代码，并在没有漫长的移植周期或供应商锁定的情况下实现立即的加速。尤其是当人工智能工作负载超越纯粹的训练时，这一点尤为重要。推理模型、扩展推理和大上下文窗口需要根本不同的计算模式：更动态的内存访问、可变长度的计算和适应性的资源分配。这些不是可以通过更多相同的固定架构来解决的问题。

我们的市场策略专注于解决最困难的问题：与研究机构、国家实验室和企业合作，在那里性能、能效和灵活性至关重要。从那里，我们扩展到更广泛的人工智能和数据密集型市场。该行业由固定架构主导。我们提供了不同的东西，从一开始就构建了适应性。人工智能正在从纯粹的规模转向智能。更大的模型使得更智能的推理成为可能，从短提示到长上下文理解。在这一转变中，适应性架构不仅仅是新颖的；它们将是必不可少的。

感谢这次精彩的采访，希望阅读更多的读者可以访问 NextSilicon。