Omri Geller，Run:AI 的 CEO 和联合创始人 – 采访系列

Omri Geller 是 Run:AI 的 CEO 和联合创始人Run:AI

Run:AI 通过汇集 GPU 计算资源来虚拟化和加速 AI，从而确保对资源优先级和分配的可见性和控制。这使得 AI 项目能够与业务目标保持一致，并显著提高数据科学团队的生产力，使他们能够在没有资源限制的情况下构建和训练并发模型。

是什么最初吸引你进入人工智能领域？

当我开始在特拉维夫大学学习电气和电子工程学士学位时，我发现了关于人工智能的一些令人着迷的事情，我知道这些将有助于我们在计算机领域取得下一步的进展。从那时起，我就知道我想投资自己进入人工智能领域。无论是人工智能研究还是开办一家公司来帮助引入新的应用人工智能的方法。

你一直对计算机硬件感兴趣吗？

当我六七岁时收到我的第一台带有英特尔 486 处理器的计算机时，我立即对了解它的工作原理感兴趣，尽管我可能太年轻，无法真正理解它。除了体育之外，计算机成为我成长过程中的最大爱好之一。从那时起，我组装了计算机，使用了它们，并继续在这个领域学习，因为我小时候对计算机的热情。

是什么激发了你创办 Run:AI 的灵感？

我从很早就知道我想投资自己进入人工智能领域。在过去的几年中，人工智能行业经历了巨大的增长，这些增长来自于计算机科学家（如我自己）和能够支持更多应用的硬件。随着时间的推移，我意识到我将不可避免地创办一家公司，并与我的联合创始人 Ronen Dar 一起继续创新和帮助将人工智能带给更多的企业公司。

Run:AI 如何使机器学习专家能够获得对昂贵的 GPU 资源分配的新控制方式？

我们需要了解的是，机器学习工程师、研究人员和数据科学家需要以灵活的方式消耗计算能力。不仅今天的计算非常计算密集，而且数据科学中也使用了新的工作流程。这些工作流程基于这样一个事实：数据科学基于实验和运行实验。

为了开发新的解决方案以运行更高效的实验，我们需要研究这些工作流程的趋势随着时间的推移。例如：一位数据科学家一天使用八个 GPU，但第二天可能使用零个，或者他们可能使用一个 GPU 一段较长的时间，但然后需要使用 100 个 GPU，因为他们想并行运行 100 个实验。一旦我们理解了一个用户的工作流程以优化处理能力，我们就可以将其扩展到多个用户。

在传统的计算中，分配给每个用户的 GPU 数量是固定的，不考虑它们是否正在使用中。使用这种方法，昂贵的 GPU 经常处于空闲状态，没有其他人能够访问它们，从而导致 GPU 的 ROI 低。我们了解公司的财务优先级，并提供解决方案以根据用户的需求动态分配这些资源。通过提供灵活的系统，我们可以在需要时为特定用户分配额外的处理能力，方法是利用其他用户未使用的 GPU，从而为公司的计算资源实现最大 ROI 并加速人工智能解决方案的创新和上市时间。

Run:AI 的一个功能是，它可以减少由静态分配的 GPU 创建的盲点。如何实现这一点？

我们有一个工具，可以让我们完全了解资源集群。使用这个工具，我们可以观察和了解是否存在盲点，然后利用空闲的 GPU 为需要分配的用户提供服务。同一个工具不仅提供了对集群的可见性和控制，还可以消除这些盲点。

在最近的一次演讲中，你强调了一些构建和训练工作流程之间的区别。Run:AI 如何使用 GPU 队列管理机制来分配这两种工作流程的资源管理？

人工智能模型的构建分为两个阶段。第一个阶段是构建阶段，数据科学家编写代码来构建实际的模型，就像工程师构建一辆车一样。第二个阶段是训练阶段，完成的模型开始学习并被“训练”以优化特定任务。就像有人学习驾驶汽车一样，在汽车组装完成后。

为了构建模型本身，不需要太多的计算能力。然而，最后可能需要更强大的处理能力来进行小规模的内部测试。例如，工程师可能最终想在安装引擎之前测试它。由于每个阶段都有不同的需求，Run.AI 允许在构建或训练模型时分配 GPU，但如前所述，训练模型通常需要更多的 GPU，而构建模型需要较少的 GPU。

AI 开发人员通过将 Run.AI 集成到他们的系统中，可以节省多少原始计算时间/资源？

我们的 Run.ai 解决方案可以提高资源的数字化效率，约两到三倍，也就是说，整体生产力提高了 2-3 倍。

感谢这次采访，希望了解更多的读者可以访问 Run:AI。