Run:AI 首席执行官兼联合创始人 Omri Geller – 访谈系列

欧姆里·盖勒 (Omri Geller) 是首席执行官兼联合创始人 运行：AI

Run:AI 通过汇集 GPU 计算资源来虚拟化和加速 AI，以确保可见性并最终控制资源优先级和分配。 这确保了人工智能项目能够映射到业务目标，并显着提高数据科学团队的生产力，使他们能够在不受资源限制的情况下构建和训练并发模型。

最初是什么吸引了您对人工智能的兴趣？

当我开始在特拉维夫大学攻读电气和电子工程学士学位时，我发现了人工智能的一些有趣的东西，我知道这些东西将帮助我们在计算可能性方面迈向下一步。 从那时起，我知道我想将自己投入到人工智能领域。 无论是人工智能研究，还是开设一家公司，帮助引入将人工智能应用到世界的新方法。

您一直对计算机硬件感兴趣吗？

当我在六七岁时收到第一台配备 Intel 486 处理器的计算机时，我立即产生了兴趣，想弄清楚一切是如何工作的，尽管我可能还太年轻，无法真正理解它。 除了运动之外，电脑成为我成长过程中最大的爱好之一。 从那时起，我建造了计算机，与它们一起工作，并因为我小时候的热情而继续在该领域学习。

您发起 Run:AI 的灵感是什么？

我很早就知道我想将自己投入到人工智能领域。 在过去几年中，该行业见证了人工智能的巨大增长，其中很大一部分增长来自像我这样的计算机科学家，以及可以支持更多应用程序的硬件。 我越来越清楚，我不可避免地会与我的联合创始人 Ronen Dar 一起创办一家公司，以继续创新并帮助将人工智能引入更多企业公司。

Run:AI 使机器学习专家能够对昂贵的 GPU 资源的分配进行新型控制。你能解释一下这是如何工作的吗？

我们需要明白的是，机器学习工程师和研究人员、数据科学家一样，需要以灵活的方式消耗计算能力。 当今的最新计算不仅计算量非常大，而且数据科学中也使用了新的工作流程。 这些工作流程基于这样一个事实：数据科学基于实验和运行实验。

为了开发新的解决方案来运行更高效的实验，我们需要研究这些工作流程随时间的变化趋势。 例如：数据科学家一天使用 100 个 GPU，但第二天他们可能会使用 100 个 GPU，或者他们可以长时间使用一个 GPU，但随后需要使用 XNUMX 个 GPU，因为他们想要运行 XNUMX 个实验在平行下。 一旦我们了解了优化一个用户处理能力的工作流程，我们就可以开始将其扩展到多个用户。

在传统计算中，特定数量的 GPU 会分配给每个用户，而不考虑它们是否正在使用。 使用这种方法时，昂贵的 GPU 通常会闲置，其他人无法访问它们，从而导致 GPU 的投资回报率较低。 我们了解公司的财务优先事项，并提供可根据用户需求动态分配这些资源的解决方案。 通过提供灵活的系统，我们可以在需要时为特定用户分配额外的能力，利用其他用户未使用的 GPU，为公司的计算资源创造最大的投资回报率，并加快人工智能解决方案的创新和上市时间。

Run:AI 的功能之一是可以减少 GPU 静态分配造成的盲点。 这是如何实现的？

我们有一个工具可以让我们全面了解资源集群。 通过使用这个工具，我们可以观察和了解是否存在盲点，然后将那些空闲的GPU用于需要分配的用户。 提供集群可见性和集群控制的同一工具还可以确保减少这些盲点。

在最近的一次演讲中，您强调了构建和训练工作流程之间的一些区别，您能否解释一下 Run:AI 如何使用 GPU 排队管理机制为两者分配资源管理？

人工智能模型的构建分两个阶段。 首先是构建阶段，数据科学家编写代码来构建实际模型，就像工程师构建汽车一样。 第二个阶段是训练阶段，完成的模型开始学习并“训练”如何优化特定任务。 类似于汽车组装后学习驾驶的情况。

构建模型本身不需要太多的计算能力。 然而，最终，它可能需要更强的处理能力来开始更小的内部测试。 例如，工程师最终希望在安装发动机之前测试发动机的方式。 由于每个阶段都有这些不同的需求，Run.AI 允许分配 GPU，无论是构建还是训练模型，但是，如前所述，训练模型通常需要较高的 GPU 使用量，而构建模型则需要较少的 GPU 使用量。

希望将 Run.AI 集成到其系统中的 AI 开发人员可以节省多少原始计算时间/资源？

我们 Run.ai 的解决方案可以将资源的数字化提高大约两到三倍，这意味着整体生产力提高 2-3 倍。

感谢您接受采访，想要了解更多内容的读者可以访问 运行：AI.