访谈
GMI 云创始人兼 CEO 亚历克斯·叶 – 采访系列
亚历克斯·叶是 GMI 云的创始人兼 CEO，GMI 云是一家风险投资支持的数字基础设施公司，旨在让任何人都能轻松部署 AI，并通过集成的硬件和软件解决方案简化企业构建、部署和扩展 AI 的方式
是什么启发你创立 GMI 云，你的背景如何影响你建设公司的方法?
GMI 云成立于 2021 年，最初两年主要专注于建设和运营数据中心，以提供比特币计算节点。期间，我们在阿肯色州和德克萨斯州建立了三个数据中心。
去年六月，我们注意到投资者和客户对 GPU 计算能力的需求很强。一个月内，我们决定转向 AI 云基础设施。AI 的快速发展和它带来的新商业机会，要么难以预测，要么难以描述。通过提供必要的基础设施，GMI 云旨在与 AI 领域令人兴奋和常常难以想象的机会保持密切的联系。
在 GMI 云之前，我曾是风险投资公司的合伙人，经常与新兴行业接触。我认为人工智能是 21 世纪最新的“淘金热”，GPU 和 AI 服务器是现代“勘探者”的“镐”，推动了云计算公司的快速增长，特别是那些专门从事 GPU 计算能力租赁的公司。
可以告诉我们关于 GMI 云简化 AI 基础设施的使命，以及为什么这个焦点在今天的市场中如此重要吗?
简化 AI 基础设施至关重要，因为当前的 AI 栈复杂性和碎片化可能会限制企业利用 AI 潜力的可访问性和效率。如今的 AI 设置通常涉及多个断开的层次，从数据预处理和模型训练到部署和扩展，这些层次需要大量时间、专业技能和资源来有效管理。许多公司花费数周甚至数月时间来确定最合适的 AI 基础设施层次，这个过程可能会延长数周甚至数月，影响用户体验和生产力。
- 加速部署: 简化的基础设施使得 AI 解决方案的开发和部署速度更快，有助于公司保持竞争力和适应不断变化的市场需求。
- 降低成本和减少资源: 通过最小化对专用硬件和自定义集成的需求，简化的 AI 栈可以显著降低成本，使 AI 更加容易被小型企业获取。
- 实现可扩展性: 集成良好的基础设施允许高效的资源管理，这对于扩展应用程序至关重要，以确保 AI 解决方案在更大规模下保持强大和响应迅速。
- 提高可访问性: 简化的基础设施使得更多组织能够采用 AI，而无需广泛的技术专业知识。这一 AI 的民主化促进了创新，并在更多行业创造价值。
- 支持快速创新: 随着 AI 技术的进步，基础设施的复杂性降低，使得组织更容易整合新工具、模型和方法，从而能够快速创新。
GMI 云简化 AI 基础设施的使命对于帮助企业和初创公司充分发挥 AI 的益处至关重要，使其对所有规模的组织来说都是可访问的、经济有效的和可扩展的。
您最近获得了 8200 万美元的 A 轮融资。这些新资金将如何使用，您的即刻扩张目标是什么?
GMI 云将利用这笔资金在科罗拉多州开设一个新的数据中心，并主要投资于 H200 GPU，以建立一个额外的大规模 GPU 集群。GMI 云还在积极开发自己的云原生资源管理平台 Cluster Engine，该平台与我们的先进硬件无缝集成。这个平台提供了虚拟化、容器化和编排方面的无与伦比的能力。
GMI 云提供的 GPU 速度是竞争对手的两倍。是什么独特的方法或技术使得这一点成为可能?
GMI 云的独特方法的一个关键方面是利用 NVIDIA 的 NCP，这为 GMI 云提供了对 GPU 和其他尖端资源的优先访问。这种直接从制造商采购的方式，结合强大的融资选项，确保了成本效率和高度安全的供应链。
随着 NVIDIA H100 GPU 在五个全球位置的可用性，如何支持您的 AI 客户在美国和亚洲的需求?
GMI 云已经在全球范围内建立了战略存在，服务于多个国家和地区，包括台湾、美国和泰国，拥有遍布全球的互联网数据中心（IDC）网络。目前，GMI 云运营着成千上万的 NVIDIA Hopper 基础的 GPU 卡，并且正在快速扩张的轨道上，计划在接下来的六个月内将其资源倍增。这种地理分布使得 GMI 云能够为不同地区的客户提供无缝、低延迟的服务，优化数据传输效率，并为全球扩展其 AI 运营的企业提供强大的基础设施支持。
此外，GMI 云的全球能力使其能够理解和满足不同地区的多样化市场需求和监管要求，提供针对每个地区独特需求的定制解决方案。拥有日益增长的计算资源，GMI 云满足了对 AI 计算能力日益增长的需求，为客户提供了充足的计算能力，以加速模型训练、提高准确性和改善模型性能，适用于广泛的 AI 项目。
作为 AI 本地云服务的领导者，您正在关注哪些趋势或客户需求，以推动 GMI 的技术发展?
从 GPU 到应用，GMI 云推动客户的智能转型，满足 AI 技术发展的需求。
硬件架构:
- 物理集群架构: 实例如 1250 H100，包括 GPU 机架、叶子机架和脊柱机架，具有优化的服务器和网络设备配置，提供高性能计算能力。
- 网络拓扑结构: 设计具有高效的 IB 面料和以太网面料，确保平滑的数据传输和通信。
软件和服务:
- 集群引擎: 利用自主开发的引擎来管理资源，如裸机、Kubernetes/容器和 HPC Slurm，实现用户和管理员的最佳资源分配。
- 专有云平台: CLUSTER ENGINE 是一个专有的云管理系统，优化资源调度，提供灵活和高效的集群管理解决方案
推理引擎路线图:
- 连续计算，保证高 SLA。
- 时间共享用于分时使用。
- 现状实例
咨询和定制服务: 提供咨询、数据报告和定制服务，如容器化、模型训练建议和定制 MLOps 平台。
强大的安全和监控功能: 包括基于角色的访问控制（RBAC）、用户组管理、实时监控、历史跟踪和警报通知。
您认为接下来的几年中，AI 基础设施面临的最大挑战和机遇是什么?
挑战:
- 可扩展性和成本: 随着模型变得更加复杂，维持可扩展性和可负担性成为一个挑战，特别是对于小型公司。
- 能源和可持续性: 高能耗需求更环保的解决方案，因为 AI 的采用率正在飙升。
- 安全性和隐私: 共享基础设施中的数据保护需要不断演变的安全性和监管合规性。
- 互操作性: AI 栈中的碎片化工具使得无缝的部署和集成变得复杂。事实上，部署任何 AI 都会受到影响。我们现在可以将开发时间缩短 2 倍，并将 AI 项目的头寸减少 3 倍。
机遇:
- 边缘 AI 增长: 边缘 AI 处理可以减少延迟和带宽消耗。
- 自动化 MLOps: 流线型的操作可以减少部署的复杂性，使公司能够专注于应用程序。
- 节能硬件: 创新可以提高可访问性并减少环境影响。
- 混合云: 跨云和本地环境运营的基础设施非常适合企业的灵活性。
- AI 驱动的管理: 使用 AI 自主优化基础设施可以减少停机时间并提高效率。
您能否分享您对 GMI 云的长期愿景，以及它在 AI 和 AGI 演化中的作用?
我想建立互联网的 AI。我想建立一个能够为全球提供支持的基础设施。
创建一个易于使用的平台，类似于 Squarespace 或 Wix，但用于 AI。任何人都应该能够构建自己的 AI 应用程序。
在未来几年中，AI 将会经历显著的增长，特别是在生成式 AI 的应用中，更多的行业将整合这些技术来增强创造力、自动化流程和优化决策。推理将在这一未来中发挥核心作用，实现实时 AI 应用程序，可以高效地处理复杂任务。业务对业务（B2B）的应用场景预计将占主导地位，企业将越来越多地专注于利用 AI 来提高生产力、简化运营并创造新的价值。GMI 云的长期愿景与这一趋势保持一致，旨在为企业提供先进、可靠的基础设施，以最大限度地提高他们的组织中 AI 的生产力和影响力。
随着您在科罗拉多州扩大数据中心运营，您在接下来的一年中有什么战略目标或里程碑?
随着我们在科罗拉多州扩大数据中心运营，我们专注于接下来的几年中的几个战略目标和里程碑。美国是 AI 和 AI 计算的最大市场，因此在这个地区建立强大的存在对于我们来说至关重要。科罗拉多州的战略位置，加上其强大的科技生态系统和有利的商业环境，使我们能够更好地服务于日益增长的客户群，并增强我们的服务产品。
您会给那些想要采用先进 AI 基础设施的公司或初创公司什么建议?
对于专注于 AI 驱动创新的小型企业来说，首要任务应该是构建和完善他们的产品，而不是花费宝贵的时间在基础设施管理上。与提供可靠和可扩展的 GPU 解决方案的值得信赖的技术提供商合作，避免那些使用白标替代品的提供商。可靠性和快速部署至关重要；在初期阶段，速度往往是初创企业与成熟企业之间的唯一竞争优势。选择支持增长的基于云的灵活选项，并在不牺牲敏捷性的情况下专注于安全性和合规性。通过这样做，初创企业可以无缝集成，快速迭代，并将资源投入到真正重要的事情中——在市场中提供一款出色的产品。
感谢这次精彩的采访，希望了解更多的读者可以访问 GMI 云，并关注安全和合规性，而不牺牲敏捷性。通过这样做，初创企业可以无缝集成，快速迭代，并将资源投入到真正重要的事情中——在市场中提供一款出色的产品。感谢这次采访，感兴趣的读者可以访问 GMI 云
