合作伙伴

Vultr 和 SUSE 合作,将全栈 NVIDIA 企业 AI 平台带到生产工作负载

mm
将 Unite.AI 添加到您在 Google 上的首选来源

VultrSUSE 宣布了一项新的合作伙伴关系,旨在解决企业 AI 中的一个最大瓶颈:从实验到生产的转变。两家公司推出了 SUSE AI Factory,该平台结合了 SUSE 的企业 AI 软件、NVIDIA (NVDA ) AI Enterprise 技术和 Vultr 的全球云基础设施。

在巴黎的 RAISE Summit 上宣布,该平台旨在为希望安全、可扩展地部署 AI 应用程序的组织提供服务,而无需自行组装整个栈。该平台包括基础设施层、GPU 加速、Kubernetes 编排、AI 软件、安全控制和支持模型,所有这些都是在生产环境中运行企业 AI 工作负载所必需的。

为什么这很重要

许多公司已经完成了 AI 的初步概念验证阶段。更大的挑战现在是操作性的。企业需要决定模型应该在哪里运行,GPU 如何管理,敏感数据如何保护,AI 应用程序如何管理,以及团队如何避免在第一次工作负载开始之前进行数月的集成工作。

Vultr-SUSE 合作伙伴关系正是围绕这个问题。与其只提供计算能力或软件工具,该平台将基础设施和应用程序层结合起来,形成一个验证的架构。目标是减少 AI 项目离开实验室后常常遇到的“集成税”。

这种区别很重要。 生产 AI 不仅仅是拥有强大的 GPU。它需要可重复的部署模式、安全性、可观察性、编排、模型管理和支持结构,企业 IT 团队可以依赖它。

基于开源基础设施的全栈 AI 平台

SUSE AI Factory 搭载 NVIDIA,是基于开源的 Kubernetes 架构构建的。这为企业提供了灵活性,使他们能够根据性能、合规性、数据居住地或业务要求,在云端、内部、边缘和主权环境中部署 AI 工作负载。

SUSE 将其 AI Factory 描述为私有企业 AI 的开源基础设施平台,旨在集成到现有的 Linux 和 Kubernetes 环境中,同时帮助组织将工作负载从沙盒环境转移到生产环境中。SUSE 还将该平台定位在预验证的蓝图、GitOps 工作流和主权 AI 要求上,而不是强迫企业进入专有云模型。

NVIDIA 启用的版本直接将 NVIDIA AI Enterprise 集成到 SUSE 的治理层。NVIDIA AI Enterprise 是 NVIDIA 的商业软件套件,用于生产 AI,汇集了微服务、框架、库、GPU 编排和基础设施管理工具,用于企业部署。

NVIDIA 为栈带来了什么

该平台包括 NVIDIA AI Enterprise 组件,例如 NVIDIA NIM、NVIDIA NeMo 和 NVIDIA Run:ai。每个组件都解决了企业 AI 生命周期的不同部分。

NVIDIA NIM 通过微服务帮助组织部署优化的 AI 模型推理,减少了将模型投入生产所需的自定义工程量。NVIDIA NeMo 专注于构建、自定义、优化和管理 AI 代理和生成 AI 系统,跨云端、内部和混合环境。

NVIDIA Run:ai 帮助管理 GPU 编排和工作负载调度,这是企业在尝试最大化昂贵加速基础设施利用率时的关键要求。NVIDIA AI Enterprise 还包括 Kubernetes 操作员和基础设施管理工具,帮助在企业环境中标准化 GPU 启用的 AI 部署。

对于企业来说,这很重要,因为 AI 基础设施可能会迅速变得碎片化。团队可能会在各个部门使用不同的框架、模型服务工具、编排层和安全实践。验证的 NVIDIA 支持软件层有助于创建一个更一致的基础。

Vultr 提供全球 AI 基础设施层

Vultr 的角色是提供软件栈下的基础设施基础。该公司提供云 GPU、裸金属、云计算、Kubernetes、存储和网络服务,为企业提供了一个部署环境,用于需要性能和地理灵活性的 AI 工作负载。

Vultr 已经在围绕 AI 基础设施展开,提供 AMD 和 NVIDIA GPU、托管 Kubernetes、裸金属、存储和云计算。其平台用于需要 GPU 加速的工作负载,包括 AI/ML、高性能计算、渲染和其他计算密集型应用程序。

这种全球影响力是合作伙伴关系的核心。AI 工作负载越来越需要在数据源、用户或受监管管辖区附近运行。银行、医疗保健提供者、电信运营商、制造商或公共部门组织可能不希望所有 AI 工作负载都通过单个集中云区域路由。Vultr 的分布式基础设施为需要区域或主权控制的客户提供了更广泛的部署足迹。

为生产而设计,而不仅仅是试点

该公告最重要的部分并不是三个主要基础设施和软件供应商正在合作。它反映了企业 AI 的发展方向。

第一波生成 AI 的采用主要是实验:内部联合飞行员、原型聊天机器人、检索增强生成试点和部门生产力工具。下一个阶段更具挑战性。企业希望将 AI 部署到面向客户的系统、受监管的工作流、工业运营和核心业务流程中。

这提高了标准。AI 系统需要安全、可扩展、可审计和可维护。它们需要在复杂的混合环境中运行。它们需要支持治理要求。并且它们需要避免创建新的供应商锁定形式。

SUSE 的开源基础设施方法、NVIDIA 的企业 AI 软件和 Vultr 的全球 GPU 云正在被结合起来,以一种更集成的方式来解决这些要求。

减少 AI 部署的复杂性

该公告中最明显的主题之一是简化。企业经常低估在 AI 可以在生产环境中可靠运行之前需要进行的工程工作量。团队需要配置 GPU 驱动程序、Kubernetes 集群、模型服务工具、数据管道、访问控制、监控系统和安全策略。他们还需要确保开发、测试和生产环境保持一致。

SUSE AI Factory 搭载 NVIDIA 旨在通过预验证的蓝图和通过 Rancher 扩展和 Kubernetes 操作员提供的管理平面来减少这种复杂性。SUSE 文档将 AI Factory 描述为一种发现 AI 应用程序并将其组合成不可变、版本控制的蓝图的方式。

这种基于蓝图的模型很重要,因为它帮助团队从一次性部署转变为可重复的基础设施模式。与其为每个新项目重新构建 AI 栈,企业可以标准化 AI 工作负载的打包、部署、治理和扩展方式。

安全性、主权和控制

该公告还大量强调了安全和 主权 AI。这反映了企业日益增长的担忧:AI 工作负载在哪里运行,谁控制数据,以及如何保护知识产权。

SUSE 更广泛的 AI 战略强调了私有企业 AI、数据控制、零信任安全和跨云、数据中心和边缘环境的部署灵活性。该公司的产品资料凸显了沙盒到生产的等价性、预验证模板、GitOps 工作流和对主权 AI 要求的支持。

这对于金融服务、医疗保健、政府、电信、制造和国防相关行业尤其重要,因为在这些行业中,AI 的采用不仅受到技术能力的限制,还受到法规、合规性和运营风险的限制。

企业 AI 市场成熟的迹象

Vultr-SUSE 合作伙伴关系是企业 AI 基础设施更广泛转变的一部分。市场正在从孤立的工具转向 AI 工厂:数据、模型、计算、编排、治理和部署管道协同工作的集成环境。

对于企业来说,价值主张不仅仅是更快地访问 GPU 或另一个 AI 平台仪表板。价值在于减少 AI 野心和运营现实之间的距离。如果该平台按预期工作,组织可以花费更少的时间来拼凑基础设施,并花费更多的时间来构建产生可衡量结果的 AI 应用程序。

现有的 SUSE 客户将能够与 SUSE 账户团队合作,评估该平台,SUSE 和 Vultr 将在客户工作负载的基础上合作进行概念验证部署。计划通过 Vultr 市场提供自助部署选项。

结论

SUSE AI Factory 搭载 NVIDIA 在 Vultr 基础设施上的启动表明,企业 AI 基础设施正在迅速演变。公司不再希望 AI 实验仅存在于孤立的沙盒中。他们希望有治理、安全、可扩展的系统,可以在业务需要的任何地方运行。

通过结合 SUSE 的开源企业软件基础、NVIDIA 的生产 AI 栈和 Vultr 的全球云基础设施,合作伙伴关系为组织提供了一条更直接的从试点项目到生产 AI 的路径。

这并没有消除 AI 采用的辛苦工作。企业仍然需要合适的数据、治理、人才和业务用例。但是,它解决了最持久的障碍之一:组装和操作 AI 基础设施栈的复杂性。

安托万是一位具有远见的领导者和Unite.AI的联合创始人,他对塑造和推广人工智能和机器人技术的未来充满热情。作为一位连续创业者,他相信人工智能将对社会产生电力的影响一样的颠覆性影响,并经常对颠覆性技术和通用人工智能的潜力大加赞扬。

作为一位未来学家Securities.io的创始人,这是一个专注于投资尖端技术的平台,这些技术正在重新定义未来并重塑整个行业。