面对英伟达的主导地位：非大型科技玩家的敏捷机器学习开发策略（在供应和成本挑战中）

在游戏中建立一个业务从来都不是一件容易的事。在 2023 年，人工智能领域的竞争达到了前所未有的高度，推动这一切的正是真正的、令人难以置信的突破。OpenAI 的 GPT-4 发布、ChatGPT 与 Bing 集成、Google 发布 Bard 以及 Meta 的争议性“开源”Llama 2 发布。听起来像是一个大型玩家的长名单，对吧？尽管听起来很令人兴奋，但大部分创新都发生在钱流向的地方，小型科技玩家面临的竞争正在日益加剧。

在科技行业不断演变的格局中，英伟达继续巩固其在人工智能基础设施领域的关键地位。在一次财报电话会议上，NVIDIA (NVDA ) 总裁黄仁勋强调了对英伟达处理器的需求飞速增长。这一说法得到了英伟达 Q3 财报数据的支持，显示出令人印象深刻的年比年增长记录，早在 11 月就已经显现。同时，Gartner 的预测表明，未来四年内芯片支出将大幅增加。目前，英伟达的软件栈和处理器无人能敌，让行业不确定何时会出现一个可信的竞争对手。

最近来自彭博社和金融时报的报道揭示了 OpenAI 首席执行官萨姆·阿尔特曼与中东投资者进行谈判，以启动芯片生产，旨在减少人工智能领域对英伟达芯片的依赖。挑战英伟达及其近 1.5 万亿美元的市值可能会让阿尔特曼花费 5 万亿至 7 万亿美元，并需要数年时间。

然而，解决机器学习模型的成本效益问题对于企业来说是当务之急。对于超出大型科技公司范围的企业来说，开发成本效益高的机器学习模型不仅是一种商业流程，更是一种至关重要的生存策略。本文探讨了四种实用的策略，能够让各大小企业在不需要大量研发投资的情况下开发自己的模型，并保持灵活性以避免供应商锁定。

为什么英伟达主导人工智能市场

简而言之，英伟达通过在高性能 GPU 和其专有的模型训练软件栈（广泛认可的 CUDA 工具包）之间实现协同作用，创造了理想的模型训练工作流程。

CUDA（2007 年推出）是一种全面并行计算工具包和 API，用于最佳利用英伟达 GPU 处理器。其流行的主要原因是其无与伦比的能力，可以加速复杂的数学计算，这对于深度学习至关重要。另外，它提供了一个丰富的生态系统，如 cuDNN，用于深度神经网络，提高性能和易用性。对于开发人员来说，它与主要深度学习框架的无缝集成至关重要，实现了快速的模型开发和迭代。

将如此强大的软件栈与高效的硬件相结合，已经被证明是占领市场的关键。虽然有些人认为英伟达的主导地位可能是一种暂时现象，但在当前的格局下，很难做出这样的预测。

英伟达主导地位的沉重代价

英伟达在机器学习开发领域占据主导地位引发了许多担忧，不仅仅是在道德领域，也在研究和开发预算差距日益扩大，这是小型玩家难以进入市场的原因之一，更不用说创业公司。加上由于风险增加而导致的投资者兴趣下降，使得获取大量研发投资（如英伟达的研发投资）变得几乎不可能，创造了一个非常不平等的竞争环境。

然而，对英伟达硬件的严重依赖给供应链一致性带来了压力，并打开了中断和供应商锁定的风险，降低了市场灵活性并提高了进入壁垒。

“一些人正在积累资金，以确保他们不会让用户陷入困境。到处都是工程术语，如“优化”和“较小的模型大小”，因为公司试图减少对 GPU 的需求，今年投资者已经在初创公司上投入了数亿美元，这些初创公司的软件帮助公司充分利用现有的 GPU。

Nvidia芯片短缺让人工智能初创公司为计算能力而挣扎作者：Paresh Dave

现在是时候采用战略方法了，因为这可能是让您的企业在英伟达对机器学习开发的影响下蓬勃发展的机会。

非大型科技玩家可以适应英伟达主导地位的策略：

1. 开始探索 AMD 的 RocM

AMD 一直在通过其对 RocM 的持续支持（特别是在 PyTorch 的主要库中）来缩小其在人工智能开发方面与英伟达的差距。这一持续的努力已经带来了兼容性和性能的提高，如其最新发布的 MI300芯片所展示的那样。MI300 在大型语言模型（LLM）推理任务中表现出色，尤其是在像 LLama-70b 这样的模型中。这一成功凸显了 AMD 在处理能力和效率方面取得的显著进步。

2. 找到其他硬件替代方案

除了 AMD 的进步之外，谷歌还推出了 Tensor Processing Units（TPU），这是一种专门为加速机器学习工作负载而设计的硬件，提供了训练大规模人工智能模型的强大替代方案。

除了这些行业巨头之外，像 Graphcore 和 Cerebras (CBRS ) 这样的较小但有影响力的玩家也在人工智能硬件领域做出了显著贡献。Graphcore 的智能处理单元（IPU）针对人工智能计算的效率进行了优化，并因其在高性能任务中的潜力而受到关注，如 Twitter 的实验所示。Cerebras 则通过其先进的芯片推动了边界的扩展，强调了人工智能应用中的可扩展性和原始计算能力。

这些公司的集体努力标志着人工智能硬件生态系统朝着更加多样化的方向发展。这一多样化为开发人员和研究人员提供了更多平台来减少对英伟达的依赖，并为人工智能开发带来了可行的策略。

3. 开始投资性能优化

除了探索硬件替代方案之外，软件优化也被证明是减轻英伟达主导地位影响的关键因素。通过利用高效算法、减少不必要的计算和实施并行处理技术，非大型科技玩家可以在现有硬件上最大限度地提高机器学习模型的性能，提供了一种在不仅仅依赖昂贵硬件升级的情况下弥合差距的务实方法。

Deci Ai 的 AutoNAC 技术就是这种方法的一个例子。该创新已经展示了通过 3-10 倍加速模型推理的能力，如广泛认可的 MLPerf 基准测试所证实的。通过展示此类进步，很明显软件优化可以显著提高机器学习开发的效率，呈现出一种可行的替代方案，以减轻英伟达在该领域的主导地位的影响。

4. 开始与其他组织合作创建去中心化集群

这种合作方法可以包括共享研究成果、共同投资替代硬件选项以及通过开源项目共同推动新的人工智能技术的开发。通过去中心化推理和利用分布式计算资源，非大型科技玩家可以使竞争环境更加公平，并在机器学习开发行业创造一个更具竞争力的格局。

如今，共享计算资源的策略正在整个科技行业获得动力。谷歌 Kubernetes Engine（GKE）通过支持集群多租户，实现了高效的资源利用和与第三方服务的集成。这一趋势还体现在社区主导的倡议中，如 Petals，它提供了一个分布式网络用于运行人工智能模型，使高性能计算在不需要大量投资的情况下变得可及。另外，像 Together.ai 这样的平台提供了无服务器访问广泛的开源模型，简化了开发并促进了合作。考虑使用这些平台可以让您访问计算资源和合作开发机会，有助于优化您的开发过程并降低成本，无论组织的规模如何。

结论

从全球范围来看，采用上述策略的必要性变得明显。当一个实体主导市场时，它会扼杀发展并阻碍合理定价的建立。

非大型科技玩家可以通过探索替代方案（如 AMD 的 RocM）、投资性能优化（通过高效算法和并行处理）以及与其他组织合作创建去中心化集群来对抗英伟达的主导地位。这促进了人工智能硬件和开发行业更加多样化和竞争的格局，让小型玩家在人工智能发展的未来中拥有发言权。

这些策略旨在减少对英伟达的价格和供应的依赖，从而提高投资吸引力，降低由于硬件竞争而导致业务发展放缓的风险，并促进整个行业的有机增长，允许较小的玩家在人工智能开发的未来中拥有发言权。