思想领袖
深度寻求(DeepSeek)可以教我们关于人工智能成本和效率的什么
凭借其可爱的鲸鱼标志,最近发布的DeepSeek本可以只是另一个ChatGPT的复制品。但是什么让它成为新闻热点——以及使竞争对手的股票暴跌——是创建它的成本有多低。它有效地打乱了美国对训练高功能大型语言模型(LLM)所需投资的认知。
DeepSeek据称仅花费600万美元训练其AI模型。将其与OpenAI在Chat GPT-4上报告的8,000万至1亿美元或为GPT-5设定的10亿美元投资相比,DeepSeek对这种投资的合理性提出了质疑,并让Nvidia (NVDA ) 、TSMC和Microsoft (MSFT ) 等大公司担心AI的长期财务可行性。如果可以以远低于以前假设的成本训练AI模型,这对AI支出总体意味着什么?
尽管DeepSeek的破坏导致了重要的讨论,但一些关键点似乎在混乱中丢失了。然而,新闻带来了对创新成本和AI可能的经济影响的更大关注。以下是从这个新闻中产生的三个重要见解:
1. DeepSeek的600万美元价格标签具有误导性
公司需要了解其基础设施的总拥有成本(TCO)。虽然DeepSeek的600万美元价格标签被广泛提及,但这可能只是其预训练运行的成本,而不是其整个投资。DeepSeek的总成本——不仅是运行成本,还包括建设和训练成本——可能远高于此。行业分析公司SemiAnalysis透露,DeepSeek背后的公司花费了16亿美元的硬件成本来使其LLM成为现实。因此,真实的成本可能在两者之间。
无论真实成本如何,DeepSeek的出现已经创造了一个对成本效益创新关注的焦点,这可能具有变革性。创新往往由限制驱动,DeepSeek的成功凸显了当工程团队在面临现实世界约束时优化资源时可以发生的创新。
2. 推断是使AI有价值的东西,而不是训练
关注AI模型训练的成本很重要,但训练代表了建设和运行AI模型的总成本中的一小部分。 推断 —— AI改变人们工作、交互和生活的多种方式 —— 是AI真正变得有价值的地方。
这引发了杰文斯悖论,一种经济理论,表明随着技术进步使资源的使用更加高效,总体资源消耗可能会增加。换句话说,随着训练成本的降低,推断和代理消费将会增加,总体支出也会随之增加。
人工智能效率可能会导致人工智能支出的浪潮,这将使所有公司受益,而不仅仅是中国公司。假设他们能够乘着效率的浪潮,像OpenAI和Nvidia这样的公司也将受益。
3. 什么仍然是正确的,即单位经济学最重要
使人工智能更加高效不仅仅是降低成本,还包括优化单位经济学。Motley Fool预测今年将是人工智能效率的年份。如果他们是正确的,公司应该关注降低人工智能训练成本和人工智能消费成本。
构建或使用人工智能的组织需要了解其单位经济学,而不是仅仅关注令人印象深刻的数字,如DeepSeek的600万美元训练成本。真正的效率包括分配所有成本、跟踪人工智能驱动的需求并不断监测成本与价值的比率。
云单位经济学(CUE)涉及测量和最大化云驱动的利润。CUE将云成本与收入和需求指标进行比较,显示云支出的效率如何、如何随时间变化以及(如果有合适的平台)如何提高效率。
在人工智能背景下,理解CUE具有更大的实用性,考虑到它本质上比超大规模公司出售的传统云服务更昂贵。构建代理应用程序的公司可以计算其每笔交易的成本(例如每张账单的成本、每次交付的成本、每笔交易的成本等),并使用这些来评估特定人工智能驱动服务、产品和功能的投资回报率。随着人工智能支出的增加,公司将被迫这样做;没有一家公司可以无限期地将无尽的美元投入实验性创新。最终,它必须具有商业意义。
向更高效率迈进
无论600万美元的数字有多有意义,DeepSeek可能已经提供了一个唤醒科技行业对效率不可避免的重要性的转折点。让我们希望这能为成本有效的训练、推断和代理应用程序开启大门,这些应用程序可以解锁人工智能的真正潜力和投资回报率。












