不要在借来的访问权限上构建您的企业 AI

所有的 AI 应用程序和企业部署都建立在这样的假设之上：即访问前沿 AI 模型的权限将保持可能和几乎无限的状态。这种思维方式在过去是正确的，但现在可能已经不再适用。过去的趋势是，前沿模型的新功能会在 6 个月内被商品化或开源，因此重点仅仅放在了解未来功能的早期阶段。能够通过尽早理解和适应新前沿功能来构建产品的公司、团队或个人一直是胜利者。然而，几个信号可能表明这种时代即将结束。美国商务部决定限制外国人访问 Anthropic 的 Fable 和 Mythos 模型的决定只是一个开始。然而，这个限制后来在与 Anthropic 协调后被解除，这表明访问条件可以迅速变化，以及企业 AI 系统需要适应性。

四个原因为什么前沿模型访问权限不再保证

如果前沿模型的可用性不再被保证，那么仅仅针对前沿模型的思维方式可能不再正确。至少有四个原因可能导致这种情况。首先，前沿 AI 的经济基础是建立在补贴价格之上的，这种价格不会持续下去。最近，OpenAI 和 Anthropic 的 IPO 准备迫使他们开放财务状况，清楚地揭示了当前赞助 AI 服务的真实成本，这可能在 IPO 后不再具有经济可行性。据传闻，Anthropic 的 200 美元私人订阅实际上对公司来说花费了几千美元。因此，令牌价格预计会继续上涨，前沿模型访问权限的人为廉价时代即将结束。

第二，前沿模型的运行成本并没有降低。与经典计算不同，摩尔定律使得任何给定操作的成本随着时间的推移而稳步降低，AI似乎并没有遵循这种曲线。模型变得越来越大，但也越来越计算密集。我们的工程师在 Claude 信用额度被释放（暂时）后仅仅 10 分钟内就耗尽了所有信用额度。这可能表明下一个前沿模型将需要更多的令牌、更多的计算资源和更多的基础设施。

第三，似乎真正参与前沿模型竞争的玩家越来越少。曾经是欧洲希望在前沿模型全球竞技场上竞争的 Mistral 已经修订了其雄心，成为一个谦逊的跟随者。中国模型是快速的跟随者，但仍然落后于领先实验室的最佳发布版本。

最后，前沿模型可能太危险了，不能被用于每个应用程序。我们不会在汽车中使用微型核反应堆，部分原因是这个领域受到高度监管，而且它是危险的。Anthropic自己的实验表明，很难让前沿模型保持在控制之内，以确保它保持无害同时保留其功能。这可能是一个长期的真正教训，也是美国监管 Fable 5 的潜在理由。无论如何，很可能前沿模型将被国家视为战略资产，因此不会像现在这样自由地提供给所有应用程序和所有国家。

因此，我们可能正在进入一个令牌成本很重要、前沿模型并非对所有应用程序和所有国家都可用的世界。

应用层的出现

在一个并非每个模型调用都去访问最好的可用模型的世界中，我们如何仍然能够保证每个任务都可靠地被解决，并且具有最好的可能性能？答案可能在于所谓的“应用层”。

NVIDIA 的 CEO Jensen Huang 将 AI 描述为一个 5 层蛋糕：能量、芯片、数据中心、模型和应用程序。他认为应用层是最重要的一层，也是目前还缺失的一层。

对于某些应用程序，例如聊天机器人，这一层非常薄——基本上只是一个聊天界面。在其他应用程序中，例如高级工业和工程应用程序，这一层远比重要和关键。它是价值链中的决定性层。随着对特定前沿模型的访问权限不再被保证，应用层的作用将是统一化结果并控制令牌成本。

具体来说，如果我想执行一个复杂的、任务关键的任务，例如为新飞机模型重新设计我的制造链，我会要求一个强大的前沿模型来帮助我。该模型可能能够独自完成这项任务，构建一个规划工具并将结果传达给我所有的团队。然而，如果我切换到一个更强大的模型、一个更便宜的模型或来自不同提供商的模型，我可能会失去性能或在最终输出中失去一致性。在许多实际的企业设置中，这种不可预测性是不可接受的。这就是应用层的作用至关重要的地方：它不允许模型在开放的空间中运行，并依赖其原始能力来产生结果，而是定义了一个明确的画布、一个受限的可用操作集和一个定义的周界内模型可以运行。模型不再被要求从头开始解决一切，而是被赋予一个明确定义的画布，这将极大地提高任何模型都能很好地执行的可能性。

从成本方面来看，我的模型也可能决定执行非常低级的操作来达到其目标。它可能会从头开始编写一个规划算法，构建一个新的界面让我可视化其工作，甚至开发一个新的优化求解器。但是，这可能会令牌非常昂贵，而好的指南或预先构建的工具可能有助于模型以更少的令牌实现相同的结果。这就是应用层的作用。好消息是，模型往往很懒惰，寻找更短的路径，因此我们可能不需要过多地约束它们，只要它们能够访问正确的技能、工具和计算资源即可。

简而言之，一个好的应用层将为模型提供明确的技能、工具和指南，以便可靠地和具有成本效益地运行。除了提高性能和控制令牌成本外，这也意味着对特定模型的依赖性降低。如果你将你的智能嵌入应用层而不是模型本身，那么底层模型就变得可以互换。在许多情况下，这可能是区分实验和可扩展的企业 AI 的关键因素。

企业领导者的行动号召

在各个行业中，我们每天都会遇到企业领导者，他们正在努力建立自己的 AI 堆栈。绝大多数公司都从一个或多个前沿模型提供商开始，以建立他们的必要模型层。对于应用层，他们要么依赖自建工具，要么购买完整的功能，要么两者兼而有之。

Anthropic 的禁令是一个提醒，这个堆栈可能会在一夜之间被破坏。公司的架构必须准备好面对这种情况的再次发生。为了做好准备，公司必须考虑部署速度，但也要构建能够减轻模型更改和不断增长的令牌成本影响的解决方案。这不是一条容易的道路，但我的建议是：

• 战略性地、尽早地投资于你的应用层。错过这趟列车的公司将永远落后于早期采用者
• 将模型无关性作为设计原则，而不是变通方法
• 切换模型的成本不应该成为你运营的生死问题
• 与能够对模型进行基准测试、验证多种设置下的性能并帮助确保长期性能保证的专业公司合作。

在下一个企业 AI 阶段中获胜的公司不一定是那些拥有最好的模型的公司，而是那些围绕模型构建了正确层的公司。这些公司能够对模型进行基准测试、验证性能并帮助确保长期性能保证。这些公司将是那些在下一个企业 AI 阶段中获胜的公司。