亚马逊工程师在成本超支后限制人工智能支出

亚马逊的工程团队发现，将工作从手写代码转移到人工智能模型上会使项目预算大幅超支，包括在一个从未发布的项目上花费180万美元运行Anthropic的Claude Sonnet。高级工程师在2026年7月28日的一次内部会议上向员工展示了这些案例，并将结果描述为“灾难性昂贵”，金融时报报道，引用了多个熟悉该演讲的人。他们告诉同事，他们现在正在构建自动化防护栏，以限制未来项目的支出。

最大的例子是将作者记录与亚马逊零售网站上的产品列表进行匹配。支出比该项目预算的860%还高，花了五个月才浮现出来，部署也失败了。还有两个较小的案例：一套财务审计工具的意外成本约为54.1万美元，另外还有13.4万美元用于改善亚马逊物流网络的交货速度，这是在两周多后才被发现的。

亚马逊表示，它正在“尝试、学习和改进”其使用人工智能的方式，包括如何推动成本效率。该公司还表示，将少数孤立的例子作为正常业务来呈现，会歪曲其团队如何与人工智能合作的方式，并且这些案例只涵盖了大约30万名员工的公司内部的一个小部分。

令牌计费对编码错误的影响

员工被告知，传统系统中几乎不花钱的错误，一旦模型执行工作，就会变得昂贵。原因在于价格表上。Anthropic对Claude Sonnet 4.5和4.6收取每百万输入令牌3美元和每百万输出令牌15美元的费用，Sonnet 5的价格为2美元和10美元，直到2026年8月31日，然后将采用相同的费率。在Sonnet的标准输入价格下，180万美元可以购买大约6000亿个输入令牌。

重试循环会重新发送相同的上下文，或者批处理作业指向整个目录，而不是样本，它不会抛出任何异常，也不会崩溃任何东西。它会产生一份发票，这份发票会在每月的计费周期中到达，而不是在构建日志中。错误和数字之间的距离就是将糟糕的配置变成五个月的问题的原因。

计费单位也在变化。Anthropic的文档指出，Claude 4.7及更高版本使用新的令牌化程序，生成的令牌数量比相同文本的旧模型多大约30%，因此在相同的头条费率下，相同的工作在新模型上会更贵。从平价座位到计量令牌的更广泛转变是背景：Unite.AI在Claude Fable 5作为计量公用事业推出时报道了这一点，并在廉价的Claude代理时代结束时再次报道。

AWS已经在销售的控制

这个问题的控制杆已经在亚马逊自己的Bedrock定价页面上发布。批量推理的费用是按需费率的一半。Flex服务等级的标准价格有50%的折扣，优先等级的费用是标准价格的1.75倍，适用于需要速度的工作。智能提示路由的费用为每1000个请求1美元，可以将更简单的提示推送到同一系列中的更便宜的模型，AWS表示，这可以在不影响准确性的情况下将成本降低多达30%。

Anthropic增加了两个更多的选项。缓存读取的价格是标准输入费率的十分之一，因此重新发送固定系统提示或文档是一旦缓存打开后成本较低的部分。Claude Haiku 4.5的价格为每百万令牌1美元和5美元，是Sonnet费率的三分之一，对于任何默认选择边缘模型的团队来说，这是最大的单一节省。

每一个都是每个工作负载的决定：哪个模型，是否缓存上下文，作业是否以交互方式运行，还是在批处理窗口中运行，帐户的上限是多少。供应商已经开始出售执行层本身，包括Spectro Cloud的PaletteAI推理启动板，面向试图控制令牌成本的企业。

亚马逊正在改变什么

亚马逊已经删除了一个指向错误方向的激励因素。2026年初，它关闭了一个内部排行榜，用于排名员工使用其Kiro开发人员平台，员工通过增加令牌消耗来攀登排行榜，这种习惯被称为“令牌最大化”。工程师描述的自动防护栏是下一步，将预算执行纳入部署路径，而不是每月审查。

规模解释了为什么180万美元听起来像一个治理故事，而不是一个财务故事。亚马逊预计2026年将在资本支出上花费约2000亿美元，其中大部分用于人工智能和数据中心基础设施，相比之下，其每季度的收入约为1800亿美元。该公司将在2026年7月30日收盘后公布第二季度财报，资本支出将吸引大部分关注。衡量防护栏是否有效的指标是内部的、较小的：一个失控的工作被标记的速度有多快。作者匹配项目将该基准设定为五个月，自动检查旨在将其纳入构建过程中。