Rob Reid, Cockroach Labs 技术传播者 Rob Reid Cockroach Labs 技术传播者

下一个AI危机不会是模型故障，而是系统故障

AI和代理AI已经成为过去几年企业中的热门词汇，投资金额和市场发展速度是AI期望值上升的重要指标。2026年初，仅仅几个月内，数十亿美元就被投资到AI公司，包括OpenAI和CoreWeave，这表明AI将继续成为企业在未来几年中的优先事项。这些不断增加的投资似乎是为了将AI从实验阶段扩展到生产部署。事实上，Cockroach Labs最近的一份报告《2026年AI基础设施现状》显示，98%的全球技术高管报告称，他们至少有一个AI项目在过去一年从试点阶段转移到生产阶段，希望通过此来推动真正的投资回报率。然而，随着组织继续进入生产阶段，一个问题悬而未决：基础设施是否能够支持AI项目的需求和扩展速度？为什么当前基础设施不适合AI需求AI工作负载为企业带来了新的挑战，这些挑战以前从未被处理过。值得注意的是，零售商预计黑色星期五和网络星期一活动期间会出现流量激增，就像体育博彩公司知道超级碗星期日会带来流量激增一样。然而，这些激增都是由人类活动引起的，人类活动会有间歇和休息时间，而不是持续运行。许多公司使用的遗留系统是为人类流量而设计的，考虑到点击、暂停和高峰时段。AI代理不像这样运行；它们24小时不间断地运行，7天不间断地运行。随着自主、机器驱动的工作负载迅速出现，架构正面临着它们从未被设计来处理的限制。如果零售商和博彩公司已经因为人类活动而不堪重负，那么他们根本无法跟上持续运行的AI代理。目前，组织平均每年经历86次中断。另外，83%的组织认为他们的数据基础设施将因AI的重量而在未来一年内失败，34%的组织甚至不期望它能持续11个月。AI需求正在加速。现代化不再是一个可选项，而是一个必要条件。保持基础设施现状的风险虽然大多数组织都意识到AI需要平稳运行的基础设施需求，但大多数组织仍然没有准备好做出必要的改变来防止系统故障。近两-thirds（63%）的技术领导者表示，他们的团队低估了AI需求与现有数据基础设施之间的差距，表明虽然AI部署正在取得进展，但没有采取任何措施来防止灾难。虽然系统升级和重组可能看起来像是一个长期的、昂贵的投资，但AI相关的停机时间成本更为显著。目前，超过半数（57%）的组织估计，仅仅一个小时的AI相关停机时间就会导致10万美元或以上的损失，组织规模越大，损失越大。即使操作运行了99.9%的时间，那0.1%也会转化为每年9个小时的停机时间，每小时损失10万美元或以上，这是大多数组织没有预算的损失。对于季节性工作负载和极端峰值（例如黑色星期五和超级碗星期日），组织面临着可能决定业务成败的损失。AI停机时间不仅带来财务损失，还会导致消费者信任度下降。信任度在中断和结账错误时已经很脆弱，50%的在线购物者可能会在中断或结账错误时切换到其他品牌。保持在线运营的风险比以往任何时候都高。使用分布式架构实现运营弹性在重新设计基础设施以支持AI工作负载的强烈需求时，运营弹性必须是首要考虑的问题。随着AI基础设施扩展（55%）、探索新的用例（51%）和加强弹性（51%）成为应对AI规模重量的首要策略，首先要实现运营弹性。通过保持AI就绪基础、成本、规模和弹性，分布式数据库架构可以实现这一目标。技术领导者指出，成功的首要需求包括更高的吞吐量摄取（50%）、更好的可观察性用于成本控制（48%）以及弹性扩展以适应不可预测的AI工作负载（47%）。分布式SQL数据库可以提供与AI工作负载一起演进所需的弹性扩展能力，以及在无需人工干预的情况下从故障中恢复的能力。与所有迁移一样，从遗留系统迁移到现代系统需要时间。平均而言，迁移到分布式架构需要大约10个月，成本约为20万美元。那些迈出这一步的公司发现，仅在第一年内就可以节省多达70万美元。通过在现代化基础设施上进行投资，巨大的AI投资将在长期内获得回报，而无需担心扩展或潜在的停机风险。在为时已晚之前满足AI的需求弹性已经成为基础设施应用中最困难和最紧迫的挑战，现在是解决这些问题的时刻，否则系统将崩溃，并带走AI项目的投资回报率。代理AI正在加速企业中的一切，从潜在收入到客户期望和工作负载。在这一加速过程中，AI也暴露了架构的脆弱性和技术领导者对支持日益增长的工作负载所需的基础设施的信心不足。当我们进入AI工作负载的下一个时代时，领导者将从问如何快速采用AI转变为问他们的基础设施是否能够在AI达到全尺度时生存。通过解决基础设施问题并采用支持AI系统所需的规模、灵活性和一致性，领导者将准备好在2026年和以后应对AI。