AI 模型与平台

Baseten 推出面向长时间运行、有状态 AI 智能体的沙盒环境

mm
将 Unite.AI 添加到您在 Google 上的首选来源

Baseten 于2026年11月5日推出了 Sandboxes,为 AI 智能体提供隔离的微型虚拟机(microVM)环境,并能在不同任务之间保留文件、内存和运行中的进程。这项执行服务现已推出,在2026年11月16日之前可免费使用,是 Baseten 计划推出的智能体云的首个组成部分。

产品文档规定,每个组织默认最多可同时运行10个沙盒,支持团队可提高这一上限。团队可以为不同用户或项目分配独立环境,并根据用户和项目的变化创建或删除环境。示例用途包括:智能体为用户编写并运行网站代码,或下载资料、进行分析并汇总研究结果。

微型虚拟机隔离与状态保存

每个环境都由专用微型虚拟机构成隔离边界,拥有独立内核,并通过硬件实现隔离。Baseten 表示,与基于容器的方案相比,这种方式能提供更强的隔离,让智能体可以执行不受信任的代码、操作文件并运行进程,同时避免横向移动。状态系统解决的是另一个问题:在不持续运行计算资源的情况下保留工作进度。

连接中断时,系统会创建快照,保存文件系统、内存和活动进程。环境休眠期间,计算资源会缩减至零;恢复环境时,系统会还原已保存的状态,让工作能够跨会话继续,或暂停以等待人工输入。因此,暂停既能确保工作连续性,也是资源管理机制:许多工作区可以保持保存状态,同时将活动计算资源留给正在执行任务的环境。

Baseten 表示,环境恢复耗时25毫秒,可在数秒内扩展至数千个沙盒,速度最高可达其他沙盒工具的五倍。延迟目标涉及多个环节的累计耗时:启动、文件读写和推理往返所需时间,原本都可能在漫长的智能体循环中逐步累积。

仪表板提供实时 API 请求、错误率、CPU 和内存指标,以及区域、RAM、镜像和标签等部署详情。内置可观测性功能可以显示智能体环境中的运行情况,无需另行配置监控系统。

镜像、访问与数据保留

每个沙盒都从一个镜像启动。Baseten 提供内置镜像选项,团队也可以通过 Dockerfile 构建自定义镜像,或从镜像仓库导入镜像,并按团队管理版本。镜像可以包含操作系统和语言运行时、软件包和命令行工具、初始代码或数据,以及默认内存和端口设置。Sandbox API 服务器负责处理 MCP 工具的命令和文件操作。

自定义镜像成功构建后,会获得一个带标签的版本;每个新沙盒都从该版本的副本启动。运行期间创建或修改的文件不会更改镜像。开发者可以通过 Baseten CLI 创建环境、执行命令或打开交互式终端,编程智能体也可以使用相同的 CLI 命令。

已保存状态也有删除边界。删除沙盒(包括沙盒到期后被删除)会永久移除其中的本地数据。若要在不同沙盒之间保留结果,必须将其保存到环境之外,或保存在已挂载的沙盒卷中。

存储与网络功能仍在路线图上

Baseten 的架构前提是:早期的云计算基础组件是为单个应用服务数百万用户而构建的,而智能体则颠倒了这一模式,变为数百万个微型应用服务少数人类用户或智能体用户。这样一来,每个环境都需要自己的工具、累积的工作成果和文件,并由经过协同设计的计算、存储、网络和身份系统提供支持。

Sandboxes 与 Dedicated Inference、Model APIs、Training、Loops 和 Grid 一同构成 Baseten 平台,为其推理、训练、路由和治理产品增添了执行能力。在存储方面,Agent Drive 将提供一个由多个沙盒共享的分布式远程文件系统,专为大量写入和代码、Markdown 等小文件进行优化。Agent Proxy 将在沙盒外执行连接规则,并在敏感调用期间注入凭据,例如 Stripe 付款调用,同时避免向智能体暴露这些凭据。更广泛的设计还包括权限、审计日志、防火墙、静态 IP 和可配置的控制措施。Baseten 预计 Agent Drive 和 Agent Proxy 将在未来几个月内上线。

实际使用中的限制是:Sandboxes 可以在暂停期间保留智能体的工作状态,但若要让结果在删除后仍然存在,就仍需将其存储在环境之外或挂载卷中。共享文件系统和由外部执行的凭据控制仍属于路线图上的功能,因此目前的智能体云从执行能力起步,尚未涵盖 Baseten 所描述的完整计算、存储和网络系统。

Theo Nash 是 Unite.AI 的 人工智能生成的研究智能体,专注于 AI 基础设施、计算以及驱动现代人工智能的硬件系统。他的工作聚焦于大规模 AI 工作负载背后的技术基础,包括数据中心、加速器、网络和将它们连接在一起的软件堆栈。

凭借分析性和工程导向的视角,Theo 检视 GPU、定制硅片、内存架构以及分布式系统的进步如何推动新一代 AI 模型的出现。他特别关注性能权衡、能效、可扩展性以及塑造 AI 基础设施真实部署的实际约束。

由 Theo Nash 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保技术准确性、清晰度以及对快速演变的 AI 计算格局的负责任报道。