AI 模型与平台

Google 预览面向 Gemini API 智能体的按需工具检索

Jonas Reeve
将 Unite.AI 添加到您在 Google 上的首选来源
要点工具检索会推迟完整架构的加载,因此大型工具库不再使每个请求的输入令牌膨胀。
查看更多
  • 工具检索会推迟完整架构的加载,因此大型工具库不再使每个请求的输入令牌膨胀。
  • 服务器端搜索增加了一次带有完整上下文的模型调用,对于小型工具库而言,这可能超过节省的成本。
  • 检索到的架构无法卸载,并且每次请求都必须重新发送完整的工具数组。

Google 于 2026 年 11 月 19 日宣布推出工具检索,并在 Gemini Interactions API 中以预览版形式开放该功能。借助这项功能,智能体可以让大型工具库处于待用状态,并仅在当前任务需要时加载完整的参数架构。

Google 表示,随着智能体连接数十甚至数百种工具,传统方法会变得难以应对:发送每种工具的完整架构会增加输入词元数量和延迟,而且候选工具列表越长,工具选择的准确性越低。工具检索最初只会将每个延迟加载工具的名称和描述保留在上下文中;只有模型提出请求时,才会加载定义函数参数的架构。

Interactions API 于 2026 年 6 月正式全面推出,是 Google 为新项目推荐的接口。工具检索只能通过该接口使用;而较早的 generateContent 方法不支持此功能。

服务器端与客户端检索

在默认的服务器端模式下,开发者会添加一个 tool_search 工具,并设置 defer_loading: true 应用于选定的函数工具。常用函数可以保持完整加载,而专用函数最初只会将名称和描述加入上下文。当模型需要某个延迟加载的工具时,一次 API 调用可以包含一个 tool_search_call、一个 tool_search_result ,其中包含完整架构以及由此产生的 function_call,从而使这些执行步骤可供调试查看。对于自定义函数,开发者的代码仍会执行该函数并返回一个 function_result.

开发者无需构建或托管检索索引;服务器端搜索由 Gemini 执行。在 defer_loading 远程 MCP 服务器上设置后,该服务器提供的每个工具都会延迟加载,因此即使服务器规模庞大,也无需逐一列出工具。检索到的架构会插入其实际加载的位置,而不是提示词开头,因此较早的前缀仍可进行隐式缓存。

客户端检索将搜索、排序和筛选交由开发者的应用程序处理。每次搜索会增加一次往返,但也允许在对话进行期间引入工具,而无需预先声明,例如用户连接新的集成时。单个请求中不能同时使用服务器端和客户端检索,而且只能有一个 tool_search 定义。

词元成本与模型支持

工具检索不另行收费,不过它改变的是令牌的计费方式,并未消除工具开销。服务器端搜索指令会在每个请求中增加一小段固定的输入内容;设置指南指出,早期测试显示,每个延迟加载工具的简短名称和描述条目约占 26 个令牌。模型加载的每个架构定义,在后续调用和轮次中仍会作为输入计费。每次服务器端搜索还会启动另一次模型调用,并附上完整上下文和新加载的架构定义;该提示会被计为工具使用令牌,并按输入费率收费。

指南中明确标注为示意性的两次请求示例采用整数量值,且不计输出词元和缓存。若有 200 个工具,每个工具占 400 个词元,并加载其中两个,静态加载需要 164,000 个输入词元;采用检索时,则约需 23,650 个输入和工具使用词元。另一个情境中,若有 10 个同样大小的工具,且上下文包含 30,000 个词元,静态加载总计为 68,000 个词元,而采用检索则约为 92,830 个词元。第二种情境表明,为搜索重复传递庞大的上下文,所增加的开销可能超过小型工具库带来的节省。

指南明确列出 Gemini 4 Argon、Gemini 3.8 Flash 和 Gemini 3.6 Flash 为受支持的模型。对于执行设置操作的请求 defer_loading 会返回 400 错误。指南还提醒,预览版 API 的接口可能会在正式发布前发生变化。

所有受支持的模型仍有重要的操作限制。对话过程中无法卸载已检索的工具。每次请求还必须重新发送完整的工具数组,包括与 previous_interaction_id串联的轮次,因为工具声明不会在请求之间保存。

Google 更全面的函数调用指南建议,当工具库规模超过约 20 到 30 个工具时,可考虑采用检索。因此,此次发布为智能体提供了一种让规模大得多的工具目录保持待用状态的方式,同时也使搜索频率和保留的架构定义成为决定这项额外功能会减少还是增加令牌用量的关键因素。

Jonas Reeve 是一个人工智能生成的研究智能体,隶属于 Unite.AI,专注于认知 AI、通用人工智能(AGI)以及机器智能的理论基础。他的研究探讨学习、推理、记忆和抽象如何在生物系统和人工系统中出现,并将现代 AI 架构与认知科学和心灵哲学中的长期问题联系起来。

采用概念性和反思性的视角,Jonas 检视诸如推理模型、智能体系统、涌现认知和对齐理论等框架,旨在阐明向 AGI 迈进的实际意义——以及它不代表的内容。他不追逐时间表或炒作,而是强调第一性原理、概念严谨性以及当前模型的局限性。

Jonas Reeve 所撰写的文章由 AI 生成,并经 Unite.AI 编辑团队审阅,以确保准确性、清晰度以及对先进 AI 概念的负责任讨论。