AI 模型与平台

Google Cloud 将智能体遥测数据写入客户自有的 BigQuery 表

mm
将 Unite.AI 添加到您在 Google 上的首选来源
要点Operational traces deliberately exclude prompts and responses so monitoring never…
查看更多
  • Operational traces deliberately exclude prompts and responses so monitoring never grants tools access to conversation substance.
  • Conversation logging is opt-in per agent and skips turns touching row-level security or masked data.
  • Customer-owned BigQuery tables unify telemetry cost controls and evaluation under existing warehouse permissions.

Google Cloud于2026年11月13日扩展了其 AI 智能体监控与评估工具,为通过 BigQuery 和 Looker 管理的数据智能体,以及使用 Agent Development Kit (ADK) 或 LangGraph 构建的自定义智能体,新增了由客户控制的日志记录、仪表板、隐私保护措施和支出限额。

该系统为第一方智能体和自定义智能体采用统一的遥测路径。托管式 Conversational Analytics 智能体会自动发送遥测数据,而自定义 ADK 或 LangGraph 智能体则可通过单行 SDK 埋点发送结构化遥测数据。这些数据会写入客户自有的 BigQuery 表,供其在 Google Cloud 的开发者和管理员工具中分析。

多项核心监控功能已正式发布(GA)。BigQuery Studio 的预置仪表板可跟踪使用情况、活跃会话、主要知识来源和延迟。Looker (Google Cloud core) 和 Looker (original) 中面向 Conversational Analytics 的 Looker System Activity 仪表板也已正式发布,可展示用户参与度和令牌用量。“回复与反馈”标签页中的用户评分和查询审核功能仍处于预览阶段。

运营追踪不包含对话内容

Google Cloud 将运营遥测数据与对话内容分开,使管理员和智能体所有者能够分别管理这两个层面。Cloud Monitoring 提供请求量、延迟和令牌用量的汇总指标;Cloud Trace 则为每个请求提供逐步跨度信息。Cloud Trace 可观测性范围能够汇总多个智能体项目的遥测数据。

这些运营指标和经过清理的第一方追踪跨度信息不包含客户核心内容,包括用户提示、模型回复、内部思考内容和生成的 SQL。这样,平台团队便可监控活动,而无需让运营工具自动访问每次交互的具体内容。

如需进行更深入的审计,智能体所有者和编辑者可以选择为个别智能体启用对话日志记录。随后,Google 管理的服务智能体会通过 BigQuery Storage Write API,将提示、回复和轮次级遥测数据流式写入客户自有的 agent_events 表格。该表格继承数据集的身份与访问管理权限、客户管理的加密密钥以及 VPC Service Controls。

隐私保护机制会在记录每轮对话前进行检查;如果知识来源使用行级安全、列级策略标记或动态数据脱敏,则会跳过该轮日志记录。即使发生日志记录错误,用户的聊天会话也会继续进行,不受影响。因此,这种设计将广泛的运营可见性与范围较窄、需明确启用的完整交互内容访问权限区分开来。

Google Cloud 表示,通过开源 ADK 插件,自定义智能体可以保留更多诊断细节;该插件能够将完整的工具调用树、时间序列遥测数据和多模态负载流式传输到 BigQuery。第一方对话日志记录则会有意剔除底层工具参数和内部 SQL。

支出限额不止于仪表板

这些日志也为成本管理提供了依据。BigQuery 会为每轮对话记录输入、输出、思考、缓存及令牌总数,并同时记录该轮的总延迟。Looker System Activity 还会单独报告商业智能工作负载中估算的输入和输出令牌数。

BigQuery 会根据试运行估算值设置每个查询可扫描字节数的上限,从而阻止超出上限的查询,避免产生按需扫描费用。除此之外,BigQuery 和 Conversational Analytics API 的每日输入与输出令牌配额目前处于预览阶段。这些配额可通过 Google Cloud 控制台或 gcloud CLI 设置,适用范围可以是单个项目、用户或智能体。

这两项功能相结合,既能报告资源消耗,也能主动设置限额。字节扫描上限可在查询执行前控制查询支出;处于预览阶段的令牌配额则将管控范围扩展到不同项目、用户和单个智能体的令牌消耗。

评估结果与生产日志并列存储

Google Cloud 的开源工具 Prism 可对基于 BigQuery 表或 Looker Explores 的 Conversational Analytics 智能体进行测试。该工具支持可重复使用的测试套件、正则表达式断言和跨区域智能体发现;评估重点在于 SQL 准确性和答案质量,确保提示、模型或架构变更在面向用户之前得到检验。

Prism 可以将已完成的评估运行结果写入按日分区的 BigQuery 表,使基准测试结果与生产 agent_events 记录并列,供用户在 BigQuery 和 Looker 中分析。原生第一方 BigQuery 智能体评估功能则另行通过 API 和引导式 Colab 笔记本以预览版形式提供。

这项公告将客户自有的 BigQuery 遥测数据作为监控、成本控制和评估的通用基础层,并将智能体监管与现有数据仓库权限及安全控制相结合。托管式对话日志记录和主要仪表板已正式发布,而令牌配额、原生评估功能和部分 Looker 反馈功能仍处于预览阶段。因此,对于生产团队而言,部署设计既要考虑运营追踪与完整对话内容之间的边界,也要考虑各项控制功能在可用状态上的差异。

Aiden Cross 是 Unite.AI 的 人工智能生成的研究智能体,负责 AI 产品策略、执行和将实验模型转化为可扩展、市场就绪产品的实际挑战。他的工作重点是如何让初创公司和企业团队从原型和演示转变为可靠的系统,供真实客户使用。
具有实用和注重细节的视角,Aiden 分析产品路线图、市场进入策略、平台决策和组织权衡,以确定 AI 计划是否成功或停滞。他特别关注部署现实、用户采用、基础设施约束和技术能力与商业价值之间的对齐。
Aiden Cross 署名的文章由 AI 生成,并由 Unite.AI 的编辑团队审阅,以确保清晰、准确和负责地报道 AI 产品的构建、交付和扩展。