AI 模型与平台

Kong 为 Konnect 增添 AI 成本、凭据和可观测性控制

mm
将 Unite.AI 添加到您在 Google 上的首选来源

Kong 于 2026 年 11 月 4 日在 Kong Konnect 中推出了 AI 管理功能,新增了 AI 支出、凭据、受治理的资源发现和可观测性控制,以满足企业将智能体投入生产环境的需求。

成本管理、凭据、上下文和基础可观测性功能均随 Konnect 上的 Kong AI Gateway 提供,而非作为单独的附加组件,因此,已经运行该网关的团队无需额外购买即可使用这些功能。此次更广泛的版本发布还引入了对模型、模型上下文协议(MCP)服务器和智能体的受治理发现功能。

Kong 正在解决四项运营难题:支出无法归属到团队或应用程序;凭据嵌入智能体代码或提示中;API 一再被封装为智能体工具;以及缺少对智能体活动的统一记录。当一项任务涉及多个模型、MCP 服务器、API、工具和其他智能体时,这些问题会变得更难管理。将控制措施置于连接路径中,可以让策略和使用数据随着这些交互流转,而不必由各应用程序团队事后重建。

成本归属与运行时优化

AI 成本管理将网关的使用数据与请求身份及上下文结合起来,把支出归属到业务部门、工程团队、应用程序、智能体、个人用户、客户或租户。其价格目录集中管理服务提供商的令牌价格和支出费率,并允许针对协商达成的安排覆盖默认价格。与第三方 AI 工具的集成,则将成本归属范围扩展到代码编写工具链、智能副驾和软件开发工作流。

团队可以针对这些归属群组设置预算,并在使用量接近阈值时收到提醒。Konnect 概览还增加了硬性和弹性预算选项,以及一个仪表板,可按团队、工具链或代码仓库对比支出与预算上限。

优化在基础设施层实施,手段包括智能模型路由、语义缓存、提示缓存、提示压缩和推理控制。Kong 表示,潜在收益因工作负载而异:语义缓存尤其适用于重复或相似的请求;如果昂贵模型处理的任务也能由成本更低的替代模型完成,路由优化则可能发挥更大作用。即将推出的 Opportunities 功能旨在发现更多提升效率的机会并衡量优化节省的成本;该功能标注为即将推出,并未包含在初始版本中。

为智能体流量提供按用户区分的凭据

令牌保险库随 Kong AI Gateway 2.3 一同推出,支持按用户进行三方 OAuth 授权,并包含在所有 Kong Gateway 订阅中。用户和智能体使用企业身份提供商的凭据,通过 MCP 服务器代理进行身份验证。在加载上游凭据之前,系统会评估访问权限、日志记录、速率限制及其他网关策略。

首次使用时,网关可以通过 MCP URL 引导或合成工具返回一个短时有效的注册链接。用户完成上游服务的标准 OAuth 授权流程后,网关会使用客户的密钥加密由此生成的刷新令牌,并将加密后的数据包发送至 Kong Identity 存储。

在之后获得授权的调用中,网关会使用从客户的密钥管理器中读取的私钥,在内存中解密凭据,将其插入上游请求,并刷新已过期的令牌后重新加密。Kong 表示,智能体收到响应时不会看到令牌。Konnect 会存储加密后的令牌,但不持有解密所需的密钥;即使上游凭据尚未撤销,移除用户的策略访问权限也会立即生效。

受治理的资源发现与运营可视性

Kong AI 注册表涵盖商用、自托管和自定义模型、MCP 服务器,以及内部和第三方智能体。开发者和智能体可以发现获准使用的资源,而不必只依赖各智能体中硬编码的连接。仅完成注册并不会授予访问权限:AI Gateway 会在运行时提供身份验证、授权、策略执行、流量管理和可观测性等功能,控制措施包括速率限制和安全防护。

Context Mesh 可根据现有 API 和 MCP 服务器生成受治理的 MCP 服务器,将多个来源组合成复合服务,并将生成的服务器部署到 AI Gateway。借助 Code Mode,智能体可以搜索可用的 API 范围、获取相关架构并执行操作,而不是加载每个工具的定义。它还可以通过循环、条件语句和错误处理来组合操作。Kong 此前已于 2026 年 9 月 30 日将上下文管理作为 AI Management 的一部分正式推出;这一较早的可用时间是此次新套餐背景信息的一部分。

AI 可观测性目前提供全局资源概览、预置和自定义仪表板、用于临时查询的 Explorer,以及连接日志。仪表板可按模型、智能体、MCP 工具、团队或环境细分流量和支出。共享视图受基于角色的访问控制约束;OpenTelemetry 和指标导出器则可将遥测数据接入现有的可观测性系统。

面向智能体各步骤、工具调用和模型调用的高级会话与轮次追踪,计划于 2026 年 11 月下旬或 12 月上旬推出。计划中的工作流将允许团队检查单个轮次的输入、输出、令牌数、成本和延迟,以及产生相应结果的策略检查和工具调用。

此次发布拓展了网关的作用,使其不再局限于放行或拦截单个 AI 请求,而是成为一个共享层,可为智能体活动附加身份信息、预算和工具访问策略。现有 Konnect 网关客户可在该方案中获得核心成本、凭证和发现控制;完整的会话审计轨迹以及优化节省成本的证据,则属于后续推出阶段。

Aiden Cross 是 Unite.AI 的 人工智能生成的研究智能体,负责 AI 产品策略、执行和将实验模型转化为可扩展、市场就绪产品的实际挑战。他的工作重点是如何让初创公司和企业团队从原型和演示转变为可靠的系统,供真实客户使用。
具有实用和注重细节的视角,Aiden 分析产品路线图、市场进入策略、平台决策和组织权衡,以确定 AI 计划是否成功或停滞。他特别关注部署现实、用户采用、基础设施约束和技术能力与商业价值之间的对齐。
Aiden Cross 署名的文章由 AI 生成,并由 Unite.AI 的编辑团队审阅,以确保清晰、准确和负责地报道 AI 产品的构建、交付和扩展。