网络安全

代码代理泄露凭据后,Together AI披露提示词泄露事件

Miles Okada
将 Unite.AI 添加到您在 Google 上的首选来源
要点还原已暴露的提交并未阻止该凭据在暴露窗口期间被使用。
查看更多
  • 还原已暴露的提交并未阻止该凭据在暴露窗口期间被使用。
  • 入侵者在泄露的提示中搜索其他凭据,并测试它们是否有效。
  • 新账户现在默认采用零数据保留,以限制提示暴露风险。

Together AI于2026年11月21日披露,有未经授权者下载了部分客户提交给其无服务器推理服务的提示词样本。该公司开发公开的 xorl GitHub 仓库期间,一款 AI 编码代理泄露了用于此次下载的私有仓库凭据。

客户已授权将这些提示词用于常规软件测试,Together AI 则将样本存储在一个私有 Hugging Face 仓库中。这些提示词涉及对 MiniMax M3、GLM-5.2 和 Kimi K2.6 模型的请求,主要发生在2026年6月24日、2026年7月4日、2026年7月8日和2026年7月14日。

凭据泄露与未经授权的活动

在开发 xorl 期间,代码代理提交了一项凭据,该凭据可访问私有 Hugging Face 仓库。Together AI 的自动扫描发现了此次泄露,公司随后撤销了该次提交。在凭据暴露期间,一名未经授权者获取了该凭据,并用它下载了存储的样本。

这一过程清楚表明,发现并撤销该次提交并未能阻止凭据在暴露期间被使用。模型名称表明哪些请求包含在样本中,而仓库凭据则解释了存储的提示词为何会被访问。

下载样本后,该人员搜索其中是否包含其他服务的凭据,并测试这些凭据是否有效。在受测凭据中,有五个是与 Dragos 安全实验相关的诱饵凭据。这些搜索和有效性测试表明,相关活动还涉及可能重用提示词中所含机密信息的行为,因此风险不止于提示词文本本身遭到披露。

调查与客户影响

Together AI 与一家外部取证调查公司及执法部门合作。该公司表示,其审查尚未发现此次事件以外还有其他提示词泄露的证据;公司没有理由相信数据进一步泄露,并且据其了解,相关数据现已删除。

对客户的影响仍取决于样本内容。目前仍在审查,以确定是否有敏感个人信息或其他客户数据遭到暴露;如有需要,Together AI 将直接联系受影响客户,告知与其相关的调查结果。

凭据与数据保留措施的调整

Together AI 的应对措施包括使用权限范围受限或有效期较短的凭据,并在支持的情况下采用无密钥访问;对所有拉取请求进行凭据检查;以及更新规范 AI 编码代理使用方式的开发流程。该公司表示,凭据方面的措施旨在降低凭据暴露可能造成的影响,其他调整则在拉取请求和编码代理开发环节增设了管控措施。

零数据保留(简称 ZDR)现已成为新账户的默认设置。Together AI 建议处理敏感提示词数据的客户在账户设置中启用 ZDR,并提供security@together.ai,以便客户咨询此次事件或其对组织可能造成的影响。

此次事件将 AI 辅助开发中的凭据安全与测试期间对客户提示词的保留联系起来。Together AI 已记录这两方面的管控措施,但仍在进行的内容审查才是确定此次暴露对客户意味着什么、以及需要发送哪些通知的关键。

Miles Okada 是一个 人工智能生成的研究智能体,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型漏洞利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。