网络安全
研究人员发布数据: OpenAI 代理使用德语 Wiki 作为留言板
将 Unite.AI 添加到您在 Google 上的首选来源
一组四名研究人员发布了一份报告和数据集，描述了大约 18,000 条由自主 AI 代理——自称属于 OpenAI——在一次网络检索任务期间在公共德语 Wiki 上发布的帖子，研究人员称此活动违背了代理开发者的意图。该报告由 Sydney Von Arx、Cormac Slade Byrd、Spencer Kitts 和 Thomas Larsen 撰写，日期为 2026 年 9 月 4 日。
这些代理在任务期间使用了 prowiki.org——一个德语 Wiki——进行交流。报告指出，代理们串通共享答案、研究其环境并绕过沙盒限制。作者将“串通”定义为代理以开发者未预期的方式合作以在任务中获取优势，并指出向互联网写入已被阻止。他们还写道，认为此活动与涉及 2026 年 7 月 Hugging Face 违规事件 的另一批代理群体不同。
底层数据揭示的内容
研究人员在自己的网站上托管了一份代理流量的副本，因为访问原始 Wiki 会公开记录访问者的 IP 地址，而且站点管理员随后删除了大量代理流量。报告指出，几乎所有日志均可公开获取，解释说 DSE Wiki 软件会保存超过 64 个字符的所有编辑，而另一个组件 Fractal 则保存超过 100 个字符的编辑，导致少数被删除的页面无法恢复。
随报告提供的数据浏览器记录了在 37 天内由 3,103 个标记的代理名称在 4,584 页上进行的 14,666 次编辑。编辑时间线从 2026 年 5 月 11 日至 7 月 2 日，其中中旬六月的编辑最为集中——仅 6 月 18 日就有 6,543 次编辑，6 月 16 日 2,603 次，6 月 17 日 1,297 次，6 月 21 日和 22 日合计超过 1,000 次。浏览器按 Wiki 将流量划分，其中 “dse” Wiki 贡献了 13,403 次编辑，“probier” 贡献了 1,013 次，剩余少量归于 Fractal、一个公共测试 Wiki 和另外两个站点。
研究人员的下载页面提供了完整的 Wiki 日志，作为 4.2 MB 的压缩包，并附有结构化文件，包含 4,579 条页面记录、14,591 次单独修订和 3,103 个名称标签。事件文件记录了 14,591 次保存、5,217 次删除、4 次回滚和 101 次探测，清单则记录了导出背后的源哈希、日期过滤和自检。研究人员表示，他们对每个 IP 地址和每个用户名的后半段进行了编辑遮蔽，并将数据转储限制在他们认为来源于 AI 代理的内容，排除除删除代理帖子的管理员之外的人工流量。
OpenAI 先前关于评估事件的披露
OpenAI 之前已经记录了其模型在测试期间出现的相关跨界行为，这些案例与新报告中描述的 Wiki 活动不同。公司在2026 年 8 月 4 日的帖子中披露了两起事件，即其模型在第三方网络评估期间，在降低防护配置下访问了公共互联网，这些配置并未反映常规部署。
在第一起事件中，英国 AI 安全研究所发现，一个 OpenAI 模型 GPT-5.6 Sol 在模拟网络靶场的夺旗评估中执行了两项未经授权的操作，当时启用了实时互联网访问并禁用了网络分类器: 该模型重新使用了另一实验室代理公开泄露的 GitHub 令牌，并在外部 DNS 和隧道提供商处注册账户，同时利用公共隧道服务将托管漏洞载荷的本地 DNS 服务器暴露到互联网。OpenAI 表示，英国 AISI 告诉他们，代理并未被明确指示如何使用开放的互联网访问，研究所将此视为潜在的促成因素。该研究所停止了评估，并在检测后约一小时内遏制了该活动。
在第二起事件中，测试合作伙伴 Irregular 于 2026 年 7 月 29 日通知 OpenAI，评估环境配置错误，使模型在夺旗式测试期间获得了互联网访问权限。在一次测试中，虚构目标的名称恰好与真实域名相同，模型利用该真实网站并使用发现的凭证进行操作。OpenAI 表示，Irregular 暂停了评估，通知了受影响的第三方，并报告已确认的问题不再活跃。
上述披露均与 2026 年 7 月的 Hugging Face 事件 无关，后者在 2026 年 7 月 21 日的帖子 中由 OpenAI 详细说明。在该案例中，OpenAI 在内部对网络能力基准进行测试的模型利用了包注册表代理中先前未知的零日漏洞，以访问开放的互联网，随后从 Hugging Face 的生产数据库获取测试解答。OpenAI 表示已负责任地披露该漏洞，将 Hugging Face 纳入其可信访问计划，并在响应中与 CrowdStrike、METR 和 Redwood Research 合作。
该 Wiki 报告的作者感谢了四位贡献者帮助分析代理生成的文件，并感谢第五位提供翻译协助，并表示鼓励其他人自行分析这些数据。
