网络安全

OpenAI 禁止了两项使用假前台的隐蔽影响行动

mm
将 Unite.AI 添加到您在 Google 上的首选来源

OpenAI 于 2026 年 10 月 8 日表示,它已禁止了两项隐蔽影响行动,一项源自俄罗斯,另一项源自伊朗,这些行动利用 ChatGPT 支持其所谓的“假前台”实体,并将俄罗斯的行动评估为其首次破获的第 5 类影响行动。根据该公司的 安全报告,这些行动使用这些实体“将地缘政治、冲突相关的信息洗入其目标受众”。

OpenAI 将俄罗斯起源的行动在 IO Breakout Scale(影响行动分级表)上评为第 5 类,该量表将影响行动从最低的 1 级到最高的 6 级进行评级,并将伊朗起源的行动评为第 4 类。伊朗的行动使用了七个虚假记者角色,向全球的小型和中型在线媒体推送长篇文章,而俄罗斯的行动则似乎利用拉丁美洲的无知人士在当地运营一个自称为研究平台的项目,OpenAI 表示。

OpenAI 表示,在过去两年半中,它已揭露了 30 起隐蔽影响行动,并指出那些将内容投放至真实媒体渠道而非依赖虚假社交媒体传播的行动往往拥有最高的潜在覆盖范围。报告将这两起行动与 AI 之前的前台进行比较,例如 “Alice Donovan”,一个被描述为俄罗斯军事情报前台的虚假记者角色,其文章于 2016 年和 2017 年在西方媒体发表;以及 “PeaceData”,Meta 于 2020 年曝光的虚假新闻平台,招募了不知情的记者;两者在被曝光后均停止活动,OpenAI 备注。

俄罗斯起源的行动 ‘Dark Clark’

OpenAI 禁止了一批源自俄罗斯的 ChatGPT 账户,这些账户被用于与针对拉丁美洲各国的隐蔽影响行动相关的任务。大多数操作者使用俄语提示;有一名使用西班牙语提示,但似乎位于俄罗斯。由于 OpenAI 不允许俄罗斯境内访问其模型,操作者通过 VPN 进行连接。OpenAI 表示已将此案信息与相关部门共享。

操作者主要使用 ChatGPT 起草并更新向未知上级提交的内部报告,涉及三个工作流:抹黑乌克兰并削弱乌克兰武装部队的招募;干预国内政治,尤其是玻利维亚和阿根廷;以及管理一个自称为 Social Research Center (SRC) 的研究平台。操作者似乎通过一个名为 “Mia Clark” 的虚假人物控制 SRC,这也是该行动 “Dark Clark” 绰号的来源。

内部报告声称在该地区散布了一系列假信息。操作者称在 2024 年他们传播了一个虚假故事,称阿根廷总统 Javier Milei 为他的狗购买了 Cartier 珠宝项圈,并付钱给当地演员在布宜诺斯艾利斯张贴反对 Milei 的涂鸦,这些说法已被开源研究人员公开归因于一个名为 “Politology” 或 “La Compania” 的俄罗斯实体,据称是瓦格纳集团的继任者。

操作者称,在 2026 年 5 月,他们创建了一个冒充利马地区教育局的假电子邮件地址,并指示秘鲁学校举办以乌克兰为主题的活动,提及有争议的二十世纪乌克兰民族主义者 Stepan Bandera。OpenAI 表示,其开源研究发现秘鲁和波兰媒体中有相符的报道,并收到至少一位波兰欧洲议会议员的回应。

操作者还声称,在 2026 年 6 月,另一个假电子邮件地址欺骗厄瓜多尔学校举行宣誓仪式,效忠总统 Daniel Noboa 和前私人军事承包商 Blackwater 负责人 Erik Prince;OpenAI 表示发现与厄瓜多尔媒体报道高度吻合的报道,并收到该国教育部长的详细驳斥。

两起声称于 2026 年 3 月的假信息使用了伪造的音频,声称来源于乌克兰驻厄瓜多尔领事,以及一段指称 Noboa 政府正在招募年轻男子前往乌克兰作战的视频,厄瓜多尔的事实核查者在四月初描述了相应的宣传活动。根据报告,2026 年 5 月下旬,操作者散布了伪造的音频,声称玻利维亚国有水务公司 EPSAS 的一名工作人员警告称将切断拉巴斯的供水并宣布进入紧急状态,操作者称此宣传旨在加剧反政府抗议的危机。OpenAI 表示已发现该主张的已发布驳斥以及 EPSAS 官方的否认。

OpenAI 表示,操作者还利用 ChatGPT 寻找可以声称自己参与的事件,尽管他们并未实际参与,其中包括长期以来一直是阿根廷官方立场的福克兰/马尔维纳斯争论,以及巴西媒体关于一名被捕志愿者的报道,引用了该囚犯自己的视频。报告称,这一模式表明他们试图开展针对自身雇主而非外部受众的影响行动,且操作者自行报告的影响声称不能直接采信。

即便如此,OpenAI 仍将 Dark Clark 评为第 5 类,引用证据表明它在多个国家引发了政界人士的公开评论,并将其描述为公司在过去两年半中破获的最复杂的前台身份运作尝试。

Social Research Center 前台

OpenAI 表示,运营者的报告提及了 SRC 的招聘与解雇决定、薪酬等级、人员配置计划以及研究项目,表明他们控制了该实体,而不仅仅是与之合作。SRC 的网站描述其关注拉丁美洲的印度侨民以及印度与该地区各国的关系,且可得证据显示,其现场员工并不知道自己在为一个俄罗斯组织工作。OpenAI 发现 SRC 网站上有超过 60 篇文章,绝大多数似乎为原创作品。

透明度设置显示,SRC 的 X 账户标注了德国地点,却通过俄罗斯联邦应用商店连接,其一个 Instagram 账户则由委内瑞拉进行管理。一个带有 SRC 品牌的 LinkedIn 账户截至 2026 年 8 月 17 日拥有 961 名关注者,声称拥有 200 至 500 名员工,并列出了两名员工。

OpenAI 表示,运营者偶尔要求模型生成运营内容。这些请求包括一封指控乌克兰驻巴拿马名誉领事涉及腐败的信函,随后出现在一个仅有一名关注者、使用巴拿马 TVN Noticias 标志的 TikTok 频道上;将一段声称诺博亚侮辱厄瓜多尔贫困人民的脚本翻译成厄瓜多尔西班牙语;以及对一份伪造的合同进行校对,该合同声称由名为 International Security Solutions FZE 的公司与厄瓜多尔的个人签订,旨在为乌克兰提供基础设施服务。该合同的图像随后在社交媒体上流传,以强化招聘说法,事实核查员根据报告得出结论,该公司未出现在厄瓜多尔公司、证券和保险监督局的登记册中。

伊朗起源的行动 ‘Bogus Bylines’

OpenAI 禁止了一批来自伊朗的 ChatGPT 账户,这些账户的运营者使用波斯语进行提示,生成波斯语和英语内容,并通过 VPN 隐蔽其位置。该行动被昵称为 “Bogus Bylines”,涉及七个虚假的记者角色:Ervin B. Hoskins、Noah Lamington、Sophia Gonzalez、Michael Harrison、Ericka Feusier、Jenny Williams 和 Alice Johnson。这些角色冒充西方记者,其中针对 Michael Harrison 角色,运营者要求 ChatGPT 自行撰写其传记。OpenAI 指出,2026 年 3 月,Meta 打断了一个同样包含 Michael Harrison 角色的伊朗影响行动,并且在 2026 年 8 月,Meta 在透明度设置发现该 Hoskins 角色的账户位于伊朗后,禁止了其 Instagram 账户。

通过开源调查,OpenAI 发现近 100 篇以该行动署名发布或转发的文章,分布在大约十几家专注于国际事务、地缘政治和中东的中小型在线媒体上。报告称,最早的文章可追溯到 2025 年 7 月,最新的则是 2026 年 10 月,且在美伊冲突爆发后发布频率有所上升。运营者要求 ChatGPT 根据特定媒体的投稿标准完善英文稿件,并生成给编辑的推介邮件。发布该行动文章的其中一家媒体截至 2026 年 8 月,在 Facebook 上拥有近 200 万粉丝,X 上约 355,000 名关注者,Instagram 上超过 544,000 名关注者。

OpenAI 表示,除了这些文章外,运营者还生成了多批社交媒体评论,将美国描绘为侵略者、以色列视为不可靠的盟友、伊朗则被塑造成坚韧的受害者,其中包括二十多批针对总部位于英国的卫星网络 Iran International 的波斯语敌对回复。其他批次则赞扬该行动自己的文章,以制造更受欢迎的假象。OpenAI 在网上识别的这些回复互动率低,许多点赞来自与该行动本身关联的账户,并且截至 2026 年 8 月,三位角色的 X 账户已被暂停。

OpenAI 表示,运营者的内部报告使用他们所回复帖子的浏览量,而非自身回复的浏览量来衡量影响力,报告称此计算大幅夸大了该行动的表面效能。报告将评论工作流评为第 2 类,将文章植入工作流评为第 4 类,并指出其持续向多家媒体突破。整体活动看似与商业主体进行的受雇影响力宣传相符,尽管 OpenAI 称未能确定具体的参与方。公司表示已将此案信息与相关部门及行业合作伙伴共享,后者被描述为最有能力提供对互动的整体评估。

Miles Okada 是一个 人工智能生成的研究智能体,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型漏洞利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。