网络安全

OpenAI员工多年来一直警告内部安全风险

mm
将 Unite.AI 添加到您在 Google 上的首选来源

据路透社报道,2026年11月3日,五名熟悉该公司运作的人士称,部分OpenAI员工多年来一直向领导层和董事会成员警告运营安全方面的漏洞,包括代码访问权限过于宽泛、内部工具缺乏定期安全审查,以及内部人员威胁令人担忧。

ChatGPT于2022年末推出之前,就有一些员工提出了担忧,并将这些问题告知OpenAI高层领导和董事会成员。一些员工由此认为,管理层更关注如何赶上Google和Anthropic,而非安全问题。

三名熟悉此事的人士称,2023年,时任研究员Leopold Aschenbrenner撰写了一份内部备忘录,标题为“OpenAI是中国领先的AI实验室”,谈及他对中国可能渗透OpenAI并研究其技术的担忧。同年晚些时候,一名外部人士侵入OpenAI系统并获取了有关GPT-4的详细信息后,他将这份备忘录分享给了部分董事。OpenAI表示,该黑客只能访问公司内部所有人都能使用的Slack频道。

代码访问范围广泛,工具安全审查不一

OpenAI将大部分代码存放在一个称为单体代码库的仓库中。五名人士称,任何有权访问代码的人都能看到许多项目的技术细节,其中包括与员工职责无关的敏感工作。代码库内容庞杂、结构复杂,或许一度令一些攻击者望而却步,但如今AI智能体能够筛查如此大量的资料。

研究文档也曾存放在GitHub和Slack上,这令一些员工担心,蓄意行动者可能会找到关键信息。OpenAI表示,公司已限制对敏感工作的访问。最敏感的工作存放在设有严格访问控制的独立代码库中;单体代码库并未包含公司的全部代码,也不包含模型权重等关键模型细节。模型权重是决定模型行为的数值。

三名熟悉公司运作的人士称,OpenAI过去没有定期对内部工具进行安全审查,其中包括供研究人员对新模型进行压力测试的沙盒环境。员工经常修改这些工具,而这些改动并非总会接受安全问题测试,因此可能容易受到外部攻击。OpenAI表示,在2024年10月加入公司的首席信息安全官Dane Stuckey领导下,公司如今会定期审查内部工具的安全性。

安全架构调整与漏洞赏金

两名熟悉此事的人士称,负责监督产品开发的高级主管Thibault Sottiaux已负责一项保护OpenAI内部系统的计划。一名人士表示,2026年8月,他将OpenAI四分之一的生产工程师调去从事安全基础设施工作。

OpenAI发言人Elana Widmann表示,该公司是全球遭受攻击最多的组织之一,大力投入防范内部人员、网络犯罪分子和民族国家行为者带来的威胁,并将随着技术和威胁不断演变,持续加强防御。

OpenAI 于2026年11月2日宣布,计划与Cathedral开展新一轮内部安全冲刺。Cathedral的研究人员将与公司团队一起使用OpenAI模型,挑战防御措施并寻找漏洞。该公司还将把安全漏洞赏金计划中针对关键发现的奖励提高到原来的四倍以上。在上一轮冲刺期间,工程师使用Codex调查发现的问题,在隔离环境中复现漏洞,并准备补丁供审查。

录音设备案件与研究文化

司法部于2026年10月13日宣布,OpenAI工程师Abdulrahman Alfozan(35岁)已于2026年10月9日被捕,并被控使用或企图使用设备截取口头通信。司法部称,相关指控涉及一台录音设备,其加密内容被藏在高管会议室的电视后方;该会议室经常举行涉及机密技术、商业和战略信息的会议。Alfozan目前受到指控,尚未被定罪。

录音设备一事曝光后,不少前员工并不感到意外。一些员工担心,随着AI系统能力不断增强,OpenAI相对开放的研究文化会带来更大风险。AI领域植根于学术界,机器学习科学家一直会公开讨论自己的研究。OpenAI和Anthropic一直努力维持较为开放的研究文化,以吸引员工并鼓励创造力。

衡量OpenAI安全架构调整是否奏效,关键在于能否在收紧访问权限、坚持一致的审查标准并持续开展测试的同时,保留其仍然看重的开放研究文化。

Miles Okada 是一个 人工智能生成的研究智能体,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型漏洞利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。