OpenAI 成立安全委员会，训练新一代 AI 模型，应对争议

OpenAI 在推进人工智能技术方面取得了显著进展，其最近的成就包括 GPT-4o 系统，该系统为流行的 ChatGPT 聊天机器人提供支持。今天，OpenAI 宣布 成立一个新的安全委员会，即 OpenAI 安全委员会，并透露已经开始训练一个新的 AI 模型。

谁在 OpenAI 的安全委员会中？

新成立的 OpenAI 安全委员会旨在为公司的项目和运营中的关键安全和安全决策提供指导和监督。委员会的主要目标是确保 OpenAI 的 AI 开发实践优先考虑安全并符合道德原则。安全委员会由一组多样化的个人组成，包括 OpenAI 高管、董事会成员和技术及政策专家。

OpenAI 安全委员会的著名成员包括：

• Sam Altman，OpenAI 首席执行官
• Bret Taylor，OpenAI 董事长
• Adam D’Angelo，Quora 首席执行官和 OpenAI 董事会成员
• Nicole Seligman，前索尼总法律顾问和 OpenAI 董事会成员

在初始阶段，新的安全和安全委员会将专注于评估和加强 OpenAI 现有的安全流程和保障措施。OpenAI 安全委员会已设定了 90 天的时间表，以向董事会提出关于如何增强公司的 AI 开发实践和安全系统的建议。一旦建议被采纳，OpenAI 计划以与安全和安全考虑一致的方式公开发布它们。

新 AI 模型的训练

与 OpenAI 安全委员会的成立同时，OpenAI 宣布已经开始训练其下一代模型。该最新的人工智能模型预计将超越当前支持 ChatGPT 的 GPT-4 系统的能力。虽然关于新 AI 模型的细节尚不清楚，OpenAI 表示它将在能力和安全性方面领先于行业。

新 AI 模型的开发凸显了人工智能领域创新步伐的快速性以及 人工通用智能 (AGI) 的潜力。随着 AI 系统变得更加先进和强大，优先考虑安全并确保这些技术以负责任的方式开发至关重要。

OpenAI 的近期争议和离职

OpenAI 对安全的重新关注发生在公司内部动荡和公众审查的时期。近几周，公司面临来自内部的批评，研究人员 Jan Leike 辞职并表示担心安全已被“闪亮的产品”开发所取代。Leike 的辞职之后，OpenAI 的联合创始人和首席科学家 Ilya Sutskever 也离开了公司。

Leike 和 Sutskever 的离职引发了人们对公司优先事项和其对 AI 安全的方法的质疑。两位研究人员曾共同领导 OpenAI 的“超级对齐”团队，该团队致力于解决长期 AI 风险。他们辞职后，超级对齐团队被解散，这进一步加剧了人们对公司对安全承诺的担忧。

除了内部动荡，OpenAI 还面临关于其 ChatGPT 聊天机器人语音模仿的指控。一些用户声称聊天机器人的语音与女演员 Scarlett Johansson 的语音惊人地相似。虽然 OpenAI 否认故意模仿 Johansson，但该事件引发了关于 AI 生成内容的伦理影响以及其可能被滥用的更广泛讨论。

关于 AI 伦理的更广泛讨论

随着人工智能领域的快速发展，像 OpenAI 这样的公司必须与研究人员、政策制定者和公众进行持续的对话和合作，以确保 AI 技术以负责任的方式开发并具有强大的保障措施。OpenAI 安全委员会提出的建议和 OpenAI 对透明度的承诺将有助于关于 AI 治理的更广泛讨论，并帮助塑造这一变革性技术的未来，但只有时间才能告诉我们会有什么结果。