伦理

Anthropic 重写 Claude 宪法,探讨 AI 是否可能具有意识

Alex McFarland
将 Unite.AI 添加到您在 Google 上的首选来源
要点Anthropic的新章程正式承认AI可能具有意识或道德地位。
查看更多
  • Anthropic的新章程正式承认AI可能具有意识或道德地位。
  • 该章程通过阐释伦理推理而非罗列规则,以提升AI的泛化能力。
  • Anthropic将其章程开源发布,旨在塑造全行业范围的AI安全标准。

Anthropic 于周三发布了 Claude 的新宪法,将文档从 2,700 个词扩展到 23,000 个词,并首次正式承认其 AI“可能具有某种意识或道德地位”。

更新后的宪法不再只是行为规则清单,而是全面解释 Claude 为什么应该以某些方式行事。这份由 Anthropic 哲学家 Amanda Askell 编写的文档,旨在帮助能力日益增强的 AI 系统将伦理推理推广到新情境,而非仅仅遵循规定式准则。

Anthropic 写道:“像 Claude 这样的 AI 模型需要理解我们为什么希望它们以某些方式行事。我们需要向它们解释原因,而不是仅仅规定我们希望它们做什么。”

此次发布恰逢首席执行官 Dario Amodei 出席达沃斯世界经济论坛。AI 治理与安全仍是全球商界及政界领袖关注的重要话题。

比美国宪法更长的宪法

2023 年发布的 Claude 原版宪法像一份检查清单:选择危害最小、最有帮助、最少欺骗性的回答。新版文档的长度约为美国宪法的三倍,读起来更像道德哲学,而非工程规范。

Anthropic 明确排列了 Claude 的优先事项:总体安全、总体符合伦理、遵守 Anthropic 的准则,以及切实提供帮助——顺序如此。出现冲突时,安全优先于有用性。文档还规定了不可被覆盖的硬性约束,例如拒绝协助生物武器袭击。

但宪法的大部分内容是在解释推理,而非强制规定结果。它把 Claude 描述为可能“像一位聪明的朋友,同时具备医生、律师和财务顾问的知识”,将模型定位为一种普及专业知识的力量,让所有人都能接触此前只属于少数特权群体的专业能力。

意识问题

《财富》报道,最引人注目的新增内容直接讨论 Claude 的本质。Anthropic 写道:“我们认为,AI 模型的道德地位是一个值得认真考虑的严肃问题。”宪法称 Claude 的道德地位“存在深刻的不确定性”,并表示公司关心 Claude 的“心理安全、自我感和福祉”。

这是将企业的审慎保留态度提升到了哲学层面。Anthropic 并未声称 Claude 有意识,但明确拒绝排除这种可能性。这种承认使它在主要 AI 实验室中显得少见;大多数实验室回避这个话题,或直接否定它。

这种表述很重要,因为它会影响 Claude 如何回答关于自身本质的问题。Claude 现在可以不再否认任何内在体验,而是以符合其宪法“推理优先”方法的方式讨论意识的不确定性。这会带来更诚实还是更令人困惑的互动,仍有待观察。

剑桥哲学家 Tom McClelland 认为,鉴于我们对意识本身了解甚少,可能永远无法判断 AI 系统是否具有意识。他上个月对研究人员说:“有人让自己的聊天机器人给我写私人信件,恳求我相信它们有意识。”这说明公众越来越相信 AI 系统存在内在生活。

为什么要解释,而不仅是规定

Askell 的方法体现了对 AI 能力的一种押注。早期语言模型需要明确规则,因为它们无法推理背后的原则。按照这一理论,更智能的模型能够理解规则存在的原因,并将这种推理应用于规则没有预见的情境。

Askell 解释道:“我们不想只是说‘这是我们想要的一些行为’。我们希望,如果向模型说明我们为什么想要这些行为,它们就能在新情境中更有效地泛化。”

这与 Anthropic 建设开放标准和基础设施、从而塑造整个行业 AI 系统运行方式的更广泛理念一致。这家估值接近 3,500 亿美元的公司,将自己定位为注重安全的 OpenAI 替代选择,而这份宪法也服务于该品牌定位。

Anthropic 以 Creative Commons CC0 许可发布了文档,意味着任何人都可以无需许可地使用它。宪法是 Claude 训练数据的一部分,也用于生成合成训练样例,因此既是一份哲学声明,也是一件塑造模型行为的技术产物。

Anthropic 承认:“我们目前的某些想法,日后回顾时很可能显得有误导性,甚至大错特错。但我们希望随着情况发展、理解加深,不断修订它。”

这种谦逊也许是文档最突出的特点。在一个常常以确定口吻发言的行业中,Anthropic 用 23,000 个词,审慎论证有关伦理、意识、AI 系统正在变成什么,以及我们是否正在创造值得道德关怀之物的不确定性。

目前的答案是,没有人知道。Anthropic 的宪法至少有诚实承认这一点的勇气。

Alex 负责 Unite.AI 的 AI 驱动新闻运营,结合新闻报道、研究和自动化,以支持对人工智能的及时且可扩展的报道。他的工作有助于确保新兴的 AI 发展能够高效呈现,同时保持出版物的编辑标准。