人工智能领导者警告“灭绝风险”

在快速技术进步的时代，人工智能（AI）的崛起处于创新前沿。然而，这同样是人类智慧的奇迹，它既推动进步和便利，也引发了对人类未来的存在性担忧，如人工智能领袖所言。

人工智能安全中心最近发表了一份声明，得到了业界先驱如OpenAI的Sam Altman、Google DeepMind的Demis Hassabis和Anthropic的Dario Amodei的支持。其立场很明确——人工智能带来的人类灭绝风险应该成为全球优先事项。这个说法在人工智能社区中引发了辩论，一些人驳斥这些担忧是夸张的，而其他人支持谨慎的呼吁。

可怕的预测：人工智能的灾难潜力

人工智能安全中心概述了多种潜在的灾难场景，这些场景源于人工智能的滥用或失控增长。其中包括人工智能的武器化、通过人工智能生成的虚假信息破坏社会、以及对人工智能技术的日益垄断控制，从而使得普遍的监视和压制性审查成为可能。

也提到了“虚弱”的情景，人类可能过度依赖人工智能，就像电影《瓦力》中描绘的那样。这种依赖可能会使人类变得脆弱，引发严重的伦理和存在性问题。

人工智能领域备受尊敬、并公开倡导对超级智能AI保持谨慎的Geoffrey Hinton博士，与蒙特利尔大学计算机科学教授Yoshua Bengio一道，支持该中心的警告。

异议的声音：关于人工智能潜在危害的辩论

相反，人工智能社区中有一个重要部分认为这些警告是夸张的。纽约大学教授和Meta的AI研究员Yann LeCun曾经对这些“世界末日预言”表示沮丧。批评者认为，这样的灾难预测会分散人们对现有AI问题的注意力，例如系统偏见和伦理考虑。

普林斯顿大学计算机科学家Arvind Narayanan建议，当前的AI能力远远没有达到灾难场景的程度。他强调了关注当前AI相关危害的必要性。

同样，牛津大学AI伦理研究所的高级研究员Elizabeth Renieris分享了对近期风险的担忧，例如偏见、歧视性决策、虚假信息传播和社会分裂，这些都是由AI进步引起的。AI从人类创作的内容中学习的倾向，引发了人们对财富和权力从公众转移到少数私人实体的担忧。

寻求平衡：兼顾当前问题与未来风险

虽然承认观点的多样性，人工智能安全中心主任Dan Hendrycks强调，解决当前问题可以为减轻未来风险提供路线图。目标是平衡利用AI的潜力和安装保障措施以防止其滥用。

关于AI存在性威胁的辩论并非新鲜事。2023年3月，几位专家，包括埃隆·马斯克，签署了一封公开信，呼吁停止下一代AI技术的开发。对话自那时以来已经演变，最近的讨论将潜在风险与核战争的风险进行了比较。

前进之路：警惕和监管措施

随着AI在社会中发挥着越来越重要的作用，必须记住，这项技术是一把双刃剑。它为进步带来巨大希望，但若不加约束，也可能对人类生存构成风险。关于AI潜在危险的讨论凸显了全球合作的必要性，以定义道德准则，创建强大的安全措施，并确保AI的开发和使用采取负责任的方法。