人工智能领导者警告“灭绝风险”

在快速技术进步的时代，人工智能（AI）的崛起处于创新前沿。然而，这同样是人类智慧的奇迹，它既推动进步和便利，也引发了对人类未来的存在性担忧，如人工智能领袖所言。

人工智能安全中心最近发表了一份声明，得到了业界先驱如OpenAI的Sam Altman、Google DeepMind的Demis Hassabis和Anthropic的Dario Amodei的支持。情绪很明显——人工智能带来的人类灭绝风险应该成为全球优先事项。这个说法在人工智能社区中引发了辩论，一些人驳斥这些担忧是夸张的，而其他人支持谨慎的呼吁。

可怕的预测：人工智能的灾难潜力

人工智能安全中心概述了多种潜在的灾难场景，这些场景源于人工智能的滥用或失控增长。其中包括人工智能的武器化、通过人工智能生成的虚假信息破坏社会、以及对人工智能技术的日益垄断控制，从而使得普遍的监视和压制性审查成为可能。

也提到了“虚弱”的情景，人类可能过度依赖人工智能，就像电影《瓦力》中描绘的那样。这种依赖可能会使人类变得脆弱，引发严重的伦理和存在性问题。

人工智能领域的著名人物Geoffrey Hinton博士和蒙特利尔大学计算机科学教授Yoshua Bengio支持中心的警告。

异议的声音：关于人工智能潜在危害的辩论

相反，人工智能社区中有一个重要部分认为这些警告是夸张的。纽约大学教授和Meta的AI研究员Yann LeCun曾经对这些“世界末日预言”表示沮丧。批评者认为，这样的灾难预测会分散人们对现有AI问题的注意力，例如系统偏见和伦理考虑。

普林斯顿大学计算机科学家Arvind Narayanan建议，当前的AI能力远远没有达到灾难场景的程度。他强调了关注当前AI相关危害的必要性。

同样，牛津大学AI伦理研究所的高级研究员Elizabeth Renieris分享了对近期风险的担忧，例如偏见、歧视性决策、虚假信息传播和社会分裂，这些都是由AI进步引起的。AI的学习能力会引发人们对财富和权力从公众转移到少数私人实体的担忧。

平衡行为：在当前问题和未来风险之间找到平衡

虽然承认观点的多样性，人工智能安全中心主任Dan Hendrycks强调，解决当前问题可以为减轻未来风险提供路线图。目标是平衡利用AI的潜力和安装保障措施以防止其滥用。

关于AI存在性威胁的辩论并非新鲜事。2023年3月，几位专家，包括埃隆·马斯克，签署了一封公开信，呼吁停止下一代AI技术的开发。对话自那时以来已经演变，最近的讨论将潜在风险与核战争的风险进行了比较。

前进之路：警惕和监管措施

随着AI在社会中发挥着越来越重要的作用，必须记住，这项技术是一把双刃剑。它既带来进步的巨大希望，也带来如果不受控制就会带来存在性风险。关于AI潜在危险的讨论凸显了全球合作的必要性，以定义道德准则，创建强大的安全措施，并确保AI的开发和使用采取负责任的方法。