人工智能是否构成生存威胁？

当讨论人工智能（AI）时，一个常见的辩论是AI是否构成生存威胁。答案需要理解机器学习（ML）背后的技术，并认识到人类有将AI人格化的倾向。我们将探讨两种不同类型的AI：狭义人工智能（ANI），它目前可用并引起了人们的担忧，以及与AI末日情景最常相关的威胁，即通用人工智能（AGI）。

狭义人工智能威胁

要了解什么是ANI，只需了解所有当前可用的AI应用都是ANI的形式。这些是具有狭窄专业领域的AI领域，例如自主车辆使用的AI旨在将车辆从A点移动到B点。另一种ANI可能是优化玩棋的程序，即使该程序通过强化学习不断改进自己，但它永远无法操作自主车辆。

由于ANI系统专注于其负责的操作，因此它们无法使用通用学习来接管世界。这是好消息；坏消息是，由于其依赖于人类操作员，AI系统容易受到偏见数据、人类错误甚至恶意人类操作员的影响。

AI监控

可能没有比人类使用AI侵犯隐私更大的危险，甚至在某些情况下使用AI监控完全阻止人们自由移动。 中国、俄罗斯和其他国家在COVID-19期间通过法规，使他们能够监控和控制其人口的行动。这些法律一旦实施，就很难撤销，尤其是在具有独裁领导人的社会中。

在中国，摄像头安装在人们的家外，甚至在一些情况下安装在家内。每次家庭成员离开家时，AI都会监控到达和离开的时间，如果必要，会提醒当局。更糟糕的是，借助面部识别技术，中国能够跟踪每个被摄像头识别的人的行动。这为控制AI的实体提供了绝对的权力，而对其公民来说，则没有任何补救措施。

这种情景之所以危险，是因为腐败的政府可以仔细监控记者、政治对手或敢于质疑政府权威的任何人的行动。很容易理解为什么记者和公民会在每个行动都被监控的情况下犹豫批评政府。

幸运的是，许多城市正在努力防止面部识别技术渗透到他们的城市中。值得注意的是，俄勒冈州波特兰最近通过了一项法律，阻止面部识别技术在城市中不必要地使用。虽然这些法规的变化可能没有被公众注意到，但在未来，这些法规可能会成为提供某种自治和自由的城市与感到压迫的城市之间的区别。

自主武器和无人机

超过4500名AI研究人员呼吁禁止自主武器，并创建了 禁止致命自主武器 网站。该小组有许多著名的非营利组织作为签署者，包括 人权观察、大赦国际 和 生命未来研究所，后者拥有一个包括埃隆·马斯克、尼克·博斯特罗姆和斯图尔特·拉塞尔在内的科学顾问委员会。

在继续之前，我将分享来自生命未来研究所的一句话，它最好地解释了为什么有明确的担忧：“相比之下，半自主武器需要人类监督，以确保每个目标都是合法和道德上合理的，完全自主的武器在没有人类干预的情况下选择和攻击目标，代表了对致命伤害的完全自动化。”

目前，智能炸弹部署时会由人类选择目标，然后使用AI来规划轨迹并击中目标。问题是，当我们决定完全从等式中删除人类时会发生什么？

当AI选择需要针对的人以及可以接受的附带损害类型时，我们可能已经越过了一个不可逆转的点。这就是为什么这么多AI研究人员反对研究任何与自主武器有关的事情的原因。

阻止自主武器研究存在多个问题。第一个问题是，即使像加拿大、美国和大多数欧洲国家这样的先进国家同意禁止，仍然不能保证像中国、朝鲜、伊朗和俄罗斯这样的流氓国家会遵守。第二个更大的问题是，设计用于一个领域的AI研究和应用可能会在一个完全无关的领域中使用。

例如，计算机视觉不断改进，并且对于开发自主车辆、精确医学和其他重要用例至关重要。它对于普通无人机或可以改装成自主无人机的无人机也同样重要。开发无人机来监测和扑灭森林火灾的潜在用例是完全消除消防员的危险。这需要开发能够飞入危险区域、在低或零能见度下导航并精确投放水的无人机。利用相同的技术开发设计用于有选择性攻击人类的自主无人机并不是一个遥远的可能性。

这是一个危险的困境，目前还没有人完全理解开发或阻止自主武器的影响。尽管如此，这仍然是我们需要密切关注的事情，增强 举报人保护 可能会使该领域的人员能够报告滥用行为。

除了流氓操作员之外，如果AI偏差进入设计为自主武器的AI技术中会发生什么？

AI偏差

AI偏差是AI最不被报道的威胁之一。这很容易理解，因为大多数偏差是无意的。AI偏差发生在AI审查由人类提供的数据时，使用数据中的模式识别，AI会得出错误的结论，这可能会对社会产生负面影响。例如，一个被提供了过去一个世纪关于如何识别医疗人员的文献的AI可能会得出不想要的性别歧视结论，即 女性总是护士，男性总是医生。

更危险的情景是，当 用于判刑的AI偏向于对少数族裔判处更长的监禁期。AI的犯罪风险评估算法只是在研究被输入系统的数据中的模式。这些数据表明，历史上某些少数族裔更有可能再次犯罪，即使这只是由于受到警察种族歧视影响的不良数据集。偏见的AI然后强化了负面的人类政策。这就是为什么AI应该是一个指导方针，而不是法官和陪审团的原因。

回到自主武器，如果我们有一个偏向某些族裔的AI，它可能会根据偏见的数据选择针对某些个人，并且可能会确保任何类型的附带损害都不会影响某些人群。这例如，当针对一个恐怖分子时，在攻击之前等待恐怖分子被穆斯林周围的人所包围，而不是基督徒。

幸运的是，已经证明具有多样化团队设计的AI不太容易出现偏差。这是企业在可能的情况下尝试聘用多样化和全面团队的充分理由。

通用人工智能威胁

应该说明，虽然AI正在以指数级的速度发展，但我们尚未达到AGI。当我们将达到AGI仍然存在争议，每个人都有不同的时间表。我个人赞同雷·库兹韦尔的观点，他是发明家、未来学家和《奇点临近》一书的作者，他认为我们将在 2029年实现AGI。

AGI将是世界上最具变革性的技术。在AI达到人类智能水平的几周内，它将达到 超智能，即远远超过人类的智能。

拥有这种级别的智能，AGI可以快速吸收所有人类知识，并使用模式识别来识别生物标志物，这些标志物会引起健康问题，然后使用数据科学来治疗这些疾病。它可以创建纳米机器人进入血液循环以针对癌细胞或其他攻击向量。AGI能够完成的任务是无穷无尽的。我们之前已经探讨了一些 AGI的益处。

问题是，人类可能无法控制AI。埃隆·马斯克这样描述：“通过人工智能，我们正在召唤恶魔。”我们是否能够控制这个恶魔，这是问题所在。

实现AGI可能是根本不可能的，直到AI离开模拟环境，真正地与我们的开放世界互动。自我意识无法被设计，而是被认为是当AI具有多个输入流的机器人身体时，可能会出现一种 涌现的意识。这些输入可能包括触觉刺激、语音识别和增强的自然语言理解，以及增强的计算机视觉。

高级AI可能被编程为具有利他主义动机，并希望拯救地球。不幸的是，AI可能会使用 数据科学，甚至是一个 决策树，以得出不想要的错误逻辑，例如评估为必要的灭绝人类，或消除部分人类人口以控制人口过剩。

在构建一个将远远超过人类智能的AI时，需要仔细思考和商讨。已经探索了许多噩梦场景。

尼克·博斯特罗姆教授在《回形针最大化器》论证中认为，如果一个配置错误的AGI被指示生产回形针，它将消耗地球上的所有资源来生产这些回形针。虽然这似乎有点牵强，但更为务实的观点是，AGI可能会被一个流氓国家或具有糟糕道德的企业控制。该实体可能会训练AGI以最大化利润，并在这种情况下，具有糟糕的编程和零遗憾，它可能会选择破产竞争对手、破坏供应链、黑客股票市场、清算银行账户或攻击政治对手。

这就是我们需要记住，人类倾向于将AI人格化的时候。我们不能给AI赋予人类的情感、欲望或需求。虽然有残忍的人类会为了乐趣而杀人，但没有理由相信AI会容易受到这种行为的影响。人类甚至无法想象AI如何看待这个世界。

相反，我们需要教导AI始终对人类保持敬畏。AI应该始终让人类确认任何设置的更改，并且应该始终有一个故障安全机制。然而，人们认为AI会简单地在云中复制自己，并且在我们意识到它是自我意识的之前，可能已经为时已晚。

这是为什么开源尽可能多的AI并对这些问题进行理性的讨论如此重要的原因。

总结

AI面临着许多挑战，幸运的是，我们仍然有很多年来集体弄清楚我们希望AGI走的未来道路。我们应该在短期内专注于创建一个多样化的AI工作队伍，包括与男性一样多的女性和具有不同观点的多个族裔。

我们还应该为正在从事AI研究的研究人员创建举报人保护，并通过法规来防止对国家或公司范围内的监控进行广泛的滥用。人类有一个千载难逢的机会，借助AI改善人类的状况，我们只需要确保我们仔细地创建一个社会框架，以最大限度地发挥积极作用，同时减轻消极影响，包括生存威胁。