研究人员称人类无法控制超级智能 AI

任何人如果了解人工智能（AI），很可能已经听说过它最终会从人类控制中挣脱的说法。这不仅仅是科幻电影中的主题，而是一个非常有可能的可能性，这让该行业的许多专家感到担忧。这些专家中，包括科学家，在业内倡导我们应该为这种可能性做好准备，并尽可能地避免它。

现在，一个国际研究团队已经对这个想法进行了理论计算的支持。该团队包括来自马克斯·普朗克人类发展研究所的人机中心的科学家，他们利用这些计算来证明控制超级智能 AI是不可能的。

这项研究最近在 人工智能研究杂志上发表。

超级智能 AI 系统

人们担心超级智能 AI 系统的原因是这样的系统将远远优于人类。它不仅能够独立学习，还能够访问所有现有的数据并极快地处理它们。

这种事件可能会导致超级智能 AI 接管所有现有的在线机器，而它不仅能够并且会解决诸如治愈疾病和解决人类面临的其他重大问题等事情，但失去控制的风险也很高。

曼努埃尔·塞布里安是该研究的共同作者，也是人机中心数字动员小组的负责人，马克斯·普朗克人类发展研究所。

“一个控制世界的超级智能机器听起来像科幻。但已经有机器能够独立执行某些重要任务，而程序员并不完全理解它们是如何学习的。因此，问题是，这是否会在某个时候变得无法控制并对人类构成危险，” 塞布里安说。

控制系统

关于控制这样的系统，有两种主要的思路。首先，人类可以通过限制超级智能 AI 访问某些数据源（如整个互联网）来限制其能力。该系统也可以在不与外界接触的情况下运行。然而，这个问题是，它将大大限制 AI 的潜力。

该系统将通过仅允许其追求有利于人类的结果来控制，这可以通过将道德原则编程到其中来实现。

该研究涉及该团队开发了一种理论上的容纳算法，防止超级智能 AI 在任何情况下伤害人类。这可以通过首先创建 AI 行为的模拟并检测任何可能有害的行为来实现。尽管这种理论很有前景，但当前的分析表明，无法开发出这样的算法。

伊亚德·拉赫万是人机中心的主任。

“如果你将问题分解为基本规则，从理论计算机科学来看，结果表明，一个命令 AI 不要毁灭世界的算法可能会无意中停止其自身的操作。如果发生这种情况，你将无法确定容纳算法是否仍在分析威胁，或者它是否已经停止以容纳有害的 AI。实际上，这使得容纳算法无法使用，” 拉赫万说。

另一个问题是，专家可能甚至不会意识到超级智能机器何时达到这种状态，主要是因为它将比人类更智能。