研究人员称人类无法控制超级智能人工智能

任何人如果了解人工智能（AI），可能已经听说过它最终会从人类控制中挣脱的说法。这不仅仅是科幻电影中的主题，而是一个非常有可能的可能性，许多专家对此表示担忧。这些专家，包括科学家，主张我们应该开始为这种可能性做准备，并尽可能避免它。

现在，一个国际研究团队已经对这一想法进行了理论计算，并证明了不可能控制超级智能人工智能。该团队包括来自马克斯·普朗克人类发展研究所的人机中心的科学家，他们使用这些计算来展示超级智能人工智能系统的恐惧。

该研究最近发表在《人工智能研究杂志》上。人工智能研究杂志。

超级智能人工智能系统

超级智能人工智能系统的恐惧来自于这样的事实：这样的系统将远远优于人类。它不仅可以独立学习，还可以访问所有现有的数据并快速处理它们。

这样的事件可能导致超级智能人工智能占领所有现有的在线机器，并且虽然它可以并且会解决诸如治愈疾病和解决其他重大问题等问题，但失去控制的风险也很高。

曼努埃尔·塞布里安是该研究的共同作者，也是人机中心数字动员小组的负责人，位于马克斯·普朗克人类发展研究所。

“一个控制世界的超级智能机器听起来像科幻。但已经有一些机器可以在没有程序员完全理解的情况下独立执行某些重要任务。因此，问题是，这是否会在某个时候变得不可控制并对人类构成危险，”塞布里安说。

控制系统

关于控制这样的系统，有两种主要的思路。首先，人类可以通过限制超级智能人工智能访问某些数据源（如整个互联网）来限制其能力。该系统也可以在不与外界接触的情况下运行。然而，这个问题是，它将大大限制人工智能的潜力。

该系统将被控制，使其仅追求对人类有益的结果，可以通过将道德原则编程到其中来实现这一点。

该研究涉及开发一个理论的封闭算法，以防止超级智能人工智能在任何情况下对人类造成伤害。这可以通过首先创建人工智能行为的模拟并检测任何可能有害的行为来实现。尽管这一理论很有前景，但当前分析表明，无法开发出这样的算法。

伊亚德·拉赫万是人机中心的主任。

“如果你将问题分解为基本规则，从理论计算机科学来看，结果表明，一个命令人工智能不摧毁世界的算法可能会无意中停止其自身的操作。如果发生这种情况，你将不知道封闭算法是否仍在分析威胁，或者它是否已经停止以包含有害人工智能。实际上，这使得封闭算法无法使用，”拉赫万说。

另一个问题是，专家可能甚至不会意识到当超级智能机器达到这种状态时，主要是因为它将比人类更智能。