阿西莫夫的机器人三大法则如何影响人工智能

机器人三大法则在科幻世界中是标志性的，并已成为人工智能和机器人社区中设计一个完美系统的困难的象征。

为了充分理解这些三大法则的重要性，我们必须首先了解提出这些法则的天才——已故科幻作家艾萨克·阿西莫夫。然后，我们必须了解如何适应这些法则并使其演变以保护人类。

艾萨克·阿西莫夫——天才的崛起

艾萨克·阿西莫夫于1920年1月2日出生于俄罗斯，三岁时移民到美国。他在纽约布鲁克林长大，1939年毕业于哥伦比亚大学。他被认为是一位才华横溢、多产的作家，专注于科学和科幻。他的职业生涯中，他写了和/或编辑了500多本书。

阿西莫夫深受一些科幻界最具代表性的作家的启发。他在费城海军造船厂工作期间，遇到了两位同事，他们后来成为科幻史上最成功的作家之一：L. 斯普拉格·德·坎普 和 罗伯特·A. 海因莱因。

L. 斯普拉格·德·坎普是一位获奖作家，写了100多本书，是1930年代和1940年代科幻界的重要人物。他的著名作品包括“黑暗降临”（1939年）、“如果的轮子”（1940年）、“恐龙枪”（1956年）、“亚里士多德和枪”（1958年）和“曾经的辉煌”（1960年）。

罗伯特·A. 海因莱因可能是世界上最受欢迎的科幻作家。在他的职业生涯巅峰时期，他与艾萨克·阿西莫夫和 阿瑟·C. 克拉克 被认为是科幻“三巨头”。罗伯特·A. 海因莱因的一些最著名的作品包括“法恩汉姆的自由地”（1964年）和“向日落之外航行”（1987年）。当前一代人可能最了解他的是根据他的小说“星舰战将”（1959年）改编的电影。

被这些未来主义巨匠所环绕，激发了艾萨克·阿西莫夫开始他多产的写作生涯。阿西莫夫也在科学界受到高度尊重，经常被邀请作为公共演讲者，发表关于科学的演讲。

机器人三大法则

艾萨克·阿西莫夫是第一个在1941年出版的短篇小说“骗子！”中使用“机器人学”一词的人。

不久之后，他1942年的短篇小说“绕行”向世界介绍了他的机器人三大法则。这些法则是：

1. 机器人不得伤害人类，或通过不作为而让人类受到伤害。

2. 机器人必须遵循人类给予的命令，除非这些命令与第一法则相冲突。

3. 机器人必须保护自己的存在，除非这种保护与第一法则或第二法则相冲突。

这些法则的设计目的是提供有趣的情节，并且阿西莫夫继续创作了一系列37个科幻短篇和六部以正电子机器人为特色的小说。

其中一个短篇集名为“我，机器人”，后来被改编成2004年的电影。电影“我，机器人”由威尔·史密斯主演，背景设定在2035年的反乌托邦社会，电影中出现了高度智能的公共服务机器人，这些机器人遵循机器人三大法则。和故事一样，这部电影很快成为编程可能出错的寓言，以及编程任何高级人工智能都涉及很高的风险。

世界现在已经赶上以前的科幻，我们现在正在设计人工智能，这在某些方面比艾萨克·阿西莫夫曾经想象的任何东西都要先进，同时也更加有限。

机器人三大法则经常被引用在关于人工智能的一般讨论中。我们将快速探讨什么是人工智能的一般智能（AGI），以及机器人三大法则如何演变以避免未来的潜在问题。

人工智能的一般智能（AGI）

目前，我们在日常生活中遇到的大多数人工智能类型都被限定为“狭义人工智能”。这是一个具有非常具体和狭窄的效用函数的人工智能。例如，自动驾驶汽车可以在街道上行驶，但由于其“狭义”的局限性，人工智能不能轻松完成其他任务。狭义人工智能的另一个例子是图像识别系统，可以轻松识别和标记数据库中的图像，但很难适应其他任务。

人工智能的一般智能（AGI）通常被称为“AGI”，是一种类似于人类的智能，可以快速学习、适应、转向和在现实世界中运行。这是一种不狭隘的智能，可以适应任何情况并学习如何处理现实世界的问题。

应该说明，虽然人工智能正在以指数级的速度发展，但我们仍然没有实现AGI。当我们实现AGI仍然存在争议，每个人对实现AGI的时间表都有不同的答案。我个人同意雷·库兹韦尔（Ray Kurzweil）的观点，他是发明家、未来学家和《奇点临近》（The Singularity is Near）的作者，他认为我们将在2029年实现AGI。

这2029年的时间表是一个滴答的时钟，我们必须学会将一种类似于三大法则的规则书硬编码到人工智能中，但更先进，并且能够实际避免人类和机器人之间的现实世界冲突。

现代机器人法则

虽然机器人三大法则在文学中非常出色，但它们在复杂性方面明显不足，无法严肃地编程到机器人中。这是背后的情节。三大法则之间的冲突，或者至少是三大法则的解释，导致机器人故障、对人类进行报复或其他关键情节。

当前法则的主要问题是，始终遵循人类指令和始终保护自己的道德编程可能会相互冲突。机器人是否被允许在被主人虐待时自卫？

什么样的故障安全机制需要被编程？我们如何指示机器人无论如何都必须关闭，即使这样做会产生后果？如果机器人正在从虐待中拯救一个家庭主妇，而虐待她的丈夫命令机器人关闭，机器人应该自动关闭吗？

谁应该给机器人指令？随着能够从全球各地识别和定位目标的自主武器，机器人是否应该拒绝消灭目标的命令，如果它识别出目标是一个孩子？

换句话说，如果机器人由一个精神病人拥有和控制，机器人是否可以拒绝不道德的命令？问题很多，答案对任何个人来说都太难回答了。这就是为什么像未来生命研究所（The Future of Life Institute）这样的组织如此重要，讨论这些道德困境的时间是在真正的AGI出现之前。