阿西莫夫的机器人三定律如何影响人工智能

机器人三定律在科幻世界中具有标志性意义，并已成为人工智能和机器人界的一个象征，表明正确设计一个万无一失的系统是多么困难。

为了充分理解这三个定律的重要性，我们必须首先了解构想这些定律的杰出思想者——已故科幻小说作家艾萨克·阿西莫夫。 然后，我们必须了解如何适应这些法律并使其不断发展以保护人类。

艾萨克·阿西莫夫——天才的崛起

艾萨克·阿西莫夫出生于俄罗斯 2 年 1920 月 1939 日，三岁时移民到美国。 他在纽约布鲁克林长大，XNUMX 年毕业于哥伦比亚大学。  他被认为是一位才华横溢、多产的作家，专注于科学和科幻小说。 在他的职业生涯中，他撰写和/或编辑了 500 多本书。

阿西莫夫深受科幻小说界一些最具代表性的作家的启发。 他开始在费城海军造船厂工作，在那里他遇到了两位同事，他们很快就成为推理小说史上最成功的科幻作家中的两位： 斯普拉格·德·坎普 和 Robert A. Heinlein.

L. Sprague de Camp 是一位屡获殊荣的作家，撰写了 100 多本书，是 1930 世纪 1940 年代和 1939 年代科幻小说的重要人物。 他最受欢迎的作品包括《黑暗降临》（1940）、《如果之轮》（1956）、《恐龙之枪》（1958）、《亚里士多德与枪》（1960）和《荣耀》是”（XNUMX）。

罗伯特·A·海因莱因 (Robert A. Heinlein) 在其职业生涯的鼎盛时期很可能是世界上最受欢迎的科幻小说作家。 与艾萨克·阿西莫夫一起， 阿瑟C. 克拉克 他被认为是科幻小说作家的“三巨头”。 罗伯特·A·海因莱因 (Robert A. Heinlein) 最受欢迎的作品包括《法纳姆的永久业权》(Farnham's Freehold) (1964) 和《至 扬帆超越日落”（1987）。 当前这一代人对他最了解的可能是改编自他的小说《星河战队》（1959）的电影。

被这些未来主义巨人包围着，激发了伊萨克·阿西莫夫开启他多产的写作生涯。 阿西莫夫在科学界也受到高度尊重，经常被任命为公共演讲者，发表有关科学的演讲。

机器人三定律

艾萨克·阿西莫夫是第一个使用“机器人”一词的人 在一个名为“骗子！”的短篇小说中该书于 1941 年出版。

不久之后，他 1942 年的短篇小说《Runaround》向世界介绍了他的机器人三定律。 法律是：

1. 机器人不得伤害人类，或因不作为而让人类受到伤害。

2. 机器人必须服从人类发出的命令，除非这些命令与第一定律相冲突。

3.机器人必须保护自己的存在，只要这种保护与第一或第二定律不冲突。

这些定律旨在提供有趣的情节点，阿西莫夫随后创作了一系列 37 个科幻短篇故事和 XNUMX 部以正电子机器人为主题的小说。

其中一部名为《我，机器人》的短篇小说集后来于 2004 年被改编成电影。由威尔·史密斯主演的《我，机器人》电影以 2035 年的反乌托邦为背景，以高度智能的公务员机器人为主角，在三大法则下运作机器人技术。 就像故事一样，这部电影很快就变成了一个关于编程如何出错的寓言，并且对任何类型的高级人工智能进行编程都涉及高风险。

世界现在已经赶上了以前的科幻小说，我们现在正在设计的人工智能在某些方面比伊萨克·阿西莫夫想象的要先进得多，但同时也更加有限。

机器人三定律在通用人工智能（AGI）的讨论中经常被引用。 我们将快速探讨什么是通用人工智能，以及机器人学三大定律必须如何发展以避免未来出现潜在问题。

人工智能（AGI）

目前，我们日常遇到的大多数人工智能类型都被量化为“狭义人工智能”。 这是一种实用功能非常具体且狭窄的人工智能。 例如，自动驾驶汽车可以在街道上行驶，但由于其“狭窄”限制，人工智能无法轻松完成其他任务。 狭义人工智能的另一个例子是图像识别系统，它可以轻松识别和标记数据库中的图像，但无法轻松适应其他任务。

通用人工智能通常被称为“AGI”，是一种类似于人类的人工智能，可以在现实世界中快速学习、适应、枢转和发挥作用。 这是一种范围并不狭窄的智能，它可以适应任何情况并学习如何处理现实世界的问题。

应该指出的是，虽然人工智能正在以指数级的速度发展，但我们仍然没有实现通用人工智能。 我们何时实现通用人工智能尚有争议，每个人对于时间表都有不同的答案。 我个人赞同雷·库兹韦尔（Ray Kurzweil）的观点，他是发明家、未来学家，也是《奇点临近》的作者，他相信我们将会 到 2029 年实现 AGI.

2029年的时间线就是一个滴答作响的时钟，我们必须学会将一种规则手册硬编码到AI中，它不仅类似于三大定律，而且更先进，能够真正避免现实世界人类与机器人之间的冲突。

现代机器人定律

虽然机器人学三大定律在文献中是非凡的，但它们在认真编程到机器人中的复杂性上明显缺乏。 这毕竟是短篇小说和长篇小说背后的情节。 这三个定律之间的冲突，或者至少是对这三个定律的解释导致了机器人的崩溃、对人类的报复或其他关键情节点。

现行法律的主要问题是始终遵守人类指令和始终保护自身的道德规划可能会发生冲突。 毕竟，机器人是否可以保护自己免受滥用它的主人的侵害？

需要对什么类型的故障安全机制进行编程？ 我们如何指示机器人无论后果如何都必须关闭？ 如果机器人正在拯救家庭主妇免遭虐待，如果施虐丈夫指示机器人自动关闭，会发生什么情况？

谁应该向机器人发出指令？ 有了能够识别和瞄准全球敌人的自主武器，如果机器人识别出目标是儿童，它是否应该能够拒绝消灭目标的命令？

换句话说，如果机器人由精神病患者拥有和控制，机器人可以拒绝不道德的命令吗？ 问题数不胜数，而答案对于任何人来说都难以回答。 这就是为什么诸如此类的组织 生活的未来 研究所是如此重要，在真正的通用人工智能出现之前，现在是讨论这些道德困境的时候了。