ソートリーダー

アシモフのロボット工学三原則が AI に与える影響

更新中 on 2021 年 2 月 15 日

ロボット工学の XNUMX 原則は、SF の世界では象徴的なものであり、AI およびロボット工学コミュニティ内で、確実なシステムを適切に設計することがいかに難しいかを示す象徴となっています。

これら XNUMX つの法則の重要性を完全に理解するには、まずこれらの法則を考案した天才的な頭脳、故 SF 作家アイザックアシモフについて学ばなければなりません。次に、私たちはこれらの法則を適応させ、人類を守るために進化させる方法を理解する必要があります。

アイザック・アシモフ – 天才の台頭

アイザック・アシモフはロシアで生まれました。 2年1920月1939日、XNUMX歳で米国に移住。彼はニューヨーク州ブルックリンで育ち、XNUMX 年にコロンビア大学を卒業しました。彼は科学とサイエンスフィクションに焦点を当てた才能豊かな作家として認められました。そのキャリアの中で、彼は 500 冊以上の本を執筆および/または編集しました。

アシモフは、SF 界で最も象徴的な作家の何人かに多大な影響を受けました。彼はフィラデルフィア海軍工廠で働き始め、そこで二人の同僚に出会った。彼らはすぐに推理小説の歴史の中で最も成功したSF作家と言われることになる二人である。 L. スプラーグデカンプ & ロバートA.ハインライン.

L. スプラーグデカンプは、100 冊以上の本を執筆し、1930 年代から 1940 年代の SF 界の主要人物であり、受賞歴のある作家です。彼の最も人気のある作品には、「Darkness Fall」（1939 年）、「The Wheel of If」（1940 年）、「A Gun for Dinosaur」（1956 年）、「Aristotle and the Gun」（1958 年）、「The Glory That」などがあります。だった」（1960年）。

ロバート・A・ハインラインは、キャリアの絶頂期においておそらく世界で最も人気のあるSF作家でした。アイザック・アシモフとともに、アーサー·C· クラーク彼は SF 作家の「ビッグ 1964」と考えられていました。ロバート A. ハインラインの最も人気のある作品には、「ファーナムのフリーホールド」 (XNUMX 年) や「に夕日を越えて航行」（1987）。おそらく現在の世代は、彼の小説の映画化作品「スターシップ・トゥルーパーズ」（1959 年）で彼を最もよく知っているでしょう。

これらの未来派の巨人たちに囲まれたことが、アイザック・アシモフに多作の執筆活動を開始するきっかけを与えました。アシモフは科学界でも高く評価されており、科学について講演する講演者として頻繁に予約されていました。

ロボット三原則

アイザック・アシモフは「ロボット工学」という用語を初めて使用した人物である「Liar!」という短編小説の中で1941年に出版されたもの。

その直後、1942 年の短編小説「Runaround」は彼のロボット工学の XNUMX 原則を世界に紹介しました。法律は次のとおりです。

1. ロボットは人間に危害を加えたり、不作為により人間に危害を加えたりしてはなりません。

2. ロボットは、第一法則に抵触する場合を除き、人間から与えられた命令に従わなければなりません。

3. ロボットは、第 XNUMX 法または第 XNUMX 法に抵触しない限り、自らの存在を保護しなければなりません。

これらの法則は興味深いプロットポイントを提供するように設計されており、アシモフはその後、陽電子ロボットをフィーチャーした 37 の SF 短編小説と XNUMX 冊の小説のシリーズを作成しました。

これらの短篇集の 2004 つである「アイ、ロボット」は、後に 2035 年に映画化されました。ウィル・スミス主演の映画「アイ、ロボット」は、XNUMX 年のディストピアを舞台にしており、三法のもとで活動する高度な知能を持つ公務員ロボットが登場します。ロボット工学の。物語とよく似たこの映画は、すぐにプログラミングがどのように失敗する可能性があるか、そしてどのような種類の高度な AI のプログラミングにも高いレベルのリスクが伴うことを示す寓話になりました。

世界は今や以前は SF の世界に追いつき、私たちは現在、アイザックアシモフが想像したものよりもある意味ではるかに高度な AI を設計していますが、同時にはるかに制限されたものでもあります。

ロボット工学の XNUMX つの法則は、汎用人工知能 (AGI) の議論で頻繁に参照されます。 AGI とは何か、また、将来の潜在的な問題を回避するにはロボット工学の XNUMX つの法則がどのように進化する必要があるかについて簡単に説明します。

人工知能（AGI）

現在、私たちが日常的に遭遇するAIのほとんどは「狭いAI」として数値化されています。これは、効用関数が非常に特殊で狭いタイプの AI です。たとえば、自動運転車は道路を移動できますが、その「狭い」制限により、AI は他のタスクを簡単に完了できません。狭義の AI の別の例としては、データベース内の画像を簡単に識別してラベル付けできる画像認識システムがありますが、別のタスクに簡単に適応させることはできません。

一般に「AGI」と呼ばれる汎用人工知能は、人間と同様に、現実世界で迅速に学習、適応、旋回して機能することができる AI です。それは範囲が狭くない一種の知性であり、どんな状況にも適応し、現実世界の問題に対処する方法を学ぶことができます。

AI は指数関数的なペースで進歩していますが、私たちはまだ AGI を達成していません。 AGI がいつ達成されるかについては議論の余地があり、タイムラインについては人によって答えが異なります。私は個人的に、発明家、未来学者、そして『シンギュラリティは近づいている』の著者であるレイ・カーツワイル氏の見解に同意しています。 2029年までにAGIを達成.

この 2029 年のタイムラインこそが時を刻む時計であり、私たちはある種のルールブックを AI にハードコーディングする方法を学ばなければなりません。それは XNUMX つの法律に似ているだけでなく、より高度で、実際に現実世界を回避できるものです。人間とロボットの対立。

現代のロボット工学の法則

ロボット工学の XNUMX つの法則は文学としては驚異的でしたが、ロボットを本格的にプログラムするには高度さが著しく欠けています。結局のところ、これが短編小説や小説の背後にあるプロットポイントでした。 XNUMX つの法律間の矛盾、または少なくとも XNUMX つの法律の解釈により、ロボットのメルトダウン、人間への報復、またはその他の重要なプロットポイントが発生しました。

現在の法律の主な問題は、常に人間の指示に従うという倫理規定と常に自分自身を守るという倫理規定が矛盾する可能性があることです。結局のところ、ロボットを虐待する所有者からロボットは身を守ることができるのでしょうか?

どのような種類のフェールセーフメカニズムをプログラムする必要がありますか? どのような影響があってもロボットを停止するようにロボットに指示するにはどうすればよいでしょうか? ロボットが主婦を虐待から救う過程にある場合、虐待する夫から指示されたらロボットは自動的に電源をオフにする必要があるでしょうか?

ロボットに指示を与えるのは誰ですか? 世界中の敵を識別して標的にすることができる自律型兵器を使用すると、ロボットは、標的が子供であると識別した場合、標的を排除する命令を拒否できるはずでしょうか?

言い換えれば、ロボットがサイコパスによって所有され、制御されている場合、ロボットは不道徳な命令を拒否できるでしょうか? 質問は数多くあり、その答えは個人にとっては難しすぎます。このため、次のような組織が生命の未来研究機関は非常に重要であるため、真の AGI が出現する前に、これらの道徳的ジレンマを議論する時期が来ています。