アシモフのロボット工学の3つの法則がAIに与える影響

ロボット工学の3つの法則は、サイエンスフィクションの世界でアイコニックであり、AIやロボット工学コミュニティの中で、システムを適切に設計することの難しさを象徴するものとなっています。

これらの3つの法則の重要性を完全に理解するには、最初にこれらの法則を考え出した天才的な頭脳、故アイザック・アシモフについて学ぶ必要があります。次に、これらの法則をどのように適応させ、人間を保護するために進化させるかを理解する必要があります。

アイザック・アシモフ – 天才の誕生

アイザック・アシモフは、1920年1月2日にロシアで生まれ、3歳の時にアメリカ合衆国に移住しました。彼はニューヨークのブルックリンで育ち、1939年にコロンビア大学を卒業しました。彼は、科学とサイエンスフィクションに焦点を当てた、優れた才能と多作の作家として認められました。彼のキャリアの中で、500冊以上の本を書いたり編集したりしました。

アシモフは、サイエンスフィクションの世界で最もアイコニックな作家の一人に大きな影響を受けました。彼はフィラデルフィア海軍造船所で働き始め、そこで二人の同僚に出会いましたが、彼らはすぐにサイエンスフィクション史上最も成功した作家の一人になりました：L. スプレイグ・デ・キャンプとロバート・A. ハインライン。

L. スプレイグ・デ・キャンプは、100冊以上の本を書いた賞を受けた作家で、1930年代と1940年代のサイエンスフィクションで重要な人物でした。彼の最も人気のある作品には、「Darkness Fall」（1939年）、「The Wheels of If」（1940年）、「A Gun for Dinosaur」（1956年）、「Aristotle and the Gun」（1958年）、および「The Glory That Was」（1960年）があります。

ロバート・A. ハインラインは、キャリアの最盛期には、世界で最も人気のあるサイエンスフィクション作家の一人でした。アイザック・アシモフやアーサー・C・クラークとともに、「ビッグ・スリー」と呼ばれるサイエンスフィクション作家の一人でした。ロバート・A. ハインラインの最も人気のある作品には、「Farnham’s Freehold」（1964年）や「To Sail Beyond the Sunset」（1987年）があります。現在の世代は、彼の小説「Starship Troopers」（1959年）の映画化で彼を最もよく知っています。

これらの未来主義の巨人の中で育ったアシモフは、多作の作家としてのキャリアをスタートさせました。アシモフは科学界でも高く評価され、科学についての公開講演を行うために頻繁に呼ばれました。

ロボット工学の3つの法則

アシモフは、1941年に発表された短編小説「Liar!」で、「ロボット工学」という用語を初めて使用しました。

その後、1942年の短編小説「Runaround」で、ロボット工学の3つの法則を世界に紹介しました。法則は以下の通りです：

1. ロボットは、人間を傷つけたり、または不作為によって人間が危害を受けることを許すことはできません。

2. ロボットは、人間によって与えられた命令に従わなければなりません。ただし、その命令が第一法則と矛盾する場合は除きます。

3. ロボットは、第一法則または第二法則と矛盾しない限り、自身の存在を保護しなければなりません。

これらの法則は、興味深い物語の要素を提供するために設計され、アシモフは、ポジトロニック・ロボットを特徴とする37のサイエンスフィクション短編小説と6つの長編小説を制作しました。

これらの短編小説のコレクションのひとつ「I, Robot」は、2004年に映画化されました。「I,Robot」は、2035年のディストピアを舞台に、3つのロボット工学の法則に従って行動する高度な知能を持つ公共用ロボットを特徴としています。映画は、小説と同様に、プログラミングが間違った場合の危険性を示す寓話となりました。

世界は、アシモフが想像したサイエンスフィクションの世界に追いつきました。現在、想像を超えた高度なAIを設計していますが、同時に、アシモフが想像したものよりも多くの制限があります。

ロボット工学の3つの法則は、Artificial General Intelligence (AGI) の議論で頻繁に引用されます。ここでは、AGIとは何か、それとロボット工学の3つの法則がどのように進化しなければならないかを簡単に説明します。

Artificial General Intelligence (AGI)

現在、日常生活で出会うほとんどのAIは、狭いAIと呼ばれるタイプのAIです。これは、ユーティリティ関数が非常に具体的で狭いAIです。例えば、自動運転車は道路を走行できますが、その「狭い」制限により、他のタスクを簡単に実行できません。別の狭いAIの例は、データベース内の画像を簡単に識別してラベル付けできる画像認識システムですが、他のタスクに簡単に適応できません。

Artificial General Intelligence (AGI) は、人間のように、迅速に学習し、適応し、変化し、現実世界で機能できるAIです。これは、狭い範囲に限定されていない知能です。どのような状況にも適応し、現実世界の問題を解決する方法を学習できます。

現在、AIは指数関数的に進化していますが、まだAGIには達していません。AGIに到達する時期については、誰もが異なる答えを出しています。私は、著者であり未来学者のレイ・カーツワイルの見解に賛同しています。彼は、著書「The Singularity is Near」で、2029年までにAGIに到達するだろうと述べています。

2029年の時限爆弾が迫っています。私たちは、AGIに到達する前に、ロボット工学の3つの法則に相当する、しかしより高度なルールブックをAIに組み込む必要があります。そうすれば、人間とロボットの間での現実世界の対立を回避できるからです。

現代のロボット工学の法則

ロボット工学の3つの法則は、文学的には素晴らしいものでしたが、ロボットに真剣にプログラムするには、複雑さが不足しています。これは、短編小説や長編小説の物語の要素でした。3つの法則の間での対立、または少なくとも3つの法則の解釈は、ロボットが人間に反抗したり、重要な物語の要素になったりしました。

現在の法則の主な問題は、人間の命令に常に従うことと、常に自身を保護することの間での倫理的なプログラミングです。ロボットは、虐待的な所有者に反抗することを許可されるでしょうか?

どのような安全装置をプログラムする必要がありますか? ロボットに、どのような状況でも停止するように指示するにはどうすればよいのでしょうか? ロボットが虐待的な夫から虐待を受けている主婦を救っている場合、ロボットは夫の命令で自動的に停止するでしょうか?

誰がロボットに指示を与えるべきでしょうか? 自動化された兵器が、世界中から敵を識別して標的にできる場合、ロボットは、標的に子供が含まれている場合、命令を拒否することができますか?

つまり、ロボットが、サイコパスによって所有され、操作されている場合、ロボットは非道徳的な命令を拒否できますか? 質問は数多く、答えは、個人が答えるには難しすぎます。したがって、The Future of Life インスタティュートのような組織は非常に重要です。真のAGIが現れる前に、これらの道徳的なジレンマについて議論する時期です。