人間は超知能AIを制御できないだろうと研究者らは語る

人工知能 (AI) について知っている人なら誰でも、人工知能 (AI) が最終的に人間の制御から解放されるという話を聞いたことがあるでしょう。 これは単なる SF 映画のテーマではなく、業界の多くの専門家が懸念している非常に強い可能性です。 科学者を含むこれらの専門家の多くは、私たちがこの可能性に備えて準備を始め、可能な限りあらゆる方法でそれを回避するよう主張しています。 

今回、国際的な研究者チームがこのアイデアを採用し、理論的な計算で裏付けました。 マックス・プランク人間開発研究所の人間と機械センターの科学者を含むチームは、これらの計算を使用して、超知能 AI を制御することがいかに不可能であるかを実証しました。 

この研究は最近、 人工知能研究ジャーナル. 

超知能AIシステム

超知能 AI システムに対する恐怖は、そのようなシステムが人間よりもはるかに優れているという事実と関係しています。 独自に学習できるだけでなく、既存のすべてのデータにアクセスし、非常に高速に処理することもできます。 

このような出来事は、超インテリジェント AI がオンラインの既存のすべてのマシンを追い越す可能性があり、病気の治療や人類が直面するその他の大きな問題の解決などのことを行う可能性があり、実際にそうする一方で、事態が制御不能になるリスクも高くなります。 

マヌエル・セブリアン氏は、この研究の共著者であり、マックス・プランク人間開発研究所人間と機械センターのデジタル動員グループのリーダーです。 

「世界を制御する超知能機械というと、SF のように聞こえます。 しかし、プログラマがどのように学習したかを完全に理解していなくても、特定の重要なタスクを独立して実行するマシンはすでに存在します。 したがって、これがいつか制御不能になり、人類にとって危険になるのではないかという疑問が生じます」とセブリアン氏は言う。 

システムの制御

このようなシステムの制御に関しては、XNUMX つの主要な考え方があります。 まず、人間は、インターネット全体など、一部のデータ ソースへのアクセスを制限することで、超知能 AI の機能を制限することができます。 このシステムは、外部世界と接触しなくても機能する可能性があります。 しかし、これの問題は、AIの可能性を大幅に制限してしまうことだ。

このシステムは、人類に利益をもたらす結果の追求のみを許可することによって制御され、これはシステムに倫理原則をプログラムすることによって実行できます。 

この研究には、チームがいかなる状況下でも超知能AIが人間に危害を加えるのを防ぐ理論的な封じ込めアルゴリズムを開発することが含まれていた。 これは、まず AI の動作のシミュレーションを作成し、有害な可能性のある動作を検出することで実現できます。 この有望な理論にもかかわらず、現在の分析では、そのようなアルゴリズムは開発できないことが示されています。 

Iyad Rahwan は人間と機械のためのセンターの所長です。

「この問題を理論上のコンピューターサイエンスの基本ルールに分解すると、世界を破壊しないよう AI に命令するアルゴリズムが、誤って AI 自身の動作を停止してしまう可能性があることがわかります。 これが起こった場合、封じ込めアルゴリズムがまだ脅威を分析しているのか、それとも有害な AI を封じ込めるために停止しているのかがわかりません。 これにより事実上、封じ込めアルゴリズムが使用できなくなります」とラーワン氏は言います。

もう XNUMX つの問題は、主に人間よりも知能が高いという事実により、超知能マシンがいつその状態に達するかに専門家が気づいていない可能性があることです。