超知能AIシステムを人間が制御できないと研究者は言っている

人工知能（AI）について知っている人は、いつかAIが人間の制御から脱却するという話を聞いたことがあるでしょう。これは、サイエンスフィクションの映画の中での話題だけではありません。業界の専門家たちが懸念している、非常に強い可能性です。多くの専門家、科学者たちは、我々がこの可能性に備え、可能な限りそれを避けるべきだと主張しています。

現在、国際的な研究チームがこのアイデアを取り上げ、理論的な計算で裏付けました。マックス・プランク人間発達研究所のCenter for Humans and Machinesに所属する科学者たちが含まれるこのチームは、計算を使用して、超知能AIを制御することは不可能であることを示しました。

この研究は最近、Journal of Artificial Intelligence Researchに掲載されました。

超知能AIシステム

超知能AIシステムに対する懸念は、そんなシステムが人間よりも遥かに優れていることです。独立して学習するだけでなく、既存のすべてのデータにアクセスし、非常に高速に処理することができます。

そのような出来事は、超知能AIがすべての既存のマシンをオンラインで乗っ取ることにつながる可能性があります。人間の病気を治し、他の重大な問題を解決することができますが、制御不能になるリスクも高くなります。

マヌエル・セブリアンは、この研究の共著者であり、Center for Humans and Machinesのデジタル・モビリゼーション・グループのリーダーです。

「世界を制御する超知能マシンは、サイエンスフィクションのようだ。しかし、プログラマーが完全に理解していない方法で、特定の重要なタスクを実行するマシンはすでに存在する。したがって、将来、制御不能で人間にとって危険なものになる可能性がある」とセブリアンは述べています。

システムの制御

そんなシステムを制御するには、2つの主要な考え方があります。第一に、人間は、インターネット全体へのアクセスを制限することで、超知能AIの能力を制限することができます。システムは外部との接触なしに機能することもできます。しかし、問題は、それがAIの潜在能力を大幅に制限することになるということです。

システムは、人間に利益をもたらす結果を追求することを許可することで制御されます。これは、倫理的な原則をプログラミングすることで実現できます。

研究チームは、超知能AIが人間に危害を加えないようにするための理論的な包含アルゴリズムを開発しました。これは、AIの動作のシミュレーションを作成し、危害を加える可能性のある動作を検出することで実現できます。ただし、現在の分析では、そんなアルゴリズムを開発することは不可能であることがわかりました。

イアド・ラフワンは、Center for Humans and Machinesのディレクターです。

「問題を基本的なルールに分解すると、理論的な計算機科学の基本ルールから、AIに世界を破壊しないように命令するアルゴリズムが、実際には自身の動作を停止させる可能性があることがわかります。如果、それが起こった場合、包含アルゴリズムがまだ脅威を分析しているか、または有害なAIを包含するために停止しているかを判断することはできません。実際には、包含アルゴリズムは使用不能になる」とラフワンは述べています。

別の問題は、専門家たちが、超知能マシンがその状態に達したことを認識することができない可能性があることです。主に、それが人間よりも遥かに賢いからです。