チャールズ・J・サイモン、著者、コンピューターは反乱するか？- インタビュー・シリーズ

チャールズ・J・サイモン、BSEE、MSCS、全国的に認められた起業家、ソフトウェア開発者、管理者。電気工学とコンピューター科学の両方の分野で幅広い経験と技術を持つサイモン氏は、AIとCAD（2世代のCAD）を含む多くのコンピューター関連の業界で先駆的な仕事をしてきました。

彼はまた、『コンピューターは反乱するか？』の著者であり、この本では、将来のArtificial General Intelligence（AGI）の可能性について深く検討しています。

あなたが最初にAI、特にAGIに惹かれたのは何ですか？

私は、1950年にアラン・チューリングが提出した「機械は思考できるか？」という質問に最初に触れたときから、この質問に魅了されていました。現在の答えは明らかに「いいえ」ですが、科学的な理由ではありません。私は1980年代後半の初期のニューラルネットワークブームに参加し、以来AIは大きな進歩を遂げてきました。しかし、30年の間に、理解は得られませんでした。多くのアプリケーションを新しいレベルの有用性に導く能力が必要です。

あなたはMITのAI専門家ロドニー・ブルックスの意見を共有しています。彼は、「環境との相互作用、つまりロボットの身体がない限り、機械はAGIを示すことはない」と述べています。」これは、ロボットの身体からの入力が不足している場合、AIはAGIの能力を開発することはないことを意味します。コンピューター・ビジョン以外に、AGIを開発するためにどのような入力が必要ですか？

今日のAIは、物理的な存在、時間の経過、因果関係などの基本的な概念を理解する必要があります。これらの概念は、3歳の子どもであれば誰でも理解できるものです。子どもは、玩具に触れて操作したり、家の中を移動したり、言語を学んだりして、これらの概念を学びます。より多くの感覚や能力を持つと、AGIの問題を解決するのが容易になります。

私のシミュレーターは、嗅覚や味覚などの感覚も提供できます。これらの感覚がAGIに重要かどうかはまだわかりません。

あなたは、「知能の重要な要素は、知能の外部にある環境である」と述べています。例えば、「IBMのワトソンが「もの」という概念を理解することは不合理である」と述べています。」これは、特に自然言語処理における現在の狭いAIの限界を強調しています。AI開発者は、このAIの限界をどのように克服することができますか？

重要な要素は、知識を言語や画像、触覚以外の抽象的な「もの」として保存することです。例えば、「赤いボール」というフレーズを考えてみましょう。これらの言葉の意味を理解するのは、視覚や触覚の経験によるものです。投げたり、バウンドさせたり、蹴ったりするなどの関連する行動も、フレーズを聞くときに思い浮かびます。言語や画像に特化したAIシステムは、これらの理解の他のレベルを欠いています。

私は、脳のような構造を持つユニバーサル・ナレッジ・ストアを実装しました。ここでは、「もの」はニューロンに相当し、他の「もの」への属性参照が多数あります。参照はシナプスに相当します。したがって、「赤」と「ボール」は個別の「もの」であり、「赤いボール」は「赤」と「ボール」への属性参照を持つ「もの」です。「赤」と「ボール」は、それぞれの言葉への参照を持ちます。これらの言葉は、他の「もの」への参照を持ちます。言葉の発音やスペルなど、言葉の意味を定義するものです。

あなたは、脳のシミュレーションによる一般知能はまだ遠い未来であると結論付けていますが、AGIは比較的近い将来に実現する可能性があります。したがって、人間の脳のシミュレーションや再現を目指すのを止めて、AGIの開発に集中すべきですか？

現在のディープラーニングや関連技術は、適切なアプリケーションには優れていますが、理解につながるものではありません。次のステップを踏むには、3歳の子どもが解決できる問題を解決するための技術を追加する必要があります。

コンピューターの固有の能力を活用することで、生物学的な同等のものやそのシミュレーションよりもはるかに効率的なものを作ることができます。例えば、脳はシナプスの化学で情報を保存するのに10〜100ミリ秒かかりますが、コンピューターは単一のメモリ・サイクルで新しいシナプスの値を保存できます。つまり、1億倍速くなります。

AGIソフトウェアを開発する際に、私は生物学的なニューラル・シミュレーションとより効率的なアルゴリズムの両方を行ってきました。ユニバーサル・ナレッジ・ストアを使用して、シミュレートされた生物学的なニューロンでシミュレートすると、各「もの」には最低10個のニューロンが必要であり、通常はさらに多くのニューロンが必要です。これにより、人間の脳の容量は約1億〜1億個の「もの」になります。しかし、AGIが1万個の「もの」だけを理解していても、賢いように見えるかもしれません。現代の高性能デスクトップ・コンピューターでも実現可能です。

ロボットの時間のうち、世界への反応と処理に費やす時間と、想像と計画に費やす時間の割合はどうあるべきですか？AGIにとって想像力の重要性について簡単に説明してください。

私たちは多くのことを想像できますが、実際に行動するのは、内部の目標に合致するものだけです。想像力の本当の力は、未来を予測する能力にあります。3歳の子どもは、別の部屋にある目標に到達するために、どのような動きのシーケンスが必要かを理解できます。大人も、他人に与える言葉の影響を予測できます。

AGIも、純粋に反応的なものではなく、複雑な行動を想像し、最も適切なものを選択することで利益を得ます。

あなたは、アシモフのロボット工学の3つの法則はあまりに単純で曖昧であると述べています。書籍の中で、ロボットにプログラムするための法則のアイデアをいくつか共有しました。どの法則が最も重要であると思いますか？

新しい「ロボット工学の法則」は、AGIが現れるにつれて、数年かけて発展するでしょう。いくつかのスターターを提案します。

1. 内部の知識と環境の理解を最大化する。
2. その知識を他者（AGIと人間の両方）に正確に共有する。
3. AGIと人間の全体的な幸福を最大化する（個人のみではなく）。

あなたはチューリング・テストとその概念にいくつかの問題があります。チューリング・テストがどのように欠陥があるかについて説明してください。

チューリング・テストは、50年間にわたって一般知能のためのアドホックな定義として私たちを助けてきました。しかし、AGIが近づくにつれて、定義を明確にする必要があります。チューリング・テストは、実際には人間らしさをテストするものであり、知能をテストするものではありません。コンピューターが人間であるという欺瞞を維持できる時間が長いほど、テストの成績が良くなります。明らかに、「あなたはコンピューターですか？」や「あなたの好きな食べ物は何ですか？」などの質問は、AGIが欺瞞を目的としたものでなければ、すぐにばれます。

さらに、チューリング・テストは、理解の基盤がないチャットボットなどの、限られた価値しかない分野でのAIの開発を促してきました。

あなたのバージョンのチューリング・テストでは、どのように違うアプローチをとるでしょうか？

より良い質問は、時間、空間、因果関係、予測などの理解を特に探ることができます。心理学、神経科学、AIの基礎がないランダムな質問ではなく、次のような質問です。

1. あなたは今何を見ていますか？3フィート後ろに引いても、どのような違いを見ますか？
2. もし私が[行動]をとったら、あなたの反応は何になりますか？
3. もしあなたが[行動]をとったら、私の反応は何になりますか？
4. あなたは[オブジェクト]に似た3つのものを名前を付けることができますか？

これらの質問に対する回答は、人間の回答と区別できないかどうかではなく、実体の経験に基づいて知能的な回答かどうかで評価されるべきです。

あなたは、破壊的な活動を要求された場合、適切にプログラムされたAGIは単に拒否するだろうと述べています。AGIが適切にプログラムされていることを保証するには、どうすればよいですか？

意思決定は目標に基づいて行われます。想像力と組み合わせると、さまざまな可能な行動の結果を考慮し、目標を最もよく達成するものを選択します。人間の目標は、進化した本能と経験によって設定されます。AGIの目標は、開発者によって完全に設定されます。AGIの目標が人間の目標と一致するようにする必要があります。目標の例は先ほど挙げました。

あなたは、AGIの創造は避けられないと述べています。AGIの到来についてのあなたの最良の見積もりは何ですか？

AGIの側面は、来る10年以内に現れ始めるでしょう。しかし、AGIが到来したとみなされるまでには、人間の能力を大幅に上回るまでに2〜3十年かかります。

AGIは、人間が知覚する意識と同じレベルの意識を持つでしょうか？

意識は、内部の感覚に基づく一連の行動（観察可能）として現れます。AGIは、賢い決定を下すために、行動を示す必要があります。しかし、私は、内部の感覚は、主に感覚ハードウェアと本能に依存しているため、AGIが人間と同じ内部の感覚を持つことはないと主張します。

同じことが感情や自由意志の感覚にも当てはまります。決定を下す際に、自由意志を信じることは、決定の全てに浸透します。自由意志を持たないと、単に反応します。AGIが思慮深い決定を下すには、自らの決定能力を認識する必要があります。

最後の質問ですが、AGIは良い結果をもたらす可能性が高いか、悪い結果をもたらす可能性が高いか考えていますか？

私は、AGIが私たちを進歩させる手段となり、宇宙についての多くの疑問に答えてくれると楽観的に考えています。鍵は、AGIとの関係を定義し、目標を決めることです。如果、最初のAGIを征服と富のためのツールとして使用することを選択した場合、将来的にそれらが私たちに対して征服と富のためのツールになることを期待すべきではありません。如果、AGIを知識、探索、平和のツールとして選択する場合、それが私たちに返されるでしょう。選択は私たちにあります。

AGIの将来の可能性を探るこの素晴らしいインタビューに感謝します。さらに詳しく知りたい読者は、『コンピューターは反乱するか？』を読むか、チャールズのウェブサイト futureai.guru を訪問してください。