ソートリーダー2 months ago
人間のように考える：AIは類推的思考を発達させられるか
新しいものに直面したとき、人間は本能的に比較を試みます。原子について学ぶ子供は、電子が「惑星が太陽の周りを回るように」原子核の周りを回っていると聞くかもしれません。起業家は、自分のスタートアップを「ペットグルーミングのUber」と表現するかもしれません。科学者は専門家でない聴衆に、脳が情報を「コンピューターのように」処理すると説明するかもしれません。 この精神的な飛躍――あるものが別のものとその深い構造においてどのように類似しているかを見ること――は、類推的思考と呼ばれます。そしてそれは、現在の形態における人間の知性とAIを分ける要素かもしれません。もし我々が人工汎用知能――これまで捉えどころのないAIの聖杯――を開発しようとするならば、機械が類推的に考えることを学ぶことがそもそも可能なのかどうかを解明しなければなりません。その重要性はこれ以上なく高いものです。もし答えが「ノー」ならば、最も洗練されたAIシステムでさえ、永遠に単なる高級な計算機以上のものにはなりません。それらは、訓練データの並べ替え以上のことを必要とする問題を解決することができないでしょう。 理解のアーキテクチャ 類推的思考は、表面的な類似性ではなく、構造的なレベルで機能します。例えば、心臓と水ポンプを類似させるものは何でしょうか？確かにその物理的な外見ではありません。両者がまったく同じ機能、すなわちシステム内で流体を循環させるという事実です。そして、ある文脈で典型的な関係を別の文脈に写像するこの能力こそが、人間の学習、創造性、問題解決を非常にユニークなものにしているのです。 現実世界の例は枚挙にいとまがありません。ドイツの優れた化学者、アウグスト・ケクレは、自分の尾を噛む蛇を見る夢という形で、ベンゼンの構造に関するヒントを得ました。今日では、プログラマーがコードを構造化する際にキッチンを整理する教訓を応用し、教師は電流をパイプを通って流れる水に例えて説明します。 しかし、現在のAIシステムは、この一般的な認知スキルを非常に困難に感じています。促されると、現代の大規模言語モデル（LLM）は「時間は金なり」の理由を説明したり、言語による推論パズルを解いたりすることに喜んで応じます。しかし、積み重なる証拠は、それらがしばしば本物の構造的写像ではなく、洗練されたパターンマッチングを行っていることを示唆しています。研究者がこれらのモデルに、訓練データから逸脱した新しい類推問題を提示すると、パフォーマンスはしばしば急落します。これは、LLMが以前に見た類推を再現することには優れているが、新しい関係を構築するように求められると躓くためです。 類推的思考なくして、AGIなし 明らかに、類推的思考はAGIの必要条件です。それなしでは、AIシステムは脆いまま、ある領域で関連する知識を別の領域の問題解決に適応させることができません。例えば、晴れたカリフォルニアの道路を走行することを学んだが、その学習を雪の条件に対処するために外挿できない自動運転車を想像してみてください。その車のAIシステムは、高価なパターンマッチャーであり、真の知能を持つシステムではありません。真の知能には、詳細が異なっていても、凍った道路での運転が他の滑りやすい表面のシナリオと構造的に比較可能であると認識する認知的柔軟性が必要でしょう。 もちろん、同じ原理は自律走行車以外の領域にも当てはまります。類推的思考はまた、科学、医療診断、法的推論、創造的活動における進歩も推進します。この能力を持たないAIシステムは、図書館全体を暗記したが、その知識を学際的に統合できない学者に似ています。確かに印象的ですが、狭く限られた方法においてのみです。 類推的マインドを構築する では、人間のような類推的思考が可能なAIシステムを開発するには何が必要でしょうか？新興の研究と類推的思考の基本的性質に基づくと、いくつかの重要な条件と技術が必要であるように思われます。 構造的に豊かで多様な訓練データ 最初の要件は、AIシステムが表面的なテキストパターンを超えたデータで訓練されることです。科学論文、技術文書、創造的作品、説明コンテンツの膨大なリポジトリを持つインターネットは、良い出発点です。しかし、どんなインターネットデータでも良いわけではありません。必要なのは構造的多様性です。言い換えれば、AIシステムが抽象的なパターンを認識することを学ぶ方向に導くために、開発者は訓練の初日からそれらに対比を提示し始めるべきです。訓練データには、建築設計図と楽譜、数学的証明と詩、法的議論と料理レシピを並べて特徴づけることができます。各領域は異なるタイプの関係構造を体現しているため、将来のAGIはこの種の演習から利益を得るでしょう。 さらに重要なことに、このデータは統計的相関だけでなく、構造的関係を保持し強調する必要があります。知識グラフ、因果関係図、概念間の明示的にマッピングされた関係は、AIシステムが機械的に関連を記憶するのではなく、構造を「見る」ことを学ぶのに役立つかもしれません。AIに単に物事が何であるかを教えるのではなく、それらが原則的な方法で互いにどのように関係しているかを教えることと考えてください。 訓練セットを超えたテスト AIシステムが類推的に推論することを学んでおり、単に模倣スキルを向上させているだけではないことを確認するには、構造を以前に遭遇したことのない状況に写像する能力を意図的に探るツールが必要です。これは、訓練データに現れそうなものから意図的に異なるテスト問題を構築することを伴います――研究者が「反事実的」タスクと呼ぶものです。 例えば、AIに「子犬は犬に対して、子猫は____に対して」のような標準的な類推を完成させるよう求める代わりに、発明された概念を使った問題を提示したり、これまで結びつけられたことのない領域間の関係を写像するよう求めたりするかもしれません。それは、材料とレシピの関係が、証拠と法的議論の関係と並行していることを認識できるでしょうか？たとえその特定の比較に遭遇したことがなくても。そのようなテストは、システムが基礎となる構造を把握しているか、単に類似の例を思い出しているかを明らかにするでしょう。 重要なものを測定する AI開発者にとって良いニュースは、人間が類推をどのように処理するかに特化した認知科学の数十年分の研究があることです。彼らはこの研究を利用して、類推的思考のための堅牢なベンチマークを開発できます。しかし、これらのベンチマークは、単に類推テストの正解数を数えることを超えなければなりません。本当に必要なのは、AIシステムがどの関係が写像に関連しているかを識別でき、表面的な類似性を無視し、写像全体で一貫性を維持できるかどうかを捉える指標です。 これには、高次の関係を識別することに報いるスコアリングシステムが含まれるかもしれません。例えば、AIは、原子と太陽系の両方が軌道運動を含むことを認識するだけでなく、それらの軌道を支配する因果関係を理解できれば、より高いスコアを得るでしょう。評価すべきもう一つの能力は、AIが事前に構造化された類推問題を完成させるだけでなく、新しい概念を説明するために適切な類推を自発的に生成できるかどうかかもしれません。 プロンプトによる足場かけ 最近の研究は、AIが類推的に考える能力が、どのようにそれを求められるかに大きく依存することを示唆しています。類推的プロンプト――構造的写像のプロセスを通じてモデルを明示的に導くこと――は、単に問題をそのまま提示するよりも、より洗練された推論を引き出すことができます。これには、まずシステムにソース領域の関係を識別させ、次にそれらの関係をターゲット領域に写像することを明示的に要求することが含まれるかもしれません。 この技術は二重の目的に役立つ可能性があります：現在のAIシステムの類推能力を向上させると同時に、将来のモデルのための訓練データを生成することです。誘導された類推的推論の成功例を記録することで、後続のシステムがこのプロセスにより自然に従事することを教えることができる例を作成できます。 ハイブリッドアーキテクチャ 人間のような類推的思考を達成するには、純粋なニューラルネットワークアプローチを超えることが必要かもしれません。パターン認識と記号的推論――構造的関係を明示的に表現し操作すること――を組み合わせたハイブリッドシステムが、欠けているピースを提供する可能性があります。ニューラルネットワークは暗黙的なパターンを学習することに優れていますが、記号的システムは、類推的思考が要求する構造的一貫性と論理的写像を強制することができます。 ハイブリッドアーキテクチャはまだ初期段階ですが、研究者はその可能性を積極的に探っています。例えば、一部の研究者は、ニューラルネットワークと記号的推論の組み合わせが、強化された類推能力につながる可能性があると主張しています。他の研究者は、AIモデルが作り話をしたり、浅い方法で類推的に考えたりする傾向に対処するために構築されたハイブリッドモデルを提唱しています。...
