AI技術の重大な障害を脳メカニズムで克服した専門家

様々な機関の人工知能（AI）専門家グループは、「AIの能力を高める上での重大な、長年の障害」を克服しました。チームは、多くのAI開発の場合と同様に、人間の脳に注目しました。具体的には、チームは「リプレイ」と呼ばれる人間の脳の記憶メカニズムに焦点を当てました。

ギド・ファン・デ・ヴェンは、第一著者であり、ポストドクター研究者です。彼は、ベイラーのアンドレアス・トリアス氏、およびマサチューセッツ大学アマースト校のハバ・シーゲルマン氏と共同で研究しました。

この研究は、ネイチャー・コミュニケーションズに掲載されました。

新しい方法

研究者によると、彼らは「深層学習ネットワークを『カタストロフィック・フォゲッティング』から効率的に保護する」新しい方法を開発しました。ニューラルネットワークが新しい学習を始めると、以前の学習内容を忘れることがあります。

この障害は、多くのAIの進歩を妨げています。

「1つの解決策は、以前に出会った例を保存し、新しいものを学ぶときにそれらを再訪問することです。ただし、前の学習内容をすべて保存しておくことは、高度に非効率的であり、保存する必要があるデータの量はすぐに管理不能なものになります」と、研究者たちは書いています。

人間の脳

研究者たちは、人間の脳からインスピレーションを得ました。なぜなら、人間の脳は忘れることなく情報を蓄積できるからです。これは、AIのニューラルネットワークの場合ではありません。この開発は、研究者たちが以前行った研究、特に脳内のメカニズムに関する発見に基づいています。このメカニズムは、記憶が忘れ去られないようにするためのニューラル・アクティビティ・パターンのリプレイです。

シーゲルマンによると、重要な発展は、「脳内のリプレイがデータを保存しない」ことを認識したことです。代わりに、「脳は詳細な記憶を生成する必要なく、高い抽象的なレベルで記憶の表現を生成します」。

シーゲルマンはこの情報を使用し、同僚と協力して、データを保存しないAIのリプレイを開発しました。人間の脳と同様に、人工ネットワークは以前見たものを使用して、高いレベルの表現を生成します。

この方法は、高度に効率的でした。わずか数回のリプレイで生成された表現が、古い記憶を思い出すのに十分でした。生成的なリプレイは、カタストロフィック・フォゲッティングを防ぐのに効果的であり、システムが1つの状況から別の状況に一般化することを可能にします。

ファン・デ・ヴェンによると、「私たちのネットワークが生成的なリプレイで最初に猫と犬を区別することを学習し、次にクマとキツネを区別することを学習した場合、猫とキツネを区別することもできます。特に、システムが新しいタスクを学習するにつれて、学習の能力が向上します」。

「私たちは、内部的または隠れた表現をリプレイする、新しい、脳に基づいたリプレイのバリアントを提案します。これらの表現は、ネットワーク自身のコンテキスト依存のフィードバック接続によって生成されます。私たちの方法は、データを保存せずに、困難な継続的な学習ベンチマークで最先端のパフォーマンスを達成し、脳内の抽象的なリプレイのための新しいモデルを提供します」と、チームは書いています。

「私たちの方法は、リプレイが記憶の統合に貢献する方法について、いくつかの興味深い予測を行います。私たちは、すでにいくつかの予測をテストする実験を実行しています」と、ファン・デ・ヴェンは続けています。