加速回帰の法則とは何か？それがAGIにつながる方法

最近のインタビューで、Elon Muskは、人工一般知能（AGI）が現れる時期について「3～6年」と述べた。回答 “3 to 6 years”。 GoogleのDeepMind CEO Demis Hassabisは、AGIは「あと数年、または10年以内に現れる」と述べた。 The Wall Street JournalのFuture of Everything Festivalで。

これらの数字は、AGIは10年、または100年先になるという、AI業界の専門家の多くが持つ悲観的な見方と比較して、楽観的な見方とみなされている。悲観的な見方の一部は、短期間のタイムラインを約束することのリスクがあるためである。1956年に、ダートマス夏季研究プロジェクトで、「人工知能」という用語が生まれ、この分野が始まった。当時、人間と同じ知能を持つ機械が25年以内に現れると予想されていた。

Geoffrey Hintonのような専門家は、より微妙な見方を持っている。“最近まで、私は20～50年後には一般目的のAIが現れると考えていた。しかし、今では20年以内に現れる可能性があると考えている。”

AI業界は、深層強化学習アルゴリズムの急速な開発により、最近数年で急速に進歩している。これらのアルゴリズムは、現在の大規模言語モデル（LLM）を動かしている。

しかし、これらのブレークスルーは、チャットボットや言語翻訳などの狭いAIアプリケーションにつながっただけである。AGIとは、人間と同じレベルの知能を持つ、幅広いタスクを理解、学習、適用できる人工知能の一種である。

AGIへの鍵は、多くの人にとって手に入れられないように見えるが、加速回帰の法則を信じる人々にとっては、AGIを構築することは避けられないことである。

加速回帰の法則は、レイ・カーツワイルによって提唱された。この法則は、技術の進歩の速度が指数関数的に増加することを示唆している。カーツワイルは、各新しい技術世代が前の世代を基盤にしており、革新の潜在性が指数関数的に増加することを主張している。

この法則は、加速する技術の急成長が、ジェネレーティブAIを最も強力なアプリケーションに変えるためのカタパルトになることを示唆している。

2001年、レイ・カーツワイルは、次のように予測していた：

技術の歴史を分析すると、技術の変化は指数関数的に進むことがわかる。したがって、21世紀には100年の進歩ではなく、20,000年の進歩が起こる。利益、たとえばチップの速度とコスト効率も指数関数的に増加する。さらに、指数関数的な成長の速度も指数関数的に増加する。数十年以内に、機械の知能は人間の知能を超え、シンギュラリティにつながる。シンギュラリティとは、技術の変化が非常に急速で、深刻なものとなることを意味する。この結果、生物と非生物の知能が統合され、ソフトウェアベースの不死の人間が現れ、知能のレベルが光速で宇宙に広がることになる。

この技術的爆発は、ムーアの法則によるものである。ムーアの法則は、特定のチップ上のトランジスターの数が約2年ごとに倍増することを予測した。カーツワイルは、この法則が加速回帰の法則を支えていると主張している。

• 進化は、前の段階の進化の成果を使用して次の段階を創造するため、プラスのフィードバックを生み出す。したがって、進化の速度は時間の経過とともに指数関数的に増加する。
• 上記の観察の結果として、進化の「利益」（たとえば、速度、コスト効率、またはプロセスの「力」）は時間の経過とともに指数関数的に増加する。
• 別のプラスのフィードバックループとして、特定の進化プロセス（たとえば、計算）がより効果的（たとえば、コスト効率が高い）になるにつれて、より多くのリソースがそのプロセスの進歩に投入される。したがって、2番目の指数関数的な成長（たとえば、指数関数的な成長の速度自体が指数関数的に増加する）が生じる。
• 生物進化は、進化プロセスの1つである。
• 技術進化は、別の進化プロセスである。実際、最初の技術を作成する種の出現は、技術の新しい進化プロセスを生み出した。したがって、技術進化は生物進化の延長である。
• 特定のパラダイム（問題を解決するための方法またはアプローチ、たとえば、集積回路上のトランジスターを縮小する）は、潜在能力が尽きるまで指数関数的な成長をもたらす。そうすると、パラダイムシフト（基本的なアプローチの変更）が発生し、指数関数的な成長が続くことができる。

読者は、カーツワイルのブログを読み、加速回帰の法則の意味と、それが私たちがこれまで経験してきたこととの違いについて考えるべきである。

加速回帰の法則は、ムーアの法則ほど有名ではないが、初めて発表されて以来、現在でも同様に重要である。