AlphaEvolve: Google DeepMindのAGIに向けた画期的な一歩

Google DeepMindが発表した アルファエボルブは、新しいアルゴリズムと科学的解決策を自律的に発見するように設計された進化型コーディングエージェントです。 「AlphaEvolve: 科学的およびアルゴリズム的発見のためのコーディングエージェント" この研究は、 人工知能（AGI） そして、さえ 超人工知能 (ASI)AlphaEvolve は、静的な微調整や人間がラベル付けしたデータセットに頼るのではなく、自律的な創造性、アルゴリズムの革新、継続的な自己改善に重点を置いたまったく異なる道を採用しています。

AlphaEvolveの核となるのは、自己完結型の進化パイプラインであり、 大規模言語モデル (LLM)このパイプラインは単に出力を生成するだけでなく、世代を超えてコードを変化させ、評価し、選択し、改善します。AlphaEvolveは初期プログラムから始まり、慎重に構造化された変更を導入することで、反復的に改良していきます。

これらの変更は、LLMが生成する差分（過去の例と明示的な指示に基づいて言語モデルが提案するコード修正）の形で提供されます。ソフトウェアエンジニアリングにおける「差分」とは、ファイルの2つのバージョン間の差異を指し、通常は削除または置換すべき行と追加すべき行を強調表示します。AlphaEvolveでは、LLMが現在のプログラムを分析し、パフォーマンスメトリクスと過去の成功した編集を含むプロンプトに基づいて、関数の追加、ループの最適化、ハイパーパラメータの変更といった小さな編集を提案することで、これらの差分を生成します。

修正された各プログラムは、タスクに合わせて調整された自動評価ツールを用いてテストされます。最も効果的な候補は保存、参照され、将来の反復作業のインスピレーションとして再結合されます。この進化のループは、時間の経過とともに、ますます洗練されたアルゴリズムの出現につながり、しばしば人間の専門家が設計したアルゴリズムを凌駕します。

AlphaEvolveの背後にある科学を理解する

AlphaEvolveの核となる原則は、 進化計算生物進化に着想を得た人工知能の分野。このシステムは、コードの基本実装から始まり、それを初期の「生物」として扱います。AlphaEvolveは世代を重ねるごとにこのコードを修正し（変異、つまり「突然変異」を導入）、明確に定義されたスコアリング関数を用いて各変異の適応度を評価します。最も優れた変異が生き残り、次世代のテンプレートとして機能します。

この進化のループは以下を通じて調整されます。

• プロンプトサンプリング: AlphaEvolve は、以前に成功したコード サンプル、パフォーマンス メトリック、およびタスク固有の指示を選択して埋め込むことでプロンプトを構築します。
• コードの変更と提案: このシステムは、強力な LLM (Gemini 2.0 Flash と Pro) を組み合わせて使用​​し、現在のコードベースに対する特定の変更を diff の形式で生成します。
• 評価メカニズム: 自動評価機能は、各候補者のパフォーマンスを実行し、スカラー スコアを返すことで評価します。
• データベースとコントローラー: 分散コントローラーはこのループを調整し、結果を進化データベースに保存し、MAP-Elites などのメカニズムを通じて探索と活用のバランスをとります。

このフィードバック豊富な自動化された進化プロセスは、標準的な微調整手法とは根本的に異なります。AlphaEvolveは、斬新で高性能、そして時には直感に反するソリューションを生み出すことが可能になり、機械学習が自律的に達成できる限界を押し広げます。

AlphaEvolveとRLHFの比較

AlphaEvolveの革新性を理解するには、次のものと比較することが重要です。 人間のフィードバックからの強化学習 (RLHF)大規模な言語モデルを微調整するために使用される主要なアプローチです。

RLHFでは、人間の好みを利用して報酬モデルを訓練し、それがLLMの学習プロセスを導く。 強化学習 次のようなアルゴリズム プロキシマルポリシー最適化（PPO）RLHF はモデルの整合と有用性を向上させますが、フィードバック データを生成するために人間の多大な関与が必要であり、通常は静的な 1 回限りの微調整体制で動作します。

対照的に、AlphaEvolve では次のようになります。

• 機械で実行可能な評価者を優先して、ループから人間によるフィードバックを削除します。
• 進化的選択を通じて継続的な学習をサポートします。
• 確率的突然変異と非同期実行により、はるかに広いソリューション空間を探索します。
• 単に整合したソリューションだけでなく、 小説 科学的にも意義深い。

RLHFが行動を微調整するのに対し、AlphaEvolveは 発見する や 発明するこの区別は、AGI に向けた将来の軌道を考える上で非常に重要です。AlphaEvolve はより優れた予測を行うだけでなく、真実への新たな道を見つけます。

アプリケーションとブレークスルー

1. アルゴリズムによる発見と数学の進歩

AlphaEvolveは、コアアルゴリズム問題において画期的な発見を行う能力を実証してきました。特に注目すべきは、わずか4回のスカラー乗算で4つの48×1969複素数値行列を乗算する革新的なアルゴリズムを発見したことです。これは、49年にStrassenが達成した56回の乗算という結果を上回り、XNUMX年間もの間保持されてきた理論上の限界を打ち破りました。AlphaEvolveは、高度なテンソル分解技術を用いてこれを達成し、これを多くの反復処理を経て進化させ、いくつかの最先端手法を上回る性能を達成しました。

AlphaEvolveは行列乗算以外にも、数学研究に多大な貢献をしました。組合せ論、数論、幾何学といった分野にわたる50以上の未解決問題で評価され、約75%のケースで既知の結果と一致し、約20%でそれを上回りました。これらの成功には、エルデシュの最小重複問題の改良、11次元におけるキッシング数問題のより稠密な解、そしてより効率的な幾何学的パッキング構成などが含まれます。これらの結果は、人間の介入なしに、より最適な解を改良、反復、進化させる、自律的な数学的探究者としてのAlphaEvolveの能力を強調しています。

2. Googleのコンピューティングスタック全体の最適化

AlphaEvolve は、Google のインフラストラクチャ全体で目に見えるパフォーマンスの向上ももたらしました。

• In データセンターのスケジュール同社は、ジョブの配置を改善する新たなヒューリスティックを発見し、以前は取り残されていたコンピューティング リソースの 0.7% を回復しました。
• ジェミニのトレーニングカーネルAlphaEvolve は、行列乗算のためのより優れたタイリング戦略を考案し、カーネルの速度を 23% 向上させ、トレーニング時間を全体で 1% 短縮しました。
• In TPU回路設計同社は、RTL（レジスタ転送レベル）での算術ロジックの簡素化を特定し、エンジニアによって検証され、次世代の TPU チップに組み込まれました。
• また、最適化された コンパイラ生成のFlashAttentionコード XLA 中間表現を編集することで、GPU での推論時間を 32% 削減します。

これらの結果を合わせると、記号数学から低レベルのハードウェア最適化まで、複数の抽象化レベルで動作し、現実世界でのパフォーマンス向上を実現する AlphaEvolve の能力が検証されます。

• 進化型プログラミング: 突然変異、選択、継承を使用してソリューションを反復的に改良する AI パラダイム。
• コードの超最適化: 関数の最も効率的な実装を自動的に検索します。多くの場合、驚くべき、直感に反する改善が得られます。
• メタプロンプトの進化: AlphaEvolve はコードを進化させるだけでなく、LLM への指示の伝達方法も進化させ、コーディング プロセスの自己改良を可能にします。
• 離散化損失: 数学的および記号的な明瞭さにとって重要な、出力を半整数または整数値に揃えることを促す正規化用語。
• 幻覚喪失: 中間ソリューションにランダム性を導入し、探索を促進して局所的最小値を回避するメカニズム。
• MAP-Elitesアルゴリズム: さまざまな特徴次元にわたって高性能なソリューションの多様な集団を維持し、堅牢なイノベーションを可能にする、品質多様性アルゴリズムの一種です。

AGIとASIへの影響

AlphaEvolveは単なる最適化装置ではありません。知的エージェントが創造的な自律性を発揮できる未来を垣間見ることができるのです。抽象的な問題を定式化し、独自の解決方法を設計するこのシステムの能力は、汎用人工知能（AGAI）への大きな一歩です。これはデータ予測にとどまらず、構造化推論、戦略形成、フィードバックへの適応といった、知的行動の特徴を伴います。

仮説を繰り返し生成し、洗練させる能力は、機械の学習方法の進化を示唆しています。膨大なデータを必要とするモデルとは異なり、 監督付きトレーニングAlphaEvolveは、実験と評価のループを通して自己改善を行います。この動的な知能により、複雑な問題空間をナビゲートし、弱い解決策を捨て、より強い解決策を向上させることができます。人間の直接的な監視は必要ありません。

AlphaEvolveは、自らのアイデアを実行し検証することで、理論家と実験家の両方の役割を果たします。事前定義されたタスクの実行にとどまらず、自律的な科学プロセスをシミュレートする発見の領域へと踏み込みます。提案された改善はすべてテスト、ベンチマーク、そして再統合され、静的な目標ではなく、実際の結果に基づいて継続的な改良が可能になります。

おそらく最も注目すべきは、AlphaEvolveが再帰的自己改善の先駆的な例であるということです。これは、AIシステムが学習するだけでなく、自らの構成要素を強化するものです。AlphaEvolveは、いくつかのケースにおいて、自身の基盤モデルを支える学習インフラストラクチャを改善しました。現在のアーキテクチャにはまだ限界があるものの、この機能は先例となるでしょう。評価可能な環境でより多くの問題が扱われるようになれば、AlphaEvolveは、人工超知能（ASI）の基本的な特性である、より洗練された自己最適化的な行動へとスケールアップしていく可能性があります。

限界と将来の軌道

AlphaEvolveの現在の限界は、自動化された評価関数に依存していることです。そのため、その有用性は数学的またはアルゴリズム的に形式化できる問題に限定されています。人間の暗黙の理解、主観的な判断、あるいは物理的な実験を必要とする領域では、まだ有意義に動作させることができません。

ただし、将来の方向性は次のとおりです。

• ハイブリッド評価の統合: 記号的推論と人間の好みおよび自然言語による批評を組み合わせる。
• シミュレーション環境に展開し、具体化された科学実験を可能にします。
• 進化した出力を基本 LLM に蒸留し、より高性能でサンプル効率の高い基礎モデルを作成します。

これらの軌跡は、自律的かつ重大な問題解決が可能なエージェントシステムがますます増えていくことを示しています。

まとめ：

AlphaEvolveは、AIツールだけでなく、機械知能そのものへの理解においても、大きな前進です。進化的探索とLLM推論およびフィードバックを融合することで、機械が自律的に発見できるものを再定義します。これは、真の科学的思考能力を備えた自己改善システムがもはや理論上のものではないことを示す、初期段階ながら重要なシグナルです。

将来的には、AlphaEvolveの基盤となるアーキテクチャは、自身にも再帰的に適用される可能性があります。つまり、自身の評価器を進化させ、突然変異ロジックを改善し、スコアリング関数を改良し、依存するモデルの学習パイプラインを最適化していくのです。この再帰的な最適化ループは、AGIに向けたブートストラップのための技術的メカニズムであり、システムは単にタスクを完了するだけでなく、学習と推論を可能にするインフラストラクチャそのものを改善します。

AlphaEvolveがより複雑で抽象的な領域に拡大し、そのプロセスにおける人間の介入が減少するにつれて、時間の経過とともに知能の向上が加速する可能性があります。この自己強化的な反復的改善サイクルは、外部の問題だけでなく、内部的には自身のアルゴリズム構造にも適用され、理論上の重要な要素となっています。 AGIとそれが社会にもたらすであろうすべての利益創造性、自律性、そして再帰性を融合させたAlphaEvolveは、単に ディープマインドではなく、初めての真に汎用的で自己進化する人工知能の青写真となるでしょう。