AlphaEvolve：Google DeepMindの画期的なAGIへの一歩

Google (GOOGL ) DeepMindは、AlphaEvolveを発表しました。これは、独自に新しいアルゴリズムや科学的解決策を発見するために設計された進化型コーディングエージェントです。この研究は、Artificial General Intelligence (AGI)やArtificial Superintelligence (ASI)への重要なステップです。AlphaEvolveは、静的なファインチューニングや人間がラベル付けしたデータセットに頼るのではなく、創造性、アルゴリズムの革新、継続的な自己改善に焦点を当てたまったく異なるアプローチを取ります。

AlphaEvolveの核心は、大規模言語モデル（LLM）によって動かされる自己完結型の進化パイプラインです。このパイプラインは、単に出力を生成するのではなく、コードを変異、評価、選択、改善します。AlphaEvolveは、初期プログラムから始めて、LLMによって生成された差分（diff）を使用してコードを反復的に改良します。

これらの差分は、コードの変更を表し、言語モデルによって、事前の例や明示的な指示に基づいて提案されます。AlphaEvolveは、現在のプログラムを分析し、パフォーマンスメトリクスや事前の成功した編集に基づいて、小さな編集を提案します。編集されたプログラムは、自動評価器によってテストされ、最も効果的な候補は、将来のイテレーションのインスピレーションとして保存され、参照され、再結合されます。

AlphaEvolveの科学的根拠の理解

AlphaEvolveは、進化計算の原理に基づいて構築されています。システムは、基本的なコードの実装から始めて、それを初期の「生物」として扱います。世代を経るごとに、AlphaEvolveはコードを変更し、変異を導入し、各変異の適応度を明確に定義されたスコアリング関数を使用して評価します。最も適応度の高い変異体が生き残り、次の世代のテンプレートとして機能します。

この進化的ループは、次の要素を通じて調整されます：

• プロンプトサンプリング： AlphaEvolveは、事前に成功したコードサンプル、パフォーマンスメトリクス、タスク固有の指示を選択して埋め込み、プロンプトを構築します。
• コード変異と提案： システムは、Gemini 2.0 FlashとProを使用して、現在のコードベースに対する具体的な変更をdiffの形式で生成します。
• 評価メカニズム： 自動評価関数は、各候補のパフォーマンスを評価し、スカラー値を返します。
• データベースとコントローラー： 分散コントローラーは、このループを調整し、結果を進化データベースに保存し、MAP-Elitesなどのメカニズムを通じて探索と活用のバランスをとります。

このフィードバックの豊富な自動進化プロセスは、従来のファインチューニング技術と大きく異なります。AlphaEvolveは、創造性、アルゴリズムの革新、継続的な自己改善を通じて、機械学習が独自に達成できる境界を押し広げることができます。

AlphaEvolveとRLHFの比較

AlphaEvolveの革新性を理解するには、強化学習による人間のフィードバック（RLHF）と比較することが重要です。RLHFは、大規模言語モデルをファインチューニングするために使用される主なアプローチです。

RLHFでは、人間の好みを使用して報酬モデルをトレーニングし、強化学習アルゴリズムを通じてLLMの学習プロセスを導きます。RLHFは、モデルの整合性と有用性を向上させますが、フィードバックデータを生成するための広範な人間の関与を必要とし、通常、静的なファインチューニングに限定されます。

AlphaEvolveは、次の点でRLHFと異なります：

• ループから人間のフィードバックを除外し、代わりに機械実行可能な評価器を使用します。
• 進化的選択を通じて継続的な学習をサポートします。
• ランダムな変異と非同期実行を通じて、より広範な解決策の空間を探索します。
• 整合性のあるだけでなく、新しいで科学的に重要な解決策を生成することができます。

RLHFが行動をファインチューニングするのに対し、AlphaEvolveは発見し、発明します。この違いは、AGIへの将来の軌道を考える際に重要です。AlphaEvolveは、単に予測を改善するのではなく、新しい真実への道筋を見つけます。

応用とブレークスルー

1. アルゴリズムの発見と数学的進歩

AlphaEvolveは、アルゴリズムの発見における画期的な進歩を示しています。特に、2つの4×4複素行列の乗算を48回のスカラー乗算で行う新しいアルゴリズムを発見し、1969年のStrassenの結果を上回り、56年間続いた理論的限界を打ち破りました。AlphaEvolveは、複数のイテレーションを経て進化させた高度なテンソル分解技術を通じてこれを達成し、複数の最先端アプローチを上回りました。

行列乗算以外にも、AlphaEvolveは数学研究に重大な貢献をしました。50以上の未解決問題に挑戦し、約75%のケースで既知の最良の結果に一致し、約20%のケースでそれを上回りました。これらの成功には、Erdősの最小オーバーラップ問題の改善、11次元でのキッシング数問題のより密な解、より効率的な幾何学的パッキング構成が含まれます。これらの結果は、AlphaEvolveが人間の介入なしに、より最適な解決策を繰り返し改良し、進化させる能力を強調しています。

2. Googleのコンピューティングスタック全体の最適化

AlphaEvolveは、Googleのインフラストラクチャ全体で実用的なパフォーマンスの改善ももたらしています：

• データセンターのスケジューリング： 新しいヒューリスティックを発見し、ジョブの配置を改善し、以前にストランドしていたコンピューティングリソースの0.7%を回復しました。
• Geminiのトレーニングカーネル： 行列乗算のためのより優れたタイル戦略を考案し、カーネルの速度を23%向上させ、トレーニング時間を1%削減しました。
• TPU回路設計：RTL（レジスタ転送レベル）での算術ロジックを簡素化し、エンジニアによって検証され、次世代のTPUチップに含められました。
• また、XLA中間表現を編集することで、コンパイラ生成のFlashAttentionコードを最適化し、GPUでの推論時間を32%削減しました。

これらの結果は、AlphaEvolveが、記号的な数学から低レベルのハードウェア最適化まで、複数の抽象レベルで動作し、実世界のパフォーマンスの改善をもたらす能力を裏付けています。

• 進化的プログラミング： 突然変異、選択、遺伝を使用して解決策を反復的に改良するAIパラダイムです。
• コードの超最適化： 関数の最も効率的な実装を自動的に検索することです。驚くほど、対立的な改善が得られることがあります。
• メタプロンプト進化： AlphaEvolveはコードだけを進化させるのではなく、LLMへの指示方法も進化させます。コーディングプロセスを自己改良できるようにします。
• 離散化損失： 出力を半整数または整数値に合わせることを促す正則化項です。数学的および記号的な明確性に重要です。
• 幻覚損失： 中間解決策にランダム性を注入するメカニズムです。探索を促進し、局所的最小値を回避します。
• MAP-Elitesアルゴリズム： 質の高い多様性アルゴリズムの一種で、特徴次元全体にわたって、高性能な解決策の多様な集団を維持します。革新を促進します。

AGIとASIへの影響

AlphaEvolveは、単なる最適化ツールではなく、創造的自律性を示す智能エージェントの未来への一瞥です。システムが抽象的な問題を定式化し、独自の解決アプローチを設計する能力は、Artificial General Intelligenceへの重要なステップです。これは、データ予測を超え、構造化された推論、戦略の形成、フィードバックへの適応を伴います。智能的な行動の特徴です。

仮説の生成と改良を繰り返す能力も、機械の学習方法の進化を示しています。AlphaEvolveは、広範な人間の監督下でのトレーニングを必要とせず、実験と評価のループを通じて自己改善します。このダイナミックな智能は、複雑な問題空間をナビゲートし、弱い解決策を却下し、強い解決策を高めることができます。人間の監督なしにです。

AlphaEvolveは、独自のアイデアを実行し、検証することで、理論家と実験家の両方の役割を果たします。事前に定義されたタスクの実行を超え、発見の領域に進出します。シミュレートされた自律的な科学的プロセスです。各提案された改善は、テストされ、ベンチマークされ、再統合されます。実際の結果に基づいて、静的な目標ではなく、継続的に改良されます。

おそらく最も注目すべきは、AlphaEvolveが自己改良の初期の例であることです。ここで、AIシステムは学習するだけでなく、自己のコンポーネントを強化します。いくつかのケースで、AlphaEvolveは、自己の基礎モデルをサポートするトレーニングインフラストラクチャを改善しました。現在のアーキテクチャに制限されているものの、これは先例を設けます。評価可能な環境でより多くの問題が定式化されると、AlphaEvolveは、ますます複雑で自己最適化する動作に向けて拡大する可能性があります。Artificial Superintelligence (ASI)の基本的な特性です。

限界と将来の軌道

AlphaEvolveの現在の限界は、自動評価関数への依存です。これにより、数学的にまたはアルゴリズム的に定式化できる問題でのみ有効になります。人間の理解、主観的な判断、または物理実験を必要とするドメインではまだ機能しません。

しかし、将来の方向性には、次のものが含まれます：

• 混合評価の統合：シンボリックな推論と人間の好み、自然言語の批評を組み合わせます。
• シミュレーション環境での展開：体現された科学的実験を可能にします。
• 進化した出力の蒸留：より優れた、よりサンプル効率の高い基礎モデルを作成します。

これらの軌道は、自律的な、高いリスクの問題解決が可能なシステムに向けて進化しています。

結論

AlphaEvolveは、AIツールだけでなく、機械的知能そのものの理解においても重要な進歩です。進化的探索とLLMの推論、フィードバックを組み合わせることで、AlphaEvolveは、機械が独自に発見できることの再定義を示しています。これは、自己改良システムが、実際の科学的思考を可能にする、AGIへの道筋上にあります。

将来、AlphaEvolveの基盤となるアーキテクチャは、自己の評価器、変異の論理、スコアリング関数、基礎モデルのトレーニングパイプラインを最適化するために、再帰的に適用される可能性があります。この再帰的最適化ループは、AGIへのブートストラップのための技術的メカニズムを表します。ここで、システムはタスクを完了するだけでなく、自己の学習と推論を可能にするインフラストラクチャを改善します。

AlphaEvolveがより複雑で抽象的なドメインに拡大し、人間の介入が減少するにつれて、加速する知能の増加が見られる可能性があります。この自己改善のサイクルは、外部の問題だけでなく、内部のアルゴリズム構造に向けても適用され、AGIとそれが社会に提供できるすべての利点の重要な理論的コンポーネントです。創造性、自律性、再帰性の組み合わせにより、AlphaEvolveは、DeepMindの製品としてのみではなく、最初の真正な一般的で自己進化する人工的知能のブループリントとして記憶される可能性があります。