自分を教えるAIはもう科学小説ではない

新しいAIフレームワークは、人間の洞察が不要な、自己改善するマシンに向けた革命的な飛躍を遂げています。

これまで、最も高度なAIモデルは、修正できないトレーニングデータに基づいて応答を予測する、受動的なエンジンのままだった。しかし今日、AIの次の章を定義するのは、モデルのサイズではなく、モデルの自己進化能力である。

最近、MITの研究者は、自己適応型LLM（SEAL）と呼ばれる新しいAIフレームワークを発表しました。このアプローチにより、大規模言語モデル（LLM）は、自己修復と自己更新のための内部フィードバックループを使用して、自己改善を実現できます。研究者がエラーを特定したり、新しいプロンプトを書いたり、追加の例を提供したりする必要はありません。モデルは自己の進化を完全に所有しています。

「大規模言語モデル（LLM）は強力ですが静的です。新しいタスク、知識、または例に対してその重みを適応させるメカニズムが欠けている」と、MITの研究者はブログ投稿で書いています。「知識の統合と少数샷の一般化に関する実験では、SEALは新しいデータに対して自己指向の適応が可能な言語モデルへの有望なステップであることを示しています。」

初期テストでは、この自己編集ループにより、モデルは複雑な抽象的推論パズルで完全な失敗から成功に移行し、GPT-4.1を上回る72.5パーセントの成功率で、従来の方法では失敗しました。さらに、SEALは人間の監視を85パーセント削減しながら、精度と適応性を向上させていると報告されています。

自己教師付きAIフレームワークの台頭

SEALは、自律的なマシンインテリジェンスに向けたより広いトレンドの一部です。例えば、Sakana AIの研究者は、Darwin-Gödelマシンと呼ばれる、自己のコードを書き換えることができるAIエージェントを紹介しました。

「自己改善を生成し、パッチの検証ステップ、ファイルの表示、編集ツールの強化、複数の解決策を生成して最適なものを選択する、試みたこととその失敗理由の履歴を追加します」と、Sakana AIはブログ投稿で書いています。

同様に、AnthropicのAIエージェントは、Claude 4によって動作し、コードベースとビジネストール間のワークフローを自己で調整できます。

「アセットの種類、環境、履歴に基づいて自己を再構成するシステムは、反応的な対応から継続的な予防戦略への移行を可能にします」と、FracttalのCEO兼共同創設者であるChristian Struveは私に話しました。「重要なのは、モデルが進化することではなく、それが人間が定義する目標に沿ったものであることです。」

これらの取り組みを結びつけるものは、AIが大きくなる必要はないという共通の信念です。AIは適応性を高める必要があります。

「スケーリングは大きな利益をもたらしましたが、サイズだけでは達成できる限界に達しています。自己適応型の学習モデルは、システムが時間の経過とともに成長し改善することを可能にする、次の重要なステップです」と、Datacoの創設者兼CEOであるJorge Rieraは私に話しました。「自己進化型モデルは、静的なベンチマークから、適応性、学習効率、長期的な安全な改善の尺度への進歩を評価することを可能にします。モデルがデプロイ時に何を知っているかをテストするのではなく、どのように学び、保持し、時間の経過とともに進化するかを評価することができます。」

AIエコシステムと自律性への世界的な競争への影響

このレベルの自律性は、AIの展開の経済学を書き換えます。新しい脅威に対して自己を更新する不正検出システムや、学生の行動に基づいて教え方を変更するAIチューターを想像してみてください。ロボティクスでは、自己適応フレームワークは、再プログラミング不要の自己学習マシンを可能にします。

中東諸国は、UAEやサウジアラビアなど、適応性を設計した基礎モデルを急速に構築しています。UAEのFalconやG42のJaisは、地域の関連性を念頭に置いて構築されたオープンソースLLMです。一方、サウジアラビアのALLaMやAramco DigitalのMetabrainは、スマートシティ、ヘルスケア、ロジスティクス向けの自律AIエージェントの分野に進出しています。

これらの取り組みはまだMITのSEALに相当する自己編集能力を持っていませんが、受動的なAIシステムから能動的な進化エージェントへの共通の軌道を反映しています。SEALと同様に、これらの取り組みは堅牢なガバナンスフレームワークによって裏付けられており、AIの自律性は責任と一体化する必要があるという認識が高まっていることを示しています。

「これは、人間の介入なしに自己を管理するシステムの第一歩です。AIは知能を再定義するのではなく、人間とAIの関係を再考させるのです。重要なのは、モデルが進化することではなく、それが人間が定義する目標に沿ったものであることです」と、Struveは話しています。

Gorilla LogicのCTOであるJeff Townesも、ガバナンスがAIの進化に追いつく必要性を強調しています。「問題は、AIが進化できるかどうかではなく、企業がそれに追いつけるかどうかです。ガバナンスは、AIの適応を明確な成果とKPIに固定し、リーダーが測定して信頼できるようにしなければなりません。そうすれば、イノベーションはリスクではなく自信を持って拡大します。」

自己書き換えAIに備えているか

SEALが提起する最も挑発的な質問は、技術的なものではなく、モデルが自己を教える方法を決定できる場合、人間はその価値観、優先順位、方向性を形成する役割を果たすかというものです。

専門家は、自己適応型AIシステムが自律性を獲得するにつれて、自己改善の急速な進歩が倫理的なガイドラインの確立を上回らないように警告しています。「すべてのAIシステムには、少なくとも3つの基本的な倫理原則を組み込まなければならない」と、KryterionのCTOであるJacob Evansは話しています。

「第一に、AIは自己をAIとして識別できなければなりません。第二に、AIは人間の判断を支援し、代替するのではなく、人間中心のものでなければなりません。第三に、AIはその限界と不確実性を認識し、深刻な危害をもたらす可能性のある情報を提供することを拒否しなければなりません。そうでない場合、AIは操作のツールではなく、信頼できる支援ツールになる可能性があります。」

「モデルをプロダクションで自己改善できるようにするには、静的なトレーニングではなく、動的なフィードバックループが必要です。有効な方法の1つは、デジタルツインまたは高度なサンドボックス環境を使用して、AIが自己の自己生成された改善を安全にテストして検証することです。その後、ユーザーにデプロイする前に、それらをデプロイすることができます」と、AutomotusのコンピュータビジョンエンジニアであるGanesh Vanamaは話しています。

ガバナンスについて、Vanamaは、「人間がループ内にいる」監視は絶対条件であると付け加えました。「モデルが適応することを望みますが、人間の監視者が安全性やパフォーマンスのレビューに失敗した場合、モデルが自己の更新を却下またはロールバックできるようにするシステムが必要です。」

しかし、他の専門家は、真正な自己改善AIを構築することはまだ大きな課題であり、ガイドラインを開発する時間はまだあると主張しています。

「そのようなモデルはまだ、信頼性を持ってリアルタイムで自己を再プログラミングする能力が欠けています。エラーの強化を防ぐ、カタストロフィックな忘却を避ける、更新中の安定性を確保する、内部の変更についての透明性を維持するという課題が残っています。そうした課題が解決されるまで、完全な自己指向的適応は現実ではなく、フロンティアです」と、Rieraは話しています。

MITの研究者は、SEALを必要な進化と見なしています。MITのリード科学者は、「これらのシステムは、人間の学習をより密接に反映するものであり、経験から学び、メモリを管理し、時間の経過とともに目標を追求することができる、適応型アーキテクチャへの移行を示唆しています。方向性は明確です。モジュラーで、コンテキストに応じたインテリジェンスが、継続的に自己を調整できるものへの移行です。まだ実験段階ですが、このアプローチは、より自律的で堅牢なAIシステムへの有意義なステップです」と話しています。

これが、より個別化されたシステムや、まったく新しい形式の機械的代理店につながるかは、まだ見えてきません。自己教師付きAIの時代が到来しました。それは、自分のコードだけではなく、機械が何になるかを規定するルールを書き換えています。