あなたのAIはあなたが思うよりもずっと強力である

科学者チームがAIの能力について多くを変えるものを発見しました。あなたのモデルは単に情報を処理しているのではなく、トレーニングを超えた高度な能力を開発しています。しかも、これらの能力を解放するには、AIと話し方を変える必要があります。

コンセプトスペース革命

AIは単にパターンを一致させるだけだったと思っていましたか？新しい研究は、AIの学習の「コンセプトスペース」と呼ばれるものをマッピングすることで、AIの学習のブラックボックスを解き明かしました。AIの学習を多次元マップとして想像してください。各座標は色、形、サイズなどの異なるコンセプトを表します。研究者は、AIモデルがトレーニング中にこのスペースを移動するのを観察することで、予期せぬものを発見しました：AIシステムは単に記憶するのではなく、さまざまな速度でコンセプトを理解する高度な理解を構築します。

「コンセプトスペースにおける学習ダイナミクスを特徴付けることで、概念の学習速度がどのように制御されるかを特定します」と研究チームは述べています。つまり、概念はトレーニングデータでどれだけ強調されているかに応じて、異なる速度で学習されます。

これが面白いのは、AIモデルがこれらのコンセプトを学習するとき、単にそれらを分離された情報として保存するのではなく、我々が明示的に教えていない方法でそれらを組み合わせて使用する能力を開発することです。まるで、自分自身の創造的なツールキットを構築しているようなものです。我々はただ、正しい指示を与えていないだけです。

これは、AIプロジェクトに何を意味するのか考えてみてください。あなたが現在作業しているモデルは、まだ発見していない複雑なコンセプトの組み合わせをすでに理解しているかもしれません。質問は、モデルが何ができるかではなく、モデルが本当にできることを示すようにどうすればいいかです。

隠れた力の解放

ここで、研究者はAIモデルの学習方法について基本的なことを明らかにするために、優雅な実験を設計しました。セットアップは単純で、AIモデルを3種類の画像でトレーニングしました：

• 大きな赤い円
• 大きな青い円
• 小さな赤い円

そして、重要なテストが行われました：モデルは小さな青い円を生成できるかどうか。これは単に新しい形を描くことではなく、モデルが本当に2つの異なるコンセプト（サイズと色）を前に見たことがない方法で組み合わせて理解できるかどうかをテストすることでした。

研究者が発見したことは、AIの能力について私たちが考えていたものを変えます。通常のプロンプトを使用して「小さな青い円」を要求した場合、モデルは苦労しました。しかし、モデルは実際に小さな青い円を生成できたのです。我々はただ、正しい方法で問い合わせていなかったのです。

研究者は2つのテクニックを発見しました:

1. “潜在的介入” – これは、モデルの脳に直接アクセスすることのようなものです。通常のプロンプトではなく、内部シグナルを直接調整しました。色とサイズのための別々のダイヤルを想像してください。研究者は、これらのダイヤルを特定の方法で回すことで、モデルは突然、前に不可能だったものを生成できるようになったことを発見しました。
2. “過剰プロンプティング” – 「青」を要求するのではなく、色の値を非常に具体的にしました。つまり、「青」を要求するのではなく、「この色を正確に：RGB（0.3、0.3、0.7）」と要求するのです。この追加の精度により、モデルは通常の条件では隠されていた能力にアクセスできるようになりました。

両方のテクニックは、モデルのトレーニングの同じ時点で機能し始めました。約6,000のトレーニングステップでした。一方、通常のプロンプトは完全に失敗したか、8,000以上のステップで機能しました。これは偶然ではありませんでした。複数のテストで一貫して発生しました。

これは、AIモデルが2つの異なる段階で能力を開発することを示しています。まず、内部的にコンセプトを組み合わせる方法を学習します。約6,000ステップで発生することです。次に、我々の通常の問い合わせ方法とこれらの内部能力を接続する方法を学習します。モデルは新しい言語を習得する前に、翻訳方法を学習しなければならないのと同じです。

影響は重大です。我々がモデルが何かできないと思っている場合、間違っている可能性があります。モデルは能力を持っているかもしれませんが、我々のプロンプトとその能力の間の接続が欠けているだけです。これは単純な形や色に限ったことではなく、より大きなAIシステムのより複雑な能力にも当てはまる可能性があります。

研究者がこれらのアイデアをCelebA顔データセットでテストしたところ、同じパターンが見られました。モデルに「帽子を被った女性」の画像を生成するように求めました。通常のプロンプトは失敗しましたが、潜在的介入により、モデルは実際にこれらの画像を生成できることがわかりました。能力はそこにありました。ただし、通常の手段ではアクセスできませんでした。

Park et al., Harvard University & NTT Research

重要な結論

私たちがAIの能力を評価する方法を再考する必要があります。モデルが標準的なプロンプトで何かできないということは、全くできないということではありません。AIモデルができることと私たちがモデルにさせられることの間のギャップは、思っていたよりも小さいかもしれません。ただし、質問方法を改善する必要があります。

この発見は理論的なものではありません。AIシステムについて私たちが考えている方法を根本的に変えるものです。モデルがタスクに苦労している場合、能力が欠けているのではなく、正しくアクセスしていないだけかもしれません。開発者、研究者、ユーザーにとって、AIとやり取りする方法をより創造的にする必要があります。必要な能力はすでに存在しているかもしれません。ただし、解放するための正しい鍵を見つける必要があります。