企業のAIを借りたアクセスで構築しないでください

すべてのAIアプリケーションと企業向け展開は、フロンティアAIモデルへのアクセスが可能でほぼ無制限であるという前提で構築されてきた。そうした考え方は、現在まで正しかった。しかし、現在までのトレンドは、フロンティアモデルの新しい機能が6か月以内にコモディティ化またはオープンソース化されることが多かったため、将来の機能をできるだけ早く理解することに焦点が当てられていた。新しいフロンティア機能を把握し、適応して製品を構築できる会社、チーム、または個人は勝利していた。しかし、数多くのシグナルが、この時代がすぐに終わることを示唆している。アメリカ商務省の決定アンソロピックのFableとMythosモデルへのアクセスを制限することは、最初の兆候であった。しかし、その制限は後にアンソロピックとの調整の後で解除された。これは、アクセス条件がどれほど速く変化する可能性があるか、そして企業のAIシステムが適応性を備える必要があることを示している。

フロンティアモデルへのアクセスが保証されない4つの理由

フロンティアモデルだけに焦点を当てるという考え方は、もはや正しくない可能性がある。フロンティアモデルの利用可能性が保証されなくなるからだ。以下はその理由である。
第一に、フロンティアAIの経済は、長続きしない補助金ベースの価格設定に基づいている。OpenAIとアンソロピックの最近のIPO準備により、本物のコストを明らかにする必要があり、現在のスポンサーAIサービスは経済的に実行可能ではない可能性がある。アンソロピックの200ドルプライベートサブスクリプションが実際には会社に数千ドルかかるという噂がある。したがって、トークン価格は引き続き上昇し、安いフロンティアモデルへのアクセスの時代は終わるだろう。

第二に、フロンティアモデルは実行コストが低くなることはない。クラシックコンピューティングでは、ムーアの法則により、時間の経過とともに任意の操作のコストが低下したが、AIはこの曲線に従っていないように見える。モデルは大きくなり、計算量も増える。私たちのエンジニアはすべて、(一時的な)Fable 5のリリース後10分以内にクレジットを使用し尽くした。これは、次のフロンティアモデルがより多くのトークン、より多くのコンピューティング、より多くのインフラストラクチャを必要とする可能性があることを示唆している。

第三に、実際にフロンティアモデルで競争しているプレーヤーは少なくなっている。ミストラルは、フロンティアモデルで競争するヨーロッパの希望であったが、目標を変更し、控えめなフォロワーになった。中国のモデルは迅速にフォロワーとなるが、トップレベルのラボのベストリリースに続くことができない。

第四に、フロンティアモデルはあらゆるアプリケーションで使用するにはあまりに危険である可能性がある。私たちは、ミニチュア化された核反応器を自動車に使用していない。部分的には、この分野は高度に規制されており、危険である。 アンソロピック自身の実験は、フロンティアモデルを制御下に保ち、無害であることを保証しながらその能力を維持することは非常に難しいことを示している。 これは、Fable 5の米国規制の背後にある長期的な実際の教訓かもしれない。いずれにせよ、フロンティアモデルは国家によって戦略的な資産として扱われる可能性が高く、現在と同様に自由に利用できることはないだろう。

したがって、私たちは、トークンコストが重要になり、フロンティアモデルがすべてのアプリケーションやすべての国で利用できる世界に入る可能性がある。

アプリケーションレイヤー登場

フロンティアモデルへのアクセスが保証されない世界では、どのようにしてタスクが信頼性と最高のパフォーマンスで解決されることを保証できるのか。答えは、所謂「アプリケーションレイヤー」にあるかもしれない。

NVIDIAのCEOであるジェンセン・ファンは、AIを5層のケーキと表現した。エネルギー、チップ、データセンター、モデル、アプリケーションである。彼は、アプリケーションレイヤーが最も重要なものであり、まだ大部分が欠けていると主張している。

一部のアプリケーション、たとえばチャットボットでは、このレイヤーは非常に薄い。基本的に、チャットインターフェースだけである。他のアプリケーション、たとえば高度な産業用およびエンジニアリングアプリケーションでは、はるかに重要で、批判的である。これは、バリューチェーンを決定するレイヤーである。フロンティアモデルへのアクセスが保証されなくなるため、アプリケーションレイヤーの役割は、モデルの間で結果を均一化し、トークンコストを制御することになる。

具体的には、もし私が新しい航空機モデル用の製造チェーンを再設計するような複雑でミッションクリティカルなタスクを実行したい場合、強力なフロンティアモデルに助けてもらうだろう。モデルは、単独でそれを行う方法を考案し、計画ツールを構築し、結果を私のチームに伝えることができる。しかし、もし私がモデルを切り替えて、より能力のあるもの、より安いもの、または別のプロバイダーのものにした場合、パフォーマンスを失ったり、最終的な出力の整合性を失ったりする可能性がある。多くの実用的なケースでは、企業のセットアップでは、この予測不可能性は受け入れられない。これは、アプリケーションレイヤーの役割が重要である。モデルは、開放された空間で動作し、生の能力に頼るのではなく、明確なキャンバス、利用可能なアクションの制限されたセット、動作する境界を定義するアプリケーションレイヤーが提供する。モデルは、最初からすべてを考案するように求められない。代わりに、モデルは、どのモデルでも良好に動作する可能性が高くなる、明確に定義されたキャンバスが与えられる。

コスト面では、モデルは私の目標を達成するために、非常に低レベルのアクションを実行することを選択する可能性がある。モデルは、計画アルゴリズムをスクラッチから書き直したり、新しいインターフェースを作成したり、さらには新しい最適化ソルバーを開発したりすることができる。しかし、これは非常にトークンコストがかかる可能性がある。一方、ガイドラインや事前に構築されたツールがあれば、モデルは同じ結果を達成するために必要なトークン数を大幅に削減できる。これがアプリケーションレイヤーの役割である。良いニュースは、モデルは一般的に怠惰で、ショートカットを探すため、適切なスキル、ツール、コンピューティングリソースにアクセスできる場合は、モデルを大幅に制限する必要はない。アプリケーションレイヤーが、モデルに信頼性とコスト効率の高い方法で動作するための明確なスキル、ツール、ガイドラインを提供する。パフォーマンスの向上とトークンコストの制御に加えて、これは、特定のモデルへの依存度が低下することも意味する。アプリケーションレイヤーに知能を埋め込むと、モデル自体ではなく、モデルは交換可能になる。多くの場合、これが、実験的なものとスケーラブルな企業AIの違いとなる。

企業リーダーへの呼びかけ

さまざまな業界で、毎日、企業のAIスタックを確立するために働いている企業リーダーと出会っている。ほとんどの会社は、スタックの必要なモデルレイヤーを確立するために、1つまたは複数のフロンティアモデルプロバイダーから始めている。アプリケーションレイヤーについては、自社で構築したツール、完全に購入した機能、またはその両方の組み合わせに頼っている。

アンソロピックの禁止は、スタックが一晩で混乱する可能性があることを思い出させた。会社のアーキテクチャは、再びそうなることを準備する必要がある。準備するには、会社は展開のスピードを考慮するだけでなく、モデル変更とトークンコストの増加の影響を軽減するソリューションを構築する必要がある。簡単な道ではありませんが、私のアドバイスは以下の通りである：

• アプリケーションに戦略的に、早期に投資する。列車を逃した会社は、常に早期採用者に比べてギャップがある。
• モデル非依存性を設計原則として、ワークアラウンドとしてではない。
• モデルの切り替えコストは、運用の存続に関わるべきではない。
• モデルをベンチマークし、複数のセットアップでパフォーマンスを検証し、長期的なパフォーマンス保証を支援できる専門会社と提携する。

次の企業AIフェーズで勝利する会社は、必ずしも最も優れたモデルへのアクセスを持っている会社ではなく、モデルを取り巻く適切なレイヤーを構築した会社である。nies that can benchmark models, validate performance across multiple setups and help ensure long-term performance guarantees. The companies that will win the game in the next enterprise AI phase are not necessarily the ones with access to the best models, they are those that will have built the right layer around them.