Baseten、企業向けAIコーディングのルーティングとガバナンスを担うGridを発表

Basetenは2026年11月4日、企業向けAIコーディングのルーティング、ゲートウェイ、ガードレールを担うレイヤーのパブリックプレビューとして、Gridを発表した。同社によると、初期ベンチマークではBaseten Routerによりタスクあたりのコストを約70%削減できた一方、Opus 5.5と比べた品質のトレードオフは0.9ポイントだった。早期アクセスはウェイトリストを通じて受け付けている。

トークン価格にとどまらないルーティング

Gridは、開発者が通常、自ら判断している「承認済みモデルのうち、どのモデルに各コーディングタスクを処理させるか」という選択を自動化する。リクエストごとに、Baseten Routerは組織で承認されているオープンソースおよびクローズドソースの選択肢を評価し、予想されるタスクの処理性能とコストを比較する。

ルーターはトークン単価だけでモデルを順位付けするのではなく、再試行、ツール呼び出しの失敗、不完全な回答に伴うコストも考慮する。チームが求める品質と性能の要件を満たしながら、タスク完了までのコストを抑えることを目指す。自動ルーティングでは、コスト、知能、またはその両方のバランスを重視できる。

組織はトレースの共有にオプトインすることもできる。共有されたトレースは、各組織固有のワークロードでパレート効率を実現するカスタムルーターの学習に利用できる。Basetenによれば、実際の削減幅はワークロードの特性と、顧客が望むコストと品質のバランスによって異なる。そのため、ベンチマークは一律の削減を示すものではなく、削減の可能性を示すものだ。

Opendoorのエンジニアリング責任者であるChintan Parikh氏は、Gridによって社内のAI支出を一元的に把握できるようになり、品質をほとんど損なうことなく支出を自動的に削減できたと述べた。Opendoorではほぼ全員がAIを利用しているが、大半の従業員はどのモデルを選ぶか判断したいとは考えていない。

開発ツールを変えずにアクセスを一元管理

Grid Gatewayは管理レイヤーを提供する。プラットフォームチームは、チーム単位のアクセス権付与、予算設定、会社管理の認証情報の利用に加え、モデルの承認や、チーム、アプリケーション、エージェント全体にわたる利用状況の監視を行える。ダッシュボードではモデル別に支出を分類し、総支出、トークン量、キャッシュヒット率、削減できたコストを表示する。

提供開始時点で、GridはOpenAI、Anthropic、Gemini Enterprise Agent Platform、Amazon Bedrock、Basetenのモデルに対応する。開発者はセットアップコマンド1つでClaude Code、Codex、OpenCode、Piを接続でき、管理者はモバイルデバイス管理を通じて設定を自動化できる。

AnthropicまたはOpenAI APIを使用する社内アプリケーションやエージェントは、ベースURLとモデルIDを変更するだけで接続できる。これにより、組織が使い慣れた開発ツールを置き換えることなく、既存のソフトウェアを同じエンドポイントの管理下に置ける。

プラットフォームチームは各ハーネスに、デフォルトのコーディングモデルと、要約などの補助タスクに使う小型のバックグラウンドモデルを割り当てることもできる。開発者はセットアップ時にこれらのデフォルト設定を受け取り、後からモデルを変更できる。

ガードレールと推論インフラを一元化

Gridは設定可能な安全ポリシーをゲートウェイに設け、リクエストとレスポンスを一元的に検査する。ポリシーはワークロードごとに変えられ、記録からは、何が検知され、どのように処理されたかを確認できる。想定されるリスクには、エージェントの動作を変える隠された指示を含む文書、許可されていない操作、そして本来表示されるべきでない場所に顧客情報が現れることが含まれる。

こうしたガードレールは実行制御とは別のものだ。安全性チェックはリスクのあるリクエストやレスポンスを検査する一方、実行制御はエージェントが何にアクセスし、何を実行できるかを定める。Basetenによれば、企業にはこの両方のレイヤーが必要だ。

ゲートウェイの下層では、Basetenの推論プラットフォームが、ルーティング、モデルとハーネスのプロトコル間の変換、キャッシュ、スケーリング、最適化を担う。Basetenが選択されたモデルを提供する場合、複数ターンにわたる長時間のエージェントセッションをウォームなキー・バリューキャッシュに振り分け、コストを抑えられる。同社のモデル性能研究、事後学習、インフラの各チームは、カスタムカーネル、投機的デコーディング、さらに各モデルのリリース前に通過しなければならない評価にも取り組んでいる。

プレビュー後の計画として、Basetenは長時間かかる作業をクラウド上でホストされるエージェントに委任する機能や、複雑なタスクで複数のエージェントを連携させる機能への対応を予定している。顧客データやユースケースに合わせて調整するルーティング、より充実した安全性シグナル、顧客独自のガードレールへの対応も計画している。

したがって、経済性を評価する際に見るべきなのは、求める品質でタスクを完了するためのコストであり、トークン価格は考慮すべき要素の1つにすぎない。公表された削減幅はワークロードの特性に左右され、エージェント管理機能のいくつかはまだ計画段階にある。そのため、このプレビューだけでは、ベンチマークの結果が本番環境のコーディング業務でも一貫して再現されるかどうかは分からない。