Baseten、ポストトレーニング向けServerless Loopsの一般提供を開始

Basetenは2026年11月6日、Serverless Loopsの一般提供を開始したと発表し、オープンモデルの教師ありファインチューニングと強化学習に使えるマネージドSDKを、すべてのユーザーに開放しました。このサービスはトークン単位の従量課金制を採用し、チェックポイントからBaseten Dedicated Inferenceへ直接移行できます。

Loopsは役割分担を軸に構築されています。ユーザーが学習シグナルを提供し、BasetenがGPU、カーネル、モデルアーキテクチャ、分散学習バックエンドを運用します。Python SDKは、ベースモデルの重みを凍結した状態でLoRAアダプターを学習させます。ユーザーはベースモデル、LoRAランク、学習率、損失関数、データまたは環境、アルゴリズムを選択し、Basetenがトレーナー、サンプラー、重みの同期、およびサポートインフラを稼働させます。

互換性パッケージにより、既存スクリプトを移行するチームは、Tinkerのインポート文やトレーニングとサンプリングの主要な呼び出しをそのまま利用できます。移行ガイドによると、認証方式はBaseten APIキーに変更され、チェックポイントはページ分割されたファイルURLとして返されます。また、画像入力はインラインで指定する必要があり、LoRAモジュールの適用範囲はモデルファミリーごとに固定されています。互換性が確保されるのはトレーニングAPIであり、インフラ固有の詳細については、チーム側で調整が必要なものがいくつか残ります。

サーバーレスモデルと課金

サーバーレスカタログには、次の3つのモデルが含まれます。 Qwen/Qwen3.6-35B-A3B および zai-org/GLM-5.3-Flash テキストと画像に対応し、 zai-org/GLM-5.3 テキストのみを対象とします。いずれもシーケンス長の上限は262,144トークンです。GLM-5.3の長文脈設定は、 cross_entropy または dpo の損失関数に対応していません。専用モードでは、より幅広いモデルカタログを利用でき、GPUの稼働時間に応じて課金されるほか、レプリカ、ウォーム再利用、スポットキャパシティを制御できます。

サーバーレス実行では、GPUを予約することなく共有キャパシティを利用でき、トレーニングとサンプリングで使用したトークン数に応じて課金されます。結果の確認、報酬関数の変更、または待機に費やした時間には、トークン料金は発生しません。デフォルトのモード選択では、未対応のモデル、LoRAランク、シーケンス長を指定した場合や、実行時に別の実行のデプロイを再利用する場合、専用キャパシティに切り替わることがあります。一方、スコープをサーバーレスに設定すると、未対応のリクエストはエラーになります。

モデルが有効化されていても、キャパシティが確保されるとは限りません。ワークスペースごとのアクセス制限、利用できないGPU、組織単位のトレーナー上限によって、実行が妨げられることがあります。そのため、従量課金制の利用には、公開カタログに示された範囲以外にも、実際のキャパシティに関する制約があります。

チェックポイントと本番推論

クイックスタートでは、次の4つの主要な操作が紹介されています。 forward_backward 損失と勾配の処理に使用する、 optim_step アダプターの更新に使用する、 sample 生成に使用し、 save_state 再開可能なトレーニングに使用する。サンプラーの重みを公開すると、デプロイ可能なチェックポイントと、そのチェックポイントに固定されたサンプリングクライアントが作成されます。これとは別に、 save_state モデルとオプティマイザーの状態を保持する操作もあります。サーバーレスキャパシティの起動中は、最初のサンプリングリクエストに数分かかることがあります。短時間の実験では、実用上考慮すべき点です。

サンプラーチェックポイントは、トレーニング済みのLoRAアダプターを読み込んだベースモデルとしてデプロイされます。チェックポイントは実行終了後も保持され、Hugging Faceのアクセストークンを使って、CLI、REST API、またはダッシュボードからデプロイできます。これは、デプロイ時にベースの重みがダウンロードされるためです。作成されたOpenAI互換エンドポイントでは、稼働中のGPU使用料が課金されます。デプロイを削除するとGPU料金は止まりますが、チェックポイントは削除されません。また、Loopsの実行を無効化しても、デプロイは削除されません。

GAに向けて、Basetenは一時的なネットワークエラーやGPU障害への対応を改善し、起動時のオーバーヘッドを減らすとともに、トレーナーとサンプラー間の重み転送を高速化しました。Basetenによると、これらの変更によって、より多くの顧客ワークロードを同時に処理できるようになりました。同社の本番推論スタックは、1日に150億件を超えるリクエストを処理しています。本番環境向けの機能には、自動スケーリング、デプロイ管理、推論メトリクスが含まれ、ユーザーは重みをHugging Face Safetensors形式でダウンロードできます。

検証と初期の顧客ワークロード

Basetenによると、数値テストと、τ-benchのタスクを用いたエンドツーエンドの強化学習実験でサービスを検証しました。実験では、小売、航空、銀行の各分野を対象にした後、学習に使用していない難度の高いタスクで評価しました。τ-benchプロジェクトは、企業の各分野で、エージェントがユーザーと対話し、ツールを呼び出し、知識を検索し、ポリシーに従えるかを評価するベンチマークです。その結果は、検証可能なデータベース上の結果と照合されます。

Basetenによると、NVIDIAはNemotron Super 3.5 VLをテキストおよび画像タスク向けにポストトレーニングし、意図分類の精度を76.8%から94%に向上させ、レシート情報の抽出で検証用F1スコア87%を達成しました。この取り組みには、画像内の物体数を数えるための強化学習も含まれていました。Datadogは、SREエージェント向けのトレーニングのアイデアを検証するため、複数ターンのエージェント型強化学習を活用しています。また、Ambience Healthcareは、臨床文字起こしの誤りを修正し、医学用語や書式を正確に捉えるためにモデルをポストトレーニングしました。

LangChain Labsは、LangSmith Engine向けにエージェントの実行履歴を使ってモデルを事後学習している。GitHubリポジトリを読み込んで問題を診断し、プルリクエスト用のプロンプトやコード変更案を作成する作業も含まれる。失敗の種類や深刻度に基づいて実行履歴を分類したり、既存の問題に対応付けたりする際には、より小型のオープンウェイトモデルに切り替えることもできる。LangChainのワークフローは、アプリケーションの動作がどのように学習目標となるかを示しており、タスクに応じてモデルの規模や専門性を選んでいる。

顧客事例には、GA発表前の利用状況が記録されており、想定されるインフラの循環も示されている。アプリケーションのデータを学習入力とし、チェックポイントを評価したうえで、選定したモデルを本番環境へ移行するという流れだ。インフラチームにとって、コストの境界も明確である。対応するサーバーレス実行では、GPUの予約やアイドル時間中のトークン料金が不要になる一方、稼働中の推論エンドポイントでは、引き続きGPUの料金が発生する。サーバーレスのカタログとワークスペースの容量によって、サーバーレスを利用できる範囲が決まる。