Baseten、NVIDIAのNemotron Coalitionに推論の専門知識を提供

Basetenは2026年11月5日、NVIDIA Nemotron Coalitionへの参加を発表した。企業向けワークロードから得た知見と、事後学習および推論に関する専門知識をオープンモデルの開発に提供する。今回の参加により、モデルのローンチ、強化学習、カスタマイズ、専用推論にわたって、NVIDIAとの協業が拡大する。

NVIDIAは2026年3月16日、オープンなフロンティアモデルをめぐり、研究、専門知識、データ、計算資源を結集するため、この連合を立ち上げた。NVIDIAの発表によると、最初のプロジェクトではMistral AIとNVIDIAがベースモデルを共同開発し、NVIDIA DGX Cloud上でトレーニングする。このモデルはオープンソースとして公開され、開発者や組織が特定の用途に合わせて調整できるほか、今後登場するNemotron 4ファミリーの基盤として活用される。

Basetenは、Nemotron 3.5 Super VLとNemotron 3 Ultraのローンチに初日から参加したパートナーだった。連合における同社の役割は、完成したモデルを提供することにとどまらず、トレーニング環境の整備や、企業での利用を通じて培った運用知識の提供にも及ぶ。実務面では、個々の事業要件に応じたカスタマイズに重点を置き、デプロイの品質、コスト、柔軟性を相互に関連する課題として捉えている。

本番環境のワークロードに向けたトレーニング

同社は、複雑な指示の階層に対応する強化学習環境を開発した。そこでは、無関係な情報を無視し、細かな文体の好みに従う能力を訓練する。ほかの環境では、複雑な生物学的データセットの統計分析、数学の定理証明、対戦型ゲームを通じて、長期的な推論と計画立案に取り組む。これらのタスクは、システムプロンプト、ツール定義、ユーザーからの追加指示、ツールの応答、エラーメッセージを通じて、本番環境の指示が与えられる実際の状況に対応している。

同社のマルチモーダル分野の取り組みには、視覚と空間に関する推論タスクに加え、視覚的な理解を必要とする複数ターンのツール呼び出しが含まれる。Basetenによると、事後学習によって、専門家レベルのマルチモーダル推論ベンチマークであるMMMU-Proの成績が向上した。2026年10月5日に提出された関連論文では、5,000万パラメーターのプロジェクターを用いて、Kimi K2.6のビジョンエンコーダーをGLM 5.2およびGLM 5.3に接続する手法が説明されている。この手法では事前学習済みの重みを固定したまま、MMMU-ProとBLINKで評価を行った。

カスタマイズの効果を数値で検証

CodeRabbitが2026年8月11日に公開した調査報告では、NVIDIAおよびBasetenとのプロジェクトについて説明している。このプロジェクトでは、教師ありファインチューニングに続き、検証可能な報酬を用いた強化学習を行い、コードレビューの振り分けに向けてNemotron 3.5 Lightningをカスタマイズした。固定した1,000タスクの評価では、振り分け先が完全に一致した割合は、ベースラインの75.8%から、教師ありファインチューニング後に80.4%、報酬を用いた学習後に80.7%へ上昇した。偶然の一致を超える一致度を示す指標であるCohenのカッパ係数は、0.429から0.461、さらに0.544へ上昇した。

CodeRabbitは、振り分け先の一致率が最後に0.3ポイント変化したことについて、統計的に明確な改善ではなく、非劣性を示す結果とみなした。対応のある信頼区間がゼロをまたいでいたためだ。同社による推論サービスの比較では、スループットが飽和した状態でコストが50.4%削減されると推定された。同じ評価にかかった費用は、ベースラインモデルで2.34ドル、Baseten上のA100を1基使用した場合で1.16ドルだった。持続的な負荷と本番トラフィックでの検証は、後の段階に持ち越された。

Harveyは、別のカスタマイズ事例を示している。Basetenによると、この法律分野向けAIプラットフォームは、Baseten上でNemotronの事後学習を行い、毎日数万人の弁護士が利用する専門的なワークフローに対応させている。HarveyとBasetenが2026年9月8日に公開した研究では、M&AのデータルームをPython環境に読み込み、ルートエージェントが範囲を限定したレビューをサブエージェントに委任できるようにした。Harveyによると、保留データルーム50件を対象に7つのモデルで評価した結果、この仕組みにより、評価基準の平均合格率は23.3%から62.4%に上昇した。

Harveyの報告では、Qwen3.5-122B-A10Bをルートモデルとする強化学習により、対象となった50件のデータルームでの合格率が29.9%から63.0%に上昇したことも示されている。一方で、これらの実験は初期段階の検証であり、ほぼ完全な合格率に達するまでには、なお大きな隔たりがあるとしている。

デプロイと音声AI

Baseten Loopsは、マネージド型の強化学習ワークフローを専用推論に接続する一方、トレーニング済みモデルの重みは顧客が引き続き所有する。LoopsはNemotron 3.5 Super VLとNemotron 3 Ultraに対応し、Super VLはBF16およびNVFP4でトレーニングできる。

両社は、モデルの品質や応答性を含むアプリケーション全体を対象に、Nemotronを活用した音声エージェントの評価も進めている。Basetenが2026年8月4日に公開した音声認識ベンチマークによると、NVIDIA H100を1基使用した場合、リアルタイムのWebSocket音声ストリームを最大100件同時に処理できた。話者が話し終えてから最終的な文字起こしが完成するまでの時間を示す確定レイテンシーは、ストリーム数が8件の場合の98ミリ秒から、100件の場合には138ミリ秒に増加した。

Basetenの連合への参加により、モデルの適応と、適応後のモデルを提供するためのインフラが結び付く。顧客事例はこのアプローチを裏付ける具体的な証拠となる一方、CodeRabbitのスループット飽和時の推定値と未完了の本番検証、そしてHarveyの初期段階の実験は、その限界を示している。中心的な問いは、測定された効果が本番環境で継続的に利用した場合にも、どの程度維持されるかだ。