Baseten、2Bパラメーターのオープンウェイト意思決定モデル「joey-1」をリリース

Basetenは2026年10月29日、社内研究所Base Labsが開発した2Bパラメーターの意思決定モデル「joey-1」をリリースした。価格は100万トークンあたり0.01ドルで、Baseten Model APIsを通じて利用できるほか、Hugging Faceでオープンウェイトとして公開されている。

joey-1の登場により、Base Labsの意思決定モデルファミリーは3つのサイズをそろえた。今回の発表では、新モデルを、10月21日に発表されたファミリーモデルのmammoth-1（27B）およびelephant-1（9B）と並べて紹介している。その先行リリース時、Basetenはmammoth-1をJev Decision Indexに掲載された208の意思決定モデル中で最高位のモデル、elephant-1を9Bの意思決定モデルの中で首位のモデルと説明していた。3モデルはすべて同じデータ構成で学習され、同じAPIを共有しているため、モデルの切り替えは1行の変更で済むと同社は述べている。Basetenは、精度が最も重要となる意思決定にはmammoth-1、バランスの取れた標準モデルにはelephant-1、大量処理で低遅延が求められるワークロードにはjoey-1を位置づけている。

生成AIのLLMとは異なり、意思決定モデルはテキストを生成しない。1回の順伝播でラベルとその信頼度スコアを返し、考えられるすべての回答に対するスコアの合計は1となる。テキスト（画像を含めることも可能）で示される状態と複数の質問を与えると、joey-1は共有プレフィックスを使った1回のプリフィルから、各選択肢の較正済み確率を返す。このモデルは、「はい／いいえ」、名前付き選択肢からの選択、順序付きの評価段階という3種類の質問に対応する。Basetenが以前公開したファミリーに関する記事では、チケットのトリアージと振り分け、スパムおよびフィッシングの検出、プロンプトのガードレールとジェイルブレイクの検出、小型LLMと最先端LLMの間でのリクエスト振り分けが、意思決定モデルの用途として挙げられている。

Basetenによると、意思決定の件数が十分に多く、1回あたりのコストがプロジェクトの採算を左右する場合や、意思決定が後続処理の前提となり、その遅延がすべての応答に加わる場合には、LLMのワークロードをjoey-1に移行する価値がある。たとえば、サポートチケットを毎月1,000万件、1件あたり約500トークンで分類すると、合計は50億トークンとなる。同社の料金では、joey-1なら月額約50ドル、mammoth-1なら500ドルとなる。Basetenはjoey-1を第一段階のモデルと位置づけており、joey-1の判断が不確かな場合には、elephant-1やmammoth-1など、より大規模なモデルへエスカレーションできる。

報告されたレイテンシとベンチマーク結果

Basetenの報告によると、本番環境規模でjoey-1が平均2,000トークンのリクエストを処理する際、エンドツーエンドのP50レイテンシは20ミリ秒で、49ミリ秒のelephant-1より約2.5倍高速だという。同社はまた、同等の意思決定モデルと比べて5倍高速と説明している。詳細は後日公表するとしたうえで、社内テストでは、パラメーター数が3B以下の意思決定モデルの中でjoey-1が最も優れていると述べた。

モデルカードによると、joey-1はJev Decision Index 0.4の公開スプリットで63.30点を獲得し、230モデル中37位となった。また、このスプリットではパラメーター数が4B未満のモデルの中で最高スコアを記録した。カードの公開スプリット表には、elephant-1が72.24点、Cloudflare Clefが61.71点、Jev 1.14が60.70点、Perplexity Decider Flash v1.2が60.06点と記載されている。カードによれば、joey-1のスコアは評価対象となったすべての分野でelephant-1を下回る一方、5分野のうち4分野、すなわち言語、ツールと自動化、検索と分類、芸術と人間の嗜好ではJev 1.14を上回っている。

Base Labsが社内で再現したArtificial Analysis Decision Indexでは、モデルカードによるとjoey-1は62.9点で、mammoth-1の65.9点、elephant-1の65.2点、d1-ultraの65点を下回った。Basetenのモデルライブラリのページには、2026年10月のリリース時点で、joey-1がJev Decision Index 0.4における2Bモデルの首位と記載されている。

学習データと手法

モデルカードによると、joey-1はQwen3.5-2Bをベースに、elephant-1およびmammoth-1と同じデータ構成と手法を用いて、Baseten Training Jobsで追加学習された。このプロセスでは、視覚エンコーダーを凍結した状態で、テキストと画像を使った意思決定タスクに対して言語モデル全体をファインチューニングした。全注意層にはブロック単位の双方向アテンションマスクを適用し、シーケンス長の上限を16,384トークンとした。

学習データセットは621万件の意思決定例で構成され、研究所が「Mix 8」と呼ぶデータ構成の内訳は、意思決定の基礎スキルが58.3%、安全性と回答保留が16.1%、評価と専門分野が16.1%、公開の意思決定データが9.5%だった。学習目的関数には交差エントロピーとブライア較正項を組み合わせ、ラムダを1に設定した。また、モデルが回答に確信を持てない場合に備え、学習済みの「わかりません」という選択肢を含めた。この手法では、AdamWオプティマイザーを使い、ベータ値を0.9および0.95、weight decayをなしとして、学習率のピークを1e-5に設定した。学習は43,390ステップの1エポックで行い、3%のウォームアップ、コサイン減衰、bf16精度を用いた。8基のH100 GPUを搭載したノードを2台、合計16基のGPUで実行した。

提供状況、価格、デプロイ

joey-1は、モデルID「decision-models/baseten-joey-2b-latest」の下、/v1/systemoneエンドポイントを通じてBaseten Model APIsで提供されており、デフォルトでデータ保持ゼロが有効になっている。公表価格は入力100万トークンあたり0.01ドルで、キャッシュ済みの入力と出力はいずれも0.00ドルと記載されている。ファミリーの価格表では、elephant-1は100万トークンあたり0.035ドル、mammoth-1は0.1ドルとされている。また、発表ではjoey-1の価格はmammoth-1の10分の1と説明されている。

Model APIsでは、意思決定モデルは16kのコンテキストウィンドウに対応し、低レイテンシーのワークロード向けに最適化されています。専用デプロイでは、最大262kのコンテキストウィンドウを利用でき、ファインチューニング済みの重みもサポートされます。Basetenによると、ワークロードに応じた最適化とLLMワークロードとのコロケーションにより、TTFT（最初のトークンが出力されるまでの時間）とTPS（1秒あたりのトークン数）をさらに向上させることもできます。elephant-1とjoey-1はBaseten Training Jobsで事後学習に利用でき、同社はGitHubでファインチューニングのクックブックを公開しています。

重みはMITライセンスの下で公開されています。セルフホスティングする場合、モデルカードのセットアップスクリプトによって、バージョンが固定されたサービングランタイムとサービングパッチ適用済みのOneJevがインストールされ、CUDA GPUが1基必要です。モデルカードには、学習時の長さ制限を超えるリクエストは切り詰められるのではなく、拒否されると記載されています。