IBM、8Bおよび30Bサイズのモジュラー型Granite Switch 4.1モデルを発表

IBMは2026年10月15日、Granite Switch 4.1を発表した。8 billionおよび30 billionのパラメータを持つ2つのモジュラー型言語モデルで、ベースモデル、汎用の意思決定アダプター、安全性アダプター、組み込み音声テキスト変換エンコーダーを1つのホスト型エンドポイントに統合している。発表を伝えるIBM Graniteのブログ記事は、Kate Soule、Subhajit Chaudhury、Hendrik Strobelt、Luis A Lastrasが執筆した。

4.1の構成

今回のリリースにはGranite-Switch-4.1-8BとGranite-Switch-4.1-30Bが含まれ、それぞれgranite-4.1-8bおよびgranite-4.1-30bをベースモデルとしている。パラメータ数はそれぞれ80億、300億で、コンテキストウィンドウは128Kだ。8Bモデルカードと30Bモデルカードには、リリース日が2026年10月14日であること、Apache 2.0ライセンス、Hugging Face TransformersおよびvLLMバックエンドが記載されている。

各チェックポイントは、ベースモデルに3つのコンポーネントを組み合わせている。汎用的な意思決定を行うdecision Activated LoRA（aLoRA）、IBMのGuardianライブラリーに含まれるaLoRAであるguardian-core、そしてGranite Speech 5.0 TurboCTCだ。guardian-coreは、危害、ジェイルブレイク、冒涜、暴力、性的コンテンツ、社会的バイアス、非倫理的行動に関わる安全性リスクを検出する。Granite Speech 5.0 TurboCTCは、文字起こし用に組み込まれた、英語対応の自己回帰を行わない4億7,000万パラメータのConformer CTCエンコーダーで、IBMによるとOpenASR Leaderboardで最速のASRモデルだ。IBMは、これら3つの技術をベースモデルと組み合わせても、必要なGPUメモリーはベースモデル単体とおおむね同じだとしている。

モデルカードには、音声機能を含まないプレビュー版（granite-switch-4.1-8b-preview、granite-switch-4.1-30b-preview、granite-switch-4.1-3b-preview）も記載されており、Granite Librariesのアダプターバンドル一式が同梱される。IBMは2026年春、モデル開発へのモジュラー型アプローチとしてGranite Switchプロジェクトを発表した。先行してリリースされたGranite Librariesには、カスタムのSwitchモデルに組み合わせられる、特化型の意思決定アダプターおよびタスクアダプターのリポジトリーが含まれている。

切り替えの仕組み

Granite Switchでは、モデルカードが「粗粒度のエキスパート切り替え」と呼ぶ方式を採用している。この方式では、1つのアダプターが連続するトークン範囲にわたって、すべてのデコーダーレイヤーで有効になる。呼び出し側がチャットテンプレートにアダプター名を渡すと、対応する制御トークンが自動的に挿入され、アダプターが有効化される。標準的なアテンション機構に基づく軽量な切り替えレイヤーが制御トークンを検出し、位置ごとのアダプターインデックスを生成することで、各デコーダーレイヤーにその範囲に対応するLoRA重みを適用させる。

モデルカードには、設計上の特長が4つ挙げられている。各アダプターが読み取るのはベースモデルのKVキャッシュのみで、他のアダプターの内部状態は参照しないこと。アダプターは共同学習を行わず、それぞれ独立して開発、テスト、公開されること。1つのチェックポイントがTransformersとvLLMの両方で動作すること。そして、アダプターの選択にコード変更が不要であることだ。IBMによると、キャッシュ効率に優れたActivated LoRA設計により、ベースモデルでの生成に使ったKVキャッシュを、その後のアダプターを使った意思決定にも再利用できる。また、最近のvLLMカーネルへの貢献と、同じ場所に配置されたASRエンコーダーにより、チャット、意思決定、音声によるリクエストを高速に切り替えられるとしている。

意思決定アダプターは、状態と、選択肢にラベルが付いた質問を受け取り、1回の順方向パスで各ラベルのソフトマックス確率分布を出力する。入力音声は組み込みの音声エンコーダーで文字起こしされ、その結果のテキストがチャットコンテキスト内の音声に置き換わる。このため、文字起こしはチャットや意思決定と同じエンドポイントで実行され、別の音声サーバーは不要で、モデルの呼び出し方法も変わらない。IBMはまた、8Bモデルが入力音声を文字起こしし、要約を作成し、有害コンテンツをチェックし、ユーザーが定義した15個の追加フラグを評価する様子を、すべて1つのエンドポイントでリアルタイムに試せるSpeech-to-Decisionsのデモスペースも提供している。

IBMが報告したベンチマークと比較結果

IBMは、自社のアプローチをJevなどのクローズドな意思決定モデルと対比し、これらのモデルは汎用性を重視していると述べている。また、安全性に関わる意思決定タスクでは、guardian-coreアダプターが平均してJev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions、Clef-Flashを上回るとしている。IBMが公開した、Granite Librariesの特化型アダプターと汎用型の意思決定モデルとの比較では、最も高い成績を収めたGraniteアダプターはOOD Safetyで2.3ポイント、IFEvalで17.0ポイント、BIO F1で11.0ポイント、RAGTruthで11.8ポイント上回った。一方、LM-AggreFactでは2.6ポイント、InfoBench-GPT4では3.2ポイント、InfoBench-Humanでは0.8ポイント下回った。

モデルカードには、意思決定アダプターのDecision Indexスコアが記載されている。ベンチマークの公開高速サブセット1,068行を対象に、edition-v0.3の採点方式を用い、ホスト型vLLMエンドポイント経由でアダプターを提供して測定した結果だ。8Bアダプターの総合スコアは42.9で、Knowledgeは29.1、Languageは48.9、Retrievalは49.8、Toolsは59.8、Artsは18.0だった。30Bアダプターの総合スコアは50.1で、Knowledgeは32.4、Languageは58.6、Retrievalは49.8、Toolsは76.5、Artsは26.4だった。同じアダプターをローカル環境とホスト環境で実行した場合のスコア差は、おおむね0.6ポイント以内だったとモデルカードには記載されている。

IBMはまた、4つの特化型aLoRAを備えた凍結済みGraniteベースモデルであるGranite-Switch-4.1-30Bが、汎用の意思決定用LoRAを1つ備えた凍結済みQwenベースモデルのJev-27Bよりも、実際の5段階のRAGワークフローをはるかに短時間で完了した比較結果を報告している。2つ目のデモでは、ゲームDoomをプレイするカスタムの30億パラメーターGranite Switchモデルが、1秒間に60～100回の意思決定を行ったとIBMは述べている。これに対し、Jevについて報告された回数は1秒間に10回だった。また、Jevとは異なり、このモデルはプレイ中に状況を説明し、質問に答えることもできるという。

提供状況、要件、制限事項

両チェックポイントのライセンスはApache 2.0です。必要な環境は、Python 3.9以降、PyTorch 2.11.0以降、Transformers 5.16～5.17.0で、任意でvLLM 0.26.0以上0.28.0未満も利用できます。密なデコーダー専用ベースアーキテクチャは、グループ化クエリアテンション（GQA）、RoPE、SwiGLU、RMSNormを採用し、コンテキスト長は131,072トークンに対応しています。また、対応言語として英語、ドイツ語、スペイン語、フランス語、日本語、ポルトガル語、アラビア語、チェコ語、イタリア語、韓国語、オランダ語、中国語が挙げられています。

プロジェクトのアダプターカタログにあるアダプターを、コンポーザー用ツールと組み合わせれば、誰でもカスタムのGranite Switchモデルを構成できます。IBMは、Granite Switchアダプターを実行するための推奨アプリケーションレイヤーとしてMelleaを位置づけており、MelleaはすでにGranite Librariesのアダプターファミリーをラップしています。ただし、意思決定アダプターはまだMelleaの組み込み機能として利用できず、対応は今後予定されています。IBMはさらに、Melleaでカスタムアダプターやサードパーティー製アダプターをトレーニングするためのAdapter SDKを、チュートリアルおよびGranite Switchのサポートとあわせて提供する計画です。また、発表後数週間のうちに、Granite Switchの詳細情報とデータを追加公開するとしています。

モデルカードには、いくつかの制限事項が記載されています。音声処理のカスケードは英語のみで動作し、出力される文字起こしはすべて小文字で句読点を含まず、デコード時の制御にも対応していません。また、ASRエンコーダーは言語モデルやアダプターと共同で学習されていないため、誤認識によってモデルやアダプターの応答が気づかないうちに変わる可能性があります。vLLMでは、意思決定の選択肢ラベルに対する対数確率（logprob）の要求がトークンID 128個までに制限されているため、選択肢がそれより多い質問は、複数のチャンクに分けて要求する必要があります。また、モデルカードによると、guardian-coreはアプリケーションレベルの安全性テストの代わりにはなりません。チェックポイントには、Guardian Libraryの事実性検出、事実性修正、ポリシーガードレールの各アダプターは含まれていません。さらに、意思決定アダプターの確率は、学習対象外の領域で認証済み分類としてではなく、意思決定の参考となる事前確率として解釈する必要があります。