IBM, 8B ve 30B Boyutlarında Modüler Granite Switch 4.1 Modellerini Piyasaya Sürüyor

IBM, 15 Ekim 2026’da Granite Switch 4.1’i duyurdu ve temel modeli, genel amaçlı bir karar adaptörünü, bir güvenlik adaptörünü ve gömülü bir konuşmadan metne dönüştürme kodlayıcısını tek bir barındırılan uç noktada bir araya getiren, 8 milyar ve 30 milyar parametreli iki modüler dil modelini piyasaya çıkardı. Duyuruyu yayımlayan IBM Granite blog yazısı, Kate Soule, Subhajit Chaudhury, Hendrik Strobelt ve Luis A Lastras tarafından kaleme alındı.

4.1 Yapılandırması

Bu sürüm, sırasıyla 8 milyar ve 30 milyar parametre taşıyan ve 128K bağlam penceresine sahip granite-4.1-8b ve granite-4.1-30b temel modelleri üzerine kurulu Granite-Switch-4.1-8B ve Granite-Switch-4.1-30B modellerini içeriyor. 8B model kartında ve 30B model kartında 14 Ekim 2026 yayın tarihi, Apache 2.0 lisansı ve Hugging Face Transformers ile vLLM arka uçları listeleniyor.

Her kontrol noktası, temel modele üç bileşen ekliyor: genel amaçlı karar verme için bir karar Aktifleştirilmiş LoRA (aLoRA); IBM’in Guardian kütüphanesinden, zarar, jailbreak girişimleri, küfür, şiddet, cinsel içerik, toplumsal önyargı ve etik dışı davranışları kapsayan güvenlik risklerini tespit eden bir aLoRA olan guardian-core; ve transkripsiyon için gömülü, 470 milyon parametreli, İngilizce, otoregresif olmayan bir conformer CTC kodlayıcısı olan Granite Speech 5.0 TurboCTC. IBM, bu kodlayıcının OpenASR Leaderboard’daki en hızlı ASR modeli olduğunu belirtiyor. IBM’e göre temel modelle birlikte bu üç teknolojinin tümü, yalnızca temel modelin gerektirdiğiyle yaklaşık aynı miktarda GPU belleği kullanıyor.

Kartlarda ayrıca, Granite Libraries adaptör paketinin tamamını içeren, ses özelliği bulunmayan önizleme sürümleri (granite-switch-4.1-8b-preview, granite-switch-4.1-30b-preview ve granite-switch-4.1-3b-preview) listeleniyor. IBM, Granite Switch projesini 2026 ilkbaharında model geliştirmeye yönelik modüler bir yaklaşım olarak tanıttı. Daha önce yayımlanan Granite Libraries ise özel karar ve görev adaptörlerinden oluşan; özel Switch modellerinde bir araya getirilebilen bir depo sunuyor.

Geçiş Mekanizması Nasıl Çalışıyor?

Granite Switch, model kartlarında kaba taneli uzman geçişi olarak adlandırılan bir yöntem kullanıyor. Bu yöntemde tek bir adaptör, bitişik bir belirteç aralığı boyunca tüm kod çözücü katmanlarında etkin kalıyor. Çağrıyı yapan taraf, adaptörün adını sohbet şablonuna ileterek adaptörü etkinleştiriyor; şablon da ilgili kontrol belirtecini otomatik olarak ekliyor. Standart dikkat mekanizması üzerine kurulu hafif bir geçiş katmanı bu belirteçleri algılıyor ve her konum için adaptör dizinleri üretiyor; böylece her kod çözücü katmanına söz konusu aralık için eşleşen LoRA ağırlıklarını uygulaması yönünde talimat veriyor.

Kartlarda dört tasarım özelliği sıralanıyor: Her adaptör yalnızca temel modelin KV önbelleğini okuyor ve başka bir adaptörün iç durumuna hiçbir zaman erişmiyor; adaptörler ortak eğitim olmaksızın bağımsız olarak geliştiriliyor, test ediliyor ve yayımlanıyor; tek bir kontrol noktası hem Transformers hem de vLLM ile çalışıyor; adaptör seçimi için kod değişikliği gerekmiyor. IBM, önbellek verimliliği sağlayan Aktifleştirilmiş LoRA tasarımının, temel modelin ürettiği KV önbelleğinin sonraki adaptör tabanlı kararlar için yeniden kullanılmasına olanak tanıdığını belirtiyor. Ayrıca hızlı sohbet, karar ve sesli istek geçişlerini, yakın konumlandırılmış bir ASR kodlayıcısına ve vLLM çekirdeğine yakın zamanda yaptığı katkılara bağlıyor.

Karar adaptörü, bir durumu ve etiketli seçenekler içeren bir soruyu alıyor, ardından tek bir ileri geçişte bu etiketler arasında softmax olasılık dağılımı üretiyor. Gelen ses, gömülü konuşma kodlayıcısı tarafından metne dönüştürülüyor ve elde edilen döküm sohbet bağlamında sesin yerini alıyor. Böylece transkripsiyon, ayrı bir konuşma sunucusu gerektirmeden ve modelin çağrılma biçimi değişmeden, sohbet ve kararlarla aynı uç noktada çalışıyor. IBM ayrıca 8B modelinin gelen sesi metne dönüştürdüğü, özetler oluşturduğu, zararlı içerik olup olmadığını kontrol ettiği ve kullanıcı tarafından tanımlanmış 15 ek işareti değerlendirdiği bir Speech-to-Decisions demo alanı da sunuyor; tüm bunlar tek bir uç noktada gerçek zamanlı olarak gerçekleşiyor.

IBM’in Bildirdiği Kıyaslama Sonuçları ve Karşılaştırmalar

IBM, yaklaşımını genel amaçlı olmaya odaklandığını söylediği Jev gibi kapalı karar modelleriyle karşılaştırıyor ve guardian-core adaptörünün güvenlikle ilgili karar görevlerinde ortalama olarak Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions ve Clef-Flash modellerinden daha iyi performans gösterdiğini belirtiyor. IBM’in özel Granite Libraries adaptörlerini genel amaçlı karar modelleriyle karşılaştırdığı yayımlanmış sonuçlarda, en iyi Granite adaptörü OOD Safety’de 2,3 puan, IFEval’de 17,0 puan, BIO F1’de 11,0 puan ve RAGTruth’ta 11,8 puan farkla önde bitirirken LM-AggreFact’te 2,6 puan, InfoBench-GPT4’te 3,2 puan ve InfoBench-Human’da 0,8 puan geride kaldı.

Model kartlarında, karar adaptörünün Decision Index puanları bildiriliyor. Puanlar, adaptör barındırılan bir vLLM uç noktasının arkasında sunulurken, karşılaştırmanın 1.068 satırlık herkese açık hızlı alt kümesinde edition-v0.3 puanlama yöntemiyle ölçüldü. 8B adaptörü genel olarak 42,9 puan aldı; Bilgi kategorisinde 29,1, Dil’de 48,9, Bilgi Erişimi’nde 49,8, Araçlar’da 59,8 ve Sanat’ta 18,0 puan elde etti. 30B adaptörü genel olarak 50,1 puan aldı; Bilgi kategorisinde 32,4, Dil’de 58,6, Bilgi Erişimi’nde 49,8, Araçlar’da 76,5 ve Sanat’ta 26,4 puan elde etti. Kartlarda, aynı adaptörün yerel ortamda ve barındırılan ortamda sunulmasıyla elde edilen sonuçların yaklaşık 0,6 puanlık fark içinde kaldığı belirtiliyor.

IBM ayrıca, dört özelleşmiş aLoRA içeren ve ağırlıkları dondurulmuş bir Granite temel modeli olan Granite-Switch-4.1-30B’nin, tek bir genel amaçlı karar LoRA’sı içeren ve ağırlıkları dondurulmuş bir Qwen temel modeli olan Jev-27B’den çok daha hızlı biçimde gerçek dünyadaki beş adımlı bir RAG iş akışını tamamladığı bir yarıştan da söz ediyor. İkinci bir gösterimde IBM, Doom oyununu oynayan, 3 milyar parametreli özel bir Granite Switch modelinin saniyede 60 ila 100 karar verdiğini; Jev için bildirilen hızın ise saniyede 10 karar olduğunu belirtiyor. IBM ayrıca kendi modelinin Jev’den farklı olarak oyun oynarken olup bitenleri anlatabildiğini ve soruları yanıtlayabildiğini söylüyor.

Kullanılabilirlik, Gereksinimler ve Sınırlamalar

Her iki kontrol noktası da Apache 2.0 lisansına sahiptir. Gereksinimler; Python 3.9 veya üzeri, PyTorch 2.11.0 veya üzeri, Transformers 5.16 ile 5.17.0 arası ve isteğe bağlı olarak vLLM 0.26.0 ile 0.28.0’ın altındaki sürümlerdir. Yoğun, yalnızca kod çözücüden oluşan temel mimari; gruplu sorgu dikkatini (GQA), RoPE’yi, SwiGLU’yu ve RMSNorm’u kullanır, 131,072 belirteçlik bir bağlam uzunluğunu destekler ve desteklenen diller arasında İngilizce, Almanca, İspanyolca, Fransızca, Japonca, Portekizce, Arapça, Çekçe, İtalyanca, Korece, Felemenkçe ve Çinceyi sayar.

Herkes, projenin adaptör kataloğundaki adaptörleri model oluşturma araçlarıyla bir araya getirerek özel bir Granite Switch modeli oluşturabilir. IBM, Granite Switch adaptörlerini çalıştırmak için tercih edilen uygulama katmanının Mellea olduğunu belirtiyor. Mellea, Granite Libraries adaptör ailelerini hâlihazırda kapsıyor; ancak karar adaptörü için henüz bir Mellea intrinsic’i bulunmuyor ve destek sunulması planlanıyor. IBM ayrıca Mellea’de özel ve üçüncü taraf adaptörler eğitmeye yönelik bir Adaptör SDK’sı, eğitim içerikleri ve Granite Switch desteği sunmayı planlıyor; duyurudan sonraki haftalarda Granite Switch hakkında daha fazla ayrıntı ve veri yayımlayacağını söylüyor.

Model kartlarında çeşitli sınırlamalar belgeleniyor. Konuşma zinciri yalnızca İngilizce çalışıyor ve çözümleme sırasında yönlendirme olanağı olmadan, küçük harfli ve noktalama işareti içermeyen dökümler üretiyor. ASR kodlayıcısı dil modeliyle veya adaptörlerle birlikte eğitilmediğinden, yanlış bir transkripsiyon modelin ya da bir adaptörün vereceği yanıtı fark edilmeden değiştirebiliyor. vLLM, karar seçeneklerinin etiketlerine yönelik logprob isteklerini 128 belirteç kimliğiyle sınırlıyor; bu nedenle daha fazla seçenek içeren soruların parçalara bölünerek ayrı isteklerle gönderilmesi gerekiyor. Model kartlarında ayrıca guardian-core’un uygulama düzeyinde güvenlik testlerinin yerini tutmadığı; kontrol noktalarının Guardian Library’nin olgusal doğruluk tespiti, olgusal doğruluk düzeltmesi ve politika koruma önlemleri adaptörlerini içermediği; karar adaptörünün olasılıklarının ise eğitim kapsamı dışındaki alanlar için onaylanmış bir sınıflandırma olarak değil, karara yön veren bir önsel olarak değerlendirilmesi gerektiği belirtiliyor.