IBM เปิดตัวโมเดล Granite Switch 4.1 แบบโมดูลาร์ ขนาด 8B และ 30B

IBM ประกาศเปิดตัว Granite Switch 4.1 เมื่อวันที่ 15 ตุลาคม 2026 โดยวางจำหน่ายโมเดลภาษาสองรุ่นแบบโมดูลาร์ ขนาด 8 พันล้านและ 30 พันล้านพารามิเตอร์ ซึ่งผสานโมเดลฐาน อะแดปเตอร์สำหรับการตัดสินใจแบบใช้งานทั่วไป อะแดปเตอร์ด้านความปลอดภัย และตัวเข้ารหัสเสียงเป็นข้อความที่ฝังมาในตัว เข้าด้วยกันเป็นปลายทางที่ให้บริการบนโฮสต์เดียว บล็อกโพสต์ Granite ของ IBM ที่ประกาศการเปิดตัวนี้เขียนโดย Kate Soule, Subhajit Chaudhury, Hendrik Strobelt และ Luis A Lastras

การกำหนดค่าเวอร์ชัน 4.1

การเปิดตัวครั้งนี้ประกอบด้วย Granite-Switch-4.1-8B และ Granite-Switch-4.1-30B ซึ่งสร้างบนโมเดลฐาน granite-4.1-8b และ granite-4.1-30b โดยมีพารามิเตอร์ 8 พันล้านและ 30 พันล้านตามลำดับ พร้อมหน้าต่างบริบทขนาด 128K เอกสารข้อมูลโมเดล 8B และ เอกสารข้อมูลโมเดล 30B ระบุวันวางจำหน่ายเป็นวันที่ 14 ตุลาคม 2026 สัญญาอนุญาต Apache 2.0 และแบ็กเอนด์ Hugging Face Transformers กับ vLLM

แต่ละเช็กพอยต์ผสานองค์ประกอบสามส่วนเข้ากับโมเดลฐาน ได้แก่ Activated LoRA (aLoRA) สำหรับการตัดสินใจแบบใช้งานทั่วไป; guardian-core ซึ่งเป็น aLoRA จากไลบรารี Guardian ของ IBM ที่ตรวจจับความเสี่ยงด้านความปลอดภัย ครอบคลุมอันตราย การเจลเบรก คำหยาบคาย ความรุนแรง เนื้อหาทางเพศ อคติทางสังคม และพฤติกรรมที่ผิดจริยธรรม; และ Granite Speech 5.0 TurboCTC ซึ่งเป็นตัวเข้ารหัส conformer CTC ภาษาอังกฤษแบบไม่สร้างข้อความทีละลำดับ ขนาด 470 ล้านพารามิเตอร์ ที่ฝังมาเพื่อถอดเสียง โดย IBM ระบุว่าเป็นโมเดล ASR ที่เร็วที่สุดบน OpenASR Leaderboard IBM ระบุว่าเทคโนโลยีทั้งสามรายการนี้ เมื่อใช้ร่วมกับโมเดลฐาน ต้องใช้หน่วยความจำ GPU โดยประมาณเท่ากับการใช้โมเดลฐานเพียงอย่างเดียว

เอกสารข้อมูลโมเดลยังระบุตัวแปรพรีวิวที่ไม่มีเสียง (granite-switch-4.1-8b-preview, granite-switch-4.1-30b-preview และ granite-switch-4.1-3b-preview) ซึ่งมาพร้อมชุดอะแดปเตอร์ Granite Libraries ครบชุด IBM เปิดตัวโครงการ Granite Switch ในฤดูใบไม้ผลิปี 2026 ในฐานะแนวทางพัฒนาโมเดลแบบโมดูลาร์ ส่วน Granite Libraries รุ่นก่อนหน้ามีคลังอะแดปเตอร์เฉพาะทางสำหรับการตัดสินใจและงานต่าง ๆ ซึ่งสามารถนำมาประกอบเป็นโมเดล Switch แบบกำหนดเองได้

การสลับการทำงาน

Granite Switch ใช้แนวทางที่เอกสารข้อมูลโมเดลเรียกว่า การสลับผู้เชี่ยวชาญแบบหยาบ โดยอะแดปเตอร์ตัวเดียวจะทำงานต่อเนื่องตลอดทุกชั้นของตัวถอดรหัสในช่วงโทเค็นที่ต่อเนื่องกัน ผู้เรียกใช้งานเปิดใช้อะแดปเตอร์ได้โดยส่งชื่อของอะแดปเตอร์ไปยังเทมเพลตแชต ซึ่งจะแทรกโทเค็นควบคุมที่เกี่ยวข้องให้อัตโนมัติ ชั้นสลับการทำงานน้ำหนักเบาที่สร้างบนกลไก attention มาตรฐานจะตรวจจับโทเค็นเหล่านั้นและสร้างดัชนีอะแดปเตอร์สำหรับแต่ละตำแหน่ง เพื่อกำหนดให้ทุกชั้นของตัวถอดรหัสใช้น้ำหนัก LoRA ที่ตรงกันกับช่วงนั้น

เอกสารข้อมูลโมเดลระบุคุณสมบัติการออกแบบไว้สี่ข้อ ได้แก่ อะแดปเตอร์แต่ละตัวอ่านเฉพาะแคช KV ของโมเดลฐาน และไม่อ่านสถานะภายในของอะแดปเตอร์ตัวอื่น; พัฒนา ทดสอบ และเผยแพร่อะแดปเตอร์แต่ละตัวแยกจากกัน โดยไม่มีการฝึกร่วมกัน; เช็กพอยต์เดียวใช้งานได้ทั้งกับ Transformers และ vLLM; และการเลือกอะแดปเตอร์ไม่จำเป็นต้องแก้ไขโค้ด IBM ระบุว่าการออกแบบ Activated LoRA ที่ใช้แคชอย่างมีประสิทธิภาพช่วยให้นำแคช KV จากการสร้างผลลัพธ์ของโมเดลฐานกลับมาใช้กับการตัดสินใจครั้งต่อ ๆ ไปที่อาศัยอะแดปเตอร์ได้ และยกความดีความชอบให้กับการมีส่วนร่วมล่าสุดด้านเคอร์เนล vLLM รวมถึงตัวเข้ารหัส ASR ที่ติดตั้งอยู่ในระบบเดียวกัน ซึ่งช่วยให้สลับระหว่างคำขอแชต การตัดสินใจ และเสียงพูดได้รวดเร็ว

อะแดปเตอร์สำหรับการตัดสินใจรับสถานะและคำถามที่มีตัวเลือกกำกับป้ายกำกับ จากนั้นสร้างการแจกแจงความน่าจะเป็นแบบ softmax ครอบคลุมตัวเลือกเหล่านั้นในการประมวลผลไปข้างหน้าเพียงครั้งเดียว ตัวเข้ารหัสเสียงพูดที่ฝังมาในระบบจะถอดเสียงที่เข้ามา แล้วนำข้อความถอดเสียงที่ได้มาแทนที่เสียงภายในบริบทแชต ทำให้การถอดเสียงทำงานบนปลายทางเดียวกับแชตและการตัดสินใจ โดยไม่ต้องใช้เซิร์ฟเวอร์เสียงพูดแยกต่างหากและไม่ต้องเปลี่ยนวิธีเรียกใช้งานโมเดล นอกจากนี้ IBM ยังเปิดพื้นที่สาธิต Speech-to-Decisions ซึ่งโมเดล 8B ใช้ถอดเสียงที่เข้ามา สร้างสรุป ตรวจสอบเนื้อหาที่เป็นอันตราย และประเมินแฟล็กเพิ่มเติมที่ผู้ใช้กำหนดเองอีก 15 รายการ ทั้งหมดทำงานแบบเรียลไทม์บนปลายทางเดียว

ผลทดสอบและการเปรียบเทียบที่ IBM รายงาน

IBM เปรียบเทียบแนวทางของตนกับโมเดลตัดสินใจแบบปิด เช่น Jev ซึ่ง IBM ระบุว่าเน้นความสามารถทั่วไป และกล่าวว่าโดยเฉลี่ยแล้วอะแดปเตอร์ guardian-core ทำผลงานได้ดีกว่า Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions และ Clef-Flash ในงานตัดสินใจที่เกี่ยวข้องกับความปลอดภัย ในการเปรียบเทียบที่ IBM เผยแพร่ระหว่างอะแดปเตอร์ Granite Libraries เฉพาะทางกับโมเดลตัดสินใจแบบอเนกประสงค์ อะแดปเตอร์ Granite ที่ทำผลงานดีที่สุดมีคะแนนนำใน OOD Safety อยู่ 2.3 คะแนน, IFEval 17.0 คะแนน, BIO F1 11.0 คะแนน และ RAGTruth 11.8 คะแนน ขณะที่ตามหลังใน LM-AggreFact อยู่ 2.6 คะแนน, InfoBench-GPT4 3.2 คะแนน และ InfoBench-Human 0.8 คะแนน

เอกสารข้อมูลโมเดลรายงานคะแนน Decision Index ของอะแดปเตอร์สำหรับการตัดสินใจ ซึ่งวัดจากชุดย่อยแบบเร็วที่เปิดเผยต่อสาธารณะของเบนช์มาร์ก จำนวน 1,068 แถว โดยใช้เกณฑ์การให้คะแนน edition-v0.3 และให้บริการอะแดปเตอร์ผ่านปลายทาง vLLM บนโฮสต์ อะแดปเตอร์ 8B ได้คะแนนรวม 42.9 โดยได้ 29.1 ในด้านความรู้, 48.9 ในด้านภาษา, 49.8 ในด้านการค้นคืน, 59.8 ในด้านเครื่องมือ และ 18.0 ในด้านศิลปะ อะแดปเตอร์ 30B ได้คะแนนรวม 50.1 โดยได้ 32.4 ในด้านความรู้, 58.6 ในด้านภาษา, 49.8 ในด้านการค้นคืน, 76.5 ในด้านเครื่องมือ และ 26.4 ในด้านศิลปะ เอกสารข้อมูลโมเดลระบุว่า คะแนนจากการให้บริการอะแดปเตอร์ตัวเดียวกันบนระบบภายในและบนโฮสต์แตกต่างกันไม่เกินประมาณ 0.6 คะแนน

IBM ยังรายงานผลการแข่งขันที่ Granite-Switch-4.1-30B ซึ่งใช้ Granite รุ่นพื้นฐานที่ตรึงน้ำหนักไว้และ aLoRA เฉพาะทาง 4 ตัว ทำเวิร์กโฟลว์ RAG ห้าขั้นตอนในโลกจริงได้เร็วกว่ามาก เมื่อเทียบกับ Jev-27B ซึ่งใช้ Qwen รุ่นพื้นฐานที่ตรึงน้ำหนักไว้และ LoRA สำหรับการตัดสินใจแบบทั่วไป 1 ตัว ในการสาธิตครั้งที่สอง IBM ระบุว่าโมเดล Granite Switch แบบกำหนดเองขนาด 3 พันล้านพารามิเตอร์ ซึ่งเล่นเกม Doom สามารถตัดสินใจได้ 60 ถึง 100 ครั้งต่อวินาที เทียบกับที่มีรายงานว่า Jev ตัดสินใจได้ 10 ครั้งต่อวินาที และโมเดลของ IBM ยังสามารถบรรยายและตอบคำถามระหว่างเล่นได้ ซึ่ง Jev ทำไม่ได้

ความพร้อมใช้งาน ข้อกำหนด และข้อจำกัด

ทั้งสองจุดตรวจสอบเผยแพร่ภายใต้สัญญาอนุญาต Apache 2.0 ข้อกำหนดคือ Python 3.9 ขึ้นไป, PyTorch 2.11.0 ขึ้นไป และ Transformers ตั้งแต่เวอร์ชัน 5.16 ถึง 5.17.0 โดยอาจติดตั้ง vLLM เพิ่มเติมได้ ตั้งแต่เวอร์ชัน 0.26.0 แต่ต้องต่ำกว่า 0.28.0 สถาปัตยกรรมฐานแบบหนาแน่นที่ใช้เฉพาะตัวถอดรหัสประกอบด้วย grouped-query attention (GQA), RoPE, SwiGLU และ RMSNorm รองรับบริบทได้ 131,072 โทเค็น และระบุว่ารองรับภาษาอังกฤษ เยอรมัน สเปน ฝรั่งเศส ญี่ปุ่น โปรตุเกส อาหรับ เช็ก อิตาลี เกาหลี ดัตช์ และจีน

ทุกคนสามารถประกอบโมเดล Granite Switch แบบกำหนดเองได้ โดยผสมอะแดปเตอร์จากแค็ตตาล็อกอะแดปเตอร์ของโครงการเข้ากับเครื่องมือประกอบโมเดล IBM วางตำแหน่ง Mellea ให้เป็นเลเยอร์แอปพลิเคชันที่แนะนำสำหรับการเรียกใช้อะแดปเตอร์ Granite Switch และ Mellea รองรับกลุ่มอะแดปเตอร์ของ Granite Libraries อยู่แล้ว แต่ยังไม่มีอินทรินซิกสำหรับอะแดปเตอร์การตัดสินใจ โดยมีแผนเพิ่มการรองรับ IBM ยังวางแผนพัฒนา Adapter SDK สำหรับฝึกอะแดปเตอร์แบบกำหนดเองและอะแดปเตอร์จากผู้พัฒนาภายนอกใน Mellea พร้อมจัดทำบทเรียนและรองรับ Granite Switch อีกทั้งระบุว่าจะเผยแพร่รายละเอียดและข้อมูลเพิ่มเติมเกี่ยวกับ Granite Switch ในช่วงหลายสัปดาห์หลังการประกาศ

เอกสารกำกับโมเดลระบุข้อจำกัดหลายประการ ระบบประมวลผลเสียงแบบต่อเนื่องรองรับเฉพาะภาษาอังกฤษ และส่งข้อความถอดเสียงเป็นตัวพิมพ์เล็กทั้งหมดโดยไม่มีเครื่องหมายวรรคตอน อีกทั้งไม่มีการกำกับทิศทางในขั้นตอนถอดรหัส เนื่องจากตัวเข้ารหัส ASR ไม่ได้ฝึกร่วมกับโมเดลภาษาหรืออะแดปเตอร์ การถอดเสียงผิดจึงอาจเปลี่ยนสิ่งที่โมเดลหรืออะแดปเตอร์ตอบสนองโดยที่ไม่ปรากฏให้เห็น vLLM จำกัดคำขอ logprob สำหรับป้ายกำกับตัวเลือกในการตัดสินใจไว้ที่ 128 รหัสโทเค็น ดังนั้นคำถามที่มีตัวเลือกมากกว่านี้ต้องแบ่งเป็นคำขอหลายชุด เอกสารยังระบุด้วยว่า guardian-core ไม่สามารถใช้แทนการทดสอบความปลอดภัยในระดับแอปพลิเคชันได้ จุดตรวจสอบเหล่านี้ไม่มีอะแดปเตอร์ของ Guardian Library สำหรับตรวจจับข้อเท็จจริงที่คลาดเคลื่อน แก้ไขข้อเท็จจริงที่คลาดเคลื่อน และกำกับดูแลนโยบาย และควรอ่านค่าความน่าจะเป็นของอะแดปเตอร์การตัดสินใจในฐานะข้อมูลตั้งต้นที่ช่วยประกอบการตัดสินใจ ไม่ใช่การจำแนกประเภทที่ได้รับการรับรองสำหรับสาขาที่อยู่นอกขอบเขตการฝึกของอะแดปเตอร์