โมเดลและแพลตฟอร์ม AI
Llama.cpp V1.0.0 กำหนดกฎความเสถียรของ API สำหรับเครื่องมือ AI ในเครื่อง
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญMajor-version bumps now publicly signal source and binary breakage for downstream…
ดูเพิ่มเติม
- Major-version bumps now publicly signal source and binary breakage for downstream llama.cpp integrators.
- Official release tags require an identical internal ggml copy to keep system-wide installations compatible.
- Each ggml backend can compile as a dynamic library and load at runtime for hardware-specific code.
ggml-org ประกาศ llama.cpp v1.0.0 เมื่อวันที่ 13 พฤศจิกายน 2026 เพื่อกำหนดข้อตกลงด้านความเข้ากันได้อย่างเป็นทางการสำหรับนักพัฒนาที่นำโครงการอนุมาน AI ในเครื่องด้วย C/C++ นี้ไปต่อยอด นอกจากนี้ ไลบรารีเทนเซอร์ ggml ซึ่งเป็นองค์ประกอบพื้นฐานยังเปิดตัวเวอร์ชัน 1.0.0 โดยโครงการระบุว่ารองรับสถาปัตยกรรมโมเดลมากกว่า 150 รูปแบบ และวิธีการถอดรหัสแบบเก็งกำไรที่ใช้กันทั่วไปทั้งหมด
การกำหนดเวอร์ชันกลายเป็นข้อตกลงสาธารณะ
ทั้งสองโครงการจะส่งสัญญาณถึงความไม่เข้ากันในอนาคตของ API ระดับซอร์สโค้ดและ ABI ซึ่งเป็นส่วนติดต่อแบบไบนารีที่แอปพลิเคชันที่คอมไพล์แล้วใช้งาน ด้วยการเพิ่มเลขเวอร์ชันหลัก การเปลี่ยนแปลง API สาธารณะของ C ที่ทำให้ไม่เข้ากันจะทำให้ต้องเพิ่มเลขเวอร์ชันหลัก ส่วนฟีเจอร์ที่ยังเข้ากันได้กับเวอร์ชันก่อนหน้า การอัปเดตแบ็กเอนด์ การรองรับโมเดล และการเพิ่ม API จะทำให้ต้องเพิ่มเลขเวอร์ชันรอง ขณะที่การแก้บั๊กโดยไม่มีการเปลี่ยนแปลง API จะทำให้ต้องเพิ่มเลขแพตช์
นโยบายนี้เกิดขึ้นหลังจากพัฒนามา 3.5 ปี และมีผู้พึ่งพาส่วนติดต่อไลบรารีของโครงการเพิ่มขึ้น llama.cpp รองรับการอนุมาน LLM แบบหลายโมดัลผ่าน libllama, ขณะที่ ggml จัดเตรียมชั้นเทนเซอร์สำหรับการเรียนรู้ของเครื่องผ่าน libggmlซอฟต์แวร์นี้ใช้ การทำควอนไทซ์ แบ็กเอนด์ที่ปรับแต่งประสิทธิภาพ และโค้ด C/C++ ที่พกพาได้ เพื่อรองรับฮาร์ดแวร์ตั้งแต่เครื่องคอมพิวเตอร์สำหรับผู้ใช้ทั่วไปไปจนถึงเซิร์ฟเวอร์ระดับองค์กร
สิ่งนี้ช่วยให้ผู้ดูแลแพ็กเกจและนักพัฒนาแอปพลิเคชันใช้สัญญาณจากเลขเวอร์ชันประเมินได้ว่าการอัปเกรดอาจทำให้การผสานรวมของตนใช้งานไม่ได้หรือไม่ การพูดคุยเรื่อง กระบวนการออกรีลีสของผู้ดูแลเมื่อวันที่ 7 สิงหาคม 2026 ยังเพิ่มมาตรการป้องกันที่เกี่ยวข้องด้วย กล่าวคือ จะสร้างแท็กรีลีสอย่างเป็นทางการของ llama.cpp ก็ต่อเมื่อสำเนา ggml ภายในโครงการตรงกับสำเนา ggml ที่ออกรีลีสทุกประการ เงื่อนไขนี้มีจุดประสงค์เพื่อให้บิลด์จากแท็กรีลีสเข้ากันได้กับการติดตั้ง ggml ที่ใช้ร่วมกันทั้งระบบ ซึ่งเป็นรูปแบบที่แพ็กเกจ Debian และ Homebrew ซึ่งกล่าวถึงในเอกสารใช้
การเปลี่ยนแปลงด้านรันไทม์ โมเดล และเซิร์ฟเวอร์
บันทึกรีลีส llama.cpp v1.0.0มาพร้อมกับการปรับปรุงครั้งใหญ่ โดยรีลีสนี้ถอด API สาธารณะที่เลิกใช้แล้วออก รวมถึงฟังก์ชันที่เลิกใช้แล้ว 35 รายการ พร้อมยกระดับ API สำหรับการถอดรหัสแบบเก็งกำไร NextN จาก llama-ext.h ไฟล์ส่วนหัวส่วนขยายไปยังส่วนหัวสาธารณะ llama.h การเปลี่ยนแปลงนี้ทำให้ส่วนติดต่อสำหรับการถอดรหัสแบบเก็งกำไรดังกล่าวเป็นส่วนหนึ่งของ API สาธารณะที่อยู่ภายใต้กฎการกำหนดเวอร์ชันใหม่
ความสามารถใหม่ด้านการอนุมานประกอบด้วยแคชคีย์-แวลูแบบเลขทศนิยม 8 บิต (FP8) ตาม OCP แคชในหน่วยความจำโฮสต์สำหรับ โมเดล Mixture-of-Experts (MoE) ที่กำหนดสัดส่วนการใช้งาน CPU ได้ และการโหลดข้อมูล PLE หรือ engram ภายนอกจากชาร์ด GGUF แยกต่างหาก โมเดลที่เพิ่มเข้ามาครอบคลุมสถาปัตยกรรมข้อความ Kimi-K3.1-Pro, Ripple และ xing4_0, ระบบแปลงข้อความเป็นเสียงพูด drama-3 และการรองรับภาพสำหรับ MageVL-Cowork และ Kimi-K3.1
สำหรับ llama-server รีลีสนี้แก้ไขปัญหาการปลอมแปลงคำขอฝั่งเซิร์ฟเวอร์ การแชร์ทรัพยากรข้ามต้นทาง และการโจมตีด้วยการเปลี่ยน DNS พร้อมจำกัด HF_TOKEN ให้ใช้ได้เฉพาะกับโฮสต์ huggingface.co การเรียกใช้เครื่องมือ MCP จะถูกยกเลิกเมื่อไคลเอ็นต์ตัดการเชื่อมต่อหรือหมดเวลา พร้อมส่งการแจ้งเตือนไปยังเซิร์ฟเวอร์ MCP ส่วนปลายทางใหม่ที่รองรับ OpenAI /v1/audio/speech ช่วยขยายส่วนติดต่อด้านเสียงของเซิร์ฟเวอร์
ส่วนติดต่อเว็บที่ออกแบบใหม่เพิ่มกลุ่มแชตที่ตั้งชื่อได้และเครื่องมือแก้ไข Markdown พร้อมดูตัวอย่างแบบสด เลย์เอาต์บนมือถือใช้พื้นที่ปลอดภัยของอุปกรณ์และกล่องโต้ตอบแบบเต็มหน้าจอ ขณะที่เครื่องมือแก้ไขแชตบน Android สามารถเปิดแป้นพิมพ์เสมือนได้
แบ็กเอนด์ฮาร์ดแวร์และโครงสร้างพื้นฐานสำหรับรีลีส
รีลีส ggml v1.0.0 ซึ่งออกมาควบคู่กันถอด API ที่เลิกใช้แล้วและการทำงาน DIAG_MASK แบบเดิมออก เพิ่มการตัดทอน YaRN ที่กำหนดค่าได้และการรองรับ FP8 ตลอดจนหลีกเลี่ยงการอัปโหลดอินพุตของตัวจัดตารางงานที่ไม่มีการอ่านข้อมูล ส่วน CUDA และ Metal ได้เพิ่มการคูณเมทริกซ์แบบควอนไทซ์สำหรับแถวจำนวนน้อยและการปรับปรุงการรวมงาน MoE การเพิ่มความสามารถในแบ็กเอนด์อื่น ๆ ได้แก่ เคอร์เนล FlashAttention สำหรับขั้นตอน prefill บน Intel Vulkan ตัวจัดตารางงาน MoE ที่ทำงานฝั่งอุปกรณ์สำหรับ SYCL การแยกองค์ประกอบ FlashAttention ของ Adreno บน OpenCL เคอร์เนล WebGPU ใหม่ และการรองรับการทำงานของ Hexagon ที่ครอบคลุมยิ่งขึ้น
แบ็กเอนด์ ggml แต่ละตัวสามารถคอมไพล์เป็นไลบรารีไดนามิกและเลือกโหลดขณะรันไทม์ได้ ทำให้การติดตั้งสามารถเลือกใช้โค้ดเฉพาะสำหรับฮาร์ดแวร์ได้ อาร์ติแฟกต์รุ่นก่อนรีลีสครอบคลุม Linux, macOS, Windows, Android และ iOS โดยมี Docker, Debian, Homebrew, conda-forge, MacPorts, Winget และ XCFramework เป็นช่องทางเผยแพร่เพิ่มเติม ซึ่งรองรับแพลตฟอร์มแตกต่างกันไป
ทีมระบุว่า Hugging Face Buckets และ Jobs กำลังเพิ่มขีดความสามารถของระบบผสานรวมอย่างต่อเนื่อง เพื่อรองรับการเปลี่ยนแปลงที่เข้าสู่สาขา master และช่วยให้ทีมพัฒนาเดินหน้าตามจังหวะการทำงานได้ การรองรับฮาร์ดแวร์จาก NVIDIA, AMD, Qualcomm, Arm, IBM และ Intel ยังช่วยให้มีตัวรันงานที่โฮสต์เองเพิ่มขึ้นบนแพลตฟอร์มฮาร์ดแวร์หลัก ๆ ด้วย นอกจากนี้ ผู้ดูแลยังกำลังผสาน LLM เข้ากับวงจรการพัฒนา โดยให้ความสำคัญกับคุณภาพโค้ด การควบคุมสถาปัตยกรรม และความเข้าใจรายละเอียดการนำไปใช้งาน
สำหรับโครงการที่นำซอฟต์แวร์ไปต่อยอด รีลีสนี้ทำให้ความเข้ากันได้กลายเป็นข้อกำหนดที่ชัดเจนในการพัฒนาไลบรารีโอเพนซอร์สที่เปลี่ยนแปลงอย่างรวดเร็ว กฎการกำหนดเวอร์ชันช่วยสื่อสารเมื่อเกิดการเปลี่ยนแปลงที่ทำให้ไม่เข้ากัน ส่วนโครงการ CI ที่ขยายใหญ่ขึ้นและการใช้ตัวรันงานบนฮาร์ดแวร์ก็ช่วยตรวจสอบได้ว่ารีลีสตามปกติยังคงเชื่อถือได้กับโมเดลและฮาร์ดแวร์ที่โครงการเหล่านั้นใช้อยู่หรือไม่
