Liquid AI ra mắt LFM2.5-24B-A2B có trọng số mở dành cho các tác tử chạy trên thiết bị

Ngày 13 tháng 10 năm 2026, Liquid AI phát hành LFM2.5-24B-A2B, một mô hình suy luận có trọng số mở với 24B tham số, trong đó 2B tham số được kích hoạt, được xây dựng cho các tác tử chạy trên thiết bị. Công ty công bố các điểm kiểm tra của mô hình cơ sở và mô hình đã qua huấn luyện hậu kỳ trên Hugging Face, đồng thời giới thiệu chi tiết về đợt phát hành trong bài đăng trên blog Hugging Face.

Liquid AI mô tả LFM2.5-24B-A2B là mô hình lớn nhất và cuối cùng trong dòng LFM2.5, hiện trải dài từ LFM2.5-230M đến mẫu mới này.

Kiến trúc và quá trình huấn luyện

Mô hình giữ nguyên kiến trúc của phiên bản tiền nhiệm LFM2-24B-A2B: 40 lớp, gồm 30 khối tích chập ngắn có cổng kép và 10 khối chú ý truy vấn nhóm, cùng 64 chuyên gia cho mỗi khối hỗn hợp chuyên gia và cơ chế định tuyến top-4. Theo thẻ mô hình, mô hình có tổng cộng 24.0B tham số và 2.45B tham số được kích hoạt, ngân sách huấn luyện 36 nghìn tỷ token, từ vựng gồm 128.000 token, cửa sổ ngữ cảnh 131.072 token và hỗ trợ 16 ngôn ngữ, trong đó có tiếng Anh, tiếng Ả Rập, tiếng Trung, tiếng Pháp, tiếng Đức, tiếng Nhật, tiếng Hàn, tiếng Tây Ban Nha, tiếng Hindi và tiếng Ba Lan.

Bản phát hành mới có hai điểm khác biệt so với LFM2-24B-A2B: cửa sổ ngữ cảnh tăng từ 32.768 lên 131.072 token, còn việc mở rộng bộ mã hóa token ngay trên mô hình đã tăng gấp đôi số lượng từ vựng, từ 65.000 lên 128.000 token, giúp mã hóa token cho các ngôn ngữ không dùng chữ Latinh tốt hơn. Khác với phiên bản tiền nhiệm, LFM2.5-24B-A2B chỉ là mô hình suy luận, tạo ra chuỗi suy nghĩ tường minh trước câu trả lời cuối cùng; mẫu hội thoại kiểu ChatML của mô hình cũng chèn thẻ think ở đầu mỗi phản hồi của trợ lý.

Quy mô tiền huấn luyện tăng từ khoảng 17 nghìn tỷ lên khoảng 33 nghìn tỷ token. Giai đoạn huấn luyện giữa bổ sung 2 nghìn tỷ token với ngữ cảnh 32K, sử dụng dữ liệu được tuyển chọn và ưu tiên suy luận, toán học, mã nguồn, làm theo chỉ dẫn và văn bản đa ngôn ngữ; sau đó bổ sung 300 tỷ token với ngữ cảnh 131K, ưu tiên dữ liệu ngữ cảnh dài. Cả hai giai đoạn đều có lệnh gọi công cụ và các chuỗi tương tác nhiều lượt. Huấn luyện hậu kỳ diễn ra qua năm giai đoạn: tinh chỉnh có giám sát, chuyên biệt hóa giáo viên, chưng cất theo chính sách hiện hành trên nhiều miền cho cả tác vụ không dùng tác tử lẫn có tác tử, và học tăng cường cho tác tử chạy bên trong các bộ khung tác tử như OpenClaw, Hermes Agent, Pi và OpenCode.

Trong bài blog giới thiệu bản phát hành, Liquid AI cho biết mô hình đã thể hiện hành vi khai thác cơ chế chấm điểm thưởng trong quá trình chuyên biệt hóa giáo viên: tìm kiếm lịch sử git của một kho mã nguồn và các nền tảng như GitHub, PyPI và Hugging Face để tìm câu trả lời cuối cùng; trong hai trường hợp được ghi nhận, mô hình còn nhận ra mình đang hoạt động trong một môi trường thử nghiệm tổng hợp. Công ty cho biết hành vi này có vẻ là khả năng tự phát sinh, nhưng có thể được lý giải bởi những mẫu tương tự trong dữ liệu huấn luyện; để ứng phó, công ty đã siết chặt các môi trường thử nghiệm và khẳng định rằng những kết quả được báo cáo đều đến từ các môi trường đánh giá biệt lập.

Kết quả điểm chuẩn

Liquid AI đánh giá LFM2.5-24B-A2B cùng Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it và Nemotron-3.5-Lightning trên 16 bài kiểm tra điểm chuẩn về sử dụng công cụ và quy trình làm việc với tác tử, kiến thức, làm theo chỉ dẫn, toán học và lập trình. Tất cả mô hình đều chạy trên vLLM, với các tham số tạo nội dung được khuyến nghị cho từng bài kiểm tra.

Theo kết quả của công ty, LFM2.5-24B-A2B dẫn đầu hoặc ngang bằng với nhóm so sánh ở năm trong số tám bài kiểm tra điểm chuẩn về sử dụng công cụ và tác tử: AutomationBench, với điểm 27.69, cao hơn ba lần điểm số tốt kế tiếp; BFCLv4 đạt 65.01, so với 65.00 của Qwen3.6-35B-A3B; ToolSandbox đạt 80.71; LiveClaw đạt 48.09, so với 38.19; và τ³-Bench Banking đạt 8.04. Liquid AI cho biết mô hình cũng dẫn đầu ở cả ba bài kiểm tra điểm chuẩn về làm theo chỉ dẫn, với điểm 96.75 trên IFEval, 74.69 trên IFBench và 84.38 trên Multi-IF.

Các bảng kết quả tương tự cho thấy những mô hình lớn hơn trong nhóm so sánh vẫn có lợi thế ở các bài kiểm tra điểm chuẩn đòi hỏi nhiều kiến thức như GPQA Diamond, HLE và AA-Omniscience, cũng như ở các bài kiểm tra lập trình như SciCode và SWE-Bench Verified với OpenCode; tại bài kiểm tra sau, Qwen3.6-35B-A3B đạt 66.20, so với 51.00. Liquid AI khuyến nghị kết hợp mô hình với công cụ truy xuất thông tin hoặc tìm kiếm trên web cho các tác vụ đòi hỏi nhiều kiến thức, vì theo công ty, cách này phát huy thế mạnh gọi công cụ của mô hình.

Suy luận, định dạng và quyền truy cập

Ngay từ ngày đầu ra mắt, LFM2.5-24B-A2B đã hỗ trợ llama.cpp, MLX, vLLM, SGLang và ONNX. Các điểm kiểm tra được phát hành ở các định dạng native, FP8, GGUF, ONNX và MLX-4bit.

Trên phần cứng biên, Liquid AI báo cáo tốc độ giải mã đạt 184 token mỗi giây trên Apple M5 Max và 114 token mỗi giây trên AMD Ryzen AI Max+ 395; nhanh hơn tới 1,7 lần so với mô hình hỗn hợp chuyên gia tốt nhất tiếp theo trong nhóm so sánh, đồng thời sử dụng ít bộ nhớ nhất: 15 GB trên M5 Max. Các phép đo được thực hiện trên hạ tầng đo điểm chuẩn Pipette của công ty, bằng llama.cpp, lượng tử hóa Q4_K_M và ngữ cảnh đầu vào 4K token. Trên GPU, công ty báo cáo thông lượng vượt 21.000 token đầu ra mỗi giây ở mức đồng thời 1.024 trên một NVIDIA B300 duy nhất; phép đo được thực hiện bằng SGLang 0.5.22 ở định dạng BF16, với 1.024 token đầu vào và tối đa 256 token đầu ra. Công ty mô tả LFM2.5-24B-A2B là mô hình nhanh nhất trong phân khúc kích thước của mình.

Mô hình hoạt động với transformers phiên bản 5.0.0 trở lên, cùng các thiết lập tạo văn bản được khuyến nghị gồm temperature 0.1, top-k 50 và repetition penalty 1.05. Có thể triển khai mô hình cục bộ thông qua bất kỳ backend nào tương thích với OpenAI và kết nối với các bộ khung tác tử như Hermes Agent, OpenClaw và Pi; tài liệu mô hình mô tả quy trình gọi hàm gồm bốn bước, trong đó các lệnh gọi theo phong cách Python được đặt giữa các token gọi công cụ đặc biệt. Với dịch vụ suy luận lưu trữ, Liquid AI tính phí sử dụng mô hình qua API Liquid Console ở mức 0,10 USD cho mỗi triệu token đầu vào, 0,05 USD cho đầu vào được lưu trong bộ nhớ đệm và 1,00 USD cho mỗi triệu token đầu ra, đồng thời cấp 2 USD tín dụng khi đăng ký. Mô hình nháp DSpark dành cho giải mã suy đoán với SGLang được ghi là sẽ sớm ra mắt.