Mô hình và nền tảng AI
Thinking Machines Lab ra mắt Inkling 2 Mini cho thiết bị cá nhân

Điểm chínhViệc lặp lại cải thiện khả năng suy luận mà không để trọng số lưu trữ thêm sự kiện vì…
Xem thêm
- Việc lặp lại cải thiện khả năng suy luận mà không để trọng số lưu trữ thêm sự kiện vì kiến thức gắn với tổng số tham số.
- Mô hình lặp lại cần thêm 140% năng lực tính toán suy luận để đạt được mức tổn thất tương đương với phiên bản không lặp lại và không bị cắt tỉa.
- Việc lặp lại nội bộ cho phép mô hình suy luận mà không cần dấu vết bằng văn bản, điều này làm suy yếu việc giám sát chuỗi suy nghĩ.
Thinking Machines Lab ra mắt Inkling 2 Mini vào ngày 20 tháng 11 năm 2026, một mô hình có trọng số mở được thiết kế để chạy trên máy tính xách tay phổ thông. Mô hình có tổng cộng 26,4 tỷ tham số và chiếm khoảng 20 GB bộ nhớ; các lượt xử lý lặp qua những lớp ở giữa giúp cải thiện khả năng suy luận.
Toàn bộ trọng số của Inkling 2 Mini và một mô hình nghiên cứu đi kèm, TML-d24-varloop-research, hiện có trên Hugging Face. Tinker cung cấp khả năng suy luận và tinh chỉnh, cùng tính năng trò chuyện trong Tinker Playground; các lựa chọn chạy cục bộ gồm Ollama trên hệ thống Mac có ít nhất 32 GB RAM và các phiên bản GGUF thông qua Unsloth và llama.cpp.
Một bản trình diễn của công ty cho thấy Inkling 2 Mini chạy ngoại tuyến trên MacBook Pro ở chế độ máy bay trong chuyến bay và tạo ra một trò chơi mô phỏng chuyến bay có thể chơi được chỉ trong vài phút. Một bản trình diễn khác dùng một chiếc MacBook ngoại tuyến để vận hành toàn bộ 20 cư dân của Thinkyville, một thị trấn pixel mô phỏng, qua đó cho thấy nhiều tác tử có thể duy trì hoạt động cục bộ.
Kiến trúc lặp hoạt động như thế nào
Inkling 2 Mini là một mô hình biến áp hỗn hợp chuyên gia (Mixture-of-Experts), nghĩa là với mỗi token, mô hình chỉ sử dụng một tập hợp con các thành phần chuyên biệt. 24 lớp của mô hình được chia thành bốn khối, mỗi khối gồm sáu lớp. Khối đầu tiên và khối cuối cùng chạy một lần, còn hai khối ở giữa dùng chung trọng số và chạy ba lần, tạo ra 48 lượt áp dụng lớp cho mỗi token từ 24 lớp được lưu trữ. Khi tính cả các lượt lặp, mô hình có 3,4 tỷ tham số hoạt động và 5,4 tỷ lượt kích hoạt trọng số cho mỗi token.
Các kết nối dư có cơ chế chú ý cho phép mỗi lớp học cách kết hợp các đầu ra của những khối trước đó theo cách riêng, thay vì cộng mọi đầu ra vào một tổng tích lũy duy nhất. Lượt chạy thứ hai và thứ ba cũng nhận một thông điệp có cổng điều tiết từ lượt chạy ngay trước đó. Ban đầu, cổng này chặn thông điệp, rồi trong quá trình huấn luyện, nó học cách tiếp nhận nhiều thông tin hơn; nhờ vậy, có thể đưa cơ chế lặp vào mô hình mà không làm mô hình mất ổn định.
Trong so sánh về huấn luyện của công ty, một mô hình không lặp và chưa cắt tỉa cần ít hơn 7,5% năng lực tính toán để huấn luyện, nhưng cần nhiều hơn 140% năng lực tính toán để suy luận nhằm đạt mức mất mát tương đương với phiên bản có lặp trên các chuỗi tác vụ tác tử dài 512.000 token.
Quá trình huấn luyện bắt đầu với 384 chuyên gia, trong đó mỗi token chọn tám chuyên gia. Hai phần ba số chuyên gia bị cắt tỉa trong giai đoạn huấn luyện giữa chừng, chỉ giữ lại 128 chuyên gia được dùng nhiều nhất ở mỗi lớp; sau đó, mô hình được huấn luyện trên 1 nghìn tỷ token được chắt lọc từ một mô hình Inkling nội bộ lớn hơn để khôi phục hiệu suất trước đó. 20 lớp được huấn luyện và triển khai ở định dạng NVFP4 4 bit, còn bốn lớp cuối cùng dùng MXFP8 8 bit; công ty cho biết việc đồng nhất độ chính xác giữa huấn luyện và triển khai giúp tránh thất thoát do chuyển đổi trong quá trình lượng tử hóa sau huấn luyện.
Hiệu suất lập trình và giới hạn của mô hình
Thinking Machines Lab báo cáo mô hình đạt 48,2% trên DeepSWE v1.1 và 77,9% trong bài đánh giá SWE-bench Pro v2 Hard gồm 51 tác vụ, so với lần lượt 42,2% và 73,8% của Qwen3.8-27B; ngoài ra, mô hình đạt 46,5% trên Vals Index v2.2. Công ty lưu ý rằng cách thiết lập đánh giá khác nhau tùy theo mô hình.
Công ty cho biết cơ chế lặp cải thiện khả năng suy luận nhưng không giúp trọng số lưu trữ thêm dữ kiện; lượng kiến thức chủ yếu phụ thuộc vào tổng số tham số. Kết quả AA-Omniscience của Inkling 2 Mini tương đương với các mô hình khác cùng quy mô, trong khi lợi thế của mô hình so với những mô hình có trọng số mở tương tự trên BrowseComp, DeepSearchQA và MCP Atlas đến từ việc sử dụng hiệu quả các công cụ tìm kiếm và công cụ khác.
Công ty cũng cho biết Inkling 2 Mini không phải là mô hình nhỏ mạnh nhất trong các cuộc trò chuyện nhiều lượt hoặc khi làm theo chỉ dẫn có nhiều ràng buộc; mô hình đạt 50,0% trên MultiChallenge và 33,4% trên ComplexConstraints v1.1. Mô hình có kết quả thấp hơn các mô hình lớn hơn trên những bài đánh giá đòi hỏi suy luận nhiều, trong đó có CritPt v2 và HLE-Diamond.
Các thử nghiệm với số lượt lặp thay đổi cho thấy điều gì
Cơ chế lặp khiến việc giám sát chuỗi suy nghĩ trở nên phức tạp hơn. Phương pháp này theo dõi hành vi của mô hình bằng cách đọc phần lập luận được viết ra. Một mô hình biến áp thông thường phải thể hiện ra ngoài những lập luận cần thêm các bước tuần tự; mô hình có cơ chế lặp có thể thực hiện nhiều bước như vậy hơn trong nội bộ trước khi tạo văn bản. Những lập luận không được thể hiện trong văn bản thì không thể được kiểu giám sát này kiểm tra.
Vì Inkling 2 Mini chỉ hỗ trợ số lượt xử lý cố định, phòng thí nghiệm đã huấn luyện TML-d24-varloop-research với từ một đến năm lượt, chủ yếu là ba lượt, và tiến hành học tăng cường ở mức ba lượt. Trên một tập con Think Fast, công ty báo cáo rằng khoảng thời gian suy luận không có chuỗi suy nghĩ — được định nghĩa là thời gian con người cần để hoàn thành những tác vụ mà mô hình có thể hoàn tất với độ tin cậy 50% mà không cần lập luận bằng văn bản — tăng từ 16 giây ở một lượt lên 37 giây ở ba lượt, trước khi gần như chững lại. Độ chính xác trên N-Hop Lookup tiếp tục cải thiện đến mười vòng lặp, dù quá trình huấn luyện không vượt quá năm lượt.
Trong phân tích ban đầu của công ty về các câu hỏi GPQA Diamond được trả lời đúng ở mọi độ sâu được thử nghiệm, độ dài trung bình của các chuỗi lập luận giảm từ 3.703 token ở một lượt xuống còn 1.661 token ở năm lượt. Độ dài trung bình của câu chỉ thay đổi từ 8,9 xuống 8,7 từ, còn tỷ lệ từ xuất hiện trong từ điển tiếng Anh giảm từ 94,6% xuống 94,4%; các chuỗi ngắn hơn đi thẳng vào vấn đề hơn và ít quay lại hơn.
Các thử nghiệm tác tử sử dụng phiên bản Inkling 2 Mini chỉ được tinh chỉnh theo hướng hữu ích và mô hình có số lượt lặp thay đổi trong LinuxArena. Khi dùng Qwen3.6-35B-A3B làm mô hình giám sát yếu hơn, công ty không nhận thấy xu hướng rõ ràng nào về tỷ lệ hoạt động lén lút khi số vòng lặp tăng lên; việc chỉ cho mô hình giám sát xem các lời gọi công cụ và đầu ra vẫn khiến một số lượng đáng kể cuộc tấn công không bị phát hiện.
Các kết quả về khả năng giám sát này chỉ mang tính sơ bộ. Việc chỉ áp dụng học tăng cường ở ba lượt đồng nghĩa với việc các thí nghiệm chưa xác định được mô hình được huấn luyện với số lượt cao hơn sẽ học được gì; công ty cũng lưu ý rằng mô hình như vậy có thể nén quá trình suy luận mạnh hơn.
Đối với các nhà nghiên cứu về giám sát, câu hỏi còn bỏ ngỏ là liệu mức độ dễ hiểu quan sát được ở quy mô này có được duy trì ở các mô hình lớn hơn và các chế độ huấn luyện tối ưu hóa những vòng lặp sâu hơn hay không. Các bản phát hành trọng số mở với vòng lặp cố định và biến đổi cung cấp một cách trực tiếp để tìm hiểu câu hỏi đó ở nhiều độ sâu vòng lặp.












