Translated ra mắt Lara Mini, mô hình nghiên cứu dành cho 45 ngôn ngữ

Translated công bố Lara Mini vào ngày 12 tháng 11 năm 2026, đồng thời ra mắt một mô hình nghiên cứu được huấn luyện từ đầu trên 6 nghìn tỷ token thuộc tiếng Anh và 44 ngôn ngữ khác, trong đó có cả 24 ngôn ngữ chính thức của EU. Hệ thống có 7,2 tỷ tham số nhưng chỉ kích hoạt 600 triệu tham số cho mỗi token.

Kiến trúc hỗn hợp chuyên gia kích hoạt 4 trong số 128 chuyên gia được định tuyến cho mỗi token, đồng thời duy trì một chuyên gia dùng chung luôn hoạt động. 34 lớp của mô hình gồm 14 lớp chú ý tuyến tính Gated DeltaNet, 13 lớp chú ý cửa sổ trượt với cửa sổ 512 token và 7 lớp chú ý toàn cục, qua đó hạn chế mức tăng của trạng thái suy luận so với cơ chế chú ý toàn phần. Sau đợt huấn luyện ban đầu, một giai đoạn riêng với 100 tỷ token đã mở rộng cửa sổ ngữ cảnh từ 4.096 lên 131.072 token.

Translated xây dựng tập dữ liệu từ các nguồn được công bố công khai, lọc và loại bỏ dữ liệu trùng lặp để tạo thành một kho gồm 13,8 nghìn tỷ token; 97% số token trong đợt huấn luyện ban đầu đến từ lần đầu đọc một tài liệu. Tiếng Anh chiếm 2,49 nghìn tỷ token, tương đương 41,4%, còn 44 ngôn ngữ khác chiếm 2,18 nghìn tỷ token, tương đương 36,4%. Phần còn lại gồm mã, toán học và các ví dụ được định dạng giống dữ liệu tinh chỉnh có giám sát.

Thử nghiệm thay thế bằng tiếng Anh

Trong một thử nghiệm riêng, các nhà nghiên cứu dùng cùng một bản checkpoint cho hai đợt giảm dần tốc độ học có kiểm soát, mỗi đợt gồm 100 tỷ token. Đây là giai đoạn cuối của quá trình huấn luyện, khi tốc độ học giảm dần về 0. Thay 33% tỷ trọng đa ngôn ngữ bằng tiếng Anh đã nâng tỷ trọng tiếng Anh từ 27% lên 60%. Báo cáo kỹ thuật cho biết điểm trung bình trên tập phát triển tiếng Anh chỉ tăng 0,3 điểm, trong khi điểm trung bình đa ngôn ngữ trên các ngôn ngữ được hỗ trợ giảm 2,7 điểm.

Thử nghiệm chỉ áp dụng cho giai đoạn giảm dần tốc độ học; nó không đo lường ảnh hưởng của tỷ trọng đa ngôn ngữ trong giai đoạn tiền huấn luyện chính. Một phân tích riêng về cơ chế định tuyến cho thấy các ngôn ngữ dùng chung chuyên gia thay vì được phân vào các nhóm chuyên gia riêng biệt; những ngôn ngữ có liên quan có cách định tuyến tương tự ở đầu mạng và gần như giống hệt nhau ở các lớp giữa. Các tác giả lưu ý rằng việc dùng chung cơ chế định tuyến không chứng minh các ngôn ngữ có chung biểu diễn ngữ nghĩa, đồng thời các thử nghiệm của họ cũng không chứng minh huấn luyện đa ngôn ngữ cải thiện khả năng suy luận tổng quát hoặc hiệu suất tiếng Anh.

Điểm chuẩn và những giới hạn của chúng

Translated đánh giá Lara Mini cùng 56 mô hình nền tảng mở khác trên 26 bộ điểm chuẩn về tiếng Anh, đa ngôn ngữ, toán học và mã, sử dụng cùng lời nhắc, thiết lập và phương pháp trích xuất câu trả lời. Trong số 36 mô hình có tối đa 2 tỷ tham số đang hoạt động, Lara Mini đạt điểm trung bình tổng thể 57,0, cao hơn granite-4.0-h-tiny với 53,9 và Qwen3-1.7B với 53,8. Tổng số token tiền huấn luyện được báo cáo của hai mô hình này lần lượt là 22,5 nghìn tỷ và 36 nghìn tỷ, so với 6 nghìn tỷ token trong đợt huấn luyện ban đầu của Lara Mini.

Kết quả của Translated xếp Lara Mini đứng đầu nhóm này về khả năng hiểu đa ngôn ngữ với 56,7 điểm và toán học với 59,9 điểm; đứng thứ hai về tiếng Anh với 66,4 điểm và thứ năm về mã với 45,1 điểm. Điểm tổng thể tính trọng số ngang nhau cho điểm trung bình của cả bốn lĩnh vực; với mọi mô hình, điểm chuẩn đa ngôn ngữ được lấy trung bình trên các ngôn ngữ không phải tiếng Anh mà Lara Mini hỗ trợ. Phép so sánh bao gồm các mô hình nền tảng, không phải các hệ thống đã được tinh chỉnh theo chỉ dẫn. Chất lượng cũng khác nhau tùy ngôn ngữ; tiếng Azerbaijan và tiếng Bengal nằm trong số những ngôn ngữ được hỗ trợ có điểm thấp nhất, nơi dữ liệu huấn luyện còn hạn chế.

Translated đo được tốc độ tạo khoảng 1.100 ký tự mỗi giây cho một người dùng trên GPU A100, không lượng tử hóa Lara Mini. Trong phép so sánh tốc độ, mọi mô hình có điểm trung bình tổng thể cao hơn đều tạo văn bản chậm hơn ít nhất 1,8 lần. Lợi thế lớn nhất khi chỉ có một người dùng và lời nhắc dài, nhưng thu hẹp lại khi nhiều người dùng cùng chia sẻ GPU.

Quyền truy cập nghiên cứu và kế hoạch sản phẩm

Sản phẩm được phát hành là mô hình nền tảng tiếp nối văn bản, không phải hệ thống làm theo chỉ dẫn hay trò chuyện, và chưa được tinh chỉnh về an toàn. Thẻ mô hình cảnh báo rằng mô hình có thể tạo ra văn bản sai lệch, thiên vị hoặc xúc phạm; không nên triển khai mô hình làm trợ lý nếu chưa được huấn luyện thêm.

Quyền truy cập vào trọng số bị giới hạn và Translated xem xét từng yêu cầu. Trọng số được cấp phép theo CC BY-NC-SA 4.0 cho mục đích nghiên cứu và các mục đích phi thương mại khác, còn mã nguồn và bộ mã hóa từ được cấp phép theo Apache 2.0. Translated cung cấp giấy phép thương mại riêng và không phát hành dữ liệu huấn luyện cùng mô hình.

Trang nghiên cứu của Translated cho biết một số khách hàng doanh nghiệp được lựa chọn cũng sẽ có quyền truy cập, đồng thời nêu việc tinh chỉnh cho các ứng dụng chủ quyền chuyên biệt là một mục đích sử dụng dự kiến. Lara Mini thuộc Lara 4, dòng mô hình nền tảng được phát triển để cung cấp sức mạnh cho thế hệ tiếp theo của Lara Translate.

Bài viết tiếp theo được đăng ngày 13 tháng 11 năm 2026 cho biết Lara Mini chưa có trên Lara Translate. Công ty dự định dùng mô hình này làm nền tảng cho tính năng dịch văn bản ngoại tuyến trong ứng dụng Lara Translate tiếp theo; việc xử lý sẽ diễn ra trên điện thoại để văn bản luôn nằm trên thiết bị. Con số 45 ngôn ngữ mô tả phạm vi ngôn ngữ trong dữ liệu huấn luyện; số ngôn ngữ sẽ được hỗ trợ khi ra mắt tính năng dịch ngoại tuyến chưa được công bố.

Ứng dụng dự kiến biến nghiên cứu thành một phép thử sản phẩm cụ thể: chuyển một bản lưu mô hình nghiên cứu dạng thưa thành công cụ dịch riêng tư ngay trên thiết bị, đồng thời duy trì hiệu quả và hiệu suất đa ngôn ngữ được báo cáo trong đánh giá của Translated.