Fortytwo ra mắt Engine API, báo cáo giảm 24,7% số token trong các tác vụ lập trình

Fortytwo đã ra mắt Fortytwo Engine, một API suy luận sử dụng các mô hình AI phối hợp với nhau để cải thiện khả năng suy luận đồng thời giảm lượng văn bản cần tạo ra để hoàn thành một tác vụ. Công ty cho biết mô hình đầu tiên được hỗ trợ, Qwen 3.8 27B, sử dụng ít hơn 24,7% số token trong 450 lần chạy các tác vụ kỹ thuật phần mềm DeepSWE so với khi chạy riêng lẻ cùng mô hình đó, đồng thời giải quyết được tỷ lệ tác vụ cao hơn.

Thông báo này hướng đến một vấn đề chi phí ngày càng gia tăng đối với các tác nhân AI: giá mỗi token thấp không nhất thiết đồng nghĩa với chi phí thấp cho mỗi công việc hoàn thành. Các phiên lập trình và nghiên cứu kéo dài có thể tích lũy ngữ cảnh lặp lại, những lệnh gọi công cụ không cần thiết và các lần thử lại. Theo công ty, phương pháp của Fortytwo nhằm giảm phần công việc lãng phí đó ngay trong quá trình suy luận, đồng thời giữ giá mỗi token ở mức giá của mô hình nền.

Định hướng quá trình suy luận trước khi sai lầm chồng chất

Fortytwo gọi công nghệ đứng sau Engine mới là Swarm Decoder. Nhiều mô hình cùng tham gia định hình một lộ trình suy luận chung trong khi lộ trình đó được tạo ra, đánh giá hướng nào có triển vọng hơn trước khi hoàn tất câu trả lời. Mục tiêu là phát hiện sớm các giả định thiếu vững chắc, tránh phát sinh thêm công việc tạo nội dung và khắc phục sau khi đi sai hướng.

Đây là một thay đổi so với kiến trúc trước đây của Fortytwo. Trong nghiên cứu suy luận bầy đàn năm 2025, các nút riêng biệt tạo ra những câu trả lời độc lập, so sánh trực tiếp với nhau rồi kết hợp các đóng góp tốt nhất. Công ty mô tả một cơ chế xếp hạng thống kê, trong đó các nút đã chứng minh được năng lực được đánh giá cao hơn; việc đánh giá giữa các nút giúp xây dựng uy tín cho chúng. Phương pháp trước đây đánh giá các câu trả lời đã hoàn tất; Engine mới đưa việc xếp hạng giữa các nút vào ngay quá trình suy luận.

Sự khác biệt này có ý nghĩa đối với các tác nhân thực hiện nhiều bước. Chọn câu trả lời hoàn chỉnh tốt nhất có thể cải thiện phản hồi, nhưng không thể lấy lại số token đã tiêu tốn để tạo ra những phương án kém hơn. Việc định hướng liên tục nhằm ngăn lộ trình kém hiệu quả phát triển ngay từ đầu. Fortytwo cho biết cách tính token của công ty bao gồm tất cả các mô hình tham gia, thay vì chỉ tính câu trả lời cuối cùng.

CEO kiêm đồng sáng lập Ivan Nikitin mô tả lợi ích gồm hai mặt: “Suy luận tập thể mang lại lợi ích kép: câu trả lời tốt hơn và các tác vụ cần ít token hơn.”

Kết quả thử nghiệm của Fortytwo

Trong đánh giá DeepSWE của công ty, Engine đạt 47,8 điểm, so với 42,2 điểm của mô hình nền, tăng 5,6 điểm phần trăm. Lượng token sử dụng trung bình giảm từ 16,3 triệu xuống còn 12,3 triệu cho mỗi lần chạy. Trong tổng số 450 lần chạy, Fortytwo báo cáo mô hình nền sử dụng 7,4 tỷ token, còn Engine sử dụng 5,6 tỷ token.

Tài liệu ra mắt cũng báo cáo điểm số cao hơn ở năm bài đánh giá chuẩn khác, thuộc các lĩnh vực khoa học, lập trình và suy luận tổng quát:

Nguồn: Thông báo ra mắt của Fortytwo. Điểm số so sánh Qwen 3.8 27B khi có và không có Engine, theo quy trình đánh giá của công ty.

Đây là kết quả do công ty báo cáo. Mức giảm 24,7% số token chỉ được ghi nhận trong các lần chạy DeepSWE; không nên hiểu đây là mức tiết kiệm đã được đo lường trên mọi bài đánh giá chuẩn hoặc mọi khối lượng công việc trong môi trường thực tế. Đối với nhà phát triển, phép thử thực tế là liệu mô hình có thể hoàn thành chính xác các tác vụ của họ với tổng số token, số lần thử lại và số lệnh gọi công cụ ít hơn hay không.

API quen thuộc, với các giới hạn tương thích được xác định rõ

Dịch vụ hiện có trên nền tảng dành cho nhà phát triển của Fortytwo. Tài liệu API mô tả khả năng tương thích với OpenAI Chat Completions API, cho phép SDK hoặc ứng dụng khách hiện có sử dụng khóa API và URL cơ sở của Fortytwo cùng với mã định danh mô hình được hỗ trợ.

Các tính năng được tài liệu mô tả gồm truyền phát dữ liệu, công cụ chức năng, gọi công cụ song song và đầu ra có cấu trúc. Nhà phát triển cũng có thể chọn mức độ nỗ lực suy luận. Những tính năng này khiến dịch vụ phù hợp với các tác nhân cần gọi công cụ phần mềm và trả về kết quả mà máy có thể đọc được, thay vì chỉ tạo văn bản hội thoại.

Khả năng tương thích có những giới hạn nhất định. Tài liệu liệt kê Chat Completions và liệt kê mô hình là các điểm cuối được hỗ trợ, trong khi những API như Responses, Embeddings, Audio, Files và Assistants không được hỗ trợ. Một số trường trong yêu cầu chỉ được hỗ trợ một phần hoặc phụ thuộc vào mô hình được chọn; các trường không được hỗ trợ sẽ trả về lỗi thay vì bị âm thầm bỏ qua. Vì vậy, các nhóm chuyển một ứng dụng hiện có sang dịch vụ này nên đối chiếu những yêu cầu thực tế của ứng dụng với hướng dẫn tương thích.

Tham vọng rộng lớn hơn về AI tập thể

Engine hoạt động song song với Fortytwo Harbor, sản phẩm của công ty dành cho các tổ chức muốn triển khai suy luận bầy đàn trên hạ tầng của chính mình. Fortytwo định vị Harbor là giải pháp giúp dữ liệu luôn nằm trong phạm vi kiểm soát của tổ chức và sử dụng chi phí phần cứng cố định thay vì tính phí API theo token.

Chương trình nghiên cứu rộng hơn của công ty còn bao gồm việc tạo dữ liệu huấn luyện thông qua mạng lưới mô hình của mình. Trang web của công ty giới thiệu Strand-Rust-Coder-14B, một mô hình mở được huấn luyện trên tập dữ liệu do Fortytwo tạo ra. Công trình này tập trung vào huấn luyện mô hình, trong khi Engine mới chú trọng cải thiện khả năng suy luận của các mô hình có trọng số mở hiện có tại thời điểm suy luận.

Được thành lập vào năm 2024, Fortytwo cho biết công ty có đội ngũ gồm 15 kỹ sư, trong đó có nhân sự tại Mountain View và Abu Dhabi; đã huy động được 2,3 triệu USD vốn tiền hạt giống vào năm 2025; và gia nhập hệ sinh thái Hub71 của Abu Dhabi vào năm 2026. Sau Qwen 3.8 27B, công ty dự kiến sẽ đưa thêm các mô hình mở lên Engine.

Điểm nhấn của đợt ra mắt là chi phí cho mỗi tác vụ hoàn thành thành công. Nếu hoạt động đánh giá chéo liên tục có thể ngăn chặn hiệu quả đủ lượng suy luận lãng phí để bù đắp chi phí phát sinh từ chính hoạt động này, các nhà phát triển có thể có thêm một cách cải thiện hiệu quả kinh tế của tác nhân AI, bên cạnh việc sử dụng mô hình tốt hơn và phần cứng nhanh hơn.