Fireworks công bố suy luận tác tử nhanh hơn và triển khai trên hạ tầng chủ quyền

Fireworks công bố loạt sản phẩm AI dành cho doanh nghiệp vào ngày 3 tháng 11 năm 2026, tại hội nghị Forge thường niên đầu tiên của hãng. Nổi bật là bản xem trước tính năng suy luận Ultra-fast, được cho là đạt tốc độ lên đến 1.500 token mỗi giây trên DeepSeek V4.1 Flash, cùng các công cụ định tuyến mô hình, đánh giá, phục vụ mô hình chuyên biệt và bản xem trước riêng tư của Fireworks Sovereign dành cho hạ tầng do khách hàng sở hữu.

Điều chỉnh tốc độ suy luận và chi phí phù hợp với khối lượng công việc

Ultra-fast đang được xem trước công khai trên GPU NVIDIA Blackwell và được thiết kế cho các tác tử thực hiện nhiều bước, trong đó mỗi lần gọi mô hình đều làm tăng thời gian chờ kết quả. Fireworks cho biết thời gian hoàn thành bài kiểm tra tác tử gồm 30 lượt của hãng đã giảm từ một phút xuống còn tám giây nhờ Ultra-fast. Tính năng này hướng đến các công việc cần xử lý nhanh, đồng thời có những lựa chọn rẻ hơn cho các tác vụ có thể chờ.

Với những công việc không đòi hỏi phản hồi tức thì, Background Mode chạy các tác vụ đủ điều kiện, chẳng hạn như tạo dữ liệu đánh giá và nghiên cứu qua đêm, với mức giá bằng một nửa. Multi-day Prompt Caching giúp giảm chi phí khi phải sử dụng lại ngữ cảnh nhiều lần. Giới hạn tốc độ cao hơn cho dịch vụ không máy chủ và Elastic Burst hiện đã được cung cấp rộng rãi cho khối lượng công việc lớn hơn; khi có công suất dự phòng, Elastic Burst có thể vượt mức sử dụng thông thường của khách hàng mà không cần thay đổi mã hay giá.

Bài kiểm tra DeepSeek V4.1 Flash của Fireworks ngày 14 tháng 9 năm 2026 cho thấy vì sao việc sử dụng lại ngữ cảnh lại quan trọng. Trong lần chạy DeepSWE, 99,6% token đầu vào là các lượt truy cập bộ nhớ đệm, và phí cho những lượt này chiếm 60% hóa đơn. Cơ cấu đó cho thấy ngữ cảnh được sử dụng lại là mục tiêu quan trọng để cắt giảm chi phí của các tác tử chạy trong thời gian dài, thay vì chỉ xem đầu ra được tạo là nguồn phát sinh chi phí.

Xu hướng tối ưu chi phí tương tự cũng được áp dụng cho việc chuyên biệt hóa mô hình. Ember-1, được giới thiệu vào ngày 23 tháng 9 năm 2026 dưới dạng bản xem trước nghiên cứu trên dịch vụ không máy chủ, sử dụng ít hơn khoảng 40% token so với Kimi K3 với chất lượng tương đương trong các đánh giá của Fireworks. Mô hình này có trên các phương án triển khai không máy chủ và chuyên dụng.

Nexus Desktop và giá thuê bao

Fireworks Nexus định tuyến giữa các mô hình mở và mô hình đóng ngay trong những công cụ lập trình và cộng tác hiện có, với khả năng lựa chọn mô hình được cá nhân hóa và nhận biết bộ nhớ đệm. Nền tảng này cũng tập trung hóa khả năng theo dõi chi tiêu và các công cụ kiểm soát dành cho tổ chức. Nexus Desktop ra mắt cùng với Nexus CLI hiện có; Nexus hoạt động trong ứng dụng Codex, Claude Desktop và OpenCode.

Các gói Nexus Pro mới có giá khởi điểm 8 USD mỗi tháng, trong khi các gói Teams có giá khởi điểm 10 USD mỗi người dùng mỗi tháng. Các gói Enterprise bổ sung tính năng đăng nhập một lần, quản trị, ngân sách dùng chung và kiểm soát quyền truy cập.

Tài liệu về Nexus Desktop liệt kê bản macOS dùng chung cho máy Mac chạy chip Apple silicon và máy Mac dùng bộ xử lý Intel; hỗ trợ Linux và Windows sẽ sớm ra mắt. CLI chạy trên macOS và Linux, còn hỗ trợ Windows bị giới hạn thông qua Git Bash. Các kết nối trên máy tính để bàn bao gồm ChatGPT, Claude Code, Cursor IDE, VS Code và OpenCode, trong khi hỗ trợ Claude Desktop được mô tả là hạn chế.

Đánh giá và phục vụ mô hình chuyên biệt

No Eval, hiện đang được xem trước riêng tư, sử dụng dấu vết từ các hệ thống đang vận hành và tín hiệu từ sản phẩm để xây dựng các bài đánh giá cho những tác vụ cụ thể. Các bài đánh giá này nhằm làm lộ rõ điểm yếu của mô hình và cho thấy liệu quá trình huấn luyện sau đó có khắc phục được chúng hay không, qua đó giải quyết những công việc vốn có thể đòi hỏi hàng tuần gắn nhãn và chấm điểm dữ liệu.

Suy luận mô hình chuyên biệt đã bước vào giai đoạn xem trước công khai, cho phép phục vụ các bộ điều chỉnh LoRA trên nhóm tài nguyên dùng chung của Fireworks dành cho dịch vụ không máy chủ, ban đầu với GLM 5.3 Flash. Khách hàng trả phí theo token theo mức giá dịch vụ không máy chủ của mô hình cơ sở mà không cần tạo một bản triển khai. Việc tải bộ điều chỉnh, duy trì bộ điều chỉnh ở trạng thái đã tải và thời gian nhàn rỗi đều không phát sinh phí phục vụ, còn chi phí huấn luyện được tính riêng.

Với GLM 5.3 Flash, mức giá được công bố là $0.15 cho mỗi triệu token đầu vào, $0.03 cho mỗi triệu token đầu vào được lưu trong bộ nhớ đệm và $0.50 cho mỗi triệu token đầu ra.

Bản xem trước hỗ trợ hạng LoRA tối đa là 64 và tối đa ba bộ điều chỉnh được tải cho mỗi tài khoản đối với mô hình cơ sở. Theo tài liệu của Fireworks, quá trình tải mất chưa đến năm phút, yêu cầu đầu tiên có thể mất đến một phút và các yêu cầu tiếp theo có độ trễ xấp xỉ độ trễ của mô hình cơ sở; trong giai đoạn xem trước, không có bảo đảm về độ trễ.

Các bộ điều chỉnh chạy trên GPU được chia sẻ với bộ điều chỉnh của khách hàng khác. Fireworks khuyến nghị triển khai chuyên dụng cho những khối lượng công việc cần độ trễ ổn định, GPU riêng biệt, một khu vực cụ thể hoặc khả năng phục vụ với độ chính xác cao hơn; dịch vụ không máy chủ hướng đến thử nghiệm và lưu lượng tăng đột biến.

Kiểm soát dành cho doanh nghiệp và triển khai trên hạ tầng chủ quyền

Quản trị mô hình, kiểm soát chi tiêu và nhật ký kiểm toán có thể xuất hiện hiện đã được cung cấp rộng rãi. Quản lý tài khoản tập trung, kiểm soát dữ liệu theo khu vực và mã hóa do khách hàng quản lý vẫn đang trong giai đoạn xem trước.

Fireworks Sovereign, hiện đang được xem trước riêng tư, vận hành công cụ suy luận của công ty trên đám mây, nền tảng đám mây chuyên biệt hoặc trung tâm dữ liệu của khách hàng. Hoạt động suy luận và huấn luyện được thực hiện bên trong môi trường của khách hàng, theo các chính sách bảo mật và kiểm soát thay đổi của họ. Fireworks cho biết đang quản lý hơn 25.000 GPU trong môi trường của khách hàng.

Mô hình vận hành phân chia trách nhiệm giữa hai bên. Fireworks thẩm định cụm máy chủ, triển khai mô hình và xử lý việc nâng cấp, giám sát, tinh chỉnh hiệu năng cũng như ứng phó sự cố, trong khi khách hàng vẫn sở hữu kiến trúc và các chính sách. Khách hàng quản lý lưu lượng đầu vào, cân bằng tải, DNS, chứng chỉ TLS và các tuyến lưu lượng đi ra đã được phê duyệt. Mặt phẳng điều khiển của Fireworks sử dụng thông tin xác thực chuyên dụng có thể kiểm toán; lưu lượng đi ra chỉ giới hạn ở việc tải trọng số mô hình và ảnh, cùng với dữ liệu đo từ xa phục vụ vận hành.

Fireworks cho biết Sovereign mang lại thông lượng cao hơn từ 20% đến 50% trên cùng phần cứng và số token trên mỗi đô la chi cho phần cứng cao gấp khoảng 2,3 lần. Tùy chọn chuyển tải lai sẽ chuyển các khối lượng công việc đủ điều kiện sang Fireworks Cloud tại những khu vực được khách hàng phê duyệt khi cụm máy chủ đạt công suất tối đa, rồi chuyển chúng trở lại GPU của khách hàng khi nhu cầu giảm, sử dụng cùng một API.

Dòng Forge đưa việc lựa chọn mô hình, hiệu quả kinh tế của suy luận và quyền kiểm soát hạ tầng vào cùng một quyết định của doanh nghiệp. Điểm cần lưu ý chính là mỗi lựa chọn đi kèm những điều kiện vận hành khác nhau: adapter serverless không cần dung lượng chuyên dụng nhưng chạy trên GPU dùng chung và không được đảm bảo độ trễ trong giai đoạn xem trước, trong khi Sovereign kết hợp hạ tầng thuộc sở hữu của khách hàng với ngăn xếp phục vụ do Fireworks vận hành.