Baseten Thêm DeepSeek-V4.1-Flash vào API Mô hình Với Ngữ cảnh 1M-Token

DeepSeek-V4.1-Flash hiện đã có sẵn trên API Mô hình của Baseten, Baseten thông báo vào ngày 11 tháng 9 năm 2026, mang lại mô hình multimodal mixture-of-experts (MoE) 552B tham số, kết hợp 8B tham số hoạt động cho giai đoạn prefill và 16B cho giai đoạn decode trên cửa sổ ngữ cảnh 1M-token, cho nền tảng nhà cung cấp suy luận.

DeepSeek đã phát hành trọng tải mở của mô hình trên Hugging Face, và thông báo riêng của DeepSeek có ngày 10 tháng 9 năm 2026. Mô hình chấp nhận đầu vào văn bản và hình ảnh và tạo ra đầu ra văn bản, và thẻ mô hình cho biết kho lưu trữ và trọng tải được cấp phép theo Giấy phép MIT. Baseten mô tả V4.1-Flash là bản phát hành flash trọng tải mở thứ ba của DeepSeek trong năm 2026 và là mô hình duy nhất cùng quy mô sử dụng kiến trúc Causal Encoder-Decoder mà DeepSeek gọi. Hỗ trợ cho sản phẩm đào tạo Loops của Baseten sẽ sớm có mặt, theo công ty.

Kết Quả Đánh Giá Được Báo Cáo

Thẻ mô hình báo cáo kết quả instruct-model ở mức nỗ lực suy luận tối đa 100: V4.1-Flash đạt 90.6 trên Terminal-Bench 2.1, so với 82.7 của V4-Flash và 87.9 của V4‑Pro; 74.2 trên DeepSWE v1.1, so với 54.4 và 62.7; và 54.8 trên AutomationBench, so với 37.7 và 43.2. Baseten nhấn mạnh các số liệu lập trình và tác nhân tương tự, cho rằng V4.1-Flash vượt trội hơn V4‑Pro với khoảng một phần ba tổng số tham số, đồng thời cảnh báo rằng điểm 54.8 trên AutomationBench đồng nghĩa mô hình thất bại khoảng một nửa các quy trình công việc phức tạp và khuyên các đội ngũ giữ một con người trong vòng lặp cho các pipeline tác nhân.

Trong so sánh của thẻ mô hình với các mô hình tiên tiến ở mức nỗ lực tối đa, V4.1-Flash đạt 90.9 trên GPQA Diamond, với xếp hạng Codeforces là 3471, và 63.9 trên HLE có công cụ. Baseten cho biết V4.1-Flash là mô hình không thử nghiệm đầu tiên của DeepSeek có đầu vào hình ảnh gốc, một khả năng trước đây chỉ có trong phiên bản thử nghiệm V4-Flash-Vision-Exp; bảng của nó báo cáo 78.9 trên Chartography và 49 trên ZeroBench cho mô hình mới, so với 64.3 và 35 cho phiên bản thử nghiệm.

Kiến Trúc Encoder-Decoder Nhân Nguyên

Theo thẻ mô hình, V4.1-Flash sắp xếp một Transformer 40 lớp thành một encoder nguyên nhân 20 lớp tiếp theo là một decoder 20 lớp, với bộ nhớ đệm khóa-giá trị (KV) toàn cục của decoder được chiếu từ các trạng thái ẩn cuối cùng của encoder thay vì được tạo ra từ các trạng thái ẩn riêng của mỗi lớp decoder. Thiết kế này kích hoạt 8 tỷ tham số cho mỗi token trong giai đoạn prefill và 16 tỷ trong giai đoạn decode; Baseten so sánh điều này với V4-Flash, vốn kích hoạt 13 tỷ cho cả hai bước, mô tả sự thay đổi như việc đổi lấy một quá trình decode nặng hơn để có một prefill nhẹ hơn đáng kể, một cấu hình Baseten cho biết tăng hiệu quả chi phí cho các tác nhân lập trình mà vòng lặp tác nhân tạo ra rất nhiều token prefill hơn token decode.

Thẻ mô hình báo cáo rằng Compressed Sparse Attention 2 của mô hình gán mỗi lớp attention một trong ba chế độ tĩnh (Full, Reindex, hoặc Reuse), với một Hierarchical Sparse Indexer trong decoder giới hạn chi phí lập chỉ mục sâu hơn độc lập với độ dài ngữ cảnh. Kết hợp với bộ nhớ đệm KV chính FP4, các thiết kế này giảm bộ nhớ đệm KV toàn cục xuống 890 byte cho mỗi token, khoảng một phần tư so với V4-Flash, thẻ mô hình cho biết. Một cơ chế riêng, SWA Bounded Replay, tái tạo các trạng thái KV attention cửa sổ trượt bị thiếu bằng cách phát lại chỉ các token mới nhất, giảm dấu chân KV liên tục xuống khoảng một phần tám của V4-Flash. Thông báo của DeepSeek đưa mức tiết kiệm lên một phần tư bộ nhớ HBM và một phần tám bộ nhớ SSD so với thế hệ trước.

Mỗi lớp MoE sử dụng một chuyên gia chia sẻ và 384 chuyên gia định tuyến, với sáu chuyên gia định tuyến hoạt động cho mỗi token, và mô hình bổ sung bộ nhớ có điều kiện Engram với 196B tham số cùng với giải mã suy đoán DSpark, theo thẻ mô hình. DeepSeek đã huấn luyện mô hình từ đầu trên một tập dữ liệu multimodal 45T-token, huấn luyện attention thưa của nó với độ dài chuỗi 64K, và mở rộng ngữ cảnh lên 1M token tại 34T token. Sau giai đoạn huấn luyện, quy trình tiếp tục với một giai đoạn fine‑tuning giám sát tiêu chuẩn, học tăng cường, và chuỗi distillation theo chính sách, với các thay đổi đáng kể tập trung vào việc tổng hợp tự động quy mô lớn các nhiệm vụ và môi trường của tác nhân, và mô hình cung cấp một thiết lập nỗ lực suy luận có thể điều chỉnh liên tục từ 1 đến 100.

Chuyển Đổi API DeepSeek và Dịch Vụ Baseten

DeepSeek cho biết V4-Flash và V4-Flash-Vision-Exp đã bị ngừng sử dụng trên nền tảng của mình, với các tên mô hình API cũ tạm thời chuyển hướng tới V4.1-Flash để tương thích. Giá API mới có hiệu lực từ 04:00 UTC ngày 10 tháng 9 năm 2026, với mức giá ngoài giờ cao điểm được đặt ở 50% mức giá cao điểm, và DeepSeek công bố các đối tác chính thức WorkBuddy (bao gồm CodeBuddy) và OpenCode là những người hoàn toàn hỗ trợ V4.1-Flash.

Baseten cho biết Suy Luận Stack của mình phục vụ mô hình bằng cách sử dụng NVIDIA Dynamo với định tuyến nhận thức bộ nhớ đệm KV, hướng mỗi yêu cầu tới bản sao đã có tiền tố của mô hình thay vì bất kỳ bản sao nào còn trống. Mô hình được cung cấp qua Thư viện Mô hình của Baseten, với các triển khai riêng dành cho các đội cần dung lượng dự trữ.

Bắt đầu từ 04:00 UTC ngày 14 tháng 9 năm 2026, tất cả các yêu cầu deepseek-v4-pro sẽ được chuyển hướng tới V4.1-Flash với mức giá V4.1-Flash, một sắp xếp DeepSeek cho biết sẽ tiếp tục cho đến khi V4.1-Pro ra mắt; phòng thí nghiệm cho biết các thử nghiệm của nhiều bên đã đặt V4.1-Flash vượt trội hơn V4‑Pro về hiệu năng, chi phí, tốc độ và thời gian chạy tổng cộng.