Baseten Menambahkan DeepSeek-V4.1-Flash ke API Model dengan Konteks 1M-Token

DeepSeek-V4.1-Flash kini tersedia di Baseten Model APIs, Baseten mengumumkan pada 11 September 2026, membawa model multimodal mixture-of-experts (MoE) berparameter 552B, yang menggabungkan 8B parameter aktif untuk prefill dengan 16B untuk decode pada jendela konteks 1M-token, ke platform penyedia inferensi.

DeepSeek merilis bobot terbuka model di Hugging Face, dan Pengumuman DeepSeek sendiri bertanggal 10 September 2026. Model ini menerima masukan teks dan gambar serta menghasilkan keluaran teks, dan kartu model menyatakan bahwa repositori dan bobot dilisensikan di bawah MIT License. Baseten menggambarkan V4.1-Flash sebagai rilis flash berbobot terbuka ketiga DeepSeek pada 2026 dan sebagai satu-satunya model dengan skala tersebut yang menggunakan apa yang disebut DeepSeek sebagai arsitektur Causal Encoder-Decoder. Dukungan untuk produk pelatihan Loops milik Baseten akan segera hadir, menurut perusahaan.

Hasil Benchmark yang Dilaporkan

Kartu model melaporkan hasil instruct-model pada pengaturan upaya penalaran maksimum sebesar 100: V4.1-Flash mencetak 90,6 pada Terminal-Bench 2.1, dibandingkan dengan 82,7 untuk V4-Flash dan 87,9 untuk V4-Pro; 74,2 pada DeepSWE v1.1, dibandingkan dengan 54,4 dan 62,7; serta 54,8 pada AutomationBench, dibandingkan dengan 37,7 dan 43,2. Baseten menyoroti angka-angka coding dan agen yang sama, menyatakan V4.1-Flash mengungguli V4-Pro dengan kira-kira sepertiga total parameter, sambil memperingatkan bahwa skor 54,8 pada AutomationBench berarti model gagal pada kira-kira setengah alur kerja kompleks dan menyarankan tim untuk menjaga kehadiran manusia dalam siklus agen.

Dalam perbandingan kartu dengan model frontier pada upaya maksimum, V4.1-Flash mencatat 90,9 pada GPQA Diamond, peringkat Codeforces sebesar 3471, dan 63,9 pada HLE dengan alat. Baseten menyatakan bahwa V4.1-Flash adalah model non-eksperimental pertama DeepSeek dengan masukan gambar native, kemampuan yang sebelumnya terbatas pada V4-Flash-Vision-Exp eksperimental; tabelnya melaporkan 78,9 pada Chartography dan 49 pada ZeroBench untuk model baru, dibandingkan dengan 64,3 dan 35 untuk yang eksperimental.

Arsitektur Causal Encoder-Decoder

Menurut kartu model, V4.1-Flash menyusun Transformer 40 lapisan menjadi encoder kausal 20 lapisan diikuti decoder 20 lapisan, dengan cache global key-value (KV) decoder diproyeksikan dari keadaan tersembunyi akhir encoder alih-alih berasal dari keadaan tersembunyi masing-masing lapisan decoder. Desain ini mengaktifkan 8B parameter per token selama prefill dan 16B selama decode; Baseten membandingkannya dengan V4-Flash, yang mengaktifkan 13B untuk kedua langkah, menggambarkan perubahan tersebut sebagai menukar decode yang lebih berat dengan prefill yang jauh lebih ringan, sebuah pengaturan yang menurut Baseten meningkatkan efisiensi biaya untuk agen coding yang loop agen mereka menghasilkan jauh lebih banyak token prefill daripada token decode.

Kartu tersebut melaporkan bahwa Compressed Sparse Attention 2 model menetapkan setiap lapisan perhatian ke salah satu dari tiga mode statis (Full, Reindex, atau Reuse), dengan Hierarchical Sparse Indexer di decoder yang membatasi biaya pengindeksan yang lebih dalam secara independen dari panjang konteks. Dikombinasikan dengan caching KV utama FP4, desain tersebut mengurangi cache KV global menjadi 890 byte per token, kira-kira seperempat V4-Flash, menurut kartu. Mekanisme terpisah, SWA Bounded Replay, merekonstruksi keadaan KV attention jendela geser yang hilang dengan memutar ulang hanya token terbaru, mengurangi jejak KV yang persisten menjadi kira-kira seperdelapan V4-Flash. Pengumuman DeepSeek menyatakan penghematan sebesar seperempat HBM dan seperdelapan penyimpanan SSD dibandingkan generasi sebelumnya.

Setiap lapisan MoE menggunakan satu pakar bersama dan 384 pakar terarah dengan enam pakar terarah aktif per token, dan model menambahkan memori kondisional Engram dengan 196B parameter bersama decoding spekulatif DSpark, menurut kartu. DeepSeek melatih model dari nol pada korpus multimodal 45T-token, melatih attention sparse pada panjang urutan 64K, dan memperluas konteks menjadi 1M token pada 34T token. Pasca-pelatihan mengikuti fine-tuning terawasi standar, pembelajaran penguatan, dan urutan distilasi on-policy, dengan perubahan substantif terkonsentrasi pada sintesis otomatis berskala besar tugas dan lingkungan agen, serta model memaparkan pengaturan upaya penalaran yang dapat dikontrol secara kontinu dari 1 hingga 100.

Transisi API DeepSeek dan Penyajian Baseten

DeepSeek menyatakan bahwa V4-Flash dan V4-Flash-Vision-Exp dihentikan di platformnya, dengan nama model API lama sementara diarahkan ke V4.1-Flash untuk kompatibilitas. Penetapan harga API baru mulai berlaku pada 04:00 UTC 10 September 2026, dengan tarif off-peak ditetapkan pada 50% dari tarif puncak, dan DeepSeek menamai mitra resmi WorkBuddy (termasuk CodeBuddy) dan OpenCode sebagai pendukung penuh V4.1-Flash.

Baseten mengatakan Inferensi Stack-nya menyajikan model menggunakan NVIDIA Dynamo dengan routing yang menyadari cache KV, mengarahkan setiap permintaan ke replika yang sudah memegang prefiksnya daripada replika mana pun yang tersedia. Model ini ditawarkan melalui Model Library Baseten, dengan penyebaran khusus tersedia bagi tim yang membutuhkan kapasitas terreservasi.

Mulai 04:00 UTC 14 September 2026, semua permintaan deepseek-v4-pro akan diarahkan ke V4.1-Flash dengan tarif V4.1-Flash, sebuah pengaturan yang menurut DeepSeek akan berlanjut hingga peluncuran V4.1-Pro; laboratorium tersebut menyatakan bahwa pengujian oleh berbagai pihak menempatkan V4.1-Flash di depan V4-Pro dalam hal kinerja, biaya, kecepatan, dan total waktu eksekusi.