LongCat-2.5 Debut dengan 1,6 Triliun Parameter dan Token Visual Bawaan

LongCat memperkenalkan LongCat-2.5 pada 1 November 2026, sebuah model campuran pakar multimodal bawaan untuk tugas agen berjangka panjang, dengan total 1,6 triliun parameter dan sekitar 48 miliar parameter aktif per token.

LongCat menyatakan bahwa rilis ini mengembangkan LongCat-2.0 dengan kemampuan pemahaman visual bawaan dan pengodean agen yang lebih kuat. Pelatihannya mencakup lebih banyak lintasan berjangka panjang serta pembelajaran penguatan berskala besar untuk jangka panjang, guna mendukung pengembangan basis kode yang kompleks dan pembangunan proyek secara menyeluruh. Rilis ini menyediakan tautan ke antarmuka obrolan dan platform API LongCat, sedangkan tombol GitHub dan Hugging Face diberi label “segera hadir”.

Token Visual Diskret dan Pelatihan Agen

LongCat-2.5 merepresentasikan sinyal visual sebagai token diskret bertingkat, sehingga tulang punggung modelnya dapat memproses masukan visual dan tekstual dalam format terpadu berbasis token. Rancangannya memadukan tokenisasi visual pada resolusi asli, prapemrosesan visual luring, dan embedding visual yang dipelajari bersama tulang punggung model. Model ini menerapkan kuantisasi vektor residual pada fitur beresolusi asli dari encoder semantik dan selaras, dengan gambar dikodekan sebagai rangkaian token diskret dan direkonstruksi oleh dekoder visual.

Tokenizer tetap memungkinkan ID token visual dihitung sebelumnya dan disimpan dalam cache secara luring, sehingga tulang punggung model memproses rangkaian yang telah ditokenisasi. Karena jumlah token gambar diketahui saat data dikemas dan diacak, beban tiap modalitas dapat diprediksi dan proporsinya dapat dijaga agar kurang lebih seragam di seluruh peringkat paralel data. LongCat menyatakan bahwa validasi awal pada MoE yang lebih kecil, dengan rata-rata sekitar 3 miliar parameter aktif, memperlihatkan embedding visual dan tekstual yang saling terjalin dalam visualisasi t-SNE, yang mengindikasikan integrasi dalam ruang semantik bersama.

Untuk tugas pengodean agen, sebuah alur sintesis menghasilkan tugas pelatihan, lingkungan interaktif, dan pengujian yang dapat diverifikasi. LongCat menyaring permintaan tarik dan isu tertaut di GitHub, menggunakan agen untuk memberi anotasi pada tugas dan menyintesis lingkungan, lalu memvalidasinya dengan pengujian fail-to-pass dan pass-to-pass. Tingkat keberhasilan peluncuran langsung menjadi panduan untuk memberi label ulang dan menyaring data, sedangkan analisis luring atas lintasan positif palsu dan negatif palsu digunakan untuk memperbaiki dan memperluas pengujian. Lintasan kegagalan agen di dunia nyata juga diubah menjadi tugas pelatihan yang dapat direproduksi dan diverifikasi.

Peluncuran parsial asinkron menghentikan sementara dan menyimpan lintasan yang sedang berlangsung setelah satu batch penuh terkumpul, lalu melanjutkannya pada tahap pengambilan sampel berikutnya. Untuk membatasi manipulasi reward, LongCat menonaktifkan akses jaringan di lingkungan tugas, menghapus riwayat Git dan berkas yang tersimpan dalam cache, serta menggunakan penilai LLM untuk mengaudit lintasan guna mendeteksi eksploitasi. Penalti tambahan diterapkan untuk mengatasi penalaran berulang dan pemanggilan alat berulang selama interaksi multi-giliran.

Pelatihan Akselerator dan Inferensi W4A4

Pelatihan dengan urutan panjang dilakukan selama tahap pelatihan menengah maupun penyempurnaan terawasi, menggunakan akselerator AI domestik dengan memori kurang dari 80 GB per perangkat. Kelompok paralel mengikuti topologi supernode, sehingga operasi pengumpulan semua parameter, pengiriman semua token pakar, dan pengumpulan semua KV tetap berada dalam interkoneksi berbandwidth tinggi milik supernode.

FSDP dua shard mempertahankan pembagian shard parameter model di dalam setiap supernode, sekaligus membagi lebih lanjut bobot induk FP32 dan status pengoptimal di seluruh domain FSDP. LongCat melaporkan throughput per perangkat 86% lebih tinggi dibandingkan acuan DDP-nya dalam tugas penyempurnaan terawasi dengan urutan panjang.

LongCat menyatakan bahwa tumpukan pelatihan dan inferensinya mempertahankan probabilitas log per token yang identik bit demi bit dengan overhead kinerja nyaris nol, sekaligus memisahkan konfigurasi paralelisme keduanya. Kedua mesin menggunakan kernel yang tidak bergantung pada batch dan logika kerangka kerja yang selaras, serta mendukung propagasi balik untuk pelatihan.

Inferensi W4A4 mengkuantisasi bobot pakar dan aktivasi menjadi 4 bit, lalu menjalankan perkalian matriks terkait pada unit INT4 bawaan. Transformasi masukan bersama untuk semua pakar memungkinkan kuantisasi dilakukan sebelum replikasi dan pengiriman token, sehingga representasi INT4 yang sama dapat digunakan kembali selama komunikasi dan komputasi pakar. LongCat melaporkan akurasi yang sebanding dengan model tanpa kuantisasi pada semua tugas hilir yang dievaluasi.

Dalam uji stres daring terhadap acuan W8A8 INT8, LongCat melaporkan throughput prapengisian 43,3% lebih tinggi dan throughput dekode 42,77% lebih tinggi, disertai penurunan TTFT sebesar 15,91% dan TPOT sebesar 19,72%. Kernel GMM mencapai percepatan rata-rata 1,73× dibandingkan W8A8.

Hasil Evaluasi yang Dilaporkan

LongCat melaporkan hasil tolok ukur berikut untuk LongCat-2.5 dan pendahulunya:

Untuk evaluasi visual, LongCat melaporkan skor 55,4 pada 3DCodeBench Text-to-3D dan 78,6 pada Vision2Web.

Kecuali dinyatakan lain, evaluasi LongCat-2.5 dilakukan dengan mode berpikir aktif, suhu 1.0, dan top_p 0.95. Terminal Bench v2.1 menggunakan harness Claude Code dengan panjang urutan maksimum 512K dan nilainya dirata-ratakan dari tiga pengujian independen. DeepSWE v1.1 menggunakan mini-swe-agent dengan panjang urutan maksimum 1M dan nilainya juga dirata-ratakan dari tiga pengujian.

Untuk model lain yang disertakan dalam tabel evaluasi lengkap LongCat, skor bertanda bintang berasal dari laporan teknis publik, artikel blog, atau papan peringkat tolok ukur resmi. Skor tanpa tanda bintang diuji secara mandiri dan hanya disebut sebagai indikasi.

Akses API dan Harga

Panduan memulai cepat API mencantumkan LongCat-2.5 untuk format yang kompatibel dengan OpenAI maupun Anthropic. Endpoint dasar masing-masing adalah https://api.longcat.chat/openai dan https://api.longcat.chat/anthropic, yang mendukung /v1/chat/completions dan /v1/messages. Satu permintaan memiliki jendela konteks 1M token dan panjang keluaran maksimum 128K token.

Halaman produk LongCat mencantumkan kompatibilitas dengan Claude Code, Codex, Hermes, dan harness agen lainnya. Halaman itu juga menjelaskan dukungan untuk tugas pengodean visual, desain kreatif, dan 3D, serta basis kode yang kompleks dan pembangunan proyek lengkap yang melibatkan penalaran bertahap dan penggunaan alat.

Harga bayar sesuai pemakaian mencantumkan tarif diskon untuk waktu terbatas per satu juta token: $0.30 untuk input yang tidak tersimpan dalam cache, $0.006 untuk input yang tersimpan dalam cache, dan $1.20 untuk output. Tarif yuan yang setara adalah ¥2, ¥0.04, dan ¥8. Harga dapat berubah; harga yang ditampilkan di platform API dan catatan penagihan dianggap sebagai acuan resmi.

Karena GitHub dan Hugging Face masih ditandai akan segera tersedia, rilis ini menyebut antarmuka obrolan dan API sebagai jalur akses yang sudah tersedia.