LongCat-2.5 debutează cu 1,6 bilioane de parametri și tokenuri vizuale native

Pe 1 noiembrie 2026, LongCat a prezentat LongCat-2.5, un model nativ multimodal de tip mixt de experți, destinat sarcinilor agentice cu orizont lung, cu 1,6 bilioane de parametri în total și aproximativ 48 de miliarde activați per token.

LongCat a declarat că această versiune se bazează pe LongCat-2.0 și oferă o înțelegere vizuală nativă mai bună și capabilități îmbunătățite de programare agentică. Antrenarea include mai multe traiectorii cu orizont lung și învățare prin consolidare la scară largă, tot cu orizont lung, pentru dezvoltarea unor baze de cod complexe și construirea unor proiecte complete. Pagina lansării conține linkuri către interfața de chat și platforma API LongCat, iar butoanele pentru GitHub și Hugging Face sunt etichetate „În curând”.

Tokenuri vizuale discrete și antrenarea agenților

LongCat-2.5 reprezintă semnalele vizuale prin tokenuri discrete pe mai multe niveluri, permițând nucleului modelului să proceseze intrările vizuale și textuale într-un format unificat, bazat pe tokenuri. Arhitectura combină tokenizarea vizuală la rezoluția nativă, preprocesarea vizuală offline și încorporările vizuale învățate împreună cu nucleul modelului. Aplică cuantizarea vectorială reziduală caracteristicilor la rezoluția nativă provenite de la un codor semantic și aliniat; imaginile sunt codificate ca secvențe de tokenuri discrete și reconstruite de un decodor vizual de tokenuri.

Un tokenizer fix permite precalcularea și stocarea în cache offline a ID-urilor tokenurilor vizuale, astfel încât nucleul modelului să proceseze secvențe deja tokenizate. Deoarece numărul de tokenuri de imagine este cunoscut în timpul împachetării și amestecării datelor, încărcarea fiecărei modalități este previzibilă, iar proporțiile lor pot fi menținute aproximativ uniforme între rangurile de paralelism al datelor. LongCat a declarat că validarea preliminară pe un model MoE mai mic, cu aproximativ 3 miliarde de parametri activați în medie, a arătat în vizualizările t-SNE încorporări vizuale și textuale intercalate, sugerând integrarea lor într-un spațiu semantic comun.

Pentru sarcinile de programare agentică, o conductă de sinteză generează sarcini de antrenare, medii interactive și teste verificabile. LongCat filtrează cererile de integrare GitHub și problemele asociate, folosește agenți pentru a adnota sarcinile și a sintetiza mediile, apoi le validează cu teste de tip fail-to-pass și pass-to-pass. Ratele de reușită ale rulărilor în timp real ghidează reetichetarea și filtrarea, în timp ce analiza offline a traiectoriilor cu rezultate fals pozitive și fals negative corectează și extinde testele. Traiectoriile reale ale eșecurilor agenților sunt, de asemenea, transformate în sarcini de antrenare reproductibile și verificabile.

Rulările parțiale asincrone întrerup și salvează traiectoriile aflate în desfășurare după colectarea unui lot complet, apoi le reiau în următoarea etapă de eșantionare. Pentru a limita exploatarea funcției de recompensă, LongCat dezactivează accesul la rețea în mediile de sarcini, elimină istoricul Git și fișierele din cache și folosește un evaluator bazat pe LLM pentru a verifica traiectoriile în căutarea unor metode de exploatare. Penalizările suplimentare vizează raționamentul repetitiv și apelurile repetate către instrumente în interacțiunile cu mai multe ture.

Antrenare pe acceleratoare și inferență W4A4

Antrenarea pe secvențe lungi are loc atât în etapa de antrenare intermediară, cât și în cea de ajustare fină supervizată, pe acceleratoare IA autohtone cu mai puțin de 80 GB de memorie per dispozitiv. Grupurile de paralelism urmează topologia supernodurilor, menținând operațiile de colectare a tuturor parametrilor, de transfer al tuturor tokenurilor experților și de colectare a tuturor valorilor KV în cadrul interconectării de mare lățime de bandă a acestora.

FSDP cu fragmentare dublă menține fragmentarea parametrilor modelului în fiecare supernod, fragmentând suplimentar ponderile principale FP32 și stările optimizatorului în domenii FSDP. LongCat a raportat un debit cu 86% mai mare per dispozitiv față de configurația de referință DDP în sarcinile de ajustare fină supervizată pe secvențe lungi.

LongCat a declarat că stiva sa de antrenare și inferență păstrează probabilitățile logaritmice per token identice la nivel de bit, cu un impact aproape nul asupra performanței, decuplând în același timp configurațiile de paralelism ale celor două procese. Ambele motoare folosesc nuclee invariabile la dimensiunea lotului și o logică de cadru de lucru aliniată și acceptă propagarea înapoi în timpul antrenării.

Inferența W4A4 cuantizează ponderile și activările experților la 4 biți și execută înmulțirile matriciale corespunzătoare pe unități INT4 native. O transformare comună a intrării pentru toți experții permite cuantizarea înainte de replicarea și distribuirea tokenurilor, astfel încât aceeași reprezentare INT4 să poată fi reutilizată în comunicarea și calculul experților. LongCat a raportat o acuratețe comparabilă cu cea a modelului necuantizat în toate sarcinile din aval evaluate.

În testele de stres online, comparativ cu o configurație de referință W8A8 INT8, LongCat a raportat un debit de precompletare cu 43,3% mai mare și un debit de decodare cu 42,77% mai mare, precum și reduceri de 15,91% ale TTFT și de 19,72% ale TPOT. Nucleul GMM a obținut o accelerare medie de 1,73× față de W8A8.

Rezultatele evaluărilor raportate

LongCat a raportat următoarele rezultate la teste comparative pentru LongCat-2.5 și versiunea anterioară:

Pentru evaluările vizuale, LongCat a raportat un scor de 55,4 la 3DCodeBench Text-to-3D și de 78,6 la Vision2Web.

Dacă nu se specifică altfel, evaluările LongCat-2.5 au fost efectuate cu raționamentul activat, la o temperatură de 1.0 și cu top_p de 0.95. Terminal Bench v2.1 a folosit cadrul Claude Code, cu o lungime maximă a secvenței de 512K, iar rezultatele au fost calculate ca medie a trei rulări independente. DeepSWE v1.1 a folosit mini-swe-agent, cu o lungime maximă a secvenței de 1M, iar rezultatele au fost, de asemenea, calculate ca medie a trei rulări.

Pentru celelalte modele incluse în tabelul complet de evaluare LongCat, scorurile marcate cu asterisc provin din rapoarte tehnice publice, articole de blog sau clasamente oficiale ale testelor de referință. Scorurile nemarcate au fost obținute prin rulări proprii și sunt prezentate doar cu titlu orientativ.

Accesul la API și prețuri

Ghidul de pornire rapidă pentru API prezintă LongCat-2.5 în formate compatibile atât cu OpenAI, cât și cu Anthropic. Punctele de acces de bază corespunzătoare sunt https://api.longcat.chat/openai și https://api.longcat.chat/anthropic, cu suport pentru /v1/chat/completions și /v1/messages. O singură solicitare are o fereastră de context de 1M de tokeni și o lungime maximă a rezultatului de 128K de tokeni.

Pagina produsului LongCat menționează compatibilitatea cu Claude Code, Codex, Hermes și alte cadre de lucru pentru agenți. De asemenea, descrie suportul pentru programare vizuală, design creativ și sarcini 3D, precum și pentru baze de cod complexe și compilarea unor proiecte complete, care implică raționament în mai mulți pași și utilizarea de instrumente.

Prețurile plătite în funcție de utilizare includ tarife reduse pe perioadă limitată, per milion de tokeni: 0,30 $ pentru intrările necached, 0,006 $ pentru intrările din memoria cache și 1,20 $ pentru rezultate. Tarifele corespunzătoare în yuani sunt ¥2, ¥0,04 și ¥8. Prețurile se pot modifica; cele afișate pe platforma API și în evidențele de facturare sunt considerate drept valori de referință.

În timp ce GitHub și Hugging Face sunt în continuare marcate ca disponibile în curând, lansarea prezintă interfața de chat și API-ul drept modalitățile de acces disponibile.