LongCat-2.5 lanceres med 1,6 billioner parametre og native visuelle tokens

LongCat præsenterede LongCat-2.5 den 1. november 2026. Det er en multimodal mixture-of-experts-model til agentbaserede opgaver med lang tidshorisont, med i alt 1,6 billioner parametre og cirka 48 milliarder aktiverede parametre pr. token.

LongCat oplyste, at lanceringen bygger videre på LongCat-2.0 med stærkere native visuel forståelse og agentbaseret kodning. Træningen omfatter flere forløb med lang tidshorisont og forstærkningslæring i stor skala over lang tidshorisont, målrettet udvikling af komplekse kodebaser og opbygning af komplette projekter. Lanceringen linker til LongCats chatgrænseflade og API-platform, mens knapperne til GitHub og Hugging Face er mærket »kommer snart«.

Diskrete visuelle tokens og træning af agenter

LongCat-2.5 repræsenterer visuelle signaler som diskrete tokens på flere niveauer, så modellens backbone kan behandle visuelle input og tekstinput i et samlet tokenbaseret format. Designet kombinerer visuel tokenisering i oprindelig opløsning, offlineforbehandling af visuelle data og visuelle embeddings, der læres sammen med modellens backbone. Modellen anvender residual vektorkvantisering på funktioner i oprindelig opløsning fra en Semantic-and-Aligned Encoder. Billeder kodes som sekvenser af diskrete tokens og rekonstrueres af en visuel detokenizer.

En fast tokenizer gør det muligt at forudberegne visuelle token-id’er og cache dem offline, så modellens backbone behandler forudtokeniserede sekvenser. Da antallet af billedtokens er kendt under pakning og blanding af data, er belastningen fra de forskellige modaliteter forudsigelig, og deres andele kan holdes omtrent ens på tværs af data-parallelle ranks. LongCat oplyste, at en foreløbig validering på en mindre MoE-model med cirka 3 milliarder aktiverede parametre i gennemsnit viste indvævede visuelle embeddings og tekstembeddings i t-SNE-visualiseringer, hvilket tyder på, at de integreres i et fælles semantisk rum.

Til agentbaserede kodningsopgaver genererer en syntesepipeline træningsopgaver, interaktive miljøer og test, der kan verificeres. LongCat filtrerer pull requests på GitHub og tilknyttede issues, bruger agenter til at annotere opgaver og syntetisere miljøer og validerer dem med fail-to-pass- og pass-to-pass-test. Beståelsesrater fra løbende kørsler styrer ommærkning og filtrering, mens offlineanalyse af forløb med falsk positive og falsk negative resultater korrigerer og udvider testene. Forløb, hvor agenter fejler i virkelige situationer, omdannes også til reproducerbare, verificerbare træningsopgaver.

Asynkrone, delvise kørsler afbryder og gemmer igangværende forløb, når et helt batch er indsamlet, og genoptager dem derefter under næste samplingfase. For at begrænse belønningshacking deaktiverer LongCat netværksadgang i opgavemiljøer, fjerner Git-historik og cachelagrede filer og bruger en LLM-dommer til at gennemgå forløb for udnyttelse af systemet. Yderligere straffe modvirker gentagne ræsonnementer og gentagne værktøjskald under interaktioner med flere ture.

Træning på acceleratorer og W4A4-inferens

Træning med lange sekvenser foregår både under mellemtræning og superviseret finjustering på indenlandske AI-acceleratorer med mindre end 80 GB hukommelse pr. enhed. De parallelle grupper følger supernodens topologi, så all-gather-operationer for parametre, all-to-all-operationer for eksperttokens og all-gather-operationer for KV holdes inden for dens højtydende sammenkobling.

Dual-shard FSDP holder opdelingen af modelparametre inden for hver supernode, samtidig med at FP32-mastervægte og optimeringstilstande opdeles yderligere på tværs af FSDP-domæner. LongCat rapporterede 86 % højere gennemløb pr. enhed end med virksomhedens DDP-baseline i opgaver med superviseret finjustering af lange sekvenser.

LongCat oplyste, at virksomhedens stak til træning og inferens bevarer bit-for-bit-identiske log-sandsynligheder pr. token med næsten ingen ydelsesomkostninger, samtidig med at konfigurationerne for parallelisering afkobles fra hinanden. Begge motorer bruger batch-invariante kerner og afstemt logik i frameworket samt understøttelse af baglæns beregning under træning.

W4A4-inferens kvantiserer eksperternes vægte og aktiveringer til 4 bit og udfører de tilsvarende matrixmultiplikationer på native INT4-enheder. En fælles inputtransformation på tværs af eksperterne gør det muligt at kvantisere før kopiering og fordeling af tokens, så den samme INT4-repræsentation kan genbruges under både ekspertkommunikation og beregning. LongCat rapporterede en nøjagtighed, der var sammenlignelig med den ukvantiserede model på alle evaluerede downstream-opgaver.

I online-stresstest mod en W8A8 INT8-baseline rapporterede LongCat 43,3 % højere prefill-gennemløb og 42,77 % højere decode-gennemløb samt reduktioner på 15,91 % i TTFT og 19,72 % i TPOT. GMM-kernen opnåede en gennemsnitlig hastighedsforøgelse på 1,73× sammenlignet med W8A8.

Rapporterede evalueringsresultater

LongCat rapporterede følgende benchmarkresultater for LongCat-2.5 og forgængeren:

I visuelle evalueringer rapporterede LongCat en score på 55,4 i 3DCodeBench Text-to-3D og 78,6 i Vision2Web.

Medmindre andet er angivet, blev evalueringerne af LongCat-2.5 udført med tænkningsfunktionen aktiveret, en temperatur på 1.0 og top_p på 0.95. Terminal Bench v2.1 brugte Claude Code-harnessen med en maksimal sekvenslængde på 512K og blev beregnet som gennemsnittet af tre uafhængige kørsler. DeepSWE v1.1 brugte mini-swe-agent med en maksimal sekvenslængde på 1M og blev ligeledes beregnet som gennemsnittet af tre kørsler.

For andre modeller, der indgår i LongCats fulde evalueringstabel, stammer scores markeret med en stjerne fra offentlige tekniske rapporter, blogindlæg eller officielle benchmarkranglister. Scores uden markering blev målt internt og beskrives kun som vejledende.

API-adgang og priser

Hurtigstartguiden til API’et angiver, at LongCat-2.5 fås i formater, der er kompatible med både OpenAI og Anthropic. De respektive basisendepunkter er https://api.longcat.chat/openai og https://api.longcat.chat/anthropic, som understøtter /v1/chat/completions og /v1/messages. En enkelt anmodning har et kontekstvindue på 1M tokens og en maksimal outputlængde på 128K tokens.

LongCats produktside angiver kompatibilitet med Claude Code, Codex, Hermes og andre agentharnesser. Den beskriver også understøttelse af visuel kodning, kreativt design og 3D-opgaver samt komplekse kodebaser og komplette projektbygninger, der involverer flertrinsræsonnering og brug af værktøjer.

Priserne efter forbrug viser tidsbegrænsede introduktionstilbud pr. million tokens: $0,30 for input uden cache, $0,006 for input fra cache og $1,20 for output. De tilsvarende priser i yuan er ¥2, ¥0,04 og ¥8. Priserne kan ændres; priserne vist på API-platformen og i faktureringsregistreringerne er gældende.

Da GitHub og Hugging Face stadig er markeret som på vej, præsenterer lanceringen chatgrænsefladen og API’et som de tilgængelige adgangsveje.