LongCat-2.5 lanseras med 1,6 biljoner parametrar och inbyggda visuella token

LongCat presenterade LongCat-2.5 den 1 november 2026. Det är en multimodal blandning-av-experter-modell med 1,6 biljoner parametrar totalt och cirka 48 miljarder aktiva parametrar per token, avsedd för agentuppgifter med lång tidshorisont.

LongCat uppgav att lanseringen bygger vidare på LongCat-2.0, med bättre inbyggd visuell förståelse och agentbaserad kodning. Träningen omfattar fler förlopp med lång tidshorisont och storskalig förstärkningsinlärning med lång tidshorisont för komplex utveckling av kodbaser och byggen av hela projekt. Lanseringen länkar till LongCats chattgränssnitt och API-plattform, medan knapparna för GitHub och Hugging Face är märkta ”kommer snart”.

Diskreta visuella token och agentträning

LongCat-2.5 representerar visuella signaler som diskreta token på flera nivåer, vilket gör att modellens basnätverk kan bearbeta visuella indata och textindata i ett enhetligt tokenbaserat format. Utformningen kombinerar tokenisering av visuella data i ursprunglig upplösning, offlineförbehandling av visuella data och visuella inbäddningar som lärs in gemensamt med basnätverket. Modellen tillämpar residualvektorkvantisering på funktioner i ursprunglig upplösning från en semantisk och justerad kodare. Bilder kodas då som sekvenser av diskreta token och återskapas av en visuell avkodare för token.

En fast tokeniserare gör det möjligt att förberäkna visuella token-ID:n och cachelagra dem offline, så att basnätverket bearbetar förtokeniserade sekvenser. Eftersom antalet bildtoken är känt när data paketeras och blandas, går det att förutsäga belastningen från olika modaliteter och hålla deras andelar ungefär jämnt fördelade mellan dataparallella ranker. LongCat uppgav att preliminär validering på en mindre MoE-modell med i genomsnitt cirka 3 miljarder aktiva parametrar visade sammanflätade visuella inbäddningar och textinbäddningar i t-SNE-visualiseringar, vilket tyder på att de integreras i ett gemensamt semantiskt rum.

För agentbaserade kodningsuppgifter genererar en syntespipeline träningsuppgifter, interaktiva miljöer och verifierbara tester. LongCat filtrerar pull-förfrågningar och länkade ärenden på GitHub, använder agenter för att annotera uppgifter och skapa miljöer och validerar dem med tester av typerna fail-to-pass och pass-to-pass. Godkännandegraden för pågående körningar styr ommärkning och filtrering, medan offlineanalys av förlopp med falska positiva och falska negativa resultat korrigerar och utökar testerna. Förlopp där agenter misslyckas i verkliga situationer omvandlas också till reproducerbara, verifierbara träningsuppgifter.

Asynkrona partiella körningar avbryts och sparas när ett helt batch har samlats in, för att sedan återupptas under nästa samplingsfas. För att begränsa belöningsmanipulering stänger LongCat av nätverksåtkomst i uppgiftsmiljöer, tar bort Git-historik och cachelagrade filer och använder en LLM-granskare för att granska förlopp efter försök att utnyttja systemet. Ytterligare avdrag motverkar repetitiva resonemang och upprepade verktygsanrop under interaktioner med flera turer.

Träning på acceleratorer och W4A4-inferens

Träning med långa sekvenser sker både under mellanstegsträning och övervakad finjustering på inhemska AI-acceleratorer med mindre än 80 GB minne per enhet. Parallellgrupperna följer supernodens topologi, så att operationer för all-gather av parametrar, all-to-all-kommunikation av experttoken och all-gather av KV hålls inom dess sammankoppling med hög bandbredd.

Dual-shard FSDP håller modellparametrarnas uppdelning inom varje supernod, samtidigt som FP32-huvudvikter och optimerartillstånd delas upp ytterligare mellan FSDP-domäner. LongCat rapporterade 86 % högre genomströmning per enhet än med sin DDP-baslinje vid övervakad finjustering av uppgifter med långa sekvenser.

LongCat uppgav att dess tränings- och inferensstack bevarar bitidentiska loggsannolikheter per token med närmast obefintlig prestandapåverkan, samtidigt som konfigurationerna för parallellisering frikopplas från varandra. Båda motorerna använder batchinvarianta kärnor och samordnad ramverkslogik, med stöd för bakåtpasset vid träning.

W4A4-inferens kvantiserar experternas vikter och aktiveringar till 4 bitar och utför motsvarande matrismultiplikationer på inbyggda INT4-enheter. En gemensam indatatransformering för alla experter gör det möjligt att kvantisera före tokenreplikering och distribution, så att samma INT4-representation kan återanvändas vid kommunikation och beräkning för experterna. LongCat rapporterade en noggrannhet som var jämförbar med den okvantiserade modellen på alla utvärderade nedströmsuppgifter.

I belastningstester online mot en W8A8 INT8-baslinje rapporterade LongCat 43,3 % högre genomströmning vid promptbearbetning och 42,77 % högre avkodningsgenomströmning, samt minskningar på 15,91 % för TTFT och 19,72 % för TPOT. GMM-kärnan uppnådde en genomsnittlig hastighetsökning på 1,73× jämfört med W8A8.

Rapporterade utvärderingsresultat

LongCat rapporterade följande benchmarkresultat för LongCat-2.5 och dess föregångare:

För visuella utvärderingar rapporterade LongCat 55,4 i 3DCodeBench Text-to-3D och 78,6 i Vision2Web.

Om inget annat anges genomfördes utvärderingarna av LongCat-2.5 med resonemang aktiverat, temperaturen 1.0 och top_p på 0.95. Terminal Bench v2.1 använde Claude Code-harnessen med en maximal sekvenslängd på 512K och resultaten beräknades som genomsnittet av tre oberoende körningar. DeepSWE v1.1 använde mini-swe-agent med en maximal sekvenslängd på 1M, och även där beräknades resultaten som genomsnittet av tre körningar.

För andra modeller som ingår i LongCats fullständiga utvärderingstabell hämtades poäng markerade med en asterisk från offentliga tekniska rapporter, blogginlägg eller officiella topplistor för riktmärken. Poäng utan markering kom från egna körningar och beskrevs som endast vägledande.

API-åtkomst och priser

I snabbstartsguiden för API:et anges LongCat-2.5 för både OpenAI- och Anthropic-kompatibla format. Deras respektive basändpunkter är https://api.longcat.chat/openai och https://api.longcat.chat/anthropic, med stöd för /v1/chat/completions och /v1/messages. En enskild begäran har ett kontextfönster på 1M token och en maximal utdatalängd på 128K token.

På LongCats produktsida anges kompatibilitet med Claude Code, Codex, Hermes och andra agentramverk. Där beskrivs även stöd för visuell programmering, kreativ design och 3D-uppgifter, samt för komplexa kodbaser och kompletta projektbyggen med flerstegsresonemang och verktygsanvändning.

I prislistan för löpande användning anges tidsbegränsade rabatterade priser per miljon token: 0,30 USD för indata som inte har cachelagrats, 0,006 USD för cachelagrad indata och 1,20 USD för utdata. Motsvarande priser i yuan är 2 ¥, 0,04 ¥ och 8 ¥. Priserna kan ändras; de priser som visas på API-plattformen och i faktureringsunderlagen gäller.

Eftersom GitHub och Hugging Face fortfarande är markerade som kommande presenteras chattgränssnittet och API:et som de tillgängliga åtkomstvägarna i lanseringen.