LongCat-2.5 julkaistaan: 1,6 biljoonaa parametria ja natiivit visuaaliset tokenit

LongCat esitteli LongCat-2.5:n 1. marraskuuta 2026. Se on natiivisti multimodaalinen asiantuntijaseosmalli pitkän aikavälin agenttitehtäviin, ja siinä on yhteensä 1,6 biljoonaa parametria, joista noin 48 miljardia aktivoituu kutakin tokenia kohden.

LongCatin mukaan julkaisu rakentuu LongCat-2.0:n pohjalle ja tarjoaa aiempaa vahvemman natiivin visuaalisen ymmärryksen sekä agenttisen koodauksen. Mallin koulutuksessa hyödynnetään aiempaa enemmän pitkän aikavälin tehtäväpolkuja sekä laajamittaista pitkän aikavälin vahvistusoppimista monimutkaisten koodikantojen kehittämiseen ja kokonaisten projektien rakentamiseen. Julkaisu sisältää linkit LongCatin keskustelukäyttöliittymään ja API-alustaan, ja sen GitHub- ja Hugging Face -painikkeiden yhteydessä ilmoitetaan, että palvelut ovat tulossa pian.

Diskreetit visuaaliset tokenit ja agenttien koulutus

LongCat-2.5 esittää visuaaliset signaalit monitasoisina diskreetteinä tokeneina, minkä ansiosta sen runkoverkko pystyy käsittelemään visuaalisia ja tekstimuotoisia syötteitä yhtenäisessä, tokenpohjaisessa muodossa. Arkkitehtuurissa yhdistyvät natiivitarkkuuksinen visuaalinen tokenisointi, visuaalisen datan esikäsittely offline-tilassa sekä runkoverkon kanssa yhteisesti opitut visuaaliset upotukset. Malli soveltaa residuaalista vektorikvantisointia semanttisesta ja kohdistetusta enkooderista saataviin natiivitarkkuuksisiin piirteisiin: kuvat koodataan diskreeteiksi tokenjonoksi ja rekonstruoidaan visuaalisella tokenien purkajalla.

Kiinteän tokenoijan ansiosta visuaalisten tokenien tunnisteet voidaan laskea etukäteen ja tallentaa välimuistiin offline-tilassa, jolloin runkoverkko käsittelee valmiiksi tokenoituja jonoja. Koska kuvatokenien määrät tiedetään datan pakkaamisen ja sekoittamisen aikana, eri modaliteettien kuormitus on ennakoitavissa ja niiden osuudet voidaan pitää suunnilleen yhdenmukaisina datarinnakkaisuuden eri rankeilla. LongCatin mukaan alustavassa validoinnissa pienemmällä asiantuntijaseosmallilla, jossa aktivoitui keskimäärin noin 3 miljardia parametria, visuaaliset ja tekstimuotoiset upotukset lomittuivat t-SNE-visualisoinneissa, mikä viittaa niiden integroitumiseen yhteiseen semanttiseen avaruuteen.

Agenttisten koodaustehtävien koulutusaineisto tuotetaan synteesiputkella, joka luo koulutustehtäviä, vuorovaikutteisia ympäristöjä ja todennettavia testejä. LongCat suodattaa GitHubin pull request -ehdotuksia ja niihin linkitettyjä ongelmaraportteja, käyttää agentteja tehtävien merkitsemiseen ja ympäristöjen synteesiin sekä validoi ne fail-to-pass- ja pass-to-pass-testeillä. Todellisten ajokertojen läpäisyasteet ohjaavat uudelleenmerkintää ja suodatusta, kun taas väärien positiivisten ja väärien negatiivisten tehtäväpolkujen offline-analyysi korjaa testejä ja laajentaa niitä. Myös todellisissa olosuhteissa tapahtuneet agenttien epäonnistumiset muunnetaan toistettaviksi ja todennettaviksi koulutustehtäviksi.

Asynkronisissa osittaisissa ajokerroissa keskeneräiset tehtäväpolut keskeytetään ja tallennetaan, kun koko erä on kerätty, minkä jälkeen niiden käsittelyä jatketaan seuraavassa näytteenottovaiheessa. Palkkioiden manipuloinnin rajoittamiseksi LongCat poistaa verkkoyhteyden käytöstä tehtäväympäristöissä, poistaa Git-historian ja välimuistitiedostot sekä käyttää LLM-arvioijaa tehtäväpolkujen tarkastamiseen hyväksikäyttöyritysten varalta. Monivaiheisissa vuorovaikutustilanteissa toistuvaa päättelyä ja toistuvia työkalukutsuja hillitään lisärangaistuksilla.

Koulutus kiihdyttimillä ja W4A4-päättely

Pitkien sekvenssien koulutusta tehdään sekä välivaiheen koulutuksen että ohjatun hienosäädön aikana kotimaisilla tekoälykiihdyttimillä, joiden muisti on alle 80 Gt laitetta kohden. Rinnakkaisuusryhmät noudattavat supernode-topologiaa, joten parametrien all-gather-operaatiot, asiantuntijoiden tokenien all-to-all-operaatiot ja KV-all-gather-operaatiot pysyvät sen suuren kaistanleveyden yhteyden sisällä.

Kaksitasoinen FSDP pitää malliparametrien osituksen kunkin supernoden sisällä ja osittaa lisäksi FP32-pääpainot sekä optimoijan tilat FSDP-toimialueiden kesken. LongCatin mukaan laitekohtainen läpimenonopeus oli pitkien sekvenssien ohjatun hienosäädön tehtävissä 86 % suurempi kuin sen DDP-perustasossa.

LongCatin mukaan sen koulutus- ja päättelypino tuottaa tokenikohtaiset logaritmiset todennäköisyydet bittitasolla identtisinä lähes ilman suorituskykyhaittaa ja mahdollistaa samalla niiden rinnakkaisuusasetusten erottamisen toisistaan. Molemmat moottorit käyttävät eräkoosta riippumattomia ytimiä ja yhdenmukaistettua kehyslogiikkaa, ja ne tukevat takaisinsyöttöä koulutuksessa.

W4A4-päättelyssä asiantuntijoiden painot ja aktivoinnit kvantisoidaan 4-bittisiksi, ja vastaavat matriisikertolaskut suoritetaan natiiveilla INT4-yksiköillä. Asiantuntijoiden yhteinen syötemuunnos mahdollistaa kvantisoinnin ennen tokenien monistamista ja jakelua, minkä ansiosta samaa INT4-esitysmuotoa voidaan hyödyntää uudelleen sekä asiantuntijoiden välisessä tiedonsiirrossa että laskennassa. LongCatin mukaan tarkkuus vastasi kvantisoimattoman mallin tarkkuutta kaikissa arvioiduissa jatkotehtävissä.

LongCat raportoi verkkoympäristössä tehdyissä stressitesteissä W8A8 INT8 -perustasoon verrattuna 43,3 % suuremman esitäytön läpimenonopeuden ja 42,77 % suuremman dekoodauksen läpimenonopeuden. Samalla TTFT pieneni 15,91 % ja TPOT 19,72 %. GMM-ydin saavutti W8A8:aan verrattuna keskimäärin 1,73-kertaisen nopeuden.

Raportoidut arviointitulokset

LongCat raportoi seuraavat vertailutestien tulokset LongCat-2.5:lle ja sen edeltäjälle:

Visuaalisissa arvioinneissa LongCat raportoi tulokseksi 55,4 3DCodeBench Text-to-3D -testissä ja 78,6 Vision2Web-testissä.

Ellei toisin mainita, LongCat-2.5:n arvioinneissa ajattelutoiminto oli käytössä, lämpötila oli 1.0 ja top_p-arvo 0.95. Terminal Bench v2.1:ssä käytettiin Claude Code -testikehikkoa, sekvenssin enimmäispituutena oli 512K, ja tulos laskettiin kolmen erillisen ajon keskiarvona. DeepSWE v1.1:ssä käytettiin mini-swe-agentia, sekvenssin enimmäispituutena oli 1M, ja tulos laskettiin niin ikään kolmen ajon keskiarvona.

LongCatin täydellisessä arviointitaulukossa muiden mukana olleiden mallien tähdellä merkityt pisteet olivat peräisin julkisista teknisistä raporteista, blogikirjoituksista tai virallisista vertailutulostaulukoista. Tähdettömät pisteet oli mitattu itse, ja niitä kuvattiin vain suuntaa-antaviksi.

API-käyttö ja hinnoittelu

API-pikaoppaassa LongCat-2.5 mainitaan sekä OpenAI- että Anthropic-yhteensopivissa muodoissa. Niiden vastaavat perusosoitteet ovat https://api.longcat.chat/openai ja https://api.longcat.chat/anthropic, jotka tukevat /v1/chat/completions ja /v1/messages. Yhden pyynnön konteksti-ikkuna on 1M tokenia, ja tulosteen enimmäispituus on 128K tokenia.

LongCatin tuotesivulla mainitaan yhteensopivuus Claude Coden, Codexin, Hermeksen ja muiden agenttien testikehikkojen kanssa. Sivulla kerrotaan myös tuesta visuaaliselle ohjelmoinnille, luovalle suunnittelulle ja 3D-tehtäville sekä monimutkaisille koodikannoille ja koko projektin kattaville toteutuksille, joissa tarvitaan monivaiheista päättelyä ja työkalujen käyttöä.

Käytön mukaan laskutettavassa hinnoittelussa ilmoitetaan määräaikaiset alennushinnat miljoonaa tokenia kohti: välimuistittomasta syötteestä 0,30 $, välimuistissa olevasta syötteestä 0,006 $ ja tulosteesta 1,20 $. Vastaavat yuan-hinnat ovat 2 ¥, 0,04 ¥ ja 8 ¥. Hinnat voivat muuttua; API-alustalla näkyviä hintoja ja laskutustietoja pidetään ensisijaisina.

GitHubin ja Hugging Facen ollessa edelleen merkittyinä tulossa oleviksi julkaisu esittelee chat-käyttöliittymän ja API:n käytettävissä olevina käyttökanavina.