LongCat-2.5 debiutuje z 1,6 biliona parametrów i natywnymi tokenami wizualnymi

LongCat zaprezentował LongCat-2.5 1 listopada 2026 r. To natywnie multimodalny model typu mieszaniny ekspertów, przeznaczony do długotrwałych zadań agentowych, z 1,6 biliona parametrów łącznie i około 48 miliardami aktywowanych na token.

LongCat poinformował, że nowe wydanie rozwija rozwiązania z LongCat-2.0, oferując lepsze natywne rozumienie treści wizualnych i większe możliwości kodowania agentowego. W procesie treningu wykorzystano więcej trajektorii obejmujących długie horyzonty oraz zakrojone na dużą skalę uczenie przez wzmacnianie w długim horyzoncie, z myślą o pracy nad złożonymi bazami kodu i budowaniu całych projektów. Wydanie zawiera odnośniki do interfejsu czatu i platformy API LongCat, natomiast przyciski GitHub i Hugging Face są oznaczone jako „Wkrótce”.

Dyskretne tokeny wizualne i trening agentów

LongCat-2.5 przedstawia sygnały wizualne za pomocą wielopoziomowych tokenów dyskretnych, dzięki czemu jego rdzeń może przetwarzać dane wizualne i tekstowe w ujednoliconym formacie opartym na tokenach. Konstrukcja łączy tokenizację obrazu w natywnej rozdzielczości, wstępne przetwarzanie danych wizualnych offline oraz osadzenia wizualne uczone wspólnie z rdzeniem modelu. Wykorzystuje kwantyzację wektorową z resztą do cech w natywnej rozdzielczości pochodzących z Semantic-and-Aligned Encoder; obrazy są kodowane jako sekwencje tokenów dyskretnych, a następnie odtwarzane przez wizualny detokenizator.

Stały tokenizator umożliwia wcześniejsze obliczenie identyfikatorów tokenów wizualnych i ich buforowanie offline, dzięki czemu rdzeń modelu przetwarza sekwencje, które zostały już poddane tokenizacji. Ponieważ liczba tokenów obrazu jest znana podczas pakowania i tasowania danych, obciążenie poszczególnymi modalnościami można przewidzieć, a ich proporcje utrzymywać na w przybliżeniu jednakowym poziomie w ramach rang równoległości danych. LongCat poinformował, że wstępna walidacja mniejszego modelu MoE, w którym średnio aktywowanych jest około 3 miliardów parametrów, wykazała na wizualizacjach t-SNE przeplatanie się osadzeń wizualnych i tekstowych, co wskazuje na ich integrację we wspólnej przestrzeni semantycznej.

W przypadku zadań związanych z kodowaniem agentowym potok syntezy generuje zadania treningowe, interaktywne środowiska i testy umożliwiające weryfikację. LongCat filtruje pull requesty w serwisie GitHub i powiązane z nimi zgłoszenia, wykorzystuje agentów do opisywania zadań i tworzenia środowisk, a następnie weryfikuje je za pomocą testów typu fail-to-pass i pass-to-pass. Wskaźniki zaliczeń z bieżących przebiegów służą do ponownego etykietowania i filtrowania, natomiast analiza offline trajektorii fałszywie dodatnich i fałszywie ujemnych pozwala poprawiać testy i rozszerzać ich zakres. Rzeczywiste trajektorie niepowodzeń agentów są również przekształcane w powtarzalne, weryfikowalne zadania treningowe.

Asynchroniczne częściowe przebiegi przerywają i zapisują trajektorie będące w toku po zebraniu pełnej partii, a następnie wznawiają je w kolejnej fazie próbkowania. Aby ograniczyć wykorzystywanie błędów systemu nagród, LongCat wyłącza dostęp do sieci w środowiskach zadań, usuwa historię Git i pliki z pamięci podręcznej oraz korzysta z sędziego LLM, który kontroluje trajektorie pod kątem prób obejścia zabezpieczeń. Dodatkowe kary ograniczają powtarzalne rozumowanie i ponowne wywoływanie narzędzi w interakcjach wieloetapowych.

Trening na akceleratorach i inferencja W4A4

Trening na długich sekwencjach odbywa się zarówno w trakcie treningu pośredniego, jak i dostrajania nadzorowanego, na krajowych akceleratorach AI z pamięcią mniejszą niż 80 GB na urządzenie. Grupy równoległe są konfigurowane zgodnie z topologią superwęzła, dzięki czemu operacje all-gather parametrów, all-to-all tokenów ekspertów oraz all-gather KV odbywają się w obrębie jego łącza o dużej przepustowości.

FSDP z podwójnym podziałem sharduje parametry modelu w obrębie każdego superwęzła, a dodatkowo dzieli wagi główne FP32 i stany optymalizatora pomiędzy domeny FSDP. LongCat podał, że w zadaniach dostrajania nadzorowanego na długich sekwencjach przepustowość na urządzenie była o 86% wyższa niż w bazowym wariancie DDP.

LongCat poinformował, że jego stos do treningu i inferencji zachowuje identyczne bitowo logarytmiczne prawdopodobieństwa dla każdego tokena przy niemal zerowym narzucie wydajnościowym, a jednocześnie rozdziela konfiguracje równoległości obu procesów. Oba silniki korzystają z jąder niezmienniczych względem partii i wyrównanej logiki frameworka, a także obsługują propagację wsteczną na potrzeby treningu.

Inferencja W4A4 kwantyzuje wagi ekspertów i aktywacje do 4 bitów, a odpowiadające im mnożenia macierzy wykonuje na natywnych jednostkach INT4. Wspólna transformacja danych wejściowych dla wszystkich ekspertów umożliwia kwantyzację przed replikacją i wysyłaniem tokenów, dzięki czemu tę samą reprezentację INT4 można ponownie wykorzystać podczas komunikacji między ekspertami i obliczeń. LongCat podał, że dokładność modelu jest porównywalna z dokładnością modelu niekwantyzowanego we wszystkich ocenianych zadaniach dalszych.

W internetowych testach obciążeniowych z bazowym wariantem W8A8 INT8 LongCat odnotował wzrost przepustowości wstępnego przetwarzania o 43,3% i dekodowania o 42,77%, a także skrócenie TTFT o 15,91% i TPOT o 19,72%. Jądro GMM osiągnęło średnie przyspieszenie 1,73× względem W8A8.

Opublikowane wyniki ewaluacji

LongCat podał następujące wyniki testów porównawczych dla LongCat-2.5 i jego poprzednika:

W testach wizualnych LongCat podał wyniki 55,4 w 3DCodeBench Text-to-3D i 78,6 w Vision2Web.

O ile nie podano inaczej, w testach LongCat-2.5 włączono tryb rozumowania, ustawiono temperaturę na 1.0, a parametr top_p na 0.95. W Terminal Bench v2.1 użyto środowiska Claude Code z maksymalną długością sekwencji 512K, a wyniki uśredniono z trzech niezależnych uruchomień. W DeepSWE v1.1 użyto mini-swe-agent z maksymalną długością sekwencji 1M, a wyniki również uśredniono z trzech uruchomień.

W przypadku pozostałych modeli uwzględnionych w pełnej tabeli ewaluacyjnej LongCat wyniki oznaczone gwiazdką pochodziły z publicznych raportów technicznych, wpisów na blogach lub oficjalnych rankingów testów porównawczych. Wyniki bez oznaczenia uzyskano w testach przeprowadzonych samodzielnie i opisano wyłącznie jako orientacyjne.

Dostęp do API i cennik

Przewodnik szybkiego uruchomienia API wymienia LongCat-2.5 zarówno w formatach zgodnych z OpenAI, jak i Anthropic. Odpowiednie bazowe punkty końcowe to https://api.longcat.chat/openai i https://api.longcat.chat/anthropic, obsługujące /v1/chat/completions oraz /v1/messages. Pojedyncze żądanie może korzystać z okna kontekstu o wielkości 1M tokenów i maksymalnej długości wyjściowej 128K tokenów.

Strona produktu LongCat wymienia zgodność z Claude Code, Codex, Hermes i innymi środowiskami uruchomieniowymi agentów. Opisuje również obsługę zadań związanych z programowaniem wizualnym, projektowaniem kreatywnym i 3D, a także pracę ze złożonymi bazami kodu oraz budowanie kompletnych projektów z wykorzystaniem wieloetapowego rozumowania i narzędzi.

Cennik płatności za użycie podaje promocyjne stawki obowiązujące przez ograniczony czas za milion tokenów: 0,30 USD za dane wejściowe bez pamięci podręcznej, 0,006 USD za dane wejściowe z pamięci podręcznej i 1,20 USD za dane wyjściowe. Odpowiadające im stawki w juanach wynoszą ¥2, ¥0.04 i ¥8. Ceny mogą ulec zmianie; za wiążące uznaje się ceny wyświetlane na platformie API oraz w dokumentacji rozliczeniowej.

Ponieważ GitHub i Hugging Face nadal są oznaczone jako dostępne wkrótce, w informacji o premierze interfejs czatu i API przedstawiono jako dostępne sposoby dostępu.