Modele i platformy AI
AWS udostępnia Kimi K3.1 Pro Highspeed w Amazon Bedrock
Dodaj Unite.AI do preferowanych źródeł w Google
Amazon Web Services udostępniło Kimi K3.1 Pro Highspeed firmy Moonshot AI w Amazon Bedrock 10 listopada 2026 r., oferując okno kontekstowe o wielkości 1 miliona tokenów za pośrednictwem globalnych, amerykańskich i indyjskich profili wnioskowania. Moonshot AI informuje, że wariant Highspeed generuje odpowiedzi od dwóch do trzech razy szybciej niż K3.1 Pro.
Model bazowy zadebiutował 4 listopada 2026 r., przed wdrożeniem go w Bedrock. K3.1 Pro to wersja Kimi K3 poddana dalszemu treningowi, która zachowuje architekturę o otwartych wagach klasy 3T i okno kontekstowe, a jednocześnie wykorzystuje znacznie większe zasoby obliczeniowe na etapie dalszego treningu. Moonshot AI informuje, że dodatkowy trening ma usprawnić długotrwałe zadania agentowe i ograniczyć liczbę błędów merytorycznych, a także poprawić modelowanie finansowe, pracę z dokumentami biurowymi oraz pisanie kodu dla silników gier, scen 3D i skryptów do projektowania wspomaganego komputerowo.
W programowaniu agentowym pojedyncze zadanie może wymagać wielu kolejnych wywołań modelu: odczytywania plików, planowania zmian, edycji kodu, uruchamiania testów i naprawiania błędów. Wyższa szybkość generowania tokenów wyjściowych może skrócić generowanie w każdym z tych etapów. Istniejące wdrożenia Kimi K3 w Bedrock można przełączyć, zmieniając identyfikator modelu, a nowy model obsługuje wywoływanie narzędzi, ustrukturyzowane dane wyjściowe, konfigurowalne rozumowanie, obrazy na wejściu i przesyłanie strumieniowe za pośrednictwem tego samego punktu końcowego i tych samych interfejsów API. AWS demonstruje również OpenCode — agenta programistycznego działającego w terminalu i dostępnego na zasadach open source — połączonego za pośrednictwem Chat Completions i klucza API Bedrock.
Dostęp i rezydencja danych
Programiści mogą wywoływać model za pośrednictwem zgodnych z OpenAI interfejsów API Chat Completions i Responses albo interfejsów Converse i Invoke usługi Bedrock. AWS zaleca korzystanie z Chat Completions. Globalny międzyregionalny profil wnioskowania kieruje żądania do dowolnego obsługiwanego komercyjnego regionu AWS, natomiast profile dla Stanów Zjednoczonych i Indii ograniczają routing do odpowiednich obszarów geograficznych, aby spełnić wymogi dotyczące rezydencji danych. Żądania z Indii są kierowane między Mumbajem a Hajdarabadem.
AWS informuje, że dane wnioskowania pozostają w granicach AWS, nie są udostępniane firmie Moonshot AI ani wykorzystywane do trenowania modelu. W przypadku żądań wnioskowania zawsze włączone jest zerowe przechowywanie danych, a operatorzy AWS nie mogą wyświetlać promptów ani wygenerowanych odpowiedzi w trakcie wnioskowania.
Ceny i kontrola kosztów
Stawki w planie Standard zależą od profilu routingu. Wszystkie poniższe ceny dotyczą 1 miliona tokenów:
| Profil wnioskowania | Dane wejściowe | Dane wyjściowe | Odczyt z pamięci podręcznej | Zapis w pamięci podręcznej (30 minut) |
|---|---|---|---|---|
| Globalny routing międzyregionalny | $4.00 | $20.00 | $0.20 | $5.00 |
| Routing międzyregionalny w USA | $4.40 | $22.00 | $0.22 | $5.50 |
| Routing międzyregionalny w Indiach | $4.40 | $22.00 | $0.22 | $5.50 |
Na stronie z cennikiem Bedrock poprzedni model Kimi K3 jest wyceniony na 3,00 USD za milion tokenów wejściowych i 15,00 USD za milion tokenów wyjściowych w ramach wnioskowania Global Standard. Nowy model ma zatem wyższe stawki za dane wejściowe i wyjściowe, choć globalna stawka za odczyt z pamięci podręcznej jest niższa niż w K3 i wynosi 0,30 USD za milion tokenów.
Plan Flex zapewnia wnioskowanie za połowę stawki Standard, ale może wiązać się z dłuższym czasem odpowiedzi, natomiast plan Priority jest droższy o 75%. Plan można wybierać dla każdego żądania, dzięki czemu aplikacja może korzystać z Standard przy zwykłym ruchu, z Priority w przypadku wywołań, w których kluczowe jest niskie opóźnienie, a z Flex podczas ewaluacji, streszczania lub pracy agentów w tle.
Jawne buforowanie promptów pozwala obsługiwać powtarzający się kontekst, taki jak instrukcje systemowe, definicje narzędzi i konwencje obowiązujące w repozytorium. Każdy punkt kontrolny musi następować po co najmniej 256 tokenach niezmiennej treści. Funkcja działa w interfejsach Responses, Chat Completions i Invoke, ale nie w Converse. Odczyty z pamięci podręcznej są tańsze i nie wliczają się do limitu wejściowych tokenów na minutę, natomiast zapisy kosztują więcej niż standardowe dane wejściowe.
Ograniczenia dotyczące rozumowania i zgodności
Karta modelu opisuje ustawienia rozumowania: none, low, medium, high, xhigh i max; domyślnie używane jest max. Ustawienie none wyłącza rozumowanie dla danego żądania. Niższy poziom wysiłku może zmniejszyć opóźnienie i zużycie tokenów kosztem jakości wykonania zadania, dlatego ustawienie domyślne ma istotne znaczenie w przypadku obciążeń, w których liczą się koszty.
Converse ma dodatkowe ograniczenia poza brakiem jawnego buforowania. Może zwrócić wewnętrzny błąd serwera, gdy w żądaniu obejmującym wiele tur uwzględniona jest treść rozumowania z wcześniejszych tur. Problem ten dotyczy między innymi frameworków LangChain i Strands Agents w ich domyślnych konfiguracjach. W przypadku wieloturowych żądań Converse AWS zaleca usuwanie wcześniejszych bloków rozumowania. Converse odrzuca również załączone dokumenty PDF i HTML, a Bedrock nie obsługuje wejściowych materiałów wideo dla tego modelu.
Każdy token wyjściowy zużywa również 10 tokenów z odpowiedniego limitu konta w punkcie końcowym bedrock-runtime; jest to osobne ograniczenie pojemności, niezależne od opłaty za token.
Użytkownicy K3 mogą przejść na nowy model, wprowadzając niewielkie zmiany w kodzie, ale kompromis operacyjny wykracza poza kwestie zgodności. Potencjalną korzyścią jest szybsze wykonywanie kolejnych etapów pracy agenta; z drugiej strony trzeba uwzględnić wyższe ceny danych wejściowych i wyjściowych, zużycie tokenów związane z rozumowaniem oraz wykorzystanie limitu. AWS udostępnia plany Flex, buforowanie i ustawienia wysiłku, aby pomóc zrównoważyć te wymagania.
