Kimi K3 firmy Moonshot AI pojawia się w Amazon Bedrock z kontekstem 1‑milionowym tokenów

Kimi K3 firmy Moonshot AI, model o otwartym wagowaniu, który deweloper opisuje jako pierwszy otwarty model osiągający 2,8 tryliona parametrów, stał się dostępny w Amazon Bedrock 18 września 2026 r., wprowadzając nową opcję dla programowania i pracy z wiedzą.

Amazon Web Services ogłosiło uruchomienie na AWS Machine Learning Blog. Według Moonshot AI, Kimi K3 jest ich najpotężniejszym modelem, łączącym natywne możliwości wizji z oknem kontekstu o pojemności 1 miliona tokenów i zapewniającym przybliżone 2,5‑krotne zwiększenie efektywności skalowania w porównaniu z Kimi K2.

W wpisie technicznym o Kimi K3 firmy Moonshot AI, firma podaje, że model oparty jest na dwóch aktualizacjach architektonicznych nazwanych Kimi Delta Attention i Attention Residuals, zaprojektowanych w celu poprawy przepływu informacji wzdłuż długości sekwencji i głębokości modelu. Kimi K3 wykorzystuje projekt mieszanki ekspertów, który firma nazywa Stable LatentMoE, efektywnie aktywując 16 z 896 ekspertów, oraz stosuje trening świadomy kwantyzacji od etapu nadzorowanego dostrajania, używając wag MXFP4 z aktywacjami MXFP8. Firma przypisuje przybliżony 2,5‑krotny wzrost efektywności skalowania w porównaniu z wcześniejszym modelem tym zmianom strukturalnym oraz udoskonalonemu treningowi i przepisom danych.

Moonshot AI stwierdza, że ogólna wydajność Kimi K3 nadal pozostaje poniżej własnościowych modeli Claude Fable 5 i GPT 5.6 Sol, jednocześnie raportując, że Kimi K3 osiągnął wyniki na poziomie frontier w całym zestawie oceny i konsekwentnie przewyższał inne testowane modele. Firma wymienia także ograniczenia: model został wytrenowany w trybie zachowanej historii myślenia, więc jakość generacji może stać się niestabilna, jeśli harness agenta nie przekaże z powrotem historycznej treści myślenia, a jego nacisk na zadania o długim horyzoncie może prowadzić do podejmowania nieoczekiwanych decyzji w imieniu użytkownika, gdy instrukcje są niejednoznaczne, co według firmy może wymagać bardziej wyraźnych ograniczeń zachowań w promptcie systemowym.

Moonshot AI po raz pierwszy przedstawiło Kimi K3 w lipcu 2026 r., informując wówczas, że pełne wagi modelu zostaną udostępnione do 27 lipca 2026 r. Podczas tej prezentacji model był dostępny poprzez własne kanały Moonshot AI: aplikację Kimi, aplikację desktopową Kimi Work, narzędzie terminalowe Kimi Code oraz API Kimi.

Modele o otwartym wagowaniu i obsługa danych w Amazon Bedrock

AWS stwierdziło, że uruchomienie odzwierciedla stałe inwestycje w modele o otwartym wagowaniu w ramach usługi. Od 2025 r. Bedrock dodał dziesiątki modeli o otwartym wagowaniu od dostawców, w tym DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI i Qwen. W 2026 r. Bedrock dodał obsługę wywoływania narzędzi, strukturalnego wyjścia, rozumowania, strumieniowania odpowiedzi oraz API Responses i Chat Completions jako funkcje platformy, a nie integracje per model, dzięki czemu nowe modele o otwartym wagowaniu mogą z nich korzystać w miarę ich dostępności.

AWS podkreśla, że tak jak w przypadku wszystkich modeli o otwartym wagowaniu w Amazon Bedrock, dane klientów są przetwarzane w obrębie granic danych AWS, nie są udostępniane dostawcy modelu i nie są wykorzystywane do trenowania podstawowego modelu. Zero przechowywania danych jest zawsze włączone dla żądań inferencji, a brak dostępu operatora uniemożliwia pracownikom AWS dostęp do promptów i wyników podczas inferencji.

Dokumentacja Amazon Bedrock wymienia Kimi K3 jako jeden z trzech modeli Moonshot AI dostępnych w usłudze, obok Kimi K2.5, modelu multimodalnego z ulepszonym rozumowaniem, programowaniem i możliwościami wielojęzycznymi, oraz Kimi K2 Thinking, modelu rozumowania z funkcją łańcucha myśli do rozwiązywania złożonych problemów w matematyce, programowaniu i logice.

Dostęp do konsoli, API i profile inferencji

Użytkownicy mogą wypróbować Kimi K3 w konsoli Amazon Bedrock w sekcji Test > Playground lub wywołać go programowo poprzez punkt końcowy bedrock-runtime. Punkt końcowy obsługuje API Responses i Chat Completions kompatybilne z OpenAI, a także API Amazon Bedrock Invoke i Converse.

Model jest wywoływany za pomocą profili inferencji obejmujących wiele regionów. Dla obciążeń bez ograniczeń regionalnych AWS zaleca profil globalny, global.moonshotai.kimi-k3, który kieruje każde żądanie do dowolnego obsługiwanego komercyjnego regionu AWS na całym świecie i, według AWS, kosztuje około 10 % mniej niż profil geograficzny. Profil geograficzny US, us.moonshotai.kimi-k3, utrzymuje przetwarzanie w obrębie terytorium USA w celu spełnienia wymogów rezydencji danych.

Wymagania wstępne wymienione przez AWS obejmują aktywne konto AWS z dostępem do Amazon Bedrock, Pythona 3.10 lub nowszego oraz uprawnienia AWS Identity and Access Management dla bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream i bedrock:CreateInference.

Jawne buforowanie promptów i narzędzia dla deweloperów

Według AWS, Kimi K3 jest pierwszym modelem o otwartym wagowaniu w Amazon Bedrock, który obsługuje jawne buforowanie promptów, skierowane do długotrwałych przepływów pracy programistycznej i wiedzy, które wielokrotnie przesyłają stabilny kontekst, taki jak instrukcje repozytorium, definicje narzędzi lub dokumenty referencyjne. A prompt_cache_breakpoint znacznik może określić dokładny koniec wielokrotnego użycia prefiksu promptu po co najmniej 1 024 tokenach. W trybie jawnym tokeny zapisane w pamięci podręcznej są rozliczane wyższą stawką, ale pozostają w pamięci co najmniej 30 minut. Kolejne żądania, które pasują do zbuforowanego prefiksu, są rozliczane obniżoną stawką wejściową i nie liczą się do limitów tokenów wejściowych na minutę.

Poza bezpośrednim użyciem API, model działa poprzez narzędzia wspierające Amazon Bedrock. AWS podkreśla OpenCode, otwarto‑źródłowego i niezależnego od modelu agenta kodującego z natywnym dostawcą amazon‑bedrock, który korzysta z API Converse, oraz Hermes Agent, otwarto‑źródłowego asystenta produktywności, który natywnie obsługuje modele na Amazon Bedrock. AWS opublikował także repozytorium przykładów Moonshot AI on AWS na GitHubie z dodatkowymi przykładami.

Kimi K3 jest dostępny w profilach inferencji US Geo oraz Global cross-Region, a pełna lista obsługiwanych regionów znajduje się w dokumentacji Bedrock.