Kimi K3 firmy Moonshot AI pojawia się w Amazon Bedrock z kontekstem 1 mln tokenów

Kimi K3 firmy Moonshot AI, model otwarto‑wagowy, który deweloper opisuje jako pierwszy otwarty model osiągający 2,8 tryliona parametrów, stał się dostępny w Amazon Bedrock 18 września 2026 r., dodając nową opcję dla programowania i pracy z wiedzą.

Amazon Web Services ogłosiło uruchomienie na AWS Machine Learning Blog. Według Moonshot AI, Kimi K3 jest ich najpotężniejszym modelem, łącząc natywne możliwości widzenia z oknem kontekstu o pojemności 1 miliona tokenów i zapewniając przybliżone 2,5‑krotne zwiększenie efektywności skalowania w porównaniu z Kimi K2.

W techniczny post Kimi K3 firma Moonshot AI informuje, że model oparty jest na dwóch aktualizacjach architektonicznych, które nazywają Kimi Delta Attention i Attention Residuals, zaprojektowanych w celu poprawy przepływu informacji wzdłuż długości sekwencji i głębokości modelu. Kimi K3 wykorzystuje projekt mieszanki ekspertów, który firma nazywa Stable LatentMoE, skutecznie aktywując 16 z 896 ekspertów, oraz stosuje trening świadomy kwantyzacji od etapu nadzorowanego dostrajania, używając wag MXFP4 z aktywacjami MXFP8. Firma przypisuje przybliżony 2,5‑krotny wzrost efektywności skalowania w porównaniu z wcześniejszym modelem tym zmianom strukturalnym oraz udoskonalonemu treningowi i przepisom danych.

Moonshot AI podaje, że ogólna wydajność Kimi K3 wciąż pozostaje w tyle za własnościowymi modelami Claude Fable 5 i GPT 5.6 Sol, jednocześnie informując, że Kimi K3 osiągnął wyniki na poziomie frontier w całym zestawie ocen i konsekwentnie przewyższał inne testowane modele. Firma wymienia także ograniczenia: model został wytrenowany w trybie zachowanej historii myślenia, więc jakość generacji może stać się niestabilna, jeśli agent nie przekaże z powrotem historycznej treści myślenia, a jego nacisk na zadania długoterminowe może prowadzić do podejmowania nieoczekiwanych decyzji w imieniu użytkownika, gdy instrukcje są niejednoznaczne, co według firmy może wymagać bardziej wyraźnych ograniczeń zachowań w promptcie systemowym.

Moonshot AI po raz pierwszy przedstawiło Kimi K3 w lipcu 2026 r., podając wtedy, że pełne wagi modelu zostaną udostępnione do 27 lipca 2026 r. Podczas tej prezentacji model był dostępny za pośrednictwem własnych kanałów Moonshot AI: aplikacji Kimi, aplikacji desktopowej Kimi Work, narzędzia terminalowego Kimi Code oraz interfejsu Kimi API.

Modele otwarto‑wagowe i obsługa danych w Amazon Bedrock

AWS stwierdziło, że uruchomienie odzwierciedla trwałą inwestycję w modele otwarto‑wagowe w ramach usługi. Od 2025 r. Bedrock dodał dziesiątki modeli otwarto‑wagowych od dostawców, w tym DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI i Qwen. W 2026 r. Bedrock wprowadził obsługę wywoływania narzędzi, strukturalnego wyjścia, wnioskowania, strumieniowania odpowiedzi oraz interfejsów Responses i Chat Completions jako możliwości platformy, a nie jako integracje specyficzne dla modeli, dzięki czemu nowe modele otwarto‑wagowe mogą z nich korzystać w miarę dostępności.

AWS podaje, że tak jak w przypadku wszystkich modeli otwarto‑wagowych w Amazon Bedrock, dane klientów są przetwarzane w granicach danych AWS, nie są udostępniane dostawcy modelu i nie są wykorzystywane do trenowania bazowego modelu. Zero retencji danych jest zawsze włączone dla żądań inferencji, a brak dostępu operatorów uniemożliwia pracownikom AWS dostęp do promptów i wyników podczas inferencji.

dokumentacja Amazon Bedrock wymienia Kimi K3 jako jeden z trzech modeli Moonshot AI dostępnych w usłudze, obok Kimi K2.5, modelu multimodalnego z ulepszonym wnioskowaniem, programowaniem i możliwościami wielojęzycznymi, oraz Kimi K2 Thinking, modelu wnioskowania z funkcją łańcucha myśli do rozwiązywania złożonych problemów w matematyce, programowaniu i logice.

Dostęp przez konsolę, interfejsy API i profile inferencji

Użytkownicy mogą wypróbować Kimi K3 w konsoli Amazon Bedrock pod Test > Playground, albo wywołać go programowo przez punkt końcowy bedrock-runtime. Punkt końcowy obsługuje zgodne z OpenAI Responses i Chat Completions API oraz Amazon Bedrock Invoke i Converse API.

Model jest wywoływany za pomocą profili inferencji obejmujących wiele regionów. Dla obciążeń bez ograniczeń regionalnych AWS zaleca profil globalny, global.moonshotai.kimi-k3, który kieruje każde żądanie do dowolnego obsługiwanego komercyjnego regionu AWS na całym świecie i, według AWS, kosztuje około 10 % mniej niż profil geograficzny. Profil geograficzny USA, us.moonshotai.kimi-k3, utrzymuje przetwarzanie w obrębie terytorium USA ze względu na wymogi dotyczące rezydencji danych.

Wymagania wstępne wymienione przez AWS obejmują aktywne konto AWS z dostępem do Amazon Bedrock, Pythona 3.10 lub nowszego oraz uprawnienia AWS Identity and Access Management dla bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream i bedrock:CreateInference.

Jawne buforowanie promptów i narzędzia dla deweloperów

Według AWS, Kimi K3 jest pierwszym modelem otwarto‑wagowym w Amazon Bedrock, który obsługuje jawne buforowanie promptów, skierowane do długotrwałych przepływów pracy programistycznej i wiedzy, które wielokrotnie przesyłają stabilny kontekst, taki jak instrukcje repozytorium, definicje narzędzi lub dokumenty referencyjne. Znacznik przerwania promptpamięć podręcznabreakpoint może określić dokładny koniec ponownie używalnego prefiksu promptu po co najmniej 1 024 tokenach. W trybie jawnym tokeny zapisane w pamięci podręcznej są rozliczane wyższą stawką, ale pozostają w pamięci co najmniej 30 minut. Kolejne żądania, które pasują do buforowanego prefiksu, są rozliczane obniżoną stawką za wejście i nie liczą się do limitu tokenów wejściowych na minutę.

Poza bezpośrednim użyciem API model działa poprzez narzędzia obsługujące Amazon Bedrock. AWS podkreśla OpenCode, otwarto‑źródłowego i niezależnego od modelu agenta kodującego z natywnym dostawcą amazon‑bedrock, który korzysta z API Converse, oraz Hermes Agent, otwarto‑źródłowego asystenta produktywności, który natywnie obsługuje modele na Amazon Bedrock. AWS opublikował także repozytorium próbek Moonshot AI on AWS na GitHubie z dodatkowymi przykładami.

Kimi K3 jest dostępny w profilach inferencji US Geo i Global cross‑Region, a pełna lista obsługiwanych regionów znajduje się w dokumentacji Bedrock.