Kimi K3 od Moonshot AI přichází na Amazon Bedrock s 1M tokenovým kontextem

Kimi K3 od Moonshot AI, otevřený model, který vývojář popisuje jako první otevřený model dosahující 2,8 bilionu parametrů, byl zpřístupněn na Amazon Bedrock dne 18. září 2026, čímž přidává novou možnost pro programování a práci s informacemi.

Amazon Web Services oznámila spuštění na AWS Machine Learning Blog. Podle Moonshot AI je Kimi K3 jejím nejvýkonnějším modelem, který kombinuje nativní vizuální schopnosti s 1‑milionovým tokenovým kontextovým oknem a poskytuje přibližně 2,5‑násobné zlepšení efektivity škálování oproti Kimi K2.

V technickém příspěvku o Kimi K3 společnosti Moonshot AI uvádí, že model je postaven na dvou architektonických vylepšeních, která nazývá Kimi Delta Attention a Attention Residuals, navržených ke zlepšení toku informací napříč délkou sekvence a hloubkou modelu. Kimi K3 používá design mixture-of-experts, který společnost nazývá Stable LatentMoE, efektivně aktivuje 16 ze 896 expertů, a aplikuje trénink s ohledem na kvantizaci od fáze supervizovaného doladění výše, s použitím vah MXFP4 a aktivací MXFP8. Společnost připisuje přibližně 2,5‑násobné zlepšení efektivity škálování oproti svému dřívějšímu modelu těmto strukturálním změnám spolu s vylepšeným tréninkem a datovými recepty.

Moonshot AI uvádí, že celkový výkon Kimi K3 stále zaostává za proprietárními modely Claude Fable 5 a GPT 5.6 Sol, přičemž zároveň hlásí, že Kimi K3 dosáhl špičkových výsledků napříč svým evaluačním souborem a konzistentně překonal ostatní testované modely. Společnost také uvádí omezení: model byl trénován v režimu zachování historie myšlení, takže kvalita generování může být nestabilní, pokud agent nezvládne vrátit historický obsah myšlení, a jeho zaměření na úkoly s dlouhým horizontem může vést k neočekávaným rozhodnutím jménem uživatele, když jsou instrukce nejednoznačné, což společnost uvádí, že může vyžadovat explicitnější behaviorální omezení v systémovém promptu.

Moonshot AI původně představila Kimi K3 v červenci 2026 a tehdy uvedla, že kompletní váhy modelu budou uvolněny do 27. července 2026. Při této prezentaci byl model nabízen prostřednictvím vlastních kanálů Moonshot AI: aplikace Kimi, desktopové aplikace Kimi Work, terminálového nástroje Kimi Code a Kimi API.

Otevřené modely a zacházení s daty na Amazon Bedrock

AWS uvedla, že toto spuštění odráží trvalé investice do otevřených modelů v rámci služby. Od roku 2025 Bedrock přidal desítky otevřených modelů od poskytovatelů, mezi které patří DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI a Qwen. V roce 2026 Bedrock přidal podporu pro volání nástrojů, strukturovaný výstup, uvažování, streamování odpovědí a API Responses a Chat Completions jako platformové funkce místo integrací na úrovni jednotlivých modelů, takže nové otevřené modely je mohou využívat, jakmile jsou k dispozici.

AWS uvádí, že stejně jako u všech otevřených modelů na Amazon Bedrock jsou zákaznická data zpracovávána v rámci datové hranice AWS, nejsou sdílena s poskytovatelem modelu a nejsou používána k trénování podkladového modelu. Pro požadavky na inferenci je vždy povoleno nulové uchovávání dat a nulový přístup operátorů zabraňuje operátorům AWS přístup k promptům a dokončením během inferencí.

Dokumentace Amazon Bedrock uvádí, že Kimi K3 je jedním ze tří modelů Moonshot AI v této službě, vedle Kimi K2.5, multimodálního modelu se zlepšeným uvažováním, programováním a vícejazyčnými schopnostmi, a Kimi K2 Thinking, modelu pro uvažování s řetězcem myšlenek pro řešení složitých problémů v matematice, programování a logice.

Přístup přes konzoli, API a profily inferencí

Uživatelé si mohou Kimi K3 vyzkoušet v konzoli Amazon Bedrock pod Test > Playground nebo ji volat programově přes bedrock-runtime endpoint. Endpoint podporuje OpenAI‑kompatibilní Responses a Chat Completions API, stejně jako Amazon Bedrock Invoke a Converse API.

Model je volán prostřednictvím cross-Region profilů inferencí. Pro úlohy bez regionálních omezení AWS doporučuje globální profil, global.moonshotai.kimi-k3, který směruje každý požadavek do libovolného podporovaného komerčního regionu AWS po celém světě a podle AWS stojí přibližně o 10 % méně než geografický profil. US geografický profil, us.moonshotai.kimi-k3, udržuje zpracování v rámci USA kvůli požadavkům na rezidenci dat.

Požadavky uvedené AWS zahrnují aktivní účet AWS s přístupem k Amazon Bedrock, Python 3.10 nebo novější a oprávnění AWS Identity and Access Management pro bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream a bedrock:CreateInference.

Explicitní ukládání promptů do mezipaměti a nástroje pro vývojáře

Podle AWS je Kimi K3 prvním otevřeným modelem na Amazon Bedrock, který podporuje explicitní ukládání promptů do mezipaměti, což cílí na dlouhodobé pracovní postupy v programování a práci s informacemi, které opakovaně odesílají stabilní kontext, jako jsou instrukce repozitáře, definice nástrojů nebo referenční dokumenty. Značka mezipaměťbreakpoint může označit přesný konec znovu použitelného prefixu promptu po alespoň 1 024 tokenů. V explicitním režimu jsou tokeny zapsané do mezipaměti účtovány vyšší sazbou, ale jsou v mezipaměti uchovány minimálně 30 minut. Následující požadavky, které odpovídají uloženému prefixu, jsou účtovány sníženou vstupní sazbou a nepočítají se do kvót vstupních tokenů za minutu.

Kromě přímého používání API model funguje prostřednictvím nástrojů, které podporují Amazon Bedrock. AWS zdůrazňuje OpenCode, open-source a modelově agnostického kódovacího agenta s nativním poskytovatelem amazon-bedrock, který používá Converse API, a Hermes Agent, open-source asistenta produktivity, který nativně podporuje modely na Amazon Bedrock. AWS také zveřejnilo repozitář Moonshot AI on AWS samples na GitHubu s dalšími příklady.

Kimi K3 je k dispozici prostřednictvím profilů inference US Geo a Global cross-Region, přičemž úplný seznam podporovaných regionů najdete v dokumentaci Bedrock.