Kimi K3 od Moonshot AI přichází na Amazon Bedrock s kontextem 1 M tokenů

Kimi K3 od Moonshot AI, otevřený model, který vývojář popisuje jako první otevřený model dosahující 2,8 bilionu parametrů, byl 18. září 2026 dostupný na Amazon Bedrock a přinesl novou možnost pro programování a práci s informacemi.

Amazon Web Services oznámil spuštění na AWS Machine Learning Blog. Podle Moonshot AI je Kimi K3 jejím nejvýkonnějším modelem, který kombinuje nativní vizuální schopnosti s kontextovým oknem o velikosti 1 milion tokenů a poskytuje přibližně 2,5‑násobné zlepšení efektivity škálování oproti Kimi K2.

V Kimi K3 technický příspěvek společnosti Moonshot AI uvádí, že model je postaven na dvou architektonických vylepšeních, která nazývá Kimi Delta Attention a Attention Residuals, navržených ke zlepšení toku informací napříč délkou sekvence a hloubkou modelu. Kimi K3 používá design mixture-of-experts, který společnost nazývá Stable LatentMoE, efektivně aktivuje 16 ze 896 expertů, a aplikuje kvantizačně‑vědomé trénování od fáze supervizovaného doladění dál, s váhami MXFP4 a aktivacemi MXFP8. Společnost připisuje přibližně 2,5‑násobný nárůst efektivity škálování oproti svému předchozímu modelu těmto strukturálním změnám spolu s vylepšenými tréninkovými a datovými recepty.

Moonshot AI uvádí, že celkový výkon Kimi K3 stále zaostává za proprietárními modely Claude Fable 5 a GPT 5.6 Sol, přičemž uvádí, že Kimi K3 dosáhl špičkových výsledků napříč svým evaluačním souborem a konzistentně překonal ostatní testované modely. Společnost také uvádí omezení: model byl trénován v režimu zachování historie myšlení, takže kvalita generování může být nestabilní, pokud agent nedokáže vrátit historický obsah myšlení, a jeho zaměření na dlouhodobé úkoly může vést k neočekávaným rozhodnutím jménem uživatele, když jsou instrukce nejasné, což společnost říká, že může vyžadovat explicitnější behaviorální omezení v systémovém promptu.

Moonshot AI původně představil Kimi K3 v červenci 2026 a tehdy uvedl, že kompletní váhy modelu budou vydány do 27. července 2026. Při této představě byl model nabízen prostřednictvím vlastních kanálů Moonshot AI: aplikace Kimi, desktopové aplikace Kimi Work, terminálového nástroje Kimi Code a Kimi API.

Otevřené modely a zacházení s daty na Amazon Bedrock

AWS uvedl, že toto spuštění odráží trvalé investice do otevřených modelů v rámci služby. Od roku 2025 přidal Bedrock desítky otevřených modelů od poskytovatelů jako DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI a Qwen. V roce 2026 Bedrock rozšířil podporu pro volání nástrojů, strukturovaný výstup, uvažování, streamování odpovědí a API Responses a Chat Completions jako platformové funkce místo integrací na úrovni modelu, takže nové otevřené modely je mohou využívat, jakmile budou k dispozici.

AWS uvádí, že stejně jako u všech otevřených modelů na Amazon Bedrock jsou zákaznická data zpracovávána v rámci datové hranice AWS, nejsou sdílena s poskytovatelem modelu a nejsou používána k trénování podkladového modelu. Pro požadavky na inferenci je vždy povoleno nulové uchovávání dat a nulový přístup operátorů zabraňuje operátorům AWS přistupovat k promptům a výstupům během inferencí.

Amazon Bedrock dokumentace uvádí Kimi K3 jako jeden ze tří modelů Moonshot AI v této službě, vedle Kimi K2.5, multimodálního modelu se zlepšeným uvažováním, programováním a vícejazyčnými schopnostmi, a Kimi K2 Thinking, modelu pro uvažování s řetězcem myšlenek určeného pro řešení složitých problémů v matematice, programování a logice.

Přístup přes konzoli, API a profily inferencí

Uživatelé si mohou Kimi K3 vyzkoušet v konzoli Amazon Bedrock v sekci Test > Playground nebo ji volat programově přes endpoint bedrock-runtime. Endpoint podporuje API Responses a Chat Completions kompatibilní s OpenAI i API Amazon Bedrock Invoke a Converse.

Model je volán prostřednictvím inferenčních profilů napříč regiony. Pro úlohy bez regionálních omezení AWS doporučuje globální profil global.moonshotai.kimi-k3, který směruje každý požadavek do libovolného podporovaného komerčního regionu AWS po celém světě a podle AWS stojí přibližně o 10 % méně než geografický profil. US geografický profil us.moonshotai.kimi-k3 udržuje zpracování v rámci USA pro požadavky na rezidenci dat.

Požadavky uvedené AWS zahrnují aktivní účet AWS s přístupem k Amazon Bedrock, Python 3.10 nebo novější a oprávnění AWS Identity and Access Management pro bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream a bedrock:CreateInference.

Explicitní ukládání promptů do mezipaměti a nástroje pro vývojáře

Podle AWS je Kimi K3 první otevřený model na Amazon Bedrock, který podporuje explicitní ukládání promptů do mezipaměti, což cílí na dlouhodobé pracovní postupy v programování a práci s informacemi, které opakovaně odesílají stabilní kontext, jako jsou instrukce repozitáře, definice nástrojů nebo referenční dokumenty. A prompt_cache_breakpoint marker může označit přesný konec znovupoužitelného prefixu promptu po alespoň 1 024 tokenů. V explicitním režimu jsou tokeny zapsané do mezipaměti účtovány vyšší sazbou, ale jsou v mezipaměti uchovány alespoň 30 minut. Následující požadavky, které odpovídají uloženému prefixu, jsou účtovány za sníženou vstupní sazbu a nepočítají se do kvót vstupních tokenů za minutu.

Kromě přímého použití API model funguje prostřednictvím nástrojů, které podporují Amazon Bedrock. AWS zdůrazňuje OpenCode, open-source a modelově agnostického kódovacího agenta s nativním poskytovatelem amazon-bedrock, který používá Converse API, a Hermes Agent, open-source asistenta produktivity, který nativně podporuje modely na Amazon Bedrock. AWS také zveřejnila repozitář Moonshot AI on AWS samples na GitHubu s dalšími příklady.

Kimi K3 je dostupný prostřednictvím profilů inference US Geo a Global cross-Region, přičemž úplný seznam podporovaných regionů najdete v dokumentaci Bedrock.