Moonshot AI:s Kimi K3 lanseras på Amazon Bedrock med 1M-tokenkontext

Moonshot AI:s Kimi K3, en open‑weight‑modell som utvecklaren beskriver som den första öppna modellen som når 2,8 biljoner parametrar, blev tillgänglig på Amazon Bedrock den 18 september 2026 och ger ett nytt alternativ för kodning och kunskapsarbete.

Amazon Web Services meddelade lanseringen på AWS Machine Learning Blog. Enligt Moonshot AI är Kimi K3 deras mest kapabla modell, som kombinerar inbyggda synfunktioner med ett 1‑miljon‑token‑fönster och ger en ungefärlig 2,5‑gångs förbättring i skalningseffektivitet jämfört med Kimi K2.

I Moonshot AI:s tekniska inlägg om Kimi K3 säger företaget att modellen är byggd på två arkitektoniska uppdateringar som de kallar Kimi Delta Attention och Attention Residuals, avsedda att förbättra hur information flödar över sekvenslängd och modellens djup. Kimi K3 använder en mixture‑of‑experts‑design som företaget benämner Stable LatentMoE, vilket effektivt aktiverar 16 av 896 experter, och tillämpar kvantisering‑medveten träning från den övervakade finjusteringsfasen och framåt, med MXFP4‑vikter och MXFP8‑aktiveringar. Företaget tillskriver den ungefärliga 2,5‑gångs ökningen i skalningseffektivitet jämfört med den tidigare modellen till dessa strukturella förändringar samt förfinad tränings‑ och datarecept.

Moonshot AI uppger att Kimi K3:s totala prestanda fortfarande ligger efter de proprietära modellerna Claude Fable 5 och GPT 5.6 Sol, samtidigt som de rapporterar att Kimi K3 levererade resultat på frontlinjen i hela sin utvärderingssvit och konsekvent överträffade andra testade modeller. Företaget listar också begränsningar: modellen tränades i ett bevarat tankehistorik‑läge, så genereringskvaliteten kan bli instabil om en agent‑harnes misslyckas med att återföra historiskt tänkande, och dess fokus på långsiktiga uppgifter kan leda till oväntade beslut på användarens vägnar när instruktionerna är otydliga, vilket företaget säger kan kräva tydligare beteendekrav i systemprompten.

Moonshot AI introducerade ursprungligen Kimi K3 i juli 2026 och meddelade då att de fullständiga modellvikterna skulle släppas senast den 27 juli 2026. Vid den introduktionen erbjöds modellen via Moonshot AI:s egna kanaler: Kimi‑appen, Kimi Work‑skrivbordsapplikationen, Kimi Code‑terminalverktyget och Kimi‑API:t.

Open‑weight‑modeller och databehandling på Amazon Bedrock

AWS säger att lanseringen speglar ett fortsatt investeringsengagemang i open‑weight‑modeller på tjänsten. Sedan 2025 har Bedrock lagt till dussintals open‑weight‑modeller från leverantörer som DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI och Qwen. År 2026 lade Bedrock till stöd för verktygsanrop, strukturerad utdata, resonemang, svarsstömning samt Responses‑ och Chat‑Completions‑API:er som plattformsfunktioner snarare än per‑modell‑integrationer, så att nya open‑weight‑modeller kan använda dem när de blir tillgängliga.

AWS uppger att, precis som för alla open‑weight‑modeller på Amazon Bedrock, behandlas kunddata inom AWS:s datagräns, inte delas med modellleverantören och inte används för att träna den underliggande modellen. Noll datalagring är alltid aktiverad för inferensförfrågningar, och noll operatörsåtkomst förhindrar att AWS‑operatörer får åtkomst till promptar och svar under inferens.

Dokumentationen för Amazon Bedrock listar Kimi K3 som en av tre Moonshot AI‑modeller i tjänsten, tillsammans med Kimi K2.5, en multimodal modell med förbättrat resonemang, kodning och flerspråkiga funktioner, samt Kimi K2 Thinking, en resonemangsmodell med kedjetänkandekapacitet för komplex problemlösning inom matematik, kodning och logik.

Konsolåtkomst, API:er och inferensprofiler

Användare kan prova Kimi K3 i Amazon Bedrock‑konsolen under Test > Playground, eller anropa den programmässigt via bedrock-runtime‑slutpunkten. Slutpunkten stöder de OpenAI‑compatible Responses och Chat Completions API:erna samt Amazon Bedrock Invoke‑ och Converse‑API:erna.

Modellen anropas via tvär‑region‑inferensprofiler. För arbetsbelastningar utan regionala begränsningar rekommenderar AWS den globala profilen, global.moonshotai.kimi-k3, som dirigerar varje begäran till någon stödjande kommersiell AWS‑region världen över och, enligt AWS, kostar ungefär 10 % mindre än en geografisk profil. Den amerikanska geografiska profilen, us.moonshotai.kimi-k3, håller bearbetningen inom USA för att uppfylla krav på datalokalitet.

Förutsättningar som AWS listar inkluderar ett aktivt AWS‑konto med Amazon Bedrock‑åtkomst, Python 3.10 eller senare samt AWS Identity and Access Management‑behörigheter för bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream och bedrock:CreateInference.

Explicit prompt‑caching och utvecklarverktyg

Enligt AWS är Kimi K3 den första open‑weight‑modellen på Amazon Bedrock som stödjer explicit prompt‑caching, vilket riktar sig mot långvariga kod‑ och kunskapsarbetsflöden som återkommande skickar stabil kontext såsom repository‑instruktioner, verktygsdefinitioner eller referensdokument. A prompt_cache_breakpoint en markör kan ange det exakta slutet på ett återanvändbart prompt‑prefix efter minst 1 024 token. I explicit läge debiteras token som skrivs till cache med en högre taxa men behålls i cache i minst 30 minuter. Efterföljande förfrågningar som matchar ett cachat prefix debiteras med en rabatterad ingångstaxa och räknas inte mot kvoter för ingångstoken per minut.

Utöver direkt API-användning fungerar modellen via verktyg som stödjer Amazon Bedrock. AWS lyfter fram OpenCode, en öppen källkod och modellagnostisk kodningsagent med en inbyggd amazon-bedrock‑leverantör som använder Converse‑API, samt Hermes Agent, en öppen källkod produktivitetsassistent som inbyggt stödjer modeller på Amazon Bedrock. AWS har också publicerat ett Moonshot AI on AWS‑exempelförråd på GitHub med ytterligare exempel.

Kimi K3 är tillgänglig via US Geo‑ och Global cross‑Region‑inferensprofiler, med den fullständiga listan över stödjade regioner i Bedrock‑dokumentationen.