Moonshot AI’s Kimi K3 ankommer på Amazon Bedrock med 1M-token kontekst

Moonshot AI’s Kimi K3, en open-weight model som udvikleren beskriver som den første åbne model, der når 2,8 trillioner parametre, blev tilgængelig på Amazon Bedrock den 18. september 2026 og tilføjede en ny mulighed for kodning og vidensarbejde.

Amazon Web Services annoncerede lanceringen på AWS Machine Learning Blog. Ifølge Moonshot AI er Kimi K3 deres mest kapable model, der kombinerer indbygget visionsevne med et 1‑million‑token kontekstvindue og leverer en cirka 2,5‑gange forbedring i skalerings‑effektivitet i forhold til Kimi K2.

I Moonshot AI’s Kimi K3 teknisk indlæg siger virksomheden, at modellen er bygget på to arkitektoniske opdateringer, de kalder Kimi Delta Attention og Attention Residuals, designet til at forbedre, hvordan information flyder på tværs af sekvenslængde og modeldybde. Kimi K3 bruger et mixture‑of‑experts‑design, som virksomheden kalder Stable LatentMoE, og aktiverer effektivt 16 af 896 eksperter, samt anvender kvantiserings‑bevidst træning fra den superviserede finjusteringsfase og frem, ved brug af MXFP4‑vægte med MXFP8‑aktiveringer. Virksomheden tilskriver den omtrentlige 2,5‑gange skalerings‑effektivitetsgevinst i forhold til den tidligere model til disse strukturelle ændringer sammen med raffineret træning og datarecipes.

Moonshot AI oplyser, at Kimi K3’s samlede ydeevne stadig ligger bag de proprietære Claude Fable 5- og GPT 5.6 Sol-modeller, mens de rapporterer, at Kimi K3 leverede resultater på frontlinjeniveau på tværs af deres evalueringssuite og konsekvent overgik andre testede modeller. Virksomheden angiver også begrænsninger: modellen blev trænet i en bevaret tænke‑historik‑tilstand, så genereringskvaliteten kan blive ustabil, hvis en agent‑harness ikke formår at returnere historisk tænkeindhold, og dens fokus på lang‑horisont‑opgaver kan få den til at træffe uventede beslutninger på vegne af brugeren, når instruktionerne er tvetydige, hvilket virksomheden siger kan kræve mere eksplicitte adfærdsmæssige begrænsninger i systemprompten.

Moonshot AI introducerede oprindeligt Kimi K3 i juli 2026 og oplyste på det tidspunkt, at de fulde modelvægte ville blive frigivet inden 27. juli 2026. Ved den introduktion blev modellen tilbudt via Moonshot AI’s egne kanaler: Kimi‑appen, Kimi Work‑desktop‑applikationen, Kimi Code‑terminalværktøjet og Kimi‑API’en.

Open-weight-modeller og datahåndtering på Amazon Bedrock

AWS siger, at lanceringen afspejler vedvarende investering i open-weight-modeller på tjenesten. Siden 2025 har Bedrock tilføjet dusinvis af open-weight-modeller fra leverandører som DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI og Qwen. I 2026 tilføjede Bedrock understøttelse af værktøjs‑kald, struktureret output, ræsonnement, svar‑streaming samt Responses‑ og Chat‑Completions‑API’er som platformfunktioner i stedet for per‑model‑integrationer, så nye open-weight-modeller kan bruge dem, når de bliver tilgængelige.

AWS oplyser, at ligesom med alle open-weight-modeller på Amazon Bedrock behandles kundedata inden for AWS’s datagrænse, deles ikke med modeludbyderen, og bruges ikke til at træne den underliggende model. Nul‑datatilbageholdelse er altid aktiveret for inferens‑forespørgsler, og nul‑operatør‑adgang forhindrer AWS‑operatører i at få adgang til prompts og completions under inferens.

Amazon Bedrock-dokumentation opremser Kimi K3 som en af tre Moonshot AI-modeller i tjenesten, sammen med Kimi K2.5, en multimodal model med forbedret ræsonnement, kodning og flersprogs‑funktioner, og Kimi K2 Thinking, en ræsonnementmodel med chain‑of‑thought‑funktioner til komplekse problemløsninger inden for matematik, kodning og logik.

Konsoladgang, API’er og inferens‑profiler

Brugere kan prøve Kimi K3 i Amazon Bedrock‑konsollen under Test > Playground, eller kalde den programmatisk via bedrock-runtime endpoint. Endpointen understøtter de OpenAI‑kompatible Responses‑ og Chat Completions‑API’er samt Amazon Bedrock Invoke‑ og Converse‑API’er.

Modellen påkaldes via cross‑Region inferens‑profiler. For arbejdsbelastninger uden regionale begrænsninger anbefaler AWS den globale profil, global.moonshotai.kimi-k3, som dirigerer hver anmodning til enhver understøttet kommerciel AWS‑region verden over og, ifølge AWS, koster cirka 10 % mindre end en geografisk profil. Den amerikanske geografiske profil, us.moonshotai.kimi-k3, holder behandlingen inden for den amerikanske geografi for at opfylde krav om data‑residens.

Forudsætninger, som AWS angiver, omfatter en aktiv AWS‑konto med adgang til Amazon Bedrock, Python 3.10 eller nyere samt AWS Identity and Access Management‑tilladelser til bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream og bedrock:CreateInference.

Eksplicit prompt‑caching og udviklerværktøjer

Ifølge AWS er Kimi K3 den første open-weight model på Amazon Bedrock, der understøtter eksplicit prompt‑caching, hvilket sigter mod langvarige kodnings‑ og videns‑arbejdsprocesser, der gentagne gange sender stabil kontekst som f.eks. repository‑instruktioner, værktøjsdefinitioner eller reference‑dokumenter. En prompt_cache_breakpoint markør kan angive den præcise afslutning på et genanvendeligt prompt‑præfiks efter mindst 1.024 token. I eksplicit tilstand faktureres token skrevet til cache til en højere sats, men de beholdes i cache i mindst 30 minutter. Efterfølgende anmodninger, der matcher et cache‑præfiks, faktureres til en nedsat inddata‑sats og tæller ikke med i kvoter for inddata‑token‑pr.‑minut.

Udover direkte API-brug fungerer modellen gennem værktøjer, der understøtter Amazon Bedrock. AWS fremhæver OpenCode, en open‑source og model‑agnostisk kodeagent med en indbygget amazon‑bedrock‑provider, der bruger Converse‑API’en, samt Hermes Agent, en open‑source produktivitetsassistent, der naturligt understøtter modeller på Amazon Bedrock. AWS har også offentliggjort et Moonshot AI on AWS samples repository på GitHub med yderligere eksempler.

Kimi K3 er tilgængelig via de US Geo‑ og Global cross‑Region inference‑profiler, med den fulde liste over understøttede regioner i Bedrock‑dokumentationen.