Moonshot AI’s Kimi K3 ankommer på Amazon Bedrock med 1M-token kontekst

Moonshot AI’s Kimi K3, en open‑weight model som udvikleren beskriver som den første åbne model, der når 2,8 trillion parametre, blev tilgængelig på Amazon Bedrock den september 18, 2026, og tilføjer en ny mulighed for kodning og vidensarbejde.

Amazon Web Services annoncerede lanceringen på AWS Machine Learning Blog. Ifølge Moonshot AI er Kimi K3 deres mest kapable model, der kombinerer indbyggede synsfunktioner med et 1‑million‑token kontekstvindue og leverer en cirka 2,5‑gange forbedring i skalerings‑effektivitet i forhold til Kimi K2.

I Moonshot AI’s tekniske indlæg om Kimi K3 siger virksomheden, at modellen er bygget på to arkitektoniske opdateringer, de kalder Kimi Delta Attention og Attention Residuals, designet til at forbedre, hvordan information flyder på tværs af sekvenslængde og modeldybde. Kimi K3 anvender et mixture‑of‑experts‑design, som virksomheden kalder Stable LatentMoE, og aktiverer effektivt 16 af 896 eksperter, samt anvender kvantiserings‑bevidst træning fra den superviserede fin‑tuning‑fase og frem, med MXFP4‑vægte og MXFP8‑aktiveringer. Virksomheden tilskriver den omtrentlige 2,5‑gange skalerings‑effektivitetsforbedring i forhold til den tidligere model til disse strukturelle ændringer samt forfinet træning og data‑opskrifter.

Moonshot AI oplyser, at Kimi K3’s samlede ydeevne stadig ligger bag de proprietære Claude Fable 5‑ og GPT 5.6 Sol‑modeller, mens de rapporterer, at Kimi K3 leverede resultater på frontlinjeniveau på tværs af deres evalueringssuite og konsekvent overgik andre testede modeller. Virksomheden angiver også begrænsninger: modellen blev trænet i en bevaret tænke‑historik‑tilstand, så genereringskvaliteten kan blive ustabil, hvis en agent‑harness ikke formår at returnere historisk tænkeindhold, og dens fokus på lang‑horisont‑opgaver kan få den til at træffe uventede beslutninger på brugerens vegne, når instruktionerne er tvetydige, hvilket virksomheden siger kan kræve mere eksplicitte adfærdsmæssige begrænsninger i system‑prompten.

Moonshot AI introducerede oprindeligt Kimi K3 i juli 2026 og oplyste på det tidspunkt, at de fulde model‑vægte ville blive frigivet senest 27. juli 2026. Ved den introduktion blev modellen tilbudt via Moonshot AI’s egne kanaler: Kimi‑appen, Kimi Work‑desktop‑applikationen, Kimi Code‑terminalværktøjet og Kimi‑API’en.

Open‑Weight‑modeller og databehandling på Amazon Bedrock

AWS siger, at lanceringen afspejler en vedvarende investering i open‑weight‑modeller på tjenesten. Siden 2025 har Bedrock tilføjet dusinvis af open‑weight‑modeller fra udbydere som DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI og Qwen. I 2026 tilføjede Bedrock understøttelse af værktøjs‑kald, struktureret output, ræsonnement, svar‑streaming samt Responses‑ og Chat‑Completions‑API’er som platform‑funktioner i stedet for per‑model‑integrationer, så nye open‑weight‑modeller kan benytte dem, efterhånden som de bliver tilgængelige.

AWS oplyser, at som med alle open‑weight‑modeller på Amazon Bedrock behandles kundedata inden for AWS’s datagrænse, deles ikke med modeludbyderen, og bruges ikke til at træne den underliggende model. Nul‑datatilbageholdelse er altid aktiveret for inferens‑anmodninger, og nul‑operatør‑adgang forhindrer AWS‑operatører i at få adgang til prompts og færdiggørelser under inferens.

Dokumentationen til Amazon Bedrock angiver, at Kimi K3 er en af tre Moonshot AI‑modeller i tjenesten, sammen med Kimi K2.5, en multimodal model med forbedret ræsonnement, kodning og flersprogede evner, samt Kimi K2 Thinking, en ræsonneringsmodel med chain‑of‑thought‑funktioner til komplekse problemløsninger inden for matematik, kodning og logik.

Konsoladgang, API’er og inferens‑profiler

Brugere kan prøve Kimi K3 i Amazon Bedrock-konsollen under Test > Playground, eller kalde den programmatisk via bedrock-runtime endpointet. Endpointet understøtter de OpenAI-kompatible Responses og Chat Completions API’er samt Amazon Bedrock Invoke og Converse API’er.

Modellen påkaldes via tværs‑regionale inferens‑profiler. For arbejdsbelastninger uden regionale begrænsninger anbefaler AWS den globale profil, global.moonshotai.kimi-k3, som dirigerer hver anmodning til enhver understøttet kommerciel AWS‑region verden over og, ifølge AWS, koster cirka 10 % mindre end en geografisk profil. Den amerikanske geografiske profil, us.moonshotai.kimi-k3, holder behandlingen inden for USA for at opfylde krav om datalokalitet.

Forudsætninger angivet af AWS omfatter en aktiv AWS‑konto med adgang til Amazon Bedrock, Python 3.10 eller nyere samt AWS Identity and Access Management‑tilladelser til bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream og bedrock:CreateInference.

Eksplicit prompt‑caching og udviklerværktøjer

Ifølge AWS er Kimi K3 den første open‑weight‑model på Amazon Bedrock, der understøtter eksplicit prompt‑caching, hvilket henvender sig til langvarige kodnings‑ og videns‑arbejdsprocesser, der gentagne gange sender stabil kontekst som f.eks. repository‑instruktioner, værktøjsdefinitioner eller reference‑dokumenter. En promptcachebreakpoint‑markør kan angive den præcise afslutning af et genanvendeligt prompt‑præfiks efter mindst 1.024 token. I eksplicit tilstand faktureres token‑skrivning til cachen til en højere sats, men den holdes i cachen i mindst 30 minutter. Efterfølgende anmodninger, der matcher et cache‑præfiks, faktureres til en nedsat input‑sats og tæller ikke med i input‑token‑per‑minut‑kvoter.

Udover direkte API‑brug fungerer modellen gennem værktøjer, der understøtter Amazon Bedrock. AWS fremhæver OpenCode, en open‑source og model‑agnostisk kode‑agent med en indbygget amazon‑bedrock‑provider, som bruger Converse‑API’en, samt Hermes Agent, en open‑source produktivitetsassistent, der native understøtter modeller på Amazon Bedrock. AWS har også offentliggjort et Moonshot AI on AWS samples repository på GitHub med yderligere eksempler.

Kimi K3 er tilgængelig gennem de amerikanske Geo‑ og globale tværs‑region‑inference‑profiler, med den fulde liste over understøttede regioner i Bedrock‑dokumentationen.