Moonshot AI’s Kimi K3 arriveert op Amazon Bedrock met 1M-tokencontext

Moonshot AI’s Kimi K3, een open‑weight‑model dat door de ontwikkelaar wordt beschreven als het eerste open model dat 2,8 biljoen parameters bereikt, werd beschikbaar op Amazon Bedrock op 18 september 2026, waarmee een nieuwe optie voor coderen en kenniswerk wordt toegevoegd.

Amazon Web Services kondigde de lancering aan op de AWS Machine Learning Blog. Volgens Moonshot AI is Kimi K3 hun meest capabele model, dat native vision‑mogelijkheden combineert met een contextvenster van 1 miljoen tokens en een ongeveer 2,5‑voudige verbetering in schaal‑efficiëntie levert ten opzichte van Kimi K2.

In de Kimi K3 technische post van Moonshot AI stelt het bedrijf dat het model is gebouwd op twee architecturale updates die zij Kimi Delta Attention en Attention Residuals noemen, ontworpen om de informatiestroom over de sequentielengte en modeldiepte te verbeteren. Kimi K3 maakt gebruik van een mixture‑of‑experts‑ontwerp dat het bedrijf Stable LatentMoE noemt, waardoor effectief 16 van de 896 experts worden geactiveerd, en past kwantisatie‑bewuste training toe vanaf de fase van supervised fine‑tuning, met MXFP4‑gewichten en MXFP8‑activaties. Het bedrijf schrijft de ongeveer 2,5‑voudige winst in schaal‑efficiëntie ten opzichte van het eerdere model toe aan deze structurele veranderingen, samen met verfijnde trainings‑ en datarecepten.

Moonshot AI stelt dat de algehele prestaties van Kimi K3 nog steeds achterblijven bij de propriëtaire Claude Fable 5‑ en GPT 5.6 Sol‑modellen, terwijl wordt gerapporteerd dat Kimi K3 grensverleggende resultaten behaalde over de volledige evaluatiesuite en consequent andere geteste modellen overtrof. Het bedrijf somt ook beperkingen op: het model werd getraind in een bewaarde denkhistorie‑modus, waardoor de generatiekwaliteit onstabiel kan worden als een agent‑harnas er niet in slaagt historische denkinhoud terug te geven, en de nadruk op langetermijntaken kan ertoe leiden dat het onverwachte beslissingen neemt namens een gebruiker wanneer instructies dubbelzinnig zijn, wat volgens het bedrijf kan vereisen dat er explicietere gedragsbeperkingen in de systeemprompt worden opgenomen.

Moonshot AI introduceerde Kimi K3 oorspronkelijk in juli 2026 en gaf toen aan dat de volledige modelgewichten tegen 27 juli 2026 zouden worden vrijgegeven. Bij die introductie werd het model aangeboden via de eigen kanalen van Moonshot AI: de Kimi‑app, de Kimi Work‑desktopapplicatie, de Kimi Code‑terminaltool en de Kimi‑API.

Open‑Weight‑modellen en gegevensverwerking op Amazon Bedrock

AWS verklaarde dat de lancering een voortgezette investering in open‑weight‑modellen op de dienst weerspiegelt. Sinds 2025 heeft Bedrock tientallen open‑weight‑modellen toegevoegd van aanbieders waaronder DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI en Qwen. In 2026 heeft Bedrock ondersteuning toegevoegd voor tool‑calling, gestructureerde output, redeneren, respons‑streaming en de Responses‑ en Chat‑Completions‑API’s als platformfunctionaliteiten in plaats van per‑model‑integraties, zodat nieuwe open‑weight‑modellen ze kunnen gebruiken zodra ze beschikbaar zijn.

AWS stelt dat, net als bij alle open‑weight‑modellen op Amazon Bedrock, klantgegevens worden verwerkt binnen de AWS‑datagrens, niet worden gedeeld met de modelprovider en niet worden gebruikt om het onderliggende model te trainen. Nul‑gegevensretentie is altijd ingeschakeld voor inferentieverzoeken, en nul‑operator‑toegang voorkomt dat AWS‑operators prompts en voltooiingen kunnen inzien tijdens inferentie.

Amazon Bedrock-documentatie vermeldt Kimi K3 als een van de drie Moonshot AI‑modellen in de dienst, naast Kimi K2.5, een multimodaal model met verbeterde redeneer‑, codeer‑ en meertalige mogelijkheden, en Kimi K2 Thinking, een redeneer‑model met chain‑of‑thought‑mogelijkheden voor complexe probleemoplossing in wiskunde, programmeren en logica.

Console‑toegang, API’s en inferentie‑profielen

Gebruikers kunnen Kimi K3 uitproberen in de Amazon Bedrock-console onder Test > Playground, of het programmatisch aanroepen via het bedrock-runtime‑eindpunt. Het eindpunt ondersteunt de OpenAI‑compatibele Responses en Chat Completions API’s, evenals de Amazon Bedrock Invoke en Converse API’s.

Het model wordt aangeroepen via cross‑Region‑inferentie‑profielen. Voor workloads zonder regionale beperkingen raadt AWS het globale profiel global.moonshotai.kimi-k3 aan, dat elk verzoek naar een willekeurige ondersteunde commerciële AWS‑regio wereldwijd routeert en, volgens AWS, ongeveer 10 % goedkoper is dan een geografisch profiel. Het Amerikaanse geografische profiel us.moonshotai.kimi-k3 houdt de verwerking binnen de VS voor gegevens‑residentie‑vereisten.

De door AWS genoemde vereisten omvatten een actief AWS‑account met toegang tot Amazon Bedrock, Python 3.10 of hoger, en AWS Identity and Access Management‑rechten voor bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream en bedrock:CreateInference.

Expliciete prompt‑caching en ontwikkelaarstools

Volgens AWS is Kimi K3 het eerste open‑weight‑model op Amazon Bedrock dat expliciete prompt‑caching ondersteunt, gericht op langdurige code‑ en kennisworkflows die herhaaldelijk stabiele context opnieuw verzenden, zoals repository‑instructies, tool‑definities of referentiedocumenten. A prompt_cache_breakpoint een marker kan het exacte einde van een herbruikbaar prompt‑voorvoegsel aanduiden na minstens 1.024 tokens. In de expliciete modus worden tokens die naar de cache worden geschreven tegen een hoger tarief gefactureerd, maar minimaal 30 minuten in de cache bewaard. Volgende verzoeken die overeenkomen met een gecachte prefix worden tegen een gereduceerd invoertarief gefactureerd en tellen niet mee voor de limiet van invoer‑tokens‑per‑minuut.

Naast direct API‑gebruik werkt het model via tools die Amazon Bedrock ondersteunen. AWS benadrukt OpenCode, een open‑source en model‑agnostische code‑agent met een native amazon-bedrock provider die de Converse‑API gebruikt, en Hermes Agent, een open‑source productiviteitsassistent die modellen op Amazon Bedrock native ondersteunt. AWS heeft ook een Moonshot AI on AWS samples‑repository op GitHub gepubliceerd met extra voorbeelden.

Kimi K3 is beschikbaar via de US Geo‑ en Global cross‑Region inferentie‑profielen, met de volledige lijst van ondersteunde regio’s in de Bedrock‑documentatie.