Moonshot AI’s Kimi K3 arriveert op Amazon Bedrock met een context van 1 M‑token

Moonshot AI’s Kimi K3, een open‑weight‑model dat door de ontwikkelaar wordt beschreven als het eerste open model dat 2,8 biljoen parameters bereikt, werd beschikbaar op Amazon Bedrock op 18 september 2026, waarmee een nieuwe optie voor programmeren en kenniswerk wordt toegevoegd.

Amazon Web Services kondigde de lancering aan op de AWS Machine Learning Blog. Volgens Moonshot AI is Kimi K3 hun meest capabele model, dat native vision‑mogelijkheden combineert met een contextvenster van 1 miljoen tokens en een geschatte 2,5‑voudige verbetering in schaal‑efficiëntie levert ten opzichte van Kimi K2.

In Moonshot AI’s technische artikel over Kimi K3 stelt het bedrijf dat het model is opgebouwd uit twee architecturale updates die zij Kimi Delta Attention en Attention Residuals noemen, ontworpen om de informatiestroom over de sequentielengte en modeldiepte te verbeteren. Kimi K3 maakt gebruik van een mixture‑of‑experts‑ontwerp dat het bedrijf Stable LatentMoE noemt, waarbij effectief 16 van de 896 experts worden geactiveerd, en past kwantisatie‑bewuste training toe vanaf de fase van gesuperviseerde fine‑tuning, met MXFP4‑gewichten en MXFP8‑activaties. Het bedrijf schrijft de ongeveer 2,5‑voudige schaal‑efficiëntiewinst ten opzichte van het eerdere model toe aan deze structurele wijzigingen, samen met verfijnde trainings‑ en datarecepten.

Moonshot AI stelt dat de algehele prestaties van Kimi K3 nog steeds achterblijven bij de propriëtaire Claude Fable 5‑ en GPT 5.6 Sol‑modellen, terwijl wordt gerapporteerd dat Kimi K3 grensverleggende resultaten behaalde over de volledige evaluatiesuite en consequent beter presteerde dan andere geteste modellen. Het bedrijf somt ook beperkingen op: het model is getraind in een bewaarde denk‑geschiedenismodus, waardoor de generatie‑kwaliteit onstabiel kan worden als een agent‑harnas er niet in slaagt historische denkinhoud terug te geven, en de nadruk op taken met een lange horizon kan ertoe leiden dat het onverwachte beslissingen neemt namens een gebruiker wanneer instructies dubbelzinnig zijn, wat volgens het bedrijf meer expliciete gedrags‑beperkingen in de systeem‑prompt kan vereisen.

Moonshot AI introduceerde Kimi K3 oorspronkelijk in juli 2026 en meldde destijds dat de volledige modelgewichten tegen 27 juli 2026 zouden worden vrijgegeven. Bij die introductie werd het model aangeboden via de eigen kanalen van Moonshot AI: de Kimi‑app, de Kimi Work‑desktop‑applicatie, de Kimi Code‑terminaltool en de Kimi‑API.

Open‑Weight‑modellen en gegevensverwerking op Amazon Bedrock

AWS stelt dat de lancering een blijvende investering in open‑weight‑modellen op de dienst weerspiegelt. Sinds 2025 heeft Bedrock tientallen open‑weight‑modellen toegevoegd van aanbieders zoals DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI en Qwen. In 2026 heeft Bedrock ondersteuning toegevoegd voor tool‑aanroepen, gestructureerde output, redeneren, respons‑streaming en de Responses‑ en Chat‑Completions‑API’s als platform‑functionaliteiten in plaats van per‑model‑integraties, zodat nieuwe open‑weight‑modellen ze kunnen gebruiken zodra ze beschikbaar zijn.

AWS stelt dat, net als bij alle open‑weight‑modellen op Amazon Bedrock, klantgegevens worden verwerkt binnen de AWS‑datagrens, niet worden gedeeld met de modelprovider en niet worden gebruikt om het onderliggende model te trainen. Nul‑gegevensretentie is altijd ingeschakeld voor inferentieverzoeken, en nul‑operator‑toegang voorkomt dat AWS‑operatoren prompts en voltooiingen kunnen inzien tijdens inferentie.

De documentatie van Amazon Bedrock vermeldt Kimi K3 als een van de drie Moonshot AI‑modellen in de dienst, naast Kimi K2.5, een multimodaal model met verbeterde redeneervermogen, programmeer‑ en meertalige mogelijkheden, en Kimi K2 Thinking, een redeneermodel met chain‑of‑thought‑capaciteiten voor complexe probleemoplossing in wiskunde, programmeren en logica.

Console‑toegang, API’s en inferentie‑profielen

Gebruikers kunnen Kimi K3 uitproberen in de Amazon Bedrock-console onder Test > Playground, of het programmatisch aanroepen via het bedrock-runtime‑eindpunt. Het eindpunt ondersteunt de OpenAI‑compatibele Responses‑ en Chat Completions‑API’s evenals de Amazon Bedrock Invoke‑ en Converse‑API’s.

Het model wordt aangeroepen via cross‑Region‑inferentie‑profielen. Voor workloads zonder regionale beperkingen raadt AWS het globale profiel aan, global.moonshotai.kimi-k3, dat elk verzoek naar een willekeurige ondersteunde commerciële AWS‑regio wereldwijd routeert en, volgens AWS, ongeveer 10 % goedkoper is dan een geografisch profiel. Het Amerikaanse geografische profiel, us.moonshotai.kimi-k3, houdt de verwerking binnen de VS‑geografie voor vereisten omtrent gegevensresidentie.

Door AWS genoemde vereisten omvatten een actief AWS‑account met toegang tot Amazon Bedrock, Python 3.10 of hoger, en AWS Identity and Access Management‑rechten voor bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream en bedrock:CreateInference.

Expliciete prompt‑caching en ontwikkelaarstools

Volgens AWS is Kimi K3 het eerste open‑weight‑model op Amazon Bedrock dat expliciete prompt‑caching ondersteunt, gericht op langdurige programmeer‑ en kennis‑werkstromen die herhaaldelijk stabiele context zoals repository‑instructies, tool‑definities of referentiedocumenten opnieuw verzenden. Een promptcache‑breakpoint‑marker kan het exacte einde van een herbruikbaar prompt‑voorvoegsel aanwijzen na minimaal 1 024 tokens. In de expliciete modus worden tokens die naar de cache worden geschreven tegen een hoger tarief gefactureerd, maar blijven ze minimaal 30 minuten in de cache. Volgende verzoeken die overeenkomen met een gecachte prefix worden tegen een gereduceerd invoertarief gefactureerd en tellen niet mee voor de invoer‑tokens‑per‑minuut‑quota.

Naast direct API‑gebruik werkt het model via tooling die Amazon Bedrock ondersteunt. AWS benadrukt OpenCode, een open‑source en model‑agnostische codeer‑agent met een native amazon‑bedrock provider die de Converse‑API gebruikt, en Hermes Agent, een open‑source productiviteitsassistent die native modellen op Amazon Bedrock ondersteunt. AWS heeft ook een Moonshot AI on AWS‑samples‑repository op GitHub gepubliceerd met extra voorbeelden.

Kimi K3 is beschikbaar via de US Geo‑ en Global cross‑Region inferentie‑profielen, met de volledige lijst van ondersteunde regio’s in de Bedrock‑documentatie.