AWS gjør Kimi K3.1 Pro Highspeed tilgjengelig på Amazon Bedrock

Amazon Web Services gjorde Moonshot AIs Kimi K3.1 Pro Highspeed tilgjengelig på Amazon Bedrock 10. november 2026, med et kontekstvindu på 1 million token via globale, amerikanske og indiske inferensprofiler. Moonshot AI oppgir at Highspeed-varianten genererer utdata to til tre ganger raskere enn K3.1 Pro.

Den underliggende modellen ble lansert 4. november 2026, før denne utrullingen på Bedrock. K3.1 Pro er en videretrent versjon av Kimi K3 som beholder åpenvektsarkitekturen i 3T-klassen og kontekstvinduet, samtidig som den bruker betydelig mer datakraft til videre trening. Moonshot AI sier at den ekstra treningen er rettet mot agentbaserte oppgaver med lang tidshorisont og færre faktiske feil, med forbedringer innen finansiell modellering, kontordokumenter og koding for spillmotorer, 3D-scener og skript for dataassistert konstruksjon.

Ved agentbasert kodeutvikling kan én enkelt oppgave kreve mange sekvensielle modellkall: lese filer, planlegge en endring, redigere kode, kjøre tester og rette feil. En høyere hastighet for generering av utdata-tokener kan korte ned genereringsdelen av hvert trinn. Eksisterende implementeringer av Kimi K3 på Bedrock kan bytte til den nye modellen ved å endre modell-ID-en. Den nye modellen støtter verktøykall, strukturert utdata, konfigurerbar resonnering, bildeinndata og strømming via samme endepunkt og API-er. AWS demonstrerer også OpenCode, en åpen kildekode-basert kodeagent for terminalen, koblet til via Chat Completions og en Bedrock API-nøkkel.

Tilgang og datalagring

Utviklere kan kalle modellen via de OpenAI-kompatible Chat Completions- og Responses-API-ene, eller Bedrocks Converse- og Invoke-API-er. AWS anbefaler Chat Completions. Den globale inferensprofilen på tvers av regioner videresender forespørsler til en hvilken som helst støttet kommersiell AWS-region, mens profilene for USA og India begrenser rutingen til de respektive geografiske områdene av hensyn til krav til datalagring. Forespørsler fra India rutes mellom Mumbai og Hyderabad.

AWS sier at inferensdata forblir innenfor AWS’ datagrense, ikke deles med Moonshot AI og ikke brukes til å trene modellen. Null datalagring er alltid aktivert for inferensforespørsler, og AWS-operatører kan ikke se forespørsler eller fullføringer under inferens.

Priser og kostnadskontroll

Prisene for standardnivået avhenger av rutingsprofilen. Alle prisene nedenfor er per 1 million token:

På Bedrocks prisside er forgjengeren Kimi K3 oppført til 3,00 dollar per million inndatatokener og 15,00 dollar per million utdatatokener for Global Standard-inferens. Den nye modellen har dermed høyere priser for både inndata og utdata, selv om den globale prisen for lesing fra hurtigbuffer er lavere enn K3s pris på 0,30 dollar per million token.

Flex tilbyr inferens til halvparten av Standard-prisen, mot potensielt lengre svartider, mens Priority koster 75 % mer. Nivået kan velges for hver forespørsel, slik at en applikasjon kan bruke Standard for vanlig trafikk, Priority for tidskritiske kall og Flex til evalueringer, oppsummering eller agentarbeid i bakgrunnen.

Eksplisitt hurtigbufring av prompter håndterer gjentatt kontekst, som systeminstruksjoner, verktøydefinisjoner og konvensjoner for kodearkiv. Hvert bruddpunkt må komme etter minst 256 token med stabilt innhold. Funksjonen virker med Responses, Chat Completions og Invoke, men ikke Converse. Lesing fra hurtigbufferen har rabatt og teller ikke med i kvoten for inndatatokener per minutt, mens skriving koster mer enn standard inndata.

Begrensninger for resonnering og kompatibilitet

Modellkortet støtter resonneringsinnstillingene none, low, medium, high, xhigh og max, der max er standardinnstillingen. Hvis none velges, deaktiveres resonnering for forespørselen. Lavere innsats kan redusere ventetid og tokenforbruk, men går på bekostning av oppgaveytelsen, noe som gjør standardinnstillingen viktig å vurdere for arbeidsbelastninger der kostnadene er viktige.

Converse har flere begrensninger utover mangelen på eksplisitt hurtigbufring. Tjenesten kan gi en intern serverfeil når resonneringsinnhold fra tidligere meldinger inngår i en forespørsel med flere meldingsrunder. Dette påvirker rammeverk som LangChain og Strands Agents når de brukes med standardinnstillingene. AWS anbefaler å fjerne tidligere resonneringsblokker fra Converse-forespørsler med flere meldingsrunder. Converse avviser også vedlagte PDF- og HTML-dokumenter, og Bedrock støtter ikke videoinndata for denne modellen.

Hvert utdatatoken bruker også 10 token fra den aktuelle kontokvoten på endepunktet bedrock-runtime, et kapasitetsforhold som kommer i tillegg til betalingen per token.

For eksisterende K3-brukere krever overgangen få kodeendringer, men avveiningen i driften handler om mer enn kompatibilitet. Den mulige gevinsten er at sekvensielt agentarbeid fullføres raskere; mot dette står høyere priser for inndata og utdata, tokenbruk drevet av resonnering og kvoteforbruk. Flex, hurtigbufring og innstillinger for innsats er virkemidlene AWS tilbyr for å balansere disse hensynene.