AWS gør Kimi K3.1 Pro Highspeed tilgængelig på Amazon Bedrock

Amazon Web Services gjorde Moonshot AIs Kimi K3.1 Pro Highspeed tilgængelig på Amazon Bedrock den 10. november 2026 med et kontekstvindue på 1 million tokens via globale inferensprofiler samt profiler for USA og Indien. Moonshot AI oplyser, at Highspeed-varianten genererer output to til tre gange hurtigere end K3.1 Pro.

Den underliggende model blev lanceret den 4. november 2026, inden den blev udrullet på Bedrock. K3.1 Pro er en eftertrænet version af Kimi K3, der bevarer open-weight-arkitekturen i 3T-klassen og kontekstvinduet, men bruger betydeligt flere beregningsressourcer til eftertræning. Moonshot AI oplyser, at den ekstra træning har til formål at forbedre agentbaseret arbejde over lange tidshorisonter og reducere faktuelle fejl. Den giver også forbedringer inden for finansiel modellering, kontordokumenter samt kodning til spilmotorer, 3D-scener og scripts til computerstøttet design.

Ved agentbaseret kodning kan en enkelt opgave kræve mange sekventielle modelkald: læsning af filer, planlægning af ændringer, redigering af kode, kørsel af test og rettelse af fejl. En højere hastighed for generering af outputtokens kan forkorte genereringsdelen af hvert trin. Eksisterende implementeringer af Kimi K3 på Bedrock kan skiftes til den nye model ved at ændre model-id’et. Den nye model understøtter værktøjskald, struktureret output, konfigurerbar ræsonnering, billedinput og streaming via samme endepunkt og API’er. AWS demonstrerer også OpenCode, en open source-kodeagent til terminalen, der er tilsluttet via Chat Completions og en Bedrock API-nøgle.

Adgang og datalokalitet

Udviklere kan kalde modellen via de OpenAI-kompatible API’er Chat Completions og Responses eller Bedrocks API’er Converse og Invoke. AWS anbefaler Chat Completions. Den globale inferensprofil på tværs af regioner videresender forespørgsler til enhver understøttet kommerciel AWS-region, mens profilerne for USA og Indien begrænser videresendelsen til de respektive geografiske områder af hensyn til krav om datalokalitet. Forespørgsler fra Indien videresendes mellem Mumbai og Hyderabad.

AWS oplyser, at inferensdata forbliver inden for AWS’ datagrænse, ikke deles med Moonshot AI og ikke bruges til at træne modellen. Nul dataopbevaring er altid aktiveret for inferensforespørgsler, og AWS-operatører kan ikke se prompter eller fuldførelser under inferensen.

Priser og omkostningsstyring

Priserne for standardniveauet afhænger af routingsprofilen. Alle priser nedenfor er pr. 1 million tokens:

På Bedrocks prisside er den tidligere Kimi K3 angivet til 3,00 USD pr. million inputtokens og 15,00 USD pr. million outputtokens ved global inferens på Standard-niveau. Den nye model har derfor højere priser for input og output, selvom dens globale pris for cachelæsning er lavere end Kimi K3’s pris på 0,30 USD pr. million tokens.

Flex giver inferens til halvdelen af Standard-prisen mod potentielt længere svartider, mens Priority koster 75 % ekstra. Niveauet kan vælges for hver forespørgsel, så en applikation kan bruge Standard til almindelig trafik, Priority til kald, hvor latenstid er kritisk, og Flex til evalueringer, opsummering eller baggrundsopgaver for agenter.

Eksplicit promptcaching håndterer gentagen kontekst som systeminstruktioner, værktøjsdefinitioner og konventioner for lagre. Hvert skillepunkt skal følge efter mindst 256 tokens med stabilt indhold. Funktionen virker med Responses, Chat Completions og Invoke, men ikke med Converse. Cachelæsninger koster mindre og tæller ikke med i kvoten for inputtokens pr. minut, mens cacheskrivninger koster mere end almindelige inputtokens.

Begrænsninger for ræsonnering og kompatibilitet

Modellens kort beskriver ræsonneringsindstillingerne none, low, medium, high, xhigh og max, hvor max er standardindstillingen. Hvis none vælges, slås ræsonnering fra for den pågældende forespørgsel. En lavere indsats kan reducere latenstid og tokenforbrug på bekostning af opgavens resultat, så standardindstillingen er vigtig at overveje ved arbejdsbelastninger, hvor omkostningerne skal holdes nede.

Converse har yderligere begrænsninger ud over manglen på eksplicit caching. API’et kan returnere en intern serverfejl, hvis ræsonneringsindhold fra tidligere ture medtages i en forespørgsel med flere ture. Det påvirker frameworks som LangChain og Strands Agents, når de bruges med standardkonfigurationerne. AWS anbefaler, at tidligere ræsonneringsblokke fjernes fra Converse-forespørgsler med flere ture. Converse afviser også vedhæftede PDF- og HTML-dokumenter, og Bedrock understøtter ikke videoinput til denne model.

Hvert outputtoken bruger også 10 tokens af den relevante kontokvote på endepunktet bedrock-runtime; dette er en særskilt kapacitetsmæssig faktor ud over prisen pr. token.

For eksisterende K3-brugere kræver skiftet kun få kodeændringer, men de driftsmæssige afvejninger rækker ud over kompatibilitet. Den mulige gevinst er hurtigere gennemførelse af sekventielle agentopgaver; til gengæld er priserne for input og output højere, tokenforbruget påvirkes af ræsonnering, og kvoten bruges hurtigere. Flex, caching og indstillinger for indsats er de værktøjer, AWS stiller til rådighed for at afveje disse hensyn.