Moonshot AI:n Kimi K3 saapuu Amazon Bedrockiin 1M-tokenin kontekstilla

Moonshot AI:n Kimi K3, avoimen painomalli, jonka kehittäjä kuvaa ensimmäiseksi avoimeksi malliksi, joka saavuttaa 2,8 triljoonaa parametria, tuli saataville Amazon Bedrockissa 18. syyskuuta 2026, lisäten uuden vaihtoehdon koodaukseen ja tiedonhallintaan.

Amazon Web Services ilmoitti lanseerauksesta AWS Machine Learning Blog. Moonshot AI:n mukaan Kimi K3 on sen kyvykäs malli, joka yhdistää natiivin näkökyvyn 1 miljoonan tokenin kontekstiruutuun ja tarjoaa noin 2,5‑kerran parannuksen skaalaustehokkuudessa verrattuna Kimi K2.

Moonshot AI:n Kimi K3:n tekninen julkaisu mukaan malli perustuu kahteen arkkitehtuuripäivitykseen, joita se kutsuu Kimi Delta Attentioniksi ja Attention Residualsiksi, ja jotka on suunniteltu parantamaan tiedon kulkua sekvenssien pituuden ja mallin syvyyden yli. Kimi K3 käyttää yrityksen kutsumaa Stable LatentMoE‑asiantuntijamallia, joka aktivoi tehokkaasti 16‑stä 896‑stä asiantuntijasta, ja soveltaa kvantisointitietoista koulutusta valvotun hienosäätövaiheen alusta alkaen käyttäen MXFP4‑painoja MXFP8‑aktivaatioilla. Yritys selittää noin 2,5‑kerran skaalaustehokkuuden kasvun aikaisempaan malliin verrattuna näihin rakenteellisiin muutoksiin sekä tarkennettuun koulutukseen ja dataresepteihin.

Moonshot AI toteaa, että Kimi K3:n kokonaisuus suorituskyky on edelleen jäljessä proprietaarisia Claude Fable 5- ja GPT 5.6 Sol -malleja, vaikka raportoikin, että Kimi K3 tuotti huipputason tuloksia arviointisarjassaan ja ylitti johdonmukaisesti muut testatut mallit. Yritys luettelee myös rajoituksia: malli on koulutettu säilytetyn ajatushistorian tilassa, joten generoinnin laatu voi muuttua epävakaaksi, jos agentti ei pysty palauttamaan historiallista ajatussisältöä, ja sen painotus pitkän aikavälin tehtäviin voi johtaa odottamattomiin päätöksiin käyttäjän puolesta, kun ohjeet ovat epäselviä; yrityksen mukaan tämä saattaa vaatia selkeämpiä käyttäytymisrajoituksia järjestelmäkehotteessa.

Moonshot AI esitteli Kimi K3:n alun perin heinäkuussa 2026, ja totesi silloin, että koko mallin painot julkaistaisiin 27. heinäkuuta 2026 mennessä. Tuolloin malli oli saatavilla Moonshot AI:n omien kanavien kautta: Kimi‑sovellus, Kimi Work -työpöytäsovellus, Kimi Code -terminaalityökalu ja Kimi API.

Avoimen painon mallit ja tietojen käsittely Amazon Bedrockissa

AWS totesi, että lanseeraus heijastaa jatkuvaa investointia avoimen painon malleihin palvelussa. Vuodesta 2025 lähtien Bedrock on lisännyt kymmeniä avoimen painon malleja toimittajilta, kuten DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI ja Qwen. Vuonna 2026 Bedrock lisäsi tuen työkalukutsuille, jäsennellylle ulostulolle, päättelylle, vastausten suoratoistolle sekä Responses- ja Chat Completions -rajapintoihin alustan ominaisuuksina sen sijaan, että ne olisivat mallikohtaisia integraatioita, jolloin uudet avoimen painon mallit voivat käyttää niitä niiden tullessa saataville.

AWS:n mukaan, kuten kaikissa avoimen painon malleissa Amazon Bedrockissa, asiakastiedot käsitellään AWS:n datarajan sisällä, niitä ei jaeta mallin toimittajalle, eikä niitä käytetä perustavan mallin kouluttamiseen. Nollatietojen säilytys on aina käytössä inferenssipyynnöille, ja nollatoimintayhteyden pääsy estää AWS‑operaattoreita pääsemästä kehotteisiin ja valmiisiin vastauksiin inferenssin aikana.

Amazon Bedrock -dokumentaatio luettelee Kimi K3:n yhtenä kolmesta Moonshot AI -mallista palvelussa, yhdessä Kimi K2.5:n kanssa, monimodaalinen malli, jossa on parannettu päättelykyky, koodaus ja monikieliset ominaisuudet, sekä Kimi K2 Thinking, päättelymalli, jossa on ajatuksenketju-ominaisuudet monimutkaisten matemaattisten, koodaus- ja loogisten ongelmien ratkaisemiseen.

Konsolipääsy, API-rajapinnat ja inferenssiprofiilit

Käyttäjät voivat kokeilla Kimi K3:ta Amazon Bedrock -konsolissa kohdassa Test > Playground, tai kutsua sitä ohjelmallisesti bedrock-runtime -päätepisteen kautta. Päätepiste tukee OpenAI-yhteensopivia Responses- ja Chat Completions -rajapintoja sekä Amazon Bedrock Invoke- ja Converse-rajapintoja.

Malli kutsutaan raja-alueiden yli toimivien inferenssiprofiilien kautta. Työkuormille, joilla ei ole alueellisia rajoituksia, AWS suosittelee globaalia profiilia, global.moonshotai.kimi-k3, joka reitittää jokaisen pyynnön mihin tahansa tuettuun kaupalliseen AWS‑alueeseen maailmanlaajuisesti ja jonka AWS:n mukaan kustannukset ovat noin 10 % alhaisemmat kuin maantieteellisessä profiilissa. Yhdysvaltain maantieteellinen profiili, us.moonshotai.kimi-k3, pitää käsittelyn Yhdysvaltain alueella tietojen asuinpaikkavaatimusten vuoksi.

AWS:n luettelemia edellytyksiä ovat aktiivinen AWS‑tili, jossa on Amazon Bedrock -pääsy, Python 3.10 tai uudempi sekä AWS Identity and Access Management -oikeudet bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream ja bedrock:CreateInference.

Eksplisiittinen kehotteiden välimuisti ja kehittäjätyökalut

AWS:n mukaan Kimi K3 on ensimmäinen avoimen painon malli Amazon Bedrockissa, joka tukee eksplisiittistä kehotteiden välimuistia, mikä on suunnattu pitkäkestoisiin koodaus- ja tiedonhallintatyönkulkuihin, jotka lähettävät toistuvasti vakaan kontekstin, kuten varastoinnin ohjeet, työkalumäärittelyt tai viitedokumentit. A prompt_cache_breakpoint merkki voi määrittää uudelleenkäytettävän kehotteiden etuliitteen tarkan lopun vähintään 1 024 tokenin jälkeen. Eksplisiittisessä tilassa välimuistiin kirjoitetut tokenit veloitetaan korkeammalla hinnalla, mutta ne säilyvät välimuistissa vähintään 30 minuuttia. Tämän jälkeen samankaltaiset pyynnöt, jotka vastaavat välimuistissa olevaa etuliitettä, veloitetaan alennettuun syötteen hintaan, eikä ne laske syötteiden tokenien minuuttikohtaisiin kiintiöihin.

Suoran API:n käytön lisäksi malli toimii Amazon Bedrockia tukevien työkalujen kautta. AWS korostaa OpenCodea, avointa lähdekoodia olevaa ja mallista riippumatonta koodausagenttia, jossa on natiivi amazon-bedrock -tarjoaja ja joka käyttää Converse API:a, sekä Hermes Agentia, avointa lähdekoodia olevaa tuottavuusavustajaa, joka tukee natiivisti malleja Amazon Bedrockissa. AWS on myös julkaissut Moonshot AI on AWS -näytevaraston GitHubissa, jossa on lisäesimerkkejä.

Kimi K3 on saatavilla US Geo- ja Global cross-Region -inference -profiilien kautta, ja Bedrock-dokumentaatiosta löytyy täydellinen luettelo tuetuista alueista.