AI-mallit ja alustat
AWS tuo Kimi K3.1 Pro Highspeedin saataville Amazon Bedrockissa
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Amazon Web Services toi Moonshot AI:n Kimi K3.1 Pro Highspeedin saataville Amazon Bedrockissa 10. marraskuuta 2026. Mallin konteksti-ikkuna on miljoona tokenia, ja sitä voi käyttää globaalien, Yhdysvaltojen ja Intian päättelyprofiilien kautta. Moonshot AI:n mukaan Highspeed-versio tuottaa tulostetta kaksi–kolme kertaa nopeammin kuin K3.1 Pro.
Pohjana olevan mallin julkaisupäivä oli 4. marraskuuta 2026, ennen sen käyttöönottoa Bedrockissa. K3.1 Pro on Kimi K3:n jälkikoulutettu versio, joka säilyttää 3T-luokan avoimien painojen arkkitehtuurin ja konteksti-ikkunan mutta hyödyntää huomattavasti enemmän laskentatehoa jälkikoulutuksessa. Moonshot AI kertoo lisäkoulutuksen tähtäävän pitkän aikajänteen agenttitehtäviin ja faktavirheiden vähentämiseen sekä parantavan taloudellista mallintamista, toimistodokumenttien käsittelyä ja koodausta pelimoottoreita, 3D-kohtauksia ja tietokoneavusteisen suunnittelun skriptejä varten.
Agenttisessa koodauksessa yksi tehtävä voi vaatia useita peräkkäisiä mallikutsuja: tiedostojen lukemista, muutoksen suunnittelua, koodin muokkaamista, testien suorittamista ja virheiden korjaamista. Suurempi tulostetokenien tuottamisnopeus voi lyhentää kunkin vaiheen generointiosuutta. Bedrockissa käytössä olevat Kimi K3 -toteutukset voi vaihtaa uuteen malliin muuttamalla mallin tunnistetta. Uusi malli tukee työkalukutsuja, rakenteista tulostetta, säädettävää päättelyä, kuvasyötteitä ja suoratoistoa samassa päätepisteessä ja samojen rajapintojen kautta. AWS esittelee myös OpenCoden, avoimen lähdekoodin terminaalissa toimivan koodausagentin, joka on yhdistetty Chat Completionsin kautta Bedrock-rajapinta-avaimella.
Käyttö ja tietojen sijainti
Kehittäjät voivat kutsua mallia OpenAI-yhteensopivien Chat Completions- ja Responses-rajapintojen tai Bedrockin Converse- ja Invoke-rajapintojen kautta. AWS suosittelee Chat Completionsia. Globaali alueiden välinen päättelyprofiili reitittää pyynnöt mihin tahansa tuettuun AWS:n kaupalliseen alueeseen, kun taas Yhdysvaltojen ja Intian profiilit rajaavat reitityksen vastaaville maantieteellisille alueille tietojen sijaintivaatimusten täyttämiseksi. Intian pyynnöt reititetään Mumbain ja Hyderabadin välillä.
AWS:n mukaan päättelyssä käytettävät tiedot pysyvät AWS:n datarajauksen sisällä, niitä ei jaeta Moonshot AI:n kanssa eikä niitä käytetä mallin kouluttamiseen. Päättelypyyntöjen tietojen säilytys on aina poistettu käytöstä, eivätkä AWS:n ylläpitäjät voi nähdä kehotteita tai mallin vastauksia päättelyn aikana.
Hinnoittelu ja kustannusten hallinta
Standard-tason hinnat määräytyvät reititysprofiilin mukaan. Kaikki alla olevat hinnat koskevat miljoonaa tokenia:
| Päättelyprofiili | Syöte | Tuloste | Välimuistin luku | Välimuistin kirjoitus (30 minuuttia) |
|---|---|---|---|---|
| Globaali, alueiden välinen | $4.00 | $20.00 | $0.20 | $5.00 |
| Yhdysvallat, alueiden välinen | $4.40 | $22.00 | $0.22 | $5.50 |
| Intia, alueiden välinen | $4.40 | $22.00 | $0.22 | $5.50 |
Bedrockin hinnoittelusivulla edeltävän Kimi K3:n hinnaksi ilmoitetaan globaalissa Standard-päättelyssä 3,00 dollaria miljoonalta syötetokenilta ja 15,00 dollaria miljoonalta tulostetokenilta. Uuden mallin syöte- ja tulostehinnat ovat siis korkeammat, vaikka sen globaali välimuistin lukuhinta on Kimi K3:n hintaa, 0,30 dollaria miljoonalta tokenilta, alempi.
Flex tarjoaa päättelyä puoleen Standard-tason hinnasta, mutta vastausajat voivat olla pidempiä. Priority-tason lisähinta on 75 %. Taso valitaan pyyntökohtaisesti, joten sovelluksessa voidaan käyttää Standard-tasoa tavalliseen liikenteeseen, Priority-tasoa viivekriittisiin kutsuihin ja Flex-tasoa arviointiin, tiivistämiseen tai taustalla suoritettaviin agenttitehtäviin.
Kehotteiden eksplisiittinen välimuistitus auttaa käsittelemään toistuvaa kontekstia, kuten järjestelmäohjeita, työkalumäärityksiä ja koodivaraston käytäntöjä. Jokaisen välimuistin rajakohdan edellä on oltava vähintään 256 tokenia vakaata sisältöä. Ominaisuus toimii Responses-, Chat Completions- ja Invoke-rajapinnoissa, mutta ei Conversessa. Välimuistista luettavista tokeneista saa alennuksen, eivätkä ne kuluta syötetokenien minuuttikohtaista kiintiötä. Kirjoitukset puolestaan maksavat tavallista syötettä enemmän.
Päättelyn ja yhteensopivuuden rajoitukset
Mallikortin mukaan päättelyn asetukset ovat none, low, medium, high, xhigh ja max, joista max on oletusarvo. Asetuksella none päättely poistetaan käytöstä kyseisessä pyynnössä. Pienempi päättelyteho voi vähentää viivettä ja tokenien kulutusta tehtävän suorituskyvyn kustannuksella, joten oletusasetus on tärkeä huomioida kustannusherkissä käyttötapauksissa.
Conversessa on muitakin rajoituksia kuin eksplisiittisen välimuistituksen puuttuminen. Se voi palauttaa sisäisen palvelinvirheen, jos monivaiheiseen pyyntöön sisältyy aiempien vuorojen päättelysisältöä. Tämä vaikuttaa esimerkiksi LangChain- ja Strands Agents -kehyksiin niiden oletusasetuksilla. AWS suosittelee poistamaan aiempien vuorojen päättelylohkot monivaiheisista Converse-pyynnöistä. Converse hylkää myös liitetyt PDF- ja HTML-dokumentit, eikä Bedrock tue tämän mallin kanssa videosyötteitä.
Jokainen tulostetoken kuluttaa myös bedrock-runtime-päätepisteen sovellettavasta tilikiintiöstä 10 tokenia. Tämä on kapasiteettiin liittyvä erillinen tekijä, eikä sisälly tokenikohtaiseen laskutukseen.
Nykyisille K3-käyttäjille vaihtaminen vaatii vain vähän koodimuutoksia, mutta käyttöön liittyvä kompromissi ulottuu yhteensopivuutta laajemmalle. Mahdollinen hyöty on peräkkäisten agenttitehtävien nopeampi suorittaminen. Vastapainona ovat korkeammat syöte- ja tulostehinnat, päättelyn lisäämä tokenien käyttö sekä kiintiön kuluminen. AWS:n tarjoamia keinoja näiden vaatimusten tasapainottamiseen ovat Flex, välimuistitus ja päättelyn tehoasetukset.
