Modely a platformy AI
AWS zpřístupňuje Kimi K3.1 Pro Highspeed v Amazon Bedrock
Přidejte Unite.AI mezi své preferované zdroje na Google
Amazon Web Services zpřístupnila 10. listopadu 2026 model Kimi K3.1 Pro Highspeed od Moonshot AI v Amazon Bedrock. Nabízí kontextové okno o velikosti 1 milionu tokenů prostřednictvím globálních, amerických a indických profilů pro inferenci. Moonshot AI uvádí, že varianta Highspeed generuje výstup dva až třikrát rychleji než K3.1 Pro.
Základní model byl uveden na trh 4. listopadu 2026, tedy ještě před nasazením v Bedrocku. K3.1 Pro je verze modelu Kimi K3 dodatečně dotrénovaná na výrazně větším výpočetním výkonu, která si zachovává architekturu s otevřenými váhami třídy 3T i velikost kontextového okna. Moonshot AI uvádí, že dodatečný trénink se zaměřuje na dlouhodobé agentní úlohy a omezení faktických chyb. Zlepšení se týkají finančního modelování, kancelářských dokumentů a programování herních enginů, 3D scén i skriptů pro počítačem podporované navrhování.
Při agentním programování může jediný úkol vyžadovat mnoho po sobě jdoucích volání modelu: čtení souborů, plánování změny, úpravy kódu, spouštění testů a opravy chyb. Vyšší rychlost generování výstupních tokenů může zkrátit dobu generování v každém kroku. Stávající implementace Kimi K3 v Bedrocku lze přepnout změnou ID modelu, přičemž nový model podporuje volání nástrojů, strukturovaný výstup, nastavitelné uvažování, obrazový vstup a streamování prostřednictvím stejného koncového bodu a rozhraní API. AWS také předvádí OpenCode, open-source terminálového agenta pro programování, připojeného přes Chat Completions a klíč API pro Bedrock.
Přístup a umístění dat
Vývojáři mohou model volat prostřednictvím rozhraní API Chat Completions a Responses kompatibilních s OpenAI nebo prostřednictvím rozhraní Converse a Invoke služby Bedrock. AWS doporučuje Chat Completions. Globální profil pro inferenci napříč regiony směruje požadavky do libovolného podporovaného komerčního regionu AWS, zatímco americký a indický profil omezují směrování na příslušná území kvůli požadavkům na umístění dat. Požadavky z Indie se směrují mezi Bombají a Hajdarábádem.
AWS uvádí, že data používaná při inferenci zůstávají v rámci datového perimetru AWS, nejsou sdílena se společností Moonshot AI a nepoužívají se k trénování modelu. U požadavků na inferenci je vždy zapnuté nulové uchovávání dat a operátoři AWS nemohou během inference zobrazit zadání ani dokončené výstupy.
Ceny a řízení nákladů
Sazby standardní úrovně se liší podle profilu směrování. Všechny níže uvedené ceny jsou za 1 milion tokenů:
| Profil inference | Vstup | Výstup | Čtení z mezipaměti | Zápis do mezipaměti (30 minut) |
|---|---|---|---|---|
| Globální, napříč regiony | $4.00 | $20.00 | $0.20 | $5.00 |
| USA, napříč regiony | $4.40 | $22.00 | $0.22 | $5.50 |
| Indie, napříč regiony | $4.40 | $22.00 | $0.22 | $5.50 |
Na stránce s cenami služby Bedrock je předchozí model Kimi K3 uveden za 3,00 USD za milion vstupních tokenů a 15,00 USD za milion výstupních tokenů při globální inferenci standardní úrovně. Nový model má tedy vyšší sazby za vstup i výstup, jeho globální sazba za čtení z mezipaměti je však nižší než u K3, která činí 0,30 USD za milion tokenů.
Úroveň Flex nabízí inferenci za polovinu standardní sazby, ovšem za cenu potenciálně delší doby odezvy, zatímco úroveň Priority je o 75 % dražší. Úroveň lze zvolit pro každý požadavek zvlášť, takže aplikace může pro běžný provoz využívat Standard, pro volání citlivá na latenci Priority a pro vyhodnocování, sumarizaci nebo práci agentů na pozadí Flex.
Výslovné ukládání zadání do mezipaměti řeší opakovaný kontext, například systémové pokyny, definice nástrojů a pravidla práce s repozitářem. Každý bod přerušení musí následovat až po nejméně 256 tokenech stabilního obsahu. Funkce funguje v rozhraních Responses, Chat Completions a Invoke, nikoli však v Converse. Čtení z mezipaměti je zlevněné a nezapočítává se do kvóty vstupních tokenů za minutu, zatímco zápis stojí více než standardní vstup.
Omezení uvažování a kompatibility
Karta modelu uvádí nastavení uvažování none, low, medium, high, xhigh a max, přičemž výchozí je max. Nastavením none se uvažování pro daný požadavek vypne. Nižší úroveň uvažování může snížit latenci i spotřebu tokenů, ale může zhoršit výkon při plnění úkolu, proto je výchozí nastavení důležité u úloh, kde záleží na nákladech.
Converse má kromě toho, že nepodporuje výslovné ukládání do mezipaměti, i další omezení. Pokud požadavek v rámci vícetahové konverzace obsahuje obsah uvažování z předchozích tahů, může dojít k interní chybě serveru. To může ovlivnit frameworky, jako jsou LangChain a Strands Agents, pokud jsou používány s výchozím nastavením. AWS doporučuje při vícetahových požadavcích v Converse odstranit předchozí bloky uvažování. Converse také odmítá připojené dokumenty PDF a HTML a Bedrock u tohoto modelu nepodporuje video jako vstup.
Každý výstupní token navíc spotřebuje 10 tokenů z příslušné kvóty účtu na koncovém bodě bedrock-runtime; jde o samostatné kapacitní omezení, které se liší od ceny za token.
Stávající uživatelé K3 mohou přejít na nový model s minimálními změnami kódu, provozní kompromis však zahrnuje víc než jen kompatibilitu. Potenciální výhodou je rychlejší dokončení po sobě jdoucích agentních úloh; nevýhodou jsou vyšší ceny vstupních i výstupních tokenů, jejich spotřeba při uvažování a čerpání kvóty. AWS nabízí úrovně Flex, ukládání do mezipaměti a nastavení úrovně uvažování jako nástroje k vyvážení těchto nároků.
