Kimi K3 від Moonshot AI з’являється на Amazon Bedrock із контекстом у 1 млн токенів

Kimi K3 від Moonshot AI, модель з відкритою вагою, яку розробник описує як першу відкриту модель, що досягла 2,8 трильйона параметрів, стала доступною на Amazon Bedrock 18 вересня 2026 р., додаючи нову можливість для програмування та роботи зі знаннями.

Amazon Web Services оголосив про запуск у блог AWS Machine Learning. За словами Moonshot AI, Kimi K3 є їхньою найпотужнішою моделлю, поєднуючи вбудовані можливості зору з контекстним вікном у 1 млн токенів і забезпечуючи приблизне підвищення ефективності масштабування в 2,5 рази порівняно з Kimi K2.

У технічному пості Kimi K3 компанія Moonshot AI зазначає, що модель побудована на двох архітектурних оновленнях, які вони називають Kimi Delta Attention та Attention Residuals, розроблених для поліпшення потоків інформації через довжину послідовності та глибину моделі. Kimi K3 використовує дизайн mixture-of-experts, який компанія називає Stable LatentMoE, фактично активуючи 16 із 896 експертів, і застосовує навчання з урахуванням квантування, починаючи зі стадії контрольованого тонкого налаштування, використовуючи ваги MXFP4 з активаціями MXFP8. Компанія приписує приблизне підвищення ефективності масштабування в 2,5 рази порівняно з попередньою моделлю цим структурним змінам разом із удосконаленим навчанням та рецептами даних.

Moonshot AI заявляє, що загальна продуктивність Kimi K3 все ще поступається пропрієтарним моделям Claude Fable 5 та GPT 5.6 Sol, хоча повідомляє, що Kimi K3 досягла результатів рівня передової технології у всьому наборі оцінок і послідовно перевершувала інші протестовані моделі. Компанія також перераховує обмеження: модель була навчена у режимі збереженої історії мислення, тому якість генерації може стати нестабільною, якщо агент не передасть назад історичний зміст мислення, а її акцент на довготривалі завдання може призвести до неочікуваних рішень від імені користувача, коли інструкції неоднозначні, що, за словами компанії, може вимагати більш явних обмежень поведінки у системному підказці.

Moonshot AI вперше представила Kimi K3 у липні 2026 р., зазначивши тоді, що повні ваги моделі будуть випущені до 27 липня 2026 р. Під час цього представлення модель пропонувалася через власні канали Moonshot AI: додаток Kimi, настільний застосунок Kimi Work, термінальний інструмент Kimi Code та Kimi API.

Моделі з відкритою вагою та обробка даних на Amazon Bedrock

AWS зазначив, що запуск відображає постійні інвестиції в моделі з відкритою вагою на сервісі. З 2025 р. Bedrock додав десятки моделей з відкритою вагою від постачальників, включаючи DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI та Qwen. У 2026 р. Bedrock додав підтримку виклику інструментів, структурованого виводу, міркувань, потокової передачі відповідей та API Responses і Chat Completions як можливостей платформи, а не як інтеграції для окремих моделей, тож нові моделі з відкритою вагою можуть їх використовувати, коли вони стануть доступними.

AWS стверджує, що, як і у випадку всіх моделей з відкритою вагою на Amazon Bedrock, дані клієнтів обробляються в межах AWS, не передаються постачальнику моделі та не використовуються для навчання базової моделі. Завжди ввімкнено нульове зберігання даних для запитів інференції, а нульовий доступ операторів запобігає доступу операторів AWS до підказок і завершень під час інференції.

документація Amazon Bedrock зазначає Kimi K3 як одну з трьох моделей Moonshot AI у сервісі, поряд з Kimi K2.5, мультимодальною моделлю з покращеними можливостями міркування, програмування та багатомовності, та Kimi K2 Thinking, моделлю міркування з можливостями ланцюжка думок для розв’язання складних задач у математиці, програмуванні та логіці.

Доступ через консоль, API та профілі інференції

Користувачі можуть спробувати Kimi K3 у консолі Amazon Bedrock у розділі Test > Playground, або викликати його програмно через кінцеву точку bedrock-runtime. Кінцева точка підтримує OpenAI‑сумісні Responses і Chat Completions API, а також API Amazon Bedrock Invoke та Converse.

Модель викликається через профілі інференції між регіонами. Для навантажень без регіональних обмежень AWS рекомендує глобальний профіль global.moonshotai.kimi-k3, який маршрутизує кожен запит до будь‑якого підтримуваного комерційного регіону AWS у світі і, за даними AWS, коштує приблизно на 10 % дешевше, ніж географічний профіль. Географічний профіль США us.moonshotai.kimi-k3 зберігає обробку в межах США для вимог щодо резидентності даних.

Передумови, зазначені AWS, включають активний обліковий запис AWS з доступом до Amazon Bedrock, Python 3.10 або новішу версію та дозволи AWS Identity and Access Management для bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream та bedrock:CreateInference.

Явне кешування підказок та інструменти розробника

За даними AWS, Kimi K3 є першою моделлю з відкритою вагою на Amazon Bedrock, що підтримує явне кешування підказок, орієнтоване на довготривалі робочі процеси програмування та знань, які багаторазово надсилають стабільний контекст, такий як інструкції репозиторію, визначення інструментів або довідкові документи. A prompt_cache_breakpoint маркер може позначати точний кінець повторно використовуваного префікса підказки після щонайменше 1 024 токенів. У явному режимі токени, записані в кеш, оплачуються за вищою ставкою, але залишаються в кеші щонайменше 30 хвилин. Подальші запити, що відповідають кешованому префіксу, оплачуються за зниженою вхідною ставкою і не враховуються у квотах вхідних токенів за хвилину.

Окрім прямого використання API, модель працює через інструменти, які підтримують Amazon Bedrock. AWS виділяє OpenCode — відкритий і нейтральний щодо моделей агент кодування з вбудованим провайдером amazon-bedrock, який використовує Converse API, та Hermes Agent — відкритий помічник підвищення продуктивності, що нативно підтримує моделі на Amazon Bedrock. AWS також опублікувала репозиторій зразків Moonshot AI on AWS на GitHub з додатковими прикладами.

Kimi K3 доступна через профілі інференції US Geo та Global cross-Region, повний список підтримуваних регіонів наведено в документації Bedrock.