Моделі та платформи ШІ
AWS зробила Kimi K3.1 Pro Highspeed доступною на Amazon Bedrock
Додайте Unite.AI до бажаних джерел у Google
Amazon Web Services зробила Kimi K3.1 Pro Highspeed від Moonshot AI доступною на Amazon Bedrock 10 листопада 2026 року, запропонувавши контекстне вікно на 1 мільйон токенів через глобальний профіль інференсу, а також профілі для США та Індії. За даними Moonshot AI, варіант Highspeed генерує вихідні дані у два-три рази швидше за K3.1 Pro.
Базову модель було запущено 4 листопада 2026 року, ще до її розгортання на Bedrock. K3.1 Pro — це версія Kimi K3, додатково навчена після попереднього тренування. Вона зберігає архітектуру з відкритими вагами класу 3T і контекстне вікно, але для її подальшого навчання використали значно більше обчислювальних ресурсів. Moonshot AI повідомляє, що додаткове навчання спрямоване на виконання агентних завдань із довгим горизонтом планування та зменшення кількості фактичних помилок, а також покращує фінансове моделювання, роботу з офісними документами й програмування для ігрових рушіїв, 3D-сцен і сценаріїв систем автоматизованого проєктування.
Під час агентного програмування одне завдання може вимагати багатьох послідовних викликів моделі: читання файлів, планування змін, редагування коду, запуску тестів і виправлення помилок. Вища швидкість генерації вихідних токенів може скоротити час генерації на кожному кроці. Щоб перейти на нову модель у наявних реалізаціях Kimi K3 на Bedrock, достатньо змінити ідентифікатор моделі. Нова модель також підтримує виклики інструментів, структурований вивід, налаштовуваний рівень міркування, введення зображень і потокову передачу даних через ту саму кінцеву точку й API. AWS також демонструє OpenCode — термінальний агент для програмування з відкритим кодом, під’єднаний через Chat Completions за допомогою ключа API Bedrock.
Доступ і локалізація даних
Розробники можуть викликати модель через API Chat Completions і Responses, сумісні з OpenAI, або через API Converse та Invoke від Bedrock. AWS рекомендує використовувати Chat Completions. Глобальний міжрегіональний профіль інференсу спрямовує запити до будь-якого підтримуваного комерційного регіону AWS, тоді як профілі для США та Індії обмежують маршрутизацію відповідними географічними регіонами з огляду на вимоги до локалізації даних. Запити з Індії спрямовуються між Мумбаї та Гайдарабадом.
За словами AWS, дані інференсу залишаються в межах AWS, не передаються Moonshot AI і не використовуються для навчання моделі. Для запитів інференсу завжди ввімкнено режим нульового зберігання даних, а оператори AWS не можуть переглядати запити чи відповіді під час інференсу.
Ціни та контроль витрат
Тарифи стандартного рівня залежать від профілю маршрутизації. Усі наведені нижче ціни вказано за 1 мільйон токенів:
| Профіль інференсу | Вхідні токени | Вихідні токени | Зчитування з кешу | Запис у кеш (30 хвилин) |
|---|---|---|---|---|
| Глобальний міжрегіональний | $4.00 | $20.00 | $0.20 | $5.00 |
| Міжрегіональний для США | $4.40 | $22.00 | $0.22 | $5.50 |
| Міжрегіональний для Індії | $4.40 | $22.00 | $0.22 | $5.50 |
На сторінці з цінами Bedrock попередню модель Kimi K3 зазначено за ціною $3.00 за мільйон вхідних токенів і $15.00 за мільйон вихідних токенів для інференсу Global Standard. Отже, тарифи на вхідні й вихідні токени нової моделі вищі, хоча глобальний тариф на зчитування з кешу нижчий, ніж у K3: $0.30 за мільйон токенів.
Режим Flex пропонує інференс за половину стандартного тарифу, але час відповіді потенційно може бути довшим, тоді як режим Priority передбачає надбавку 75%. Рівень можна вибирати для кожного запиту, тож застосунок може використовувати Standard для звичайного трафіку, Priority — для викликів, критичних до затримки, а Flex — для оцінювання, узагальнення або фонової роботи агентів.
Явне кешування запитів допомагає повторно використовувати контекст, наприклад системні інструкції, визначення інструментів і правила роботи з репозиторієм. Кожна точка розриву має йти після щонайменше 256 токенів стабільного вмісту. Функція працює з Responses, Chat Completions та Invoke, але не з Converse. Зчитування з кешу тарифікується зі знижкою і не враховується в квоті на вхідні токени за хвилину, тоді як запис коштує дорожче, ніж стандартна обробка вхідних токенів.
Обмеження міркування та сумісності
У картці моделі зазначено такі налаштування міркування: none, low, medium, high, xhigh і max; за замовчуванням використовується max. Налаштування none вимикає міркування для запиту. Нижчий рівень зусиль може зменшити затримку й споживання токенів, але погіршити виконання завдання, тому налаштування за замовчуванням важливо враховувати для завдань, чутливих до витрат.
У Converse є й інші обмеження, окрім відсутності явного кешування. Під час багатоетапного запиту може статися внутрішня помилка сервера, якщо до нього включено дані міркування з попередніх ходів. Це впливає на такі фреймворки, як LangChain і Strands Agents, у конфігураціях за замовчуванням. Для багатоетапних запитів Converse AWS рекомендує вилучати попередні блоки міркувань. Converse також відхиляє прикріплені документи PDF і HTML, а Bedrock не підтримує відеовхід для цієї моделі.
Кожен вихідний токен також витрачає 10 токенів із відповідної квоти облікового запису на кінцевій точці bedrock-runtime — це окремий від плати за токени чинник, пов’язаний із пропускною здатністю.
Для тих, хто вже використовує K3, перехід потребує мінімальних змін у коді, але компроміс між перевагами й витратами виходить за межі сумісності. Потенційна вигода — швидше виконання послідовних агентних завдань; натомість зростають ціни на вхідні й вихідні токени, витрати токенів через міркування та споживання квоти. AWS пропонує режими Flex і кешування, а також налаштування рівня зусиль, щоб збалансувати ці вимоги.
