AWS ofrece Kimi K3.1 Pro Highspeed en Amazon Bedrock

Amazon Web Services puso Kimi K3.1 Pro Highspeed, de Moonshot AI, a disposición en Amazon Bedrock el 10 de noviembre de 2026, con una ventana de contexto de 1 millón de tokens a través de perfiles de inferencia globales, de EE. UU. y de India. Moonshot AI informa que la variante Highspeed genera respuestas entre dos y tres veces más rápido que K3.1 Pro.

El modelo subyacente se lanzó el 4 de noviembre de 2026, antes de su implementación en Bedrock. K3.1 Pro es una versión de Kimi K3 con entrenamiento posterior que conserva la arquitectura de pesos abiertos de clase 3T y la ventana de contexto, pero utiliza muchos más recursos de computación para el entrenamiento posterior. Moonshot AI afirma que el entrenamiento adicional está orientado a tareas agénticas de largo horizonte y a reducir los errores fácticos, con mejoras en la modelización financiera, los documentos de oficina y la programación para motores de videojuegos, escenas 3D y scripts de diseño asistido por computadora.

En la programación agéntica, una sola tarea puede requerir muchas llamadas secuenciales al modelo: leer archivos, planificar un cambio, editar código, ejecutar pruebas y corregir fallos. Una mayor velocidad de generación de tokens de salida puede acortar la parte de generación de cada paso. Las implementaciones existentes de Kimi K3 en Bedrock pueden cambiarse modificando el ID del modelo, mientras que el nuevo modelo admite llamadas a herramientas, salida estructurada, razonamiento configurable, entrada de imágenes y transmisión en continuo a través del mismo punto de conexión y las mismas API. AWS también muestra OpenCode, un agente de programación de código abierto que funciona en la terminal y se conecta mediante Chat Completions y una clave de API de Bedrock.

Acceso y residencia de los datos

Los desarrolladores pueden llamar al modelo mediante las API Chat Completions y Responses, compatibles con OpenAI, o las API Converse e Invoke de Bedrock. AWS recomienda Chat Completions. El perfil de inferencia global entre regiones dirige las solicitudes a cualquier región comercial de AWS compatible, mientras que los perfiles de EE. UU. e India limitan el enrutamiento a sus respectivas zonas geográficas para cumplir los requisitos de residencia de los datos. Las solicitudes de India se enrutan entre Mumbai e Hyderabad.

AWS afirma que los datos de inferencia permanecen dentro del perímetro de datos de AWS, no se comparten con Moonshot AI y no se utilizan para entrenar el modelo. La retención cero de datos está siempre habilitada para las solicitudes de inferencia, y los operadores de AWS no pueden ver las instrucciones ni las respuestas durante la inferencia.

Precios y controles de costos

Las tarifas del nivel Standard dependen del perfil de enrutamiento. Todos los precios que aparecen a continuación son por cada millón de tokens:

En la página de precios de Bedrock, Kimi K3, el modelo anterior, figura a $3.00 por millón de tokens de entrada y $15.00 por millón de tokens de salida para la inferencia Global Standard. Por tanto, el nuevo modelo tiene tarifas más altas para la entrada y la salida, aunque su tarifa global de lectura de caché es inferior a los $0.30 por millón de tokens de K3.

Flex ofrece inferencia a la mitad de la tarifa Standard, a cambio de posibles tiempos de respuesta más largos, mientras que Priority aplica un recargo del 75%. El nivel se puede seleccionar para cada solicitud, por lo que una aplicación puede usar Standard para el tráfico habitual, Priority para las llamadas en las que la latencia es crítica y Flex para evaluaciones, resúmenes o tareas agénticas en segundo plano.

El almacenamiento explícito en caché de instrucciones aborda contextos repetidos, como las instrucciones del sistema, las definiciones de herramientas y las convenciones del repositorio. Cada punto de separación debe aparecer después de al menos 256 tokens de contenido estable. La función está disponible en Responses, Chat Completions e Invoke, pero no en Converse. Las lecturas de caché tienen un precio reducido y no cuentan para la cuota de tokens de entrada por minuto, mientras que las escrituras cuestan más que la entrada estándar.

Límites de razonamiento y compatibilidad

La ficha del modelo admite los ajustes de razonamiento none, low, medium, high, xhigh y max; max se utiliza de forma predeterminada. El ajuste none desactiva el razonamiento para una solicitud. Un nivel de esfuerzo menor puede reducir la latencia y el consumo de tokens, a cambio del rendimiento de la tarea, por lo que el valor predeterminado es una consideración importante para las cargas de trabajo sensibles a los costos.

Converse tiene otras limitaciones, además de no contar con almacenamiento explícito en caché. Puede producir un error interno del servidor cuando se incluye contenido de razonamiento de turnos anteriores en una solicitud de varios turnos, lo que afecta a marcos de trabajo como LangChain y Strands Agents con sus configuraciones predeterminadas. AWS recomienda eliminar los bloques de razonamiento anteriores en las solicitudes de Converse de varios turnos. Converse también rechaza los documentos PDF y HTML adjuntos, y Bedrock no admite entradas de video para este modelo.

Cada token de salida también consume 10 tokens de la cuota aplicable de la cuenta en el punto de conexión bedrock-runtime, un factor de capacidad independiente del costo por token.

Para quienes ya utilizan K3, cambiar de modelo requiere pocas modificaciones en el código, pero las contrapartidas operativas van más allá de la compatibilidad. La posible ventaja es completar más rápido las tareas agénticas secuenciales; entre los factores que la contrarrestan están los precios más altos de entrada y salida, el uso de tokens asociado al razonamiento y el consumo de la cuota. Flex, el almacenamiento en caché y los ajustes de esfuerzo son los controles que ofrece AWS para equilibrar esas exigencias.