Modelos e plataformas de IA
AWS disponibiliza Kimi K3.1 Pro Highspeed no Amazon Bedrock
Adicione Unite.AI às suas fontes preferidas no Google
Amazon Web Services disponibilizou o Kimi K3.1 Pro Highspeed, da Moonshot AI, no Amazon Bedrock em 10 de novembro de 2026, oferecendo uma janela de contexto de 1 milhão de tokens por meio de perfis de inferência global, dos EUA e da Índia. A Moonshot AI informa que a variante Highspeed gera respostas de duas a três vezes mais rápido que o K3.1 Pro.
O modelo subjacente foi lançado em 4 de novembro de 2026, antes de ser implantado no Bedrock. O K3.1 Pro é uma versão do Kimi K3 submetida a pós-treinamento, que mantém a arquitetura de pesos abertos da classe 3T e a janela de contexto, mas utiliza muito mais recursos computacionais no pós-treinamento. A Moonshot AI afirma que o treinamento adicional visa a tarefas agênticas de longo prazo e à redução de erros factuais, com melhorias em modelagem financeira, documentos de escritório e programação para mecanismos de jogos, cenas 3D e scripts de desenho assistido por computador.
Na programação agêntica, uma única tarefa pode exigir muitas chamadas sequenciais ao modelo: ler arquivos, planejar uma alteração, editar código, executar testes e corrigir falhas. Uma taxa maior de geração de tokens de saída pode reduzir o tempo de geração em cada etapa. Implementações existentes do Kimi K3 no Bedrock podem ser substituídas alterando o ID do modelo, enquanto o novo modelo oferece suporte à chamada de ferramentas, à saída estruturada, ao raciocínio configurável, à entrada de imagens e à transmissão contínua pelo mesmo endpoint e pelas mesmas APIs. A AWS também demonstra o OpenCode, um agente de programação de código aberto para terminal, conectado por meio do Chat Completions e de uma chave de API do Bedrock.
Acesso e residência de dados
Os desenvolvedores podem chamar o modelo pelas APIs Chat Completions e Responses, compatíveis com a OpenAI, ou pelas APIs Converse e Invoke do Bedrock. A AWS recomenda o Chat Completions. O perfil de inferência global entre regiões encaminha solicitações para qualquer região comercial compatível da AWS, enquanto os perfis dos EUA e da Índia restringem o encaminhamento às respectivas áreas geográficas para atender aos requisitos de residência de dados. As solicitações da Índia são encaminhadas entre Mumbai e Hyderabad.
A AWS afirma que os dados de inferência permanecem dentro do perímetro de dados da AWS, não são compartilhados com a Moonshot AI e não são usados para treinar o modelo. A retenção zero de dados está sempre ativada para solicitações de inferência, e os operadores da AWS não podem visualizar os prompts nem as respostas durante a inferência.
Preços e controle de custos
As tarifas do nível Standard variam conforme o perfil de encaminhamento. Todos os preços abaixo são por 1 milhão de tokens:
| Perfil de inferência | Entrada | Saída | Leitura do cache | Gravação no cache (30 minutos) |
|---|---|---|---|---|
| Global entre regiões | $4.00 | $20.00 | $0.20 | $5.00 |
| EUA entre regiões | $4.40 | $22.00 | $0.22 | $5.50 |
| Índia entre regiões | $4.40 | $22.00 | $0.22 | $5.50 |
Na página de preços do Bedrock, o Kimi K3 anterior está listado a US$ 3,00 por milhão de tokens de entrada e US$ 15,00 por milhão de tokens de saída para inferência Global Standard. Portanto, o novo modelo tem tarifas mais altas para entrada e saída, embora sua tarifa global de leitura do cache seja inferior aos US$ 0,30 por milhão de tokens do K3.
O Flex oferece inferência pela metade da tarifa do Standard, em troca de tempos de resposta potencialmente mais longos, enquanto o Priority tem um adicional de 75%. É possível selecionar o nível em cada solicitação, permitindo que uma aplicação use o Standard para o tráfego habitual, o Priority para chamadas sensíveis à latência e o Flex para avaliações, resumos ou tarefas agênticas em segundo plano.
O armazenamento em cache explícito de prompts atende a contextos repetidos, como instruções do sistema, definições de ferramentas e convenções de repositórios. Cada ponto de interrupção deve vir após pelo menos 256 tokens de conteúdo estável. O recurso funciona com Responses, Chat Completions e Invoke, mas não com Converse. As leituras do cache têm desconto e não contam para a cota de tokens de entrada por minuto, enquanto as gravações custam mais do que a entrada padrão.
Limites de raciocínio e compatibilidade
O cartão do modelo oferece as configurações de raciocínio none, low, medium, high, xhigh e max, sendo max a opção padrão. Definir none desativa o raciocínio em uma solicitação. Um nível de esforço menor pode reduzir a latência e o consumo de tokens, mas comprometer o desempenho na tarefa; por isso, a configuração padrão é uma consideração importante para cargas de trabalho sensíveis a custos.
O Converse tem outras restrições, além de não oferecer cache explícito. Ele pode retornar um erro interno do servidor quando o conteúdo de raciocínio de turnos anteriores é incluído em uma solicitação com várias interações, o que afeta frameworks como LangChain e Strands Agents em suas configurações padrão. A AWS recomenda remover os blocos de raciocínio anteriores nas solicitações Converse com várias interações. O Converse também rejeita documentos PDF e HTML anexados, e o Bedrock não oferece suporte a entradas de vídeo para este modelo.
Cada token de saída também consome 10 tokens da cota aplicável à conta no endpoint bedrock-runtime, uma consideração de capacidade distinta da cobrança por token.
Para quem já usa o K3, a mudança exige poucas alterações no código, mas a contrapartida operacional vai além da compatibilidade. O benefício potencial é concluir mais rapidamente tarefas agênticas sequenciais; em contrapartida, há preços mais altos para entrada e saída, consumo de tokens associado ao raciocínio e uso da cota. O Flex, o cache e as configurações de esforço são os recursos oferecidos pela AWS para equilibrar essas exigências.
