AWS, Kimi K3.1 Pro Highspeed를 Amazon Bedrock에서 제공

Amazon Web Services는 2026년 11월 10일 Moonshot AI의 Kimi K3.1 Pro Highspeed를 Amazon Bedrock에서 제공하기 시작했습니다. 이 모델은 글로벌, 미국 및 인도 추론 프로필을 통해 100만 토큰 컨텍스트 윈도우를 제공합니다. Moonshot AI에 따르면 Highspeed 버전은 K3.1 Pro보다 출력 생성 속도가 2~3배 빠릅니다.

기반 모델은 이번 Bedrock 배포에 앞서 2026년 11월 4일에 출시됐습니다. K3.1 Pro는 Kimi K3를 후속 학습한 버전으로, 3T급 오픈 웨이트 아키텍처와 컨텍스트 윈도우를 유지하면서 후속 학습에 훨씬 더 많은 연산 자원을 사용합니다. Moonshot AI에 따르면 추가 학습은 장기간에 걸친 에이전트 작업 수행과 사실 오류 감소를 목표로 하며, 금융 모델링, 사무 문서 작성, 게임 엔진 및 3D 장면용 코딩, 컴퓨터 지원 설계 스크립트 작성 능력을 개선합니다.

에이전트 코딩에서는 파일 읽기, 변경 계획 수립, 코드 편집, 테스트 실행, 오류 수정에 이르기까지 하나의 작업에 여러 차례의 모델 호출이 순차적으로 필요할 수 있습니다. 출력 토큰 생성 속도가 빨라지면 각 단계에서 생성에 걸리는 시간을 줄일 수 있습니다. Bedrock에서 기존 Kimi K3를 사용하는 경우 모델 ID만 바꾸면 새 모델로 전환할 수 있으며, 새 모델은 동일한 엔드포인트와 API를 통해 도구 호출, 구조화된 출력, 조정 가능한 추론, 이미지 입력 및 스트리밍을 지원합니다. AWS는 Chat Completions와 Bedrock API 키로 연결한 오픈 소스 터미널 코딩 에이전트 OpenCode도 시연합니다.

액세스 및 데이터 거주 요건

개발자는 OpenAI 호환 Chat Completions 및 Responses API나 Bedrock의 Converse 및 Invoke API를 통해 모델을 호출할 수 있습니다. AWS는 Chat Completions 사용을 권장합니다. 글로벌 교차 리전 추론 프로필은 요청을 지원되는 모든 상용 AWS 리전으로 라우팅하는 반면, 미국 및 인도 프로필은 데이터 거주 요건에 따라 각각 해당 지역 내에서만 요청을 처리합니다. 인도 내 요청은 뭄바이와 하이데라바드 간에 라우팅됩니다.

AWS에 따르면 추론 데이터는 AWS 데이터 경계 내에 보관되며 Moonshot AI와 공유되지 않고 모델 학습에도 사용되지 않습니다. 추론 요청에는 항상 데이터 보존 제로 설정이 적용되며, AWS 운영자는 추론 중 프롬프트나 완성 결과를 볼 수 없습니다.

가격 및 비용 관리

스탠더드 등급 요금은 라우팅 프로필에 따라 달라집니다. 아래 모든 가격은 토큰 100만 개당 요금입니다.

Bedrock 가격 페이지에는 이전 모델인 Kimi K3의 글로벌 스탠더드 추론 요금이 입력 토큰 100만 개당 $3.00, 출력 토큰 100만 개당 $15.00으로 나와 있습니다. 따라서 새 모델은 입력 및 출력 요금이 더 높지만, 글로벌 캐시 읽기 요금은 토큰 100만 개당 $0.30인 K3보다 낮습니다.

Flex는 응답 시간이 더 길어질 수 있는 대신 스탠더드 요금의 절반으로 추론을 제공합니다. Priority는 요금에 75%의 할증이 붙습니다. 요청마다 등급을 선택할 수 있으므로 애플리케이션은 일반 트래픽에 스탠더드, 지연 시간이 중요한 호출에 Priority, 평가·요약 또는 백그라운드 에이전트 작업에 Flex를 사용할 수 있습니다.

명시적 프롬프트 캐싱은 시스템 지침, 도구 정의, 저장소 규칙처럼 반복되는 컨텍스트를 처리합니다. 각 캐시 경계점 앞에는 변경되지 않는 콘텐츠가 최소 256토큰 있어야 합니다. 이 기능은 Responses, Chat Completions 및 Invoke에서 작동하지만 Converse에서는 지원되지 않습니다. 캐시 읽기에는 할인 요금이 적용되며 분당 입력 토큰 할당량에 포함되지 않습니다. 반면 캐시 쓰기 비용은 일반 입력보다 높습니다.

추론 및 호환성 제한

모델 카드는 none, low, medium, high, xhigh, max의 추론 설정을 지원하며 기본값은 max입니다. none으로 설정하면 해당 요청에서 추론 기능이 꺼집니다. 추론 수준을 낮추면 작업 성능이 저하될 수 있지만 지연 시간과 토큰 소비량을 줄일 수 있으므로, 비용에 민감한 워크로드에서는 기본 설정을 신중히 고려해야 합니다.

Converse에는 명시적 캐싱을 지원하지 않는 것 외에도 추가 제약이 있습니다. 여러 차례 대화하는 요청에 이전 대화의 추론 내용이 포함되면 내부 서버 오류가 발생할 수 있으며, 기본 설정을 사용하는 LangChain 및 Strands Agents 같은 프레임워크에도 영향을 미칩니다. AWS는 Converse로 여러 차례 대화하는 요청을 보낼 때 이전 추론 블록을 제거할 것을 권장합니다. 또한 Converse는 첨부된 PDF 및 HTML 문서를 거부하며, Bedrock은 이 모델의 동영상 입력을 지원하지 않습니다.

출력 토큰 하나를 생성할 때마다 bedrock-runtime 엔드포인트에서 적용되는 계정 할당량의 토큰 10개를 소비합니다. 이는 토큰당 요금과는 별도로 고려해야 할 용량 요소입니다.

기존 K3 사용자는 코드 변경을 거의 하지 않고 전환할 수 있지만, 운영상 고려해야 할 점은 호환성에 그치지 않습니다. 순차적인 에이전트 작업을 더 빠르게 완료할 수 있다는 이점이 있는 반면, 입력 및 출력 요금 상승, 추론에 따른 토큰 사용량 증가, 할당량 소모가 단점으로 작용합니다. AWS가 이러한 요소의 균형을 조정할 수 있도록 제공하는 수단은 Flex, 캐싱 및 추론 수준 설정입니다.