AWS face disponibil Kimi K3.1 Pro Highspeed pe Amazon Bedrock

Amazon Web Services a făcut disponibil Kimi K3.1 Pro Highspeed de la Moonshot AI pe Amazon Bedrock la 10 noiembrie 2026, oferind o fereastră de context de 1 milion de tokenuri prin profiluri de inferență globale, pentru SUA și India. Moonshot AI afirmă că varianta Highspeed generează răspunsuri de două până la trei ori mai rapid decât K3.1 Pro.

Modelul de bază a fost lansat la 4 noiembrie 2026, înainte de implementarea sa pe Bedrock. K3.1 Pro este o versiune a Kimi K3 antrenată suplimentar, care păstrează arhitectura cu ponderi deschise din clasa 3T și fereastra de context, dar folosește mult mai multe resurse de calcul pentru etapa de antrenare suplimentară. Moonshot AI afirmă că antrenarea suplimentară vizează activități agentice de lungă durată și reducerea erorilor factuale, aducând îmbunătățiri în modelarea financiară, lucrul cu documente de birou și programarea pentru motoare de jocuri, scene 3D și scripturi de proiectare asistată de calculator.

În programarea agentică, o singură sarcină poate necesita numeroase apeluri succesive ale modelului: citirea fișierelor, planificarea unei modificări, editarea codului, rularea testelor și remedierea erorilor. O rată mai mare de generare a tokenurilor de ieșire poate scurta etapa de generare din fiecare pas. Implementările existente ale Kimi K3 pe Bedrock pot fi înlocuite prin schimbarea ID-ului modelului, iar noul model acceptă apelarea instrumentelor, ieșiri structurate, raționament configurabil, intrări de imagine și transmitere în flux prin același punct final și aceleași API-uri. AWS prezintă, de asemenea, OpenCode, un agent de programare în terminal cu sursă deschisă, conectat prin Chat Completions și o cheie API Bedrock.

Acces și rezidența datelor

Dezvoltatorii pot apela modelul prin API-urile Chat Completions și Responses, compatibile cu OpenAI, sau prin API-urile Converse și Invoke ale Bedrock. AWS recomandă Chat Completions. Profilul global de inferență interregională direcționează solicitările către orice regiune AWS comercială acceptată, în timp ce profilurile pentru SUA și India limitează direcționarea la zonele geografice respective, pentru a respecta cerințele privind rezidența datelor. Solicitările din India sunt direcționate între Mumbai și Hyderabad.

AWS afirmă că datele de inferență rămân în perimetrul de securitate al datelor AWS, nu sunt partajate cu Moonshot AI și nu sunt folosite pentru antrenarea modelului. Păstrarea zero a datelor este activată permanent pentru solicitările de inferență, iar operatorii AWS nu pot vedea prompturile sau răspunsurile generate în timpul inferenței.

Prețuri și controlul costurilor

Tarifele pentru nivelul Standard depind de profilul de direcționare. Toate prețurile de mai jos sunt per 1 milion de tokenuri:

Pe pagina de prețuri Bedrock, modelul Kimi K3 anterior este listat la 3,00 $ per milion de tokenuri de intrare și 15,00 $ per milion de tokenuri de ieșire pentru inferența Global Standard. Prin urmare, noul model are tarife mai mari pentru intrare și ieșire, deși tariful global pentru citirea din memoria cache este mai mic decât cel al K3: 0,30 $ per milion de tokenuri.

Flex oferă inferență la jumătate din tariful Standard, în schimbul unor timpi de răspuns potențial mai lungi, în timp ce Priority implică un cost suplimentar de 75%. Nivelul poate fi ales pentru fiecare solicitare, astfel încât o aplicație poate folosi Standard pentru traficul obișnuit, Priority pentru apelurile în care latența este esențială și Flex pentru evaluări, rezumare sau activități agentice în fundal.

Memorarea explicită în cache a prompturilor este destinată contextului repetat, precum instrucțiunile de sistem, definițiile instrumentelor și convențiile depozitului de cod. Fiecare punct de întrerupere trebuie să urmeze după cel puțin 256 de tokenuri de conținut stabil. Funcția este disponibilă prin Responses, Chat Completions și Invoke, dar nu și prin Converse. Citirile din memoria cache au un tarif redus și nu se pun la socoteală în limita de tokenuri de intrare pe minut, în timp ce scrierile costă mai mult decât intrarea standard.

Limite privind raționamentul și compatibilitatea

Fișa modelului oferă setările de raționament none, low, medium, high, xhigh și max, ultima fiind setarea implicită. Alegerea opțiunii none dezactivează raționamentul pentru o solicitare. Un nivel mai redus de efort poate diminua latența și consumul de tokenuri, în detrimentul performanței sarcinii, ceea ce face ca setarea implicită să fie importantă pentru volumele de lucru sensibile la costuri.

Converse are și alte limitări, pe lângă lipsa memorării explicite în cache. Poate apărea o eroare internă de server dacă într-o solicitare cu mai multe mesaje sunt incluse informații despre raționamentul din schimburile anterioare; acest lucru afectează cadre de lucru precum LangChain și Strands Agents în configurațiile lor implicite. AWS recomandă eliminarea blocurilor de raționament anterioare din solicitările Converse cu mai multe mesaje. De asemenea, Converse respinge documentele PDF și HTML atașate, iar Bedrock nu acceptă intrări video pentru acest model.

Fiecare token de ieșire consumă, de asemenea, 10 tokenuri din cota aplicabilă a contului pentru punctul final bedrock-runtime; aceasta este o limitare de capacitate distinctă de costul per token.

Pentru utilizatorii actuali ai K3, trecerea la noul model necesită puține modificări de cod, însă compromisurile operaționale depășesc aspectele de compatibilitate. Câștigul potențial constă în finalizarea mai rapidă a activităților agentice secvențiale; factorii care contrabalansează acest avantaj sunt prețurile mai mari pentru intrare și ieșire, consumul de tokenuri determinat de raționament și utilizarea cotei. Flex, memorarea în cache și setările nivelului de efort sunt instrumentele oferite de AWS pentru a echilibra aceste cerințe.