Kimi K3 de la Moonshot AI sosește pe Amazon Bedrock cu context de 1 M de tokeni

Kimi K3 de la Moonshot AI, un model cu greutate deschisă pe care dezvoltatorul său îl descrie ca fiind primul model deschis care atinge 2,8 trilioane de parametri, a devenit disponibil pe Amazon Bedrock pe 18 septembrie 2026, adăugând o nouă opțiune pentru programare și lucru cu cunoștințe.

Amazon Web Services a anunțat lansarea pe AWS Machine Learning Blog. Conform Moonshot AI, Kimi K3 este cel mai capabil model al său, combinând capabilități native de vedere cu o fereastră de context de 1 milion de tokeni și oferind o îmbunătățire aproximativă de 2,5 ori a eficienței de scalare față de Kimi K2.

În postul tehnic Kimi K3 al Moonshot AI, compania afirmă că modelul este construit pe două actualizări arhitecturale pe care le numește Kimi Delta Attention și Attention Residuals, concepute pentru a îmbunătăți fluxul informațiilor pe lungimea secvenței și adâncimea modelului. Kimi K3 folosește un design de tip mixture‑of‑experts pe care compania îl numește Stable LatentMoE, activând efectiv 16 din 896 de experți, și aplică antrenament conștient de cuantizare de la etapa de fine‑tuning supravegheată încolo, utilizând greutăți MXFP4 cu activări MXFP8. Compania atribuie câștigul de aproximativ 2,5 ori în eficiența de scalare față de modelul său anterior acestor modificări structurale, împreună cu un antrenament și rețete de date rafinate.

Moonshot AI afirmă că performanța generală a lui Kimi K3 rămâne în urma modelelor proprietare Claude Fable 5 și GPT 5.6 Sol, în timp ce raportează că Kimi K3 a livrat rezultate de nivel frontieră în cadrul suitei sale de evaluare și a depășit constant alte modele testate. Compania enumeră, de asemenea, limitări: modelul a fost antrenat într-un mod de istoric de gândire păstrat, astfel încât calitatea generării poate deveni instabilă dacă un agent nu reușește să transmită înapoi conținutul istoric de gândire, iar accentul său pe sarcini pe termen lung poate determina luarea de decizii neașteptate în numele utilizatorului când instrucțiunile sunt ambigue, ceea ce compania spune că ar putea necesita constrângeri comportamentale mai explicite în promptul de sistem.

Moonshot AI a prezentat inițial Kimi K3 în iulie 2026, afirmând atunci că greutățile complete ale modelului vor fi lansate până pe 27 iulie 2026. La acea prezentare, modelul a fost oferit prin canalele proprii ale Moonshot AI: aplicația Kimi, aplicația desktop Kimi Work, instrumentul terminal Kimi Code și API‑ul Kimi.

Modele cu greutate deschisă și gestionarea datelor pe Amazon Bedrock

AWS a declarat că lansarea reflectă o investiție susținută în modele cu greutate deschisă pe serviciu. Din 2025, Bedrock a adăugat zeci de modele cu greutate deschisă de la furnizori precum DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI și Qwen. În 2026, Bedrock a adăugat suport pentru apelarea de instrumente, ieșire structurată, raționament, streaming de răspunsuri și API‑urile Responses și Chat Completions ca funcționalități ale platformei, în loc de integrări per model, astfel încât noile modele cu greutate deschisă le pot folosi pe măsură ce devin disponibile.

AWS afirmă că, la fel ca toate modelele cu greutate deschisă pe Amazon Bedrock, datele clienților sunt procesate în interiorul limitei de date AWS, nu sunt partajate cu furnizorul modelului și nu sunt utilizate pentru antrenarea modelului de bază. Retenția zero a datelor este întotdeauna activată pentru cererile de inferență, iar accesul zero al operatorilor împiedică operatorii AWS să acceseze solicitările și completările în timpul inferenței.

documentația Amazon Bedrock enumeră Kimi K3 ca unul dintre cele trei modele Moonshot AI din serviciu, alături de Kimi K2.5, un model multimodal cu raționament, programare și capabilități multilingve îmbunătățite, și Kimi K2 Thinking, un model de raționament cu capacități de lanț de gândire pentru rezolvarea de probleme complexe în matematică, programare și logică.

Acces la consolă, API‑uri și profiluri de inferență

Utilizatorii pot încerca Kimi K3 în consola Amazon Bedrock, în secțiunea Testare > Spațiu de joacă, sau îl pot apela programatic prin punctul final bedrock-runtime. Punctul final acceptă API-urile Responses și Chat Completions compatibile cu OpenAI, precum și API-urile Amazon Bedrock Invoke și Converse.

Modelul este invocat prin profiluri de inferență cross‑Region. Pentru sarcini fără restricții regionale, AWS recomandă profilul global, global.moonshotai.kimi-k3, care direcționează fiecare cerere către orice regiune comercială AWS suportată la nivel mondial și, conform AWS, costă aproximativ cu 10 % mai puțin decât un profil geografic. Profilul geografic US, us.moonshotai.kimi-k3, menține procesarea în interiorul geografiei SUA pentru cerințele de rezidență a datelor.

Precondițiile enumerate de AWS includ un cont AWS activ cu acces la Amazon Bedrock, Python 3.10 sau o versiune ulterioară și permisiuni AWS Identity and Access Management pentru bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream și bedrock:CreateInference.

Caching explicit al prompturilor și instrumente pentru dezvoltatori

Conform AWS, Kimi K3 este primul model cu greutate deschisă pe Amazon Bedrock care suportă caching explicit al prompturilor, vizat pentru fluxuri de lucru de programare și cunoaștere pe termen lung care retransmit în mod repetat context stabil, cum ar fi instrucțiuni de depozit, definiții de instrumente sau documente de referință. Un prompt_cache_breakpoint markerul poate desemna sfârșitul exact al unui prefix de prompt reutilizabil după cel puțin 1.024 de tokeni. În modul explicit, tokenii scriși în cache sunt facturați la o rată mai mare, dar sunt păstrați în cache pentru cel puțin 30 de minute. Cererile ulterioare care corespund unui prefix în cache sunt facturate la o rată de intrare redusă și nu contează la cotele de tokeni de intrare pe minut.

Dincolo de utilizarea directă a API-ului, modelul funcționează prin instrumente care suportă Amazon Bedrock. AWS evidențiază OpenCode, un agent de codare open-source și independent de model, cu un furnizor nativ amazon-bedrock care folosește API-ul Converse, și Hermes Agent, un asistent de productivitate open-source care suportă în mod nativ modelele pe Amazon Bedrock. AWS a publicat, de asemenea, un depozit de mostre Moonshot AI on AWS pe GitHub cu exemple suplimentare.

Kimi K3 este disponibil prin profilurile de inferență US Geo și Global cross-Region, cu lista completă a regiunilor suportate în documentația Bedrock.