Kimi K3 de la Moonshot AI sosește pe Amazon Bedrock cu context de 1 M de tokeni

Kimi K3 de la Moonshot AI, un model cu greutate deschisă pe care dezvoltatorul său îl descrie ca fiind primul model deschis care atinge 2,8 trilioane de parametri, a devenit disponibil pe Amazon Bedrock pe 18 septembrie 2026, adăugând o nouă opțiune pentru programare și muncă de cunoaștere.

Amazon Web Services a anunțat lansarea pe AWS Machine Learning Blog. Conform Moonshot AI, Kimi K3 este cel mai capabil model al său, combinând capabilități native de viziune cu o fereastră de context de 1 milion de tokeni și oferind o îmbunătățire aproximativă de 2,5 ori a eficienței de scalare față de Kimi K2.

În articolul tehnic despre Kimi K3 al Moonshot AI, compania afirmă că modelul este construit pe două actualizări arhitecturale pe care le numește Kimi Delta Attention și Attention Residuals, concepute pentru a îmbunătăți fluxul informației pe parcursul lungimii secvenței și adâncimii modelului. Kimi K3 folosește un design de tip mixture‑of‑experts pe care compania îl numește Stable LatentMoE, activând efectiv 16 din 896 de experți, și aplică antrenament conștient de cuantizare de la etapa de fine‑tuning supravegheat încolo, utilizând greutăți MXFP4 cu activări MXFP8. Compania atribuie câștigul de aproximativ 2,5 ori în eficiența de scalare față de modelul său anterior acestor modificări structurale, împreună cu un antrenament și rețete de date rafinate.

Moonshot AI afirmă că performanța globală a lui Kimi K3 rămâne în urma modelelor proprietare Claude Fable 5 și GPT 5.6 Sol, deși raportează că Kimi K3 a livrat rezultate la nivel de frontieră în cadrul suitei sale de evaluare și a depășit constant alte modele testate. Compania enumeră, de asemenea, limitări: modelul a fost antrenat în modul de istoric de gândire păstrat, astfel încât calitatea generării poate deveni instabilă dacă un agent nu reușește să retransmită conținutul istoric de gândire, iar accentul său pe sarcini pe termen lung poate duce la luarea de decizii neașteptate în numele utilizatorului când instrucțiunile sunt ambigue, ceea ce compania spune că ar putea necesita constrângeri comportamentale mai explicite în promptul sistemului.

Moonshot AI a prezentat inițial Kimi K3 în iulie 2026, afirmând atunci că greutățile complete ale modelului vor fi lansate până pe 27 iulie 2026. La acea prezentare, modelul a fost oferit prin canalele proprii ale Moonshot AI: aplicația Kimi, aplicația desktop Kimi Work, instrumentul terminal Kimi Code și API‑ul Kimi.

Modele cu greutate deschisă și gestionarea datelor pe Amazon Bedrock

AWS a declarat că lansarea reflectă o investiție susținută în modele cu greutate deschisă pe serviciu. Din 2025, Bedrock a adăugat zeci de modele cu greutate deschisă de la furnizori precum DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI și Qwen. În 2026, Bedrock a adăugat suport pentru apelarea de instrumente, ieșire structurată, raționament, streaming de răspunsuri și API‑urile Responses și Chat Completions ca funcționalități ale platformei, în loc de integrări pe fiecare model, astfel încât noile modele cu greutate deschisă le pot utiliza pe măsură ce devin disponibile.

AWS afirmă că, la fel ca toate modelele cu greutate deschisă pe Amazon Bedrock, datele clienților sunt procesate în interiorul limitelor de date AWS, nu sunt partajate cu furnizorul modelului și nu sunt utilizate pentru antrenarea modelului de bază. Reținerea zero a datelor este întotdeauna activată pentru cererile de inferență, iar accesul zero al operatorilor împiedică operatorii AWS să acceseze prompturile și completările în timpul inferenței.

Documentația Amazon Bedrock enumeră Kimi K3 ca unul dintre cele trei modele Moonshot AI din serviciu, alături de Kimi K2.5, un model multimodal cu capacități îmbunătățite de raționament, programare și multilingvism, și Kimi K2 Thinking, un model de raționament cu capabilități de lanț de gândire pentru rezolvarea de probleme complexe în matematică, programare și logică.

Acces la consolă, API‑uri și profiluri de inferență

Utilizatorii pot încerca Kimi K3 în consola Amazon Bedrock, la Test > Playground, sau îl pot apela programatic prin endpointul bedrock-runtime. Endpointul acceptă API‑urile Responses și Chat Completions compatibile cu OpenAI, precum și API‑urile Invoke și Converse ale Amazon Bedrock.

Modelul este invocat prin profiluri de inferență cross‑Region. Pentru sarcini fără restricții regionale, AWS recomandă profilul global, global.moonshotai.kimi-k3, care direcționează fiecare cerere către orice regiune comercială AWS suportată la nivel mondial și, conform AWS, costă aproximativ cu 10 % mai puțin decât un profil geografic. Profilul geografic al SUA, us.moonshotai.kimi-k3, menține procesarea în interiorul geografiei SUA pentru cerințele de rezidență a datelor.

Cerințele prealabile enumerate de AWS includ un cont AWS activ cu acces la Amazon Bedrock, Python 3.10 sau o versiune ulterioară și permisiuni AWS Identity and Access Management pentru bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream și bedrock:CreateInference.

Cache explicit al prompt‑urilor și instrumente pentru dezvoltatori

Conform AWS, Kimi K3 este primul model cu greutate deschisă pe Amazon Bedrock care suportă cache explicit al prompt‑urilor, vizat pentru fluxuri de lucru de programare și cunoaștere de lungă durată care retrimit în mod repetat context stabil, cum ar fi instrucțiuni de depozit, definiții de instrumente sau documente de referință. Un marker de punct de întrerupere a prompt‑cache poate desemna sfârșitul exact al unui prefix de prompt reutilizabil după cel puțin 1.024 de tokeni. În modul explicit, tokenii scriși în cache sunt taxați la o rată mai mare, dar sunt păstrați în cache cel puțin 30 de minute. Cererile ulterioare care corespund unui prefix cache‑at sunt taxate la o rată de intrare redusă și nu contează în cotele de tokeni‑intrare‑pe‑minut.

Dincolo de utilizarea directă a API-ului, modelul funcționează prin instrumente care suportă Amazon Bedrock. AWS evidențiază OpenCode, un agent de codare open-source și independent de model, cu un furnizor nativ amazon-bedrock care folosește API-ul Converse, și Hermes Agent, un asistent de productivitate open-source care suportă în mod nativ modelele pe Amazon Bedrock. AWS a publicat, de asemenea, un depozit de mostre Moonshot AI on AWS pe GitHub cu exemple suplimentare.

Kimi K3 este disponibil prin profilurile de inferență US Geo și Global cross-Region, cu lista completă a regiunilor suportate în documentația Bedrock.