Kimi K3 dari Moonshot AI Hadir di Amazon Bedrock dengan Konteks 1 Juta Token

Kimi K3 dari Moonshot AI, sebuah model berbobot terbuka yang dikatakan pengembangnya sebagai model terbuka pertama yang mencapai 2,8 triliun parameter, tersedia di Amazon Bedrock pada 18 September 2026, menambahkan opsi baru untuk pemrograman dan pekerjaan pengetahuan.

Amazon Web Services mengumumkan peluncuran pada AWS Machine Learning Blog. Menurut Moonshot AI, Kimi K3 adalah model paling canggih mereka, menggabungkan kemampuan visi asli dengan jendela konteks satu juta token dan memberikan peningkatan kira-kira 2,5 kali dalam efisiensi skala dibandingkan Kimi K2.

Dalam posting teknis Kimi K3, Moonshot AI menyatakan bahwa model ini dibangun di atas dua pembaruan arsitektur yang mereka sebut Kimi Delta Attention dan Attention Residuals, dirancang untuk meningkatkan aliran informasi sepanjang panjang urutan dan kedalaman model. Kimi K3 menggunakan desain mixture-of-experts yang disebut Stable LatentMoE, secara efektif mengaktifkan 16 dari 896 ahli, dan menerapkan pelatihan sadar kuantisasi sejak tahap fine-tuning terawasi, menggunakan bobot MXFP4 dengan aktivasi MXFP8. Perusahaan mengaitkan peningkatan efisiensi skala kira-kira 2,5 kali dibandingkan model sebelumnya dengan perubahan struktural ini serta pelatihan dan resep data yang disempurnakan.

Moonshot AI menyatakan bahwa kinerja keseluruhan Kimi K3 masih di belakang model proprietari Claude Fable 5 dan GPT 5.6 Sol, sambil melaporkan bahwa Kimi K3 menghasilkan hasil tingkat terdepan di seluruh suite evaluasi dan secara konsisten mengungguli model lain yang diuji. Perusahaan juga mencantumkan batasan: model ini dilatih dalam mode riwayat pemikiran yang dipertahankan, sehingga kualitas generasi dapat menjadi tidak stabil jika harness agen gagal mengembalikan konten pemikiran historis, dan penekanannya pada tugas jangka panjang dapat membuatnya membuat keputusan tak terduga atas nama pengguna ketika instruksi ambigu, yang menurut perusahaan mungkin memerlukan batasan perilaku yang lebih eksplisit dalam prompt sistem.

Moonshot AI pertama kali memperkenalkan Kimi K3 pada Juli 2026, menyatakan pada saat itu bahwa bobot model lengkap akan dirilis pada 27 Juli 2026. Pada pengenalan tersebut, model ini ditawarkan melalui saluran milik Moonshot AI: aplikasi Kimi, aplikasi desktop Kimi Work, alat terminal Kimi Code, dan Kimi API.

Model Berbobot Terbuka dan Penanganan Data di Amazon Bedrock

AWS menyatakan bahwa peluncuran ini mencerminkan investasi berkelanjutan dalam model berbobot terbuka pada layanan tersebut. Sejak 2025, Bedrock telah menambahkan puluhan model berbobot terbuka dari penyedia termasuk DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI, dan Qwen. Pada 2026, Bedrock menambahkan dukungan untuk pemanggilan alat, output terstruktur, penalaran, streaming respons, serta API Responses dan Chat Completions sebagai kemampuan platform alih-alih integrasi per-model, sehingga model berbobot terbuka baru dapat menggunakannya saat tersedia.

AWS menyatakan bahwa, seperti semua model berbobot terbuka di Amazon Bedrock, data pelanggan diproses dalam batas data AWS, tidak dibagikan kepada penyedia model, dan tidak digunakan untuk melatih model dasar. Retensi data nol selalu diaktifkan untuk permintaan inferensi, dan akses operator nol mencegah operator AWS mengakses prompt dan hasil selama inferensi.

dokumentasi Amazon Bedrock mencantumkan Kimi K3 sebagai salah satu dari tiga model Moonshot AI dalam layanan, bersama Kimi K2.5, model multimodal dengan penalaran, pemrograman, dan kemampuan multibahasa yang ditingkatkan, serta Kimi K2 Thinking, model penalaran dengan kemampuan rantai pemikiran untuk pemecahan masalah kompleks dalam matematika, pemrograman, dan logika.

Akses Konsol, API, dan Profil Inferensi

Pengguna dapat mencoba Kimi K3 di konsol Amazon Bedrock pada Test > Playground, atau memanggilnya secara programatis melalui endpoint bedrock-runtime. Endpoint tersebut mendukung API Responses dan Chat Completions yang kompatibel dengan OpenAI serta API Amazon Bedrock Invoke dan Converse.

Model ini dipanggil melalui profil inferensi lintas Wilayah. Untuk beban kerja tanpa batasan wilayah, AWS merekomendasikan profil global, global.moonshotai.kimi-k3, yang mengarahkan setiap permintaan ke wilayah AWS komersial mana pun yang didukung di seluruh dunia dan, menurut AWS, biayanya kira-kira 10% lebih rendah dibandingkan profil geografis. Profil geografis AS, us.moonshotai.kimi-k3, menjaga pemrosesan tetap berada dalam wilayah AS untuk memenuhi persyaratan residensi data.

Prasyarat yang disebutkan oleh AWS meliputi akun AWS aktif dengan akses Amazon Bedrock, Python 3.10 atau lebih baru, serta izin AWS Identity and Access Management untuk bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, dan bedrock:CreateInference.

Caching Prompt Eksplisit dan Alat Pengembang

Menurut AWS, Kimi K3 adalah model berbobot terbuka pertama di Amazon Bedrock yang mendukung caching prompt eksplisit, yang ditujukan untuk alur kerja pemrograman dan pengetahuan jangka panjang yang berulang mengirim kembali konteks stabil seperti instruksi repositori, definisi alat, atau dokumen referensi. Sebuah prompt_cache_breakpoint penanda dapat menentukan akhir tepat dari awalan prompt yang dapat digunakan kembali setelah setidaknya 1.024 token. Dalam mode eksplisit, token yang ditulis ke cache dikenakan tarif lebih tinggi tetapi disimpan dalam cache setidaknya selama 30 menit. Permintaan berikutnya yang cocok dengan awalan yang di-cache dikenakan tarif input yang lebih murah dan tidak dihitung terhadap kuota token-masuk-per-menit.

Selain penggunaan API langsung, model ini berfungsi melalui alat yang mendukung Amazon Bedrock. AWS menyoroti OpenCode, agen pengkodean sumber terbuka dan bersifat model‑agnostik dengan penyedia amazon-bedrock native yang menggunakan Converse API, serta Hermes Agent, asisten produktivitas sumber terbuka yang secara native mendukung model di Amazon Bedrock. AWS juga telah menerbitkan repositori contoh Moonshot AI di AWS di GitHub dengan contoh tambahan.

Kimi K3 tersedia melalui profil inferensi US Geo dan Global cross‑Region, dengan daftar lengkap wilayah yang didukung dalam dokumentasi Bedrock.