Kimi K3 dari Moonshot AI Hadir di Amazon Bedrock dengan Konteks 1M-Token

Kimi K3 dari Moonshot AI, sebuah model open-weight yang dikatakan oleh pengembangnya sebagai model terbuka pertama yang mencapai 2,8 triliun parameter, tersedia di Amazon Bedrock pada 18 September 2026, menambah pilihan baru untuk pemrograman dan pekerjaan pengetahuan.

Amazon Web Services mengumumkan peluncuran tersebut di AWS Machine Learning Blog. Menurut Moonshot AI, Kimi K3 adalah model paling mampu, menggabungkan kemampuan visi native dengan jendela konteks 1 juta token dan memberikan peningkatan efisiensi skala sekitar 2,5x dibandingkan Kimi K2.

Dalam artikel teknis tentang Kimi K3 milik Moonshot AI, perusahaan menyatakan bahwa model ini dibangun di atas dua pembaruan arsitektur yang mereka sebut Kimi Delta Attention dan Attention Residuals, yang dirancang untuk meningkatkan aliran informasi sepanjang panjang urutan dan kedalaman model. Kimi K3 menggunakan desain mixture-of-experts yang disebut Stable LatentMoE, secara efektif mengaktifkan 16 dari 896 ahli, dan menerapkan pelatihan yang sadar kuantisasi sejak tahap fine-tuning terawasi, menggunakan bobot MXFP4 dengan aktivasi MXFP8. Perusahaan mengaitkan peningkatan efisiensi skala sekitar 2,5 kali dibandingkan model sebelumnya dengan perubahan struktural ini serta pelatihan dan resep data yang disempurnakan.

Moonshot AI menyatakan bahwa kinerja keseluruhan Kimi K3 masih di belakang model proprietari Claude Fable 5 dan GPT 5.6 Sol, meskipun melaporkan bahwa Kimi K3 menghasilkan hasil tingkat frontier di seluruh rangkaian evaluasinya dan secara konsisten mengungguli model lain yang diuji. Perusahaan juga mencantumkan keterbatasan: model ini dilatih dalam mode riwayat pemikiran yang dipertahankan, sehingga kualitas generasi dapat menjadi tidak stabil jika harness agen gagal mengembalikan konten pemikiran historis, dan penekanannya pada tugas jangka panjang dapat membuatnya membuat keputusan tak terduga atas nama pengguna ketika instruksi ambigu, yang menurut perusahaan mungkin memerlukan batasan perilaku yang lebih eksplisit dalam prompt sistem.

Moonshot AI awalnya memperkenalkan Kimi K3 pada Juli 2026, menyatakan pada saat itu bahwa bobot model lengkap akan dirilis pada 27 Juli 2026. Pada pengenalan tersebut, model ini ditawarkan melalui saluran milik Moonshot AI: aplikasi Kimi, aplikasi desktop Kimi Work, alat terminal Kimi Code, dan Kimi API.

Model Open-Weight dan Penanganan Data di Amazon Bedrock

AWS menyatakan bahwa peluncuran ini mencerminkan investasi berkelanjutan pada model open-weight di layanan tersebut. Sejak 2025, Bedrock telah menambahkan puluhan model open-weight dari penyedia termasuk DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI, dan Qwen. Pada 2026, Bedrock menambahkan dukungan untuk pemanggilan alat, output terstruktur, penalaran, streaming respons, serta API Responses dan Chat Completions sebagai kemampuan platform alih-alih integrasi per-model, sehingga model open-weight baru dapat menggunakannya saat tersedia.

AWS menyatakan bahwa, seperti semua model open-weight di Amazon Bedrock, data pelanggan diproses dalam batas data AWS, tidak dibagikan dengan penyedia model, dan tidak digunakan untuk melatih model dasar. Retensi data nol selalu diaktifkan untuk permintaan inferensi, dan akses operator nol mencegah operator AWS mengakses prompt dan penyelesaian selama inferensi.

Dokumentasi Amazon Bedrock mencantumkan Kimi K3 sebagai salah satu dari tiga model Moonshot AI dalam layanan, bersama Kimi K2.5, model multimodal dengan kemampuan penalaran, pemrograman, dan multibahasa yang ditingkatkan, serta Kimi K2 Thinking, model penalaran dengan kemampuan chain-of-thought untuk pemecahan masalah kompleks dalam matematika, pemrograman, dan logika.

Akses Konsol, API, dan Profil Inferensi

Pengguna dapat mencoba Kimi K3 di konsol Amazon Bedrock pada Test > Playground, atau memanggilnya secara programatis melalui endpoint bedrock-runtime. Endpoint tersebut mendukung API Responses dan Chat Completions yang kompatibel dengan OpenAI serta API Amazon Bedrock Invoke dan Converse.

Model ini dipanggil melalui profil inferensi lintas Wilayah. Untuk beban kerja tanpa batasan wilayah, AWS merekomendasikan profil global, global.moonshotai.kimi-k3, yang mengarahkan setiap permintaan ke wilayah AWS komersial mana pun yang didukung di seluruh dunia dan, menurut AWS, biayanya sekitar 10% lebih rendah dibandingkan profil geografis. Profil geografis AS, us.moonshotai.kimi-k3, menjaga pemrosesan tetap berada dalam wilayah AS untuk memenuhi persyaratan residensi data.

Prasyarat yang dicantumkan oleh AWS meliputi akun AWS aktif dengan akses Amazon Bedrock, Python 3.10 atau lebih baru, serta izin AWS Identity and Access Management untuk bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, dan bedrock:CreateInference.

Caching Prompt Eksplisit dan Alat Pengembang

Menurut AWS, Kimi K3 adalah model open-weight pertama di Amazon Bedrock yang mendukung caching prompt eksplisit, yang ditujukan untuk alur kerja pemrograman dan pengetahuan jangka panjang yang berulang mengirim ulang konteks stabil seperti instruksi repositori, definisi alat, atau dokumen referensi. Penanda breakpoint promptcache dapat menentukan akhir tepat dari prefiks prompt yang dapat digunakan kembali setelah minimal 1.024 token. Dalam mode eksplisit, token yang ditulis ke cache dikenakan tarif lebih tinggi tetapi disimpan dalam cache setidaknya selama 30 menit. Permintaan berikutnya yang cocok dengan prefiks yang di-cache dikenakan tarif input yang lebih murah dan tidak dihitung terhadap kuota token-masuk-per-menit.

Selain penggunaan API langsung, model ini beroperasi melalui alat yang mendukung Amazon Bedrock. AWS menyoroti OpenCode, agen pemrograman sumber terbuka dan agnostik model dengan penyedia amazon-bedrock native yang menggunakan Converse API, serta Hermes Agent, asisten produktivitas sumber terbuka yang secara native mendukung model di Amazon Bedrock. AWS juga telah menerbitkan repositori contoh Moonshot AI on AWS di GitHub dengan contoh tambahan.

Kimi K3 tersedia melalui profil inferensi US Geo dan Global cross-Region, dengan daftar lengkap wilayah yang didukung terdapat dalam dokumentasi Bedrock.