Yapay zeka modelleri ve platformları
AWS, Kimi K3.1 Pro Highspeed’i Amazon Bedrock’ta kullanıma sundu
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Amazon Web Services, Moonshot AI’nin Kimi K3.1 Pro Highspeed modelini 10 Kasım 2026’da Amazon Bedrock’ta kullanıma sundu. Model, küresel, ABD ve Hindistan çıkarım profilleri üzerinden 1 milyon tokenlık bağlam penceresi sunuyor. Moonshot AI, Highspeed varyantının K3.1 Pro’dan iki ila üç kat daha hızlı çıktı ürettiğini bildiriyor.
Temel model, Bedrock dağıtımından önce, 4 Kasım 2026’da piyasaya sürülmüştü. K3.1 Pro, Kimi K3’ün sonradan eğitimden geçirilmiş bir sürümüdür; 3T sınıfı açık ağırlıklı mimarisini ve bağlam penceresini korurken sonradan eğitim için çok daha fazla hesaplama gücü kullanır. Moonshot AI, ek eğitimin uzun vadeli ajan görevlerini yerine getirmeyi ve olgusal hataları azaltmayı hedeflediğini; finansal modelleme, ofis belgeleri, oyun motorları, 3B sahneler ve bilgisayar destekli tasarım betikleri için iyileştirmeler içerdiğini söylüyor.
Ajan tabanlı kodlamada tek bir görev, dosyaları okuma, değişiklik planlama, kodu düzenleme, testleri çalıştırma ve hataları giderme gibi art arda birçok model çağrısı gerektirebilir. Çıktı tokenı üretim hızının daha yüksek olması, her adımdaki üretim süresini kısaltabilir. Bedrock’taki mevcut Kimi K3 uygulamaları, model kimliği değiştirilerek yeni modele geçirilebilir. Yeni model ise aynı uç nokta ve API’ler üzerinden araç çağırma, yapılandırılmış çıktı, ayarlanabilir akıl yürütme, görsel girişi ve akış desteği sunar. AWS ayrıca açık kaynaklı bir terminal kodlama ajanı olan OpenCode’un Chat Completions ve Bedrock API anahtarı aracılığıyla bağlanmasını da gösteriyor.
Erişim ve Veri Yerleşimi
Geliştiriciler modeli OpenAI ile uyumlu Chat Completions ve Responses API’leri ya da Bedrock’ın Converse ve Invoke API’leri üzerinden çağırabilir. AWS, Chat Completions’ı öneriyor. Küresel bölgeler arası çıkarım profili istekleri desteklenen tüm ticari AWS Bölgelerine yönlendirirken ABD ve Hindistan profilleri, veri yerleşimi gerekliliklerini karşılamak için yönlendirmeyi ilgili coğrafi bölgelerle sınırlandırıyor. Hindistan’daki istekler Mumbai ve Haydarabad arasında yönlendiriliyor.
AWS, çıkarım verilerinin AWS veri sınırları içinde kaldığını, Moonshot AI ile paylaşılmadığını ve modeli eğitmek için kullanılmadığını söylüyor. Çıkarım isteklerinde sıfır veri saklama her zaman etkin; AWS operatörleri çıkarım sırasında istemleri veya tamamlamaları görüntüleyemiyor.
Fiyatlandırma ve Maliyet Kontrolleri
Standart katman ücretleri yönlendirme profiline bağlıdır. Aşağıdaki tüm fiyatlar 1 milyon token başınadır:
| Çıkarım profili | Girdi | Çıktı | Önbellek okuma | Önbellek yazma (30 dakika) |
|---|---|---|---|---|
| Küresel bölgeler arası | $4.00 | $20.00 | $0.20 | $5.00 |
| ABD bölgeler arası | $4.40 | $22.00 | $0.22 | $5.50 |
| Hindistan bölgeler arası | $4.40 | $22.00 | $0.22 | $5.50 |
Bedrock fiyatlandırma sayfasında, önceki Kimi K3 modeli Küresel Standart çıkarım için milyon girdi tokenı başına 3,00 $, milyon çıktı tokenı başına 15,00 $ olarak listeleniyor. Dolayısıyla yeni modelin girdi ve çıktı ücretleri daha yüksek; ancak küresel önbellek okuma ücreti, K3’ün milyon token başına 0,30 $ olan ücretinden daha düşük.
Flex, olası daha uzun yanıt süreleri karşılığında Standart ücretin yarısına çıkarım olanağı sunarken Priority’de ücret %75 daha yüksektir. Katman her istek için ayrı ayrı seçilebilir; böylece bir uygulama sıradan trafik için Standard’ı, gecikmeye duyarlı çağrılar için Priority’yi, değerlendirme, özetleme veya arka plan ajan görevleri içinse Flex’i kullanabilir.
Açık istem önbelleğe alma, sistem talimatları, araç tanımları ve depo kuralları gibi tekrarlanan bağlamları ele alır. Her kesme noktası, en az 256 tokenlık sabit içeriğin ardından gelmelidir. Bu özellik Responses, Chat Completions ve Invoke ile çalışır, ancak Converse ile çalışmaz. Önbellek okumaları indirimlidir ve dakikadaki girdi tokenı kotasına dahil edilmez; önbelleğe yazma ise standart girdi ücretinden daha pahalıdır.
Akıl Yürütme ve Uyumluluk Sınırları
Model kartı, none, low, medium, high, xhigh ve max akıl yürütme ayarlarını destekler; varsayılan olarak max kullanılır. none ayarı, ilgili istekte akıl yürütmeyi devre dışı bırakır. Daha düşük akıl yürütme düzeyi, görev performansından ödün verme karşılığında gecikmeyi ve token tüketimini azaltabilir; bu nedenle varsayılan ayar, maliyete duyarlı iş yükleri açısından önem taşır.
Converse, açık önbelleğe alma özelliğinin bulunmamasının yanı sıra başka kısıtlamalara da sahiptir. Çok turlu bir istekte önceki turlara ait akıl yürütme içeriği yer alırsa dahili sunucu hatası verebilir; bu durum, varsayılan yapılandırmalarında LangChain ve Strands Agents gibi çerçeveleri etkiler. AWS, Converse üzerinden yapılan çok turlu isteklerde önceki akıl yürütme bloklarının kaldırılmasını öneriyor. Converse ayrıca ekli PDF ve HTML belgelerini de reddediyor; Bedrock bu model için video girdilerini desteklemiyor.
Her çıktı tokenı, bedrock-runtime uç noktasında geçerli hesap kotasından ayrıca 10 token tüketir. Bu, token başına ücretlendirmeden ayrı bir kapasite unsurudur.
Mevcut K3 kullanıcılarının geçiş için çok az kod değişikliği yapması yeterli; ancak işletim açısından ödünleşim, uyumluluğun ötesine uzanıyor. Olası kazanım, art arda yürütülen ajan görevlerinin daha hızlı tamamlanması; bunun karşılığında ise daha yüksek girdi ve çıktı ücretleri, akıl yürütmeye bağlı token kullanımı ve kota tüketimi bulunuyor. AWS, bu gereksinimler arasında denge kurmak için Flex, önbelleğe alma ve akıl yürütme düzeyi ayarlarını sunuyor.
