Moonshot AI’s Kimi K3 kommt auf Amazon Bedrock mit 1‑Mio‑Token‑Kontext

Moonshot AI’s Kimi K3, ein Open‑Weight‑Modell, das sein Entwickler als das erste offene Modell bezeichnet, das 2,8 Billionen Parameter erreicht, wurde am 18. September 2026 auf Amazon Bedrock verfügbar und bietet eine neue Option für Programmierung und Wissensarbeit.

Amazon Web Services kündigte die Einführung im AWS Machine Learning Blog an. Laut Moonshot AI ist Kimi K3 sein leistungsstärkstes Modell, das native Vision‑Fähigkeiten mit einem Kontextfenster von 1‑Million‑Token kombiniert und eine ungefähre 2,5‑fache Verbesserung der Skalierungseffizienz gegenüber Kimi K2 liefert.

In Moonshot AIs Kimi K3 technischer Beitrag erklärt das Unternehmen, dass das Modell auf zwei architektonischen Neuerungen basiert, die es Kimi Delta Attention und Attention Residuals nennt und die den Informationsfluss über Sequenzlänge und Modelltiefe verbessern sollen. Kimi K3 verwendet ein Mixture‑of‑Experts‑Design, das das Unternehmen Stable LatentMoE nennt, aktiviert effektiv 16 von 896 Experten und wendet quantisierungsbewusstes Training ab der Phase des überwachten Feinabstimmens an, wobei MXFP4‑Gewichte mit MXFP8‑Aktivierungen genutzt werden. Das Unternehmen führt den etwa 2,5‑fachen Gewinn an Skalierungseffizienz gegenüber seinem Vorgängermodell auf diese strukturellen Änderungen sowie auf verfeinerte Trainings‑ und Datenrezepte zurück.

Moonshot AI gibt an, dass die Gesamtleistung von Kimi K3 weiterhin hinter den proprietären Modellen Claude Fable 5 und GPT 5.6 Sol zurückbleibt, berichtet jedoch, dass Kimi K3 Ergebnisse auf Frontier‑Level über seine Evaluationssuite erzielt und konsequent andere getestete Modelle übertroffen hat. Das Unternehmen nennt zudem Einschränkungen: Das Modell wurde im Modus „preserved thinking history“ trainiert, sodass die Generierungsqualität instabil werden kann, wenn ein Agenten‑Harness die historische Denk‑Inhalte nicht zurückliefert, und die Betonung auf langfristige Aufgaben kann dazu führen, dass es im Auftrag eines Nutzers unerwartete Entscheidungen trifft, wenn Anweisungen mehrdeutig sind; das Unternehmen sagt, dass hierfür möglicherweise explizitere Verhaltensbeschränkungen im System‑Prompt erforderlich sind.

Moonshot AI stellte Kimi K3 ursprünglich im Juli 2026 vor und erklärte damals, dass die vollständigen Modellgewichte bis zum 27. Juli 2026 veröffentlicht werden würden. Bei dieser Einführung wurde das Modell über die eigenen Kanäle von Moonshot AI angeboten: die Kimi‑App, die Kimi Work‑Desktop‑Anwendung, das Kimi Code‑Terminal‑Tool und die Kimi‑API.

Open‑Weight‑Modelle und Datenverarbeitung auf Amazon Bedrock

AWS erklärte, dass die Einführung das anhaltende Investment in Open‑Weight‑Modelle auf dem Dienst widerspiegele. Seit 2025 hat Bedrock Dutzende von Open‑Weight‑Modellen von Anbietern wie DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI und Qwen hinzugefügt. Im Jahr 2026 hat Bedrock die Unterstützung für Tool‑Aufrufe, strukturierte Ausgaben, Reasoning, Response‑Streaming sowie die Responses‑ und Chat‑Completions‑APIs als Plattform‑Funktionen eingeführt, anstatt sie pro Modell zu integrieren, sodass neue Open‑Weight‑Modelle sie nutzen können, sobald sie verfügbar sind.

AWS gibt an, dass wie bei allen Open‑Weight‑Modellen auf Amazon Bedrock Kundendaten innerhalb der AWS‑Datengrenze verarbeitet werden, nicht an den Modellanbieter weitergegeben und nicht zum Training des zugrunde liegenden Modells verwendet werden. Für Inferenz‑Anfragen ist stets Null‑Datenaufbewahrung aktiviert, und Null‑Operator‑Zugriff verhindert, dass AWS‑Operatoren während der Inferenz auf Prompts und Completion‑Ergebnisse zugreifen.

Amazon Bedrock-Dokumentation listet Kimi K3 als eines von drei Moonshot AI‑Modellen im Dienst auf, neben Kimi K2.5, einem multimodalen Modell mit verbesserten Argumentations‑, Programmier‑ und Mehrsprachenfähigkeiten, und Kimi K2 Thinking, einem Reasoning‑Modell mit Chain‑of‑Thought‑Fähigkeiten für komplexe Problemlösungen in Mathematik, Programmierung und Logik.

Konsolenzugriff, APIs und Inferenz‑Profile

Benutzer können Kimi K3 in der Amazon Bedrock‑Konsole unter Test > Playground ausprobieren oder programmgesteuert über den bedrock-runtime‑Endpunkt aufrufen. Der Endpunkt unterstützt die OpenAI‑kompatiblen Responses‑ und Chat‑Completions‑APIs sowie die Amazon Bedrock Invoke‑ und Converse‑APIs.

Das Modell wird über regionenübergreifende Inferenz‑Profile aufgerufen. Für Workloads ohne regionale Beschränkungen empfiehlt AWS das globale Profil global.moonshotai.kimi-k3, das jede Anfrage an eine beliebige unterstützte kommerzielle AWS‑Region weltweit weiterleitet und laut AWS etwa 10 % günstiger ist als ein geografisches Profil. Das US‑geografische Profil us.moonshotai.kimi-k3 hält die Verarbeitung innerhalb der US‑Region, um Anforderungen an die Datenresidenz zu erfüllen.

Von AWS aufgeführte Voraussetzungen umfassen ein aktives AWS‑Konto mit Amazon‑Bedrock‑Zugang, Python 3.10 oder höher sowie IAM‑Berechtigungen für bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream und bedrock:CreateInference.

Explizites Prompt‑Caching und Entwickler‑Tools

Laut AWS ist Kimi K3 das erste Open‑Weight‑Modell auf Amazon Bedrock, das explizites Prompt‑Caching unterstützt, das auf langlaufende Programmier‑ und Wissens‑Workflows abzielt, die wiederholt stabilen Kontext wie Repository‑Anweisungen, Tool‑Definitionen oder Referenzdokumente erneut senden. A prompt_cache_breakpoint Ein Marker kann das genaue Ende eines wiederverwendbaren Prompt‑Präfixes nach mindestens 1 024 Token kennzeichnen. Im expliziten Modus werden Tokens, die in den Cache geschrieben werden, zu einem höheren Tarif abgerechnet, verbleiben jedoch mindestens 30 Minuten im Cache. Folgende Anfragen, die einem gecachten Präfix entsprechen, werden zu einem vergünstigten Eingabe‑Tarif abgerechnet und zählen nicht gegen die Eingabe‑Token‑pro‑Minute‑Kontingente.

Über die direkte API-Nutzung hinaus funktioniert das Modell über Werkzeuge, die Amazon Bedrock unterstützen. AWS hebt OpenCode hervor, einen Open‑Source‑ und modellagnostischen Coding‑Agenten mit einem nativen amazon-bedrock‑Provider, der die Converse‑API nutzt, sowie Hermes Agent, einen Open‑Source‑Produktivitätsassistenten, der Modelle auf Amazon Bedrock nativ unterstützt. AWS hat außerdem ein Moonshot AI on AWS‑Beispiel‑Repository auf GitHub veröffentlicht, das zusätzliche Beispiele enthält.

Kimi K3 ist über die US‑Geo‑ und Global‑Cross‑Region‑Inference‑Profile verfügbar, wobei die vollständige Liste der unterstützten Regionen in der Bedrock‑Dokumentation zu finden ist.