AWS rende disponibile Kimi K3.1 Pro Highspeed su Amazon Bedrock

Amazon Web Services ha reso disponibile Kimi K3.1 Pro Highspeed di Moonshot AI su Amazon Bedrock il 10 novembre 2026, offrendo una finestra di contesto da 1 milione di token tramite profili di inferenza globale, statunitense e indiano. Moonshot AI riferisce che la variante Highspeed genera output da due a tre volte più velocemente di K3.1 Pro.

Il modello di base è stato lanciato il 4 novembre 2026, prima della sua distribuzione su Bedrock. K3.1 Pro è una versione di Kimi K3 sottoposta a ulteriore addestramento: mantiene l’architettura open-weight della classe 3T e la finestra di contesto, utilizzando al contempo molte più risorse di calcolo per l’addestramento successivo. Moonshot AI afferma che l’addestramento aggiuntivo è finalizzato a migliorare le attività agentiche di lunga durata e a ridurre gli errori fattuali, con progressi nella modellazione finanziaria, nei documenti d’ufficio e nella programmazione di motori di gioco, scene 3D e script per la progettazione assistita da computer.

Nella programmazione agentica, una singola attività può richiedere molte chiamate consecutive al modello: leggere file, pianificare una modifica, modificare il codice, eseguire test e correggere gli errori. Una maggiore velocità di generazione dei token di output può ridurre il tempo necessario per generare il contenuto in ciascuna fase. Le implementazioni esistenti di Kimi K3 su Bedrock possono passare al nuovo modello modificando l’ID del modello; il nuovo modello supporta inoltre le chiamate agli strumenti, l’output strutturato, il ragionamento configurabile, l’input di immagini e lo streaming tramite lo stesso endpoint e le stesse API. AWS mostra anche OpenCode, un agente di programmazione open source da terminale, collegato tramite Chat Completions e una chiave API di Bedrock.

Accesso e residenza dei dati

Gli sviluppatori possono richiamare il modello tramite le API Chat Completions e Responses compatibili con OpenAI oppure tramite le API Converse e Invoke di Bedrock. AWS consiglia Chat Completions. Il profilo di inferenza globale tra regioni instrada le richieste verso qualsiasi regione AWS commerciale supportata, mentre i profili statunitense e indiano limitano l’instradamento alle rispettive aree geografiche per soddisfare i requisiti di residenza dei dati. Le richieste provenienti dall’India vengono instradate tra Mumbai e Hyderabad.

AWS afferma che i dati di inferenza rimangono all’interno del perimetro dei dati AWS, non vengono condivisi con Moonshot AI e non sono utilizzati per addestrare il modello. Per le richieste di inferenza è sempre attiva la conservazione zero dei dati e gli operatori AWS non possono visualizzare i prompt o i completamenti durante l’inferenza.

Prezzi e controllo dei costi

Le tariffe del livello Standard dipendono dal profilo di instradamento. Tutti i prezzi riportati di seguito sono per 1 milione di token:

Nella pagina dei prezzi di Bedrock, il precedente Kimi K3 è indicato a 3,00 $ per milione di token di input e a 15,00 $ per milione di token di output per l’inferenza Standard globale. Il nuovo modello prevede quindi tariffe più elevate per input e output, sebbene la tariffa globale per la lettura della cache sia inferiore ai 0,30 $ per milione di token di K3.

Flex offre l’inferenza a metà della tariffa Standard, in cambio di tempi di risposta potenzialmente più lunghi, mentre Priority comporta un sovrapprezzo del 75%. Il livello è selezionabile per ogni richiesta: un’applicazione può quindi usare Standard per il traffico ordinario, Priority per le chiamate in cui la latenza è critica e Flex per valutazioni, riepiloghi o attività agentiche in background.

La memorizzazione esplicita dei prompt nella cache consente di gestire contesti ripetuti, come le istruzioni di sistema, le definizioni degli strumenti e le convenzioni del repository. Ogni punto di interruzione deve essere preceduto da almeno 256 token di contenuto stabile. La funzionalità è disponibile con Responses, Chat Completions e Invoke, ma non con Converse. Le letture della cache sono scontate e non rientrano nella quota di token di input al minuto, mentre le scritture costano più dell’input standard.

Limiti di ragionamento e compatibilità

La scheda del modello prevede le impostazioni di ragionamento none, low, medium, high, xhigh e max; quest’ultima è attiva per impostazione predefinita. L’impostazione none disattiva il ragionamento per una richiesta. Un livello di ragionamento inferiore può ridurre la latenza e il consumo di token, a scapito delle prestazioni nell’attività: per i carichi di lavoro sensibili ai costi, è quindi importante valutare l’impostazione predefinita.

Converse presenta ulteriori limitazioni, oltre a non supportare la memorizzazione esplicita nella cache. Può restituire un errore interno del server quando, in una richiesta con più turni, sono inclusi contenuti di ragionamento dei turni precedenti; ciò riguarda framework come LangChain e Strands Agents nelle loro configurazioni predefinite. Per le richieste Converse con più turni, AWS consiglia di rimuovere i blocchi di ragionamento precedenti. Converse rifiuta inoltre i documenti PDF e HTML allegati e Bedrock non supporta input video per questo modello.

Ogni token di output consuma inoltre 10 token della quota applicabile all’account sull’endpoint bedrock-runtime: un aspetto distinto dalla tariffazione per token da considerare nella valutazione della capacità.

Per gli utenti K3 esistenti, il passaggio richiede poche modifiche al codice, ma i compromessi operativi vanno oltre la compatibilità. Il vantaggio potenziale è il completamento più rapido delle attività agentiche sequenziali; gli svantaggi sono i prezzi più elevati per input e output, il consumo di token legato al ragionamento e l’utilizzo della quota. Flex, la memorizzazione nella cache e le impostazioni del livello di ragionamento sono gli strumenti che AWS mette a disposizione per bilanciare queste esigenze.