Modelli e piattaforme di IA
AWS porta il ragionamento sulle serie temporali di OpenTSLM in SageMaker JumpStart

Punti chiaveIl fine-tuning ha aumentato la precisione di ARFBench dal 5,0% al 45,9% sulle domande…
Vedi di più
- Il fine-tuning ha aumentato la precisione di ARFBench dal 5,0% al 45,9% sulle domande sugli incidenti tenute da parte.
- La rappresentazione a dimensione fissa di Flamingo limita la memoria del modello ma non può garantire che eventi brevi sopravvivano a registrazioni lunghe.
- Il rilascio gestito semplifica la distribuzione mentre le sue evidenze restano legate a finestre e formati di risposta specifici.
Amazon Web Services ha annunciato il 17 novembre 2026 che OpenTSLM-Flamingo Gemma 3 4B è disponibile in Amazon SageMaker JumpStart, l’hub di AWS per i modelli di machine learning. I clienti possono distribuire il modello da 5,24 miliardi di parametri su un endpoint di inferenza in tempo reale di SageMaker AI nei propri ambienti AWS.
OpenTSLM interpreta le misurazioni numeriche insieme a testi come registri di manutenzione, notizie di mercato e osservazioni degli ingegneri, quindi fornisce spiegazioni e risposte in linguaggio naturale. Il pacchetto JumpStart abbina Gemma 3 4B a un codificatore di serie temporali e a livelli di attenzione incrociata, che consentono al modello linguistico di prestare attenzione ai segnali codificati. I suoi pesi occupano circa 10,5 GB di memoria GPU quando sono archiviati in bfloat16.
L’articolo di ricerca su OpenTSLM distingue questa architettura Flamingo da SoftPrompt. Entrambe trattano le serie temporali come modalità di input nativa, ma SoftPrompt aggiunge alla sequenza del modello linguistico token appresi per le serie temporali, mentre Flamingo usa un Perceiver Resampler per produrre una rappresentazione latente di dimensioni fisse e integrare i dati tramite l’attenzione incrociata con gating. La valutazione originale ha riguardato la risposta a domande su ECG, la classificazione delle fasi del sonno e il riconoscimento delle attività umane, fornendo alla versione gestita solide basi di ricerca nell’ambito dei dati medici e dei dispositivi indossabili.
Il repository di OpenTSLM, separato, è distribuito con licenza MIT e include codice per la messa a punto; i checkpoint preaddestrati sono disponibili tramite l’organizzazione del progetto su Hugging Face. Il repository indica che il progetto è una collaborazione tra lo Schmiedmayer Lab della Stanford University e l’Agentic Systems Lab di ETH Zurich.
Il flusso di lavoro di Nexthink per un supporto IT proattivo
AWS descrive Nexthink e Aionic Labs come impegnate a sviluppare un’assistenza proattiva tramite Spark, l’agente IT personale di Nexthink, affinché i dipendenti possano ricevere aiuto prima ancora di chiederlo. Il flusso di lavoro combina misurazioni recenti di CPU, memoria, disco, stabilità delle applicazioni e connettività con eventi dotati di timestamp, configurazione del dispositivo e versioni software. Il modello fornisce un riepilogo dello stato con i relativi segnali di supporto, un controllo e un’azione consigliati, nonché un risultato previsto che Spark può verificare.
L’esempio di AWS relativo allo spazio insufficiente sul disco è illustrativo. Il modello collega la diminuzione dello spazio libero, l’aumento della coda del disco e il blocco più frequente delle applicazioni a sintomi quali prestazioni lente o difficoltà nel salvare i file. Spark verifica se è opportuno eseguire una pulizia approvata dal reparto IT, mostra al dipendente quali elementi verrebbero rimossi e chiede conferma prima di procedere. Controlla quindi il risultato e, se il problema persiste, offre la possibilità di inoltrare la richiesta al supporto IT.
Limiti di distribuzione e finestre di input
L’endpoint predefinito ml.g6.2xlarge di AWS soddisfa i requisiti di una singola GPU e del formato bfloat16 con una NVIDIA L4 da 24 GB e 32 GB di memoria host. Una richiesta può contenere fino a quattro istanze di domanda, ciascuna con da una a 32 serie numeriche e fino a 32.768 valori per serie. Per distribuire il modello JumpStart con accesso controllato è necessario accettare le condizioni d’uso di Gemma.
L’endpoint normalizza ogni serie in modo da ottenere una media pari a zero e una deviazione standard pari a uno, fornendo al contempo la media e la deviazione standard originali sotto forma di testo, così che il modello riceva sia la forma sia la scala. Le chiamate in tempo reale hanno un limite di 60 secondi e un limite di 6 MB per il corpo della richiesta. AWS riporta una generazione di circa 20 token al secondo sull’istanza predefinita; le istanze vengono elaborate in sequenza e, per le attività di durata maggiore, è consigliata l’inferenza asincrona.
La rappresentazione a dimensioni fisse di Flamingo limita le informazioni che raggiungono il modello linguistico, ma non conferisce al sistema completo una memoria illimitata né garantisce che un evento breve resti identificabile in una registrazione molto lunga. AWS consiglia di testare finestre rappresentative, sia normali sia anomale, mantenere una risoluzione di campionamento adeguata per gli eventi brevi, allineare i canali correlati e includere nel contesto le unità di misura, gli intervalli di campionamento e i periodi di osservazione. Il limite del payload e la finestra di analisi utile del modello sono vincoli distinti.
Messa a punto per le domande sugli incidenti
Il flusso di lavoro di adattamento di AWS usa TimeNet, che offre un formato comune per i set di dati e un’API Python con connettori e versioni immutabili. La documentazione di TimeNet delimita esplicitamente il proprio ambito ai dati: addestramento, inferenza, definizioni dei modelli e metriche di valutazione non ne fanno parte. L’esempio carica un checkpoint preaddestrato da Hugging Face e i dati di ARFBench tramite TimeNet, avvia un processo di addestramento su SageMaker, archivia il modello adattato in Amazon S3 e lo distribuisce su un endpoint in tempo reale separato, con lo stesso formato di richiesta.
ARFBench di Datadog contiene 750 coppie di domande e risposte a scelta multipla, ricavate da 142 serie temporali relative a 63 incidenti interni reali, utilizzando telemetria di produzione e ulteriore contesto. Il processo di addestramento aggiorna il codificatore di serie temporali, il Perceiver Resampler, i livelli di attenzione incrociata e gli embedding dei token del modello linguistico, mantenendo congelata la parte restante di Gemma 3.
In un test condotto da AWS su una singola istanza ml.g7e.2xlarge, l’accuratezza su 135 domande di ARFBench tenute fuori dall’addestramento è salita dal 5,0% prima della messa a punto al 45,9% dopo. Il modello preaddestrato ha lasciato vuota la maggior parte delle risposte, mentre quello adattato ha risposto a tutte le domande scegliendo un’opzione tra quelle fornite. Il test dimostra l’adattamento a un nuovo compito e formato di risposta; non è un confronto con altri modelli né un risultato ufficiale nella classifica di ARFBench.
Il rilascio su JumpStart semplifica la distribuzione e l’adattamento di un’architettura nativa per le serie temporali, mentre le evidenze restano circoscritte a specifiche finestre, attività e formati di risposta. Per i team operativi, la questione centrale è se esempi esaminati e rappresentativi dimostrino che le spiegazioni del modello e le azioni consigliate siano abbastanza affidabili per i flussi di lavoro che dovrebbero supportare.












