AI-modeller og plattformer
AWS bringer tidsserieresonnering med OpenTSLM til SageMaker JumpStart

Viktige punkterFinjustering løftet ARFBench-nøyaktigheten fra 5,0 % til 45,9 % på tilbakeholdte…
Vis mer
- Finjustering løftet ARFBench-nøyaktigheten fra 5,0 % til 45,9 % på tilbakeholdte hendelsesspørsmål.
- Flamingos representasjon med fast størrelse begrenser modellminnet, men kan ikke garantere at korte hendelser overlever lange opptak.
- Den administrerte utgivelsen forenkler distribusjon, mens bevisene forblir knyttet til bestemte vinduer og svarformater.
Amazon Web Services kunngjorde 17. november 2026 at OpenTSLM-Flamingo Gemma 3 4B er tilgjengelig i Amazon SageMaker JumpStart, AWS’ knutepunkt for maskinlæringsmodeller. Kundene kan distribuere modellen med 5,24 milliarder parametere til et SageMaker AI-endepunkt for inferens i sanntid i sine egne AWS-miljøer.
OpenTSLM tolker numeriske målinger sammen med tekst, for eksempel vedlikeholdslogger, markedsnyheter og ingeniørenes observasjoner, og gir deretter forklaringer og svar på naturlig språk. JumpStart-pakken kombinerer Gemma 3 4B med en tidsserieenkoder og kryssoppmerksomhetslag, som gjør at språkmodellen kan rette oppmerksomheten mot kodede signaler. Vektene bruker omtrent 10,5 GB GPU-minne når de lagres i bfloat16.
OpenTSLM-forskningsartikkelen skiller denne Flamingo-arkitekturen fra SoftPrompt. Begge behandler tidsserier som en innebygd inndatamodalitet, men SoftPrompt føyer innlærte tidsserietokener til språkmodellens sekvens, mens Flamingo bruker en Perceiver Resampler til å lage en latent representasjon med fast størrelse, og kryssoppmerksomhet med porter til å integrere den. Den opprinnelige evalueringen omfattet spørsmål og svar om EKG, søvnstadieinndeling og gjenkjenning av menneskelig aktivitet, noe som gir den administrerte versjonen et forskningsgrunnlag forankret i medisinske data og data fra bærbare enheter.
Det separate OpenTSLM-kodelageret er lisensiert under MIT-lisensen og inneholder kode for finjustering. Forhåndstrente sjekkpunkter er tilgjengelige via prosjektets organisasjon på Hugging Face. Der oppgis det at prosjektet er et samarbeid mellom Schmiedmayer Lab ved Stanford University og Agentic Systems Lab ved ETH Zürich.
Nexthinks proaktive arbeidsflyt for IT-støtte
AWS beskriver hvordan Nexthink og Aionic Labs arbeider mot proaktiv hjelp gjennom Spark, Nexthinks personlige IT-agent, slik at ansatte kan få hjelp før de ber om den. Arbeidsflyten kombinerer nylige målinger av CPU, minne, disk, programstabilitet og tilkobling med hendelser med tidsstempel, enhetskonfigurasjon og programvareversjoner. Modellen gir et sammendrag av tilstanden med underbyggende signaler, en anbefalt kontroll og handling, samt et forventet resultat som Spark kan verifisere.
AWS’ eksempel med lite ledig diskplass er ment som en illustrasjon. Modellen kobler sammen mindre ledig plass, en økende disk-kø og hyppigere programheng med symptomer som treg ytelse eller problemer med å lagre filer. Spark kontrollerer om en opprydding som er godkjent av IT, er hensiktsmessig, viser den ansatte hva som vil bli fjernet og ber om bekreftelse før den handler. Deretter kontrollerer Spark resultatet og tilbyr å eskalere saken til IT-støtte hvis problemet vedvarer.
Begrensninger ved distribusjon og inndatavinduer
AWS’ standardendepunkt ml.g6.2xlarge oppfyller kravene til én GPU og bfloat16 med én NVIDIA L4 på 24 GB og 32 GB vertsminne. En forespørsel kan inneholde opptil fire spørsmålsinstanser, hver med én til 32 numeriske serier og opptil 32 768 verdier per serie. For å distribuere JumpStart-modellen med begrenset tilgang må man godta Gemma-vilkårene for bruk.
Endepunktet standardiserer hver serie slik at gjennomsnittet blir null og standardavviket én, samtidig som det oppgir det opprinnelige gjennomsnittet og standardavviket som tekst, slik at modellen får både form og skala. Kall i sanntid har en grense på 60 sekunder og en maksimal forespørselskropp på 6 MB. AWS oppgir at standardinstansen genererer omtrent 20 tokener per sekund. Instanser behandles sekvensielt, og asynkron inferens anbefales for oppgaver som tar lengre tid.
Flamingos representasjon med fast størrelse setter grenser for hva som når språkmodellen, men det gir ikke hele systemet ubegrenset minne eller noen garanti for at en kortvarig hendelse forblir identifiserbar i et svært langt opptak. AWS anbefaler å teste representative normale og unormale vinduer, beholde tilstrekkelig samplingsoppløsning for korte hendelser, samordne relaterte kanaler og oppgi enheter, samplingsintervaller og observasjonsperioder i konteksten. Grensen for nyttelast og modellens nyttige analysevindu er separate begrensninger.
Finjustering for spørsmål om hendelser
AWS’ tilpasningsarbeidsflyt bruker TimeNet, som tilbyr et felles datasettformat og et Python-API med koblinger og uforanderlige versjoner. I dokumentasjonen presiserer TimeNet at omfanget er begrenset til data; trening, inferens, modelldefinisjoner og evalueringsmålinger faller utenfor. Eksemplet laster inn et forhåndstrent sjekkpunkt fra Hugging Face og ARFBench-data via TimeNet, kjører en SageMaker-treningsjobb, lagrer den tilpassede modellen i Amazon S3 og distribuerer den til et separat endepunkt for sanntid med samme forespørselsformat.
Datadogs ARFBench inneholder 750 spørsmål-og-svar-par med flervalg, utledet fra 142 tidsserier på tvers av 63 reelle interne hendelser. Datasettet bruker telemetridata fra produksjonsmiljøer og supplerende kontekst. Treningsjobben oppdaterer tidsserieenkoderen, Perceiver Resampler, kryssoppmerksomhetslagene og språkmodellens tokeninnbygginger, mens resten av Gemma 3 holdes fryst.
I AWS’ egen kjøring på én ml.g7e.2xlarge-instans økte nøyaktigheten på 135 ARFBench-spørsmål som var holdt utenfor treningen, fra 5,0 % før finjustering til 45,9 % etterpå. Den forhåndstrente modellen lot de fleste svarene stå tomme, mens den tilpassede modellen besvarte hvert spørsmål med et av de oppgitte alternativene. Kjøringen viser tilpasning til en ny oppgave og et nytt svarformat; den er ikke en sammenligning med andre modeller eller et offisielt resultat på ARFBench-resultattavlen.
JumpStart-utgivelsen gjør det enklere å distribuere og tilpasse en innebygd tidsseriearkitektur, samtidig som dokumentasjonen fortsatt er knyttet til bestemte tidsvinduer, oppgaver og svarformater. For driftsteam er hovedspørsmålet om gjennomgåtte, representative eksempler viser at modellens forklaringer og anbefalte handlinger er pålitelige nok for arbeidsflytene de skal støtte.












