AI-modeller og platforme

AWS bringer OpenTSLMs ræsonnering med tidsserier til SageMaker JumpStart

Jonas Reeve
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterFinjustering løftede ARFBench-nøjagtigheden fra 5,0 % til 45,9 % på tilbageholdte…
Vis mere
  • Finjustering løftede ARFBench-nøjagtigheden fra 5,0 % til 45,9 % på tilbageholdte hændelsesspørgsmål.
  • Flamingos repræsentation med fast størrelse begrænser modellens hukommelse, men kan ikke garantere, at korte hændelser overlever lange optagelser.
  • Den administrerede udgivelse letter implementeringen, mens dens evidens forbliver knyttet til specifikke vinduer og svarformater.

Amazon Web Services annoncerede den 17. november 2026, at OpenTSLM-Flamingo Gemma 3 4B er tilgængelig i Amazon SageMaker JumpStart, AWS’ hub for maskinlæringsmodeller. Kunder kan udrulle modellen med 5,24 milliarder parametre til et SageMaker AI-inferensslutpunkt til inferens i realtid i deres egne AWS-miljøer.

OpenTSLM fortolker numeriske målinger sammen med tekst, f.eks. vedligeholdelsesjournaler, markedsnyheder og ingeniørers observationer, og returnerer derefter forklaringer og svar i naturligt sprog. JumpStart-pakken kombinerer Gemma 3 4B med en tidsserieencoder og krydsopmærksomhedslag, som gør det muligt for sprogmodellen at rette opmærksomheden mod kodede signaler. Modellens vægte optager omkring 10,5 GB GPU-hukommelse, når de lagres i bfloat16.

Forskningsartiklen om OpenTSLM skelner mellem denne Flamingo-arkitektur og SoftPrompt. Begge behandler tidsserier som en indbygget inputmodalitet, men SoftPrompt føjer indlærte tidsserietokens til sprogmodellens sekvens, mens Flamingo bruger en Perceiver Resampler til at skabe en latent repræsentation med fast størrelse og gated krydsopmærksomhed til at integrere den. Den oprindelige evaluering omfattede spørgsmål og svar om EKG, søvnstadieinddeling og genkendelse af menneskelig aktivitet, hvilket giver den administrerede udgivelse et forskningsgrundlag med rødder i medicinske data og data fra bærbare enheder.

Det separate OpenTSLM-kodelager er udgivet under MIT-licensen og indeholder kode til finjustering, mens fortrænede kontrolpunkter er tilgængelige via projektets Hugging Face-organisation. Her står der, at projektet er et samarbejde mellem Schmiedmayer Lab ved Stanford University og Agentic Systems Lab ved ETH Zurich.

Nexthinks arbejdsgang for proaktiv IT-support

AWS beskriver, hvordan Nexthink og Aionic Labs arbejder hen imod proaktiv hjælp gennem Spark, Nexthinks personlige IT-agent, så medarbejdere kan få hjælp, før de beder om den. Arbejdsgangen kombinerer nylige målinger af CPU, hukommelse, disk, programstabilitet og forbindelser med tidsstemplede hændelser, enhedskonfiguration og softwareversioner. Modellen leverer en statusoversigt med underbyggende signaler, et anbefalet tjek og en handling samt et forventet resultat, som Spark kan verificere.

AWS’ eksempel med lav diskplads er illustrativt. Modellen forbinder faldende ledig plads, en voksende disk kø og hyppigere programnedbrud med symptomer som langsom ydeevne eller problemer med at gemme filer. Spark undersøger, om en oprydning godkendt af IT er passende, viser medarbejderen, hvad der vil blive fjernet, og beder om bekræftelse, før den går i gang. Derefter kontrollerer Spark resultatet og tilbyder at eskalere sagen til IT-support, hvis problemet fortsætter.

Begrænsninger for udrulning og inputvinduer

AWS’ standardendepunkt ml.g6.2xlarge opfylder kravet om én GPU og bfloat16 med én NVIDIA L4 på 24 GB og 32 GB værts hukommelse. En anmodning kan indeholde op til fire spørgsmålsforekomster, hver med én til 32 numeriske serier og op til 32.768 værdier pr. serie. For at udrulle den adgangsbegrænsede JumpStart-model skal man acceptere Gemmas brugsbetingelser.

Slutpunktet standardiserer hver serie, så gennemsnittet er nul og standardafvigelsen én, samtidig med at det angiver det oprindelige gennemsnit og den oprindelige standardafvigelse som tekst, så modellen får både form og skala. Kald i realtid er begrænset til 60 sekunder og en anmodningstekst på højst 6 MB. AWS oplyser, at standardinstansen genererer omkring 20 tokens pr. sekund; instanser behandles sekventielt, og asynkron inferens anbefales til opgaver, der tager længere tid.

Flamingos repræsentation med fast størrelse sætter en grænse for, hvad der når frem til sprogmodellen, men det giver ikke hele systemet ubegrænset hukommelse og garanterer heller ikke, at en kortvarig hændelse forbliver identificerbar i en meget lang optagelse. AWS anbefaler at teste repræsentative normale og unormale tidsvinduer, bevare tilstrækkelig samplingsopløsning til kortvarige hændelser, tilpasse relaterede kanaler til hinanden og medtage enheder, samplingsintervaller og observationsperioder i konteksten. Grænsen for nyttelastens størrelse og modellens brugbare analysevindue er separate begrænsninger.

Finjustering til spørgsmål om hændelser

AWS’ tilpasningsarbejdsgang bruger TimeNet, som tilbyder et fælles dataformatsæt og en Python-API med forbindelser og uforanderlige versioner. TimeNets dokumentation afgrænser udtrykkeligt værktøjets omfang til data; træning, inferens, modeldefinitioner og evalueringsmålinger er ikke omfattet. Eksemplet indlæser et fortrænet kontrolpunkt fra Hugging Face og ARFBench-data via TimeNet, kører et SageMaker-træningsjob, gemmer den tilpassede model i Amazon S3 og udruller den til et separat slutpunkt i realtid med samme anmodningsformat.

Datadogs ARFBench indeholder 750 spørgsmål-og-svar-par med flere svarmuligheder, udledt af 142 tidsserier fra 63 reelle interne hændelser ved hjælp af produktionstelemetri og yderligere kontekst. Træningsjobbet opdaterer tidsserieencoderen, Perceiver Resampler, krydsopmærksomhedslagene og sprogmodellens tokenindlejringer, mens resten af Gemma 3 holdes fastfrosset.

I AWS’ egen kørsel på én ml.g7e.2xlarge-instans steg nøjagtigheden på 135 ARFBench-spørgsmål, der var holdt ude af træningen, fra 5,0 % før finjustering til 45,9 % efterfølgende. Den fortrænede model efterlod de fleste svar tomme, mens den tilpassede model besvarede hvert spørgsmål ved at vælge en af de angivne muligheder. Kørslen viser tilpasning til en ny opgave og et nyt svarformat; den er ikke en sammenligning med andre modeller eller et officielt resultat på ARFBench-resultattavlen.

JumpStart-udgivelsen gør det lettere at implementere og tilpasse en tidsseriearkitektur, der er udviklet specifikt til formålet, mens dokumentationen fortsat er knyttet til bestemte tidsvinduer, opgaver og svarformater. For driftsteams er det centrale spørgsmål, om gennemgåede, repræsentative eksempler viser, at modellens forklaringer og anbefalede handlinger er pålidelige nok til de arbejdsgange, de skal understøtte.

Jonas Reeve er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, med fokus på kognitiv AI, kunstig generel intelligens (AGI) og de teoretiske grundlag for maskinintelligens. Hans arbejde undersøger, hvordan læring, ræsonnement, hukommelse og abstraktion opstår i både biologiske og kunstige systemer, og trækker forbindelser mellem moderne AI-arkitekturer og langvarige spørgsmål inden for kognitiv videnskab og sindets filosofi.

Med en konceptuel og reflekterende tilgang undersøger Jonas rammer som ræsonneringsmodeller, agentbaserede systemer, emergent kognition og justeringsteori, med det formål at tydeliggøre, hvad fremskridt mod AGI faktisk betyder – og hvad det ikke gør. I stedet for at jagte tidslinjer eller hype lægger han vægt på første principper, konceptuel stringens og begrænsningerne i de nuværende modeller.

Artikler skrevet af Jonas Reeve er AI-genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre nøjagtighed, klarhed og ansvarlig diskussion af avancerede AI-koncepter.