Modele și platforme AI
AWS aduce raționamentul asupra seriilor temporale OpenTSLM în SageMaker JumpStart

Puncte cheieAjustarea fină a crescut acuratețea ARFBench de la 5,0% la 45,9% pe întrebările…
Vezi mai mult
- Ajustarea fină a crescut acuratețea ARFBench de la 5,0% la 45,9% pe întrebările reținute despre incidente.
- Reprezentarea de dimensiune fixă a Flamingo limitează memoria modelului, dar nu poate garanta că evenimentele scurte supraviețuiesc în înregistrări lungi.
- Versiunea gestionată facilitează implementarea, în timp ce dovezile sale rămân legate de ferestre și formate de răspuns specifice.
Amazon Web Services a anunțat pe 17 noiembrie 2026 că OpenTSLM-Flamingo Gemma 3 4B este disponibil în Amazon SageMaker JumpStart, hubul AWS pentru modele de învățare automată. Clienții pot implementa modelul cu 5,24 miliarde de parametri pe un punct final de inferență SageMaker AI în timp real, în propriile medii AWS.
OpenTSLM interpretează măsurători numerice împreună cu texte precum fișe de mentenanță, știri de piață și observațiile inginerilor, apoi oferă explicații și răspunsuri în limbaj natural. Pachetul JumpStart asociază Gemma 3 4B cu un codificator de serii temporale și straturi de atenție încrucișată, care îi permit modelului lingvistic să acorde atenție semnalelor codificate. Atunci când sunt stocate în format bfloat16, ponderile sale ocupă aproximativ 10,5 GB de memorie GPU.
Lucrarea de cercetare OpenTSLM face distincția între această arhitectură Flamingo și SoftPrompt. Ambele tratează seriile temporale ca pe o modalitate nativă de intrare, însă SoftPrompt adaugă în secvența modelului lingvistic tokenuri învățate pentru serii temporale, în timp ce Flamingo folosește un Perceiver Resampler pentru a produce o reprezentare latentă de dimensiune fixă și atenție încrucișată cu porți pentru a o integra. Evaluarea inițială a inclus răspunsuri la întrebări despre ECG, stadializarea somnului și recunoașterea activităților umane, oferind versiunii gestionate o bază de cercetare axată pe date medicale și colectate de dispozitive purtabile.
Depozitul OpenTSLM, separat, este licențiat sub MIT și pune la dispoziție cod pentru ajustarea fină, iar punctele de control preantrenate sunt disponibile prin organizația proiectului de pe Hugging Face. Acesta prezintă proiectul ca pe o colaborare între Schmiedmayer Lab de la Stanford University și Agentic Systems Lab de la ETH Zurich.
Fluxul de lucru Nexthink pentru asistență IT proactivă
AWS descrie cum Nexthink și Aionic Labs dezvoltă asistența proactivă prin Spark, agentul IT personal al Nexthink, astfel încât angajații să poată primi ajutor înainte să îl solicite. Fluxul de lucru combină măsurători recente privind procesorul, memoria, discul, stabilitatea aplicațiilor și conectivitatea cu evenimente marcate temporal, configurația dispozitivului și versiunile software. Modelul oferă un rezumat al stării, împreună cu semnalele justificative, o verificare și o acțiune recomandate, precum și un rezultat preconizat pe care Spark îl poate verifica.
Exemplul AWS privind spațiul insuficient pe disc este unul ilustrativ. Modelul corelează scăderea spațiului liber, creșterea cozii de disc și blocările mai frecvente ale aplicațiilor cu simptome precum performanța lentă sau dificultățile la salvarea fișierelor. Spark verifică dacă este potrivită o operațiune de curățare aprobată de departamentul IT, îi arată angajatului ce urmează să fie eliminat și îi solicită confirmarea înainte de a acționa. Apoi verifică rezultatul și oferă posibilitatea escaladării către asistența IT dacă problema persistă.
Limitele implementării și ferestrele de intrare
Punctul final implicit ml.g6.2xlarge de la AWS îndeplinește cerința unui singur GPU și a formatului bfloat16, având un NVIDIA L4 de 24 GB și 32 GB de memorie gazdă. O solicitare poate conține până la patru instanțe de întrebări, fiecare cu una până la 32 de serii numerice și cel mult 32.768 de valori per serie. Pentru a implementa modelul JumpStart cu acces restricționat, este necesară acceptarea Termenilor de utilizare Gemma.
Punctul final normalizează fiecare serie astfel încât să aibă media zero și abaterea standard unu, furnizând totodată media și abaterea standard inițiale sub formă de text, astfel încât modelul să primească atât forma, cât și scara. Apelurile în timp real au o limită de 60 de secunde și o dimensiune maximă a corpului solicitării de 6 MB. AWS raportează aproximativ 20 de tokenuri generate pe secundă pe instanța implicită; instanțele sunt procesate secvențial, iar inferența asincronă este recomandată pentru lucrări de durată mai mare.
Reprezentarea de dimensiune fixă a arhitecturii Flamingo limitează ceea ce ajunge la modelul lingvistic, dar nu oferă sistemului complet o memorie nelimitată și nici nu garantează că un eveniment scurt va rămâne identificabil într-o înregistrare foarte lungă. AWS recomandă testarea unor ferestre reprezentative, normale și anormale, păstrarea unei rezoluții de eșantionare adecvate pentru evenimentele scurte, alinierea canalelor asociate și includerea în context a unităților, intervalelor de eșantionare și perioadelor de observație. Limita de dimensiune a încărcăturii utile și fereastra de analiză eficientă a modelului sunt constrângeri distincte.
Ajustarea fină pentru întrebări despre incidente
Fluxul de adaptare AWS folosește TimeNet, care oferă un format comun pentru seturile de date și un API Python cu conectori și versiuni imuabile. Documentația TimeNet precizează explicit că domeniul său de aplicare se limitează la date; instruirea, inferența, definițiile modelelor și metricile de evaluare nu sunt incluse. Exemplul încarcă prin Hugging Face un punct de control preantrenat și datele ARFBench prin TimeNet, rulează o sarcină de instruire SageMaker, stochează modelul adaptat în Amazon S3 și îl implementează pe un punct final separat, în timp real, cu același format de solicitare.
ARFBench de la Datadog ARFBench conține 750 de perechi întrebare-răspuns cu variante multiple, derivate din 142 de serii temporale provenite din 63 de incidente interne reale, folosind telemetrie de producție și context suplimentar. Sarcina de instruire actualizează codificatorul de serii temporale, Perceiver Resampler, straturile de atenție încrucișată și înglobările tokenurilor modelului lingvistic, menținând înghețați restul parametrilor Gemma 3.
Într-o rulare proprie a AWS pe o singură instanță ml.g7e.2xlarge, acuratețea la 135 de întrebări ARFBench rezervate pentru testare a crescut de la 5,0% înainte de ajustarea fină la 45,9% după aceasta. Modelul preantrenat a lăsat fără răspuns majoritatea întrebărilor, în timp ce modelul adaptat a răspuns la fiecare întrebare, alegând una dintre opțiunile oferite. Rularea demonstrează adaptarea la o sarcină și un format de răspuns noi; nu reprezintă o comparație cu alte modele și nici un rezultat oficial în clasamentul ARFBench.
Lansarea pe JumpStart facilitează implementarea și adaptarea unei arhitecturi native pentru serii temporale, însă dovezile rămân legate de anumite intervale, sarcini și formate de răspuns. Pentru echipele operaționale, întrebarea esențială este dacă exemplele verificate și reprezentative arată că explicațiile modelului și acțiunile recomandate sunt suficient de fiabile pentru fluxurile de lucru pe care sunt menite să le susțină.












