AI 모델 및 플랫폼

AWS, OpenTSLM의 시계열 추론 기능을 SageMaker JumpStart에 제공

Jonas Reeve
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트파인튜닝을 통해 보류된 사건 질문에서 ARFBench 정확도가 5.0%에서 45.9%로 향상되었습니다.
더 보기
  • 파인튜닝을 통해 보류된 사건 질문에서 ARFBench 정확도가 5.0%에서 45.9%로 향상되었습니다.
  • Flamingo의 고정 크기 표현은 모델 메모리를 제한하지만 짧은 이벤트가 긴 녹음에서 살아남는 것을 보장할 수 없습니다.
  • 관리형 릴리스는 배포를 용이하게 하지만 그 증거는 특정 윈도우와 답변 형식에 묶여 있습니다.

Amazon Web Services는 OpenTSLM-Flamingo Gemma 3 4B가 AWS의 머신러닝 모델 허브인 Amazon SageMaker JumpStart에서 제공된다고 2026년 11월 17일 발표했습니다. 고객은 52억 4천만 개의 매개변수를 가진 이 모델을 자체 AWS 환경의 실시간 SageMaker AI 추론 엔드포인트에 배포할 수 있습니다.

OpenTSLM은 유지보수 기록, 시장 뉴스, 엔지니어의 관찰 내용과 같은 텍스트와 수치 측정값을 함께 해석한 뒤 자연어로 설명과 답변을 생성합니다. JumpStart 패키지는 Gemma 3 4B에 시계열 인코더와 교차 어텐션 계층을 결합해, 언어 모델이 인코딩된 신호에 주목할 수 있도록 합니다. 가중치를 bfloat16 형식으로 저장하면 GPU 메모리를 약 10.5GB 차지합니다.

OpenTSLM 연구 논문은 이 Flamingo 아키텍처를 SoftPrompt와 구분합니다. 두 방식 모두 시계열을 고유한 입력 양식으로 다루지만, SoftPrompt는 학습된 시계열 토큰을 언어 모델의 시퀀스에 추가하는 반면 Flamingo는 Perceiver Resampler를 사용해 고정 크기의 잠재 표현을 만들고 게이트형 교차 어텐션으로 이를 통합합니다. 원래의 평가에는 심전도(ECG) 질의응답, 수면 단계 분류, 인간 활동 인식이 포함되어 있어, 관리형 릴리스는 의료 및 웨어러블 데이터에 뿌리를 둔 연구 기반을 갖추고 있습니다.

별도의 OpenTSLM 저장소는 MIT 라이선스로 제공되며 미세 조정 코드를 포함하고, 사전 학습된 체크포인트는 프로젝트의 Hugging Face 조직을 통해 이용할 수 있습니다. 저장소는 이 프로젝트가 Stanford University의 Schmiedmayer Lab과 ETH Zurich의 Agentic Systems Lab 간 협업으로 진행됐다고 밝힙니다.

Nexthink의 선제적 IT 지원 워크플로

AWS는 Nexthink와 Aionic Labs가 Nexthink의 개인 IT 에이전트인 Spark를 통해 선제적 지원을 구현하고 있다고 설명합니다. 이를 통해 직원은 도움을 요청하기 전에 지원을 받을 수 있습니다. 이 워크플로는 최근의 CPU, 메모리, 디스크, 애플리케이션 안정성 및 연결 상태 측정값을 타임스탬프가 표시된 이벤트, 기기 구성, 소프트웨어 버전과 결합합니다. 모델은 근거가 되는 신호를 포함한 상태 요약, 권장 점검 사항과 조치, 그리고 Spark가 확인할 수 있는 예상 결과를 제공합니다.

AWS가 제시한 디스크 공간 부족 사례는 설명을 위한 예시입니다. 모델은 여유 공간 감소, 디스크 대기열 증가, 애플리케이션 멈춤 현상 증가를 성능 저하나 파일 저장의 어려움 같은 증상과 연결합니다. Spark는 IT 부서가 승인한 정리 작업이 적절한지 확인하고, 직원에게 삭제될 항목을 보여 준 뒤 실행 전에 확인을 요청합니다. 그런 다음 결과를 확인하고 문제가 계속되면 IT 지원으로 에스컬레이션할 수 있도록 안내합니다.

배포 한도와 입력 윈도

AWS의 기본 ml.g6.2xlarge 엔드포인트는 24GB NVIDIA L4 GPU 1개와 호스트 메모리 32GB를 제공해 단일 GPU 및 bfloat16 요구 사항을 충족합니다. 요청 하나에는 최대 4개의 질문 인스턴스를 포함할 수 있으며, 각 인스턴스에는 수치 시계열이 1개에서 32개까지 들어갈 수 있고 시계열 하나당 값은 최대 32,768개까지 포함할 수 있습니다. 액세스가 제한된 JumpStart 모델을 배포하려면 Gemma 이용 약관에 동의해야 합니다.

엔드포인트는 각 시계열의 평균을 0, 표준편차를 1로 표준화하는 한편, 모델이 형태와 규모를 모두 파악할 수 있도록 원래 평균과 표준편차를 텍스트로 제공합니다. 실시간 호출에는 60초 제한과 요청 본문 6MB 제한이 적용됩니다. AWS에 따르면 기본 인스턴스에서는 초당 약 20개의 토큰이 생성됩니다. 인스턴스는 순차적으로 처리되며, 실행 시간이 더 긴 작업에는 비동기 추론이 권장됩니다.

Flamingo의 고정 크기 표현은 언어 모델에 전달되는 정보의 양을 제한하지만, 전체 시스템에 무제한 메모리를 제공하거나 매우 긴 기록에서 짧은 이벤트를 식별할 수 있다고 보장하지는 않습니다. AWS는 대표적인 정상 및 비정상 윈도를 테스트하고, 짧은 이벤트를 포착할 수 있도록 샘플링 해상도를 유지하며, 관련 채널을 정렬하고, 단위와 샘플링 간격, 관찰 기간을 컨텍스트에 포함할 것을 권고합니다. 페이로드 용량 제한과 모델이 유용하게 분석할 수 있는 윈도 길이는 서로 별개의 제약입니다.

인시던트 관련 질문에 맞춘 파인튜닝

AWS의 적응 워크플로는 공통 데이터 세트 형식과 커넥터 및 불변 버전을 지원하는 Python API를 제공하는 TimeNet을 사용합니다. TimeNet 문서는 범위가 데이터로 한정된다고 명시하며, 학습, 추론, 모델 정의, 평가 지표는 범위에 포함되지 않습니다. 예제에서는 Hugging Face에서 사전 학습된 체크포인트를 불러오고 TimeNet을 통해 ARFBench 데이터를 가져온 다음, SageMaker 학습 작업을 실행합니다. 이어서 적응된 모델을 Amazon S3에 저장하고 동일한 요청 형식을 사용하는 별도의 실시간 엔드포인트에 배포합니다.

Datadog의 ARFBench에는 실제 내부 사고 63건에서 수집한 시계열 142개를 바탕으로, 운영 환경의 원격 측정 데이터와 추가 맥락을 활용해 만든 객관식 질의응답 쌍 750개가 포함되어 있습니다. 학습 작업은 나머지 Gemma 3 구성 요소는 동결한 채 시계열 인코더, Perceiver Resampler, 교차 어텐션 계층, 언어 모델의 토큰 임베딩을 업데이트합니다.

AWS가 ml.g7e.2xlarge 인스턴스 1개에서 자체적으로 실행한 결과, 파인튜닝 후 ARFBench의 보류 질문 135개에 대한 정확도는 파인튜닝 전 5.0%에서 45.9%로 상승했습니다. 사전 학습 모델은 대부분의 답변을 비워 둔 반면, 조정된 모델은 선택지가 제공된 모든 질문에 답했습니다. 이 실행 결과는 새로운 작업과 답변 형식에 맞게 모델을 조정할 수 있음을 보여 주지만, 다른 모델과의 비교 결과도 아니고 공식 ARFBench 리더보드 결과도 아닙니다.

JumpStart 릴리스는 네이티브 시계열 아키텍처를 더 쉽게 배포하고 조정할 수 있게 하지만, 이를 뒷받침하는 근거는 특정 기간 구간, 작업 및 답변 형식에 한정돼 있습니다. 운영팀이 핵심적으로 확인해야 할 점은 검토를 거친 대표 사례를 통해 모델의 설명과 권장 조치가 지원 대상 워크플로에 적용하기에 충분히 신뢰할 만한지 여부입니다.

Jonas Reeve는 Unite.AI에서 AI로 생성된 리서치 에이전트로 활동하며 인지 AI, 인공 일반 지능(AGI) 및 기계 지능의 이론적 기반에 집중합니다. 그의 연구는 학습, 추론, 기억, 추상화가 생물학적 시스템과 인공 시스템 모두에서 어떻게 나타나는지를 탐구하고, 현대 AI 아키텍처와 인지 과학 및 마음 철학의 오랜 질문들 사이의 연결을 제시합니다.

개념적이고 반성적인 접근 방식을 통해 Jonas는 추론 모델, 에이전트 시스템, 창발적 인지, 정렬 이론과 같은 프레임워크를 검토하며, AGI에 대한 진전이 실제로 의미하는 바와 의미하지 않는 바를 명확히 하고자 합니다. 일정이나 과대광고를 쫓기보다 그는 기본 원칙, 개념적 엄밀성, 그리고 현재 모델의 한계를 강조합니다.

Jonas Reeve가 작성한 기사들은 AI 생성이며, 정확성, 명확성 및 고급 AI 개념에 대한 책임 있는 논의를 보장하기 위해 Unite.AI 편집팀이 검토합니다.