Mô hình và nền tảng AI

AWS đưa khả năng suy luận chuỗi thời gian của OpenTSLM lên SageMaker JumpStart

Jonas Reeve
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhViệc tinh chỉnh đã nâng độ chính xác của ARFBench từ 5,0% lên 45,9% trên các câu hỏi sự…
Xem thêm
  • Việc tinh chỉnh đã nâng độ chính xác của ARFBench từ 5,0% lên 45,9% trên các câu hỏi sự cố được giữ lại để kiểm tra.
  • Biểu diễn kích thước cố định của Flamingo giới hạn bộ nhớ của mô hình nhưng không thể đảm bảo các sự kiện ngắn tồn tại qua những bản ghi dài.
  • Bản phát hành được quản lý giúp việc triển khai dễ dàng hơn trong khi bằng chứng của nó vẫn gắn với các cửa sổ và định dạng câu trả lời cụ thể.

Amazon Web Services thông báo vào ngày 17 tháng 11 năm 2026 rằng OpenTSLM-Flamingo Gemma 3 4B đã có mặt trên Amazon SageMaker JumpStart, trung tâm mô hình học máy của AWS. Khách hàng có thể triển khai mô hình 5,24 tỷ tham số lên điểm cuối suy luận SageMaker AI theo thời gian thực trong môi trường AWS của riêng mình.

OpenTSLM diễn giải các phép đo số liệu cùng với văn bản như hồ sơ bảo trì, tin tức thị trường và nhận xét của kỹ sư, sau đó đưa ra lời giải thích và câu trả lời bằng ngôn ngữ tự nhiên. Gói JumpStart kết hợp Gemma 3 4B với bộ mã hóa chuỗi thời gian và các lớp chú ý chéo, cho phép mô hình ngôn ngữ tập trung vào những tín hiệu đã được mã hóa. Khi lưu ở định dạng bfloat16, các trọng số của mô hình chiếm khoảng 10,5 GB bộ nhớ GPU.

Bài nghiên cứu về OpenTSLM phân biệt kiến trúc Flamingo này với SoftPrompt. Cả hai đều xem chuỗi thời gian là một phương thức đầu vào gốc, nhưng SoftPrompt thêm các token chuỗi thời gian đã học vào chuỗi đầu vào của mô hình ngôn ngữ, trong khi Flamingo dùng Perceiver Resampler để tạo biểu diễn tiềm ẩn có kích thước cố định và cơ chế chú ý chéo có cổng để tích hợp biểu diễn đó. Đánh giá ban đầu bao gồm trả lời câu hỏi về ECG, phân loại giai đoạn giấc ngủ và nhận dạng hoạt động của con người, tạo nền tảng nghiên cứu cho phiên bản được quản lý này dựa trên dữ liệu y tế và thiết bị đeo.

Kho lưu trữ OpenTSLM riêng biệt được cấp phép theo MIT và cung cấp mã tinh chỉnh; các điểm kiểm tra đã huấn luyện trước có trên tổ chức Hugging Face của dự án. Kho lưu trữ cho biết dự án là sự hợp tác giữa Schmiedmayer Lab thuộc Stanford University và Agentic Systems Lab thuộc ETH Zurich.

Quy trình hỗ trợ CNTT chủ động của Nexthink

AWS cho biết Nexthink và Aionic Labs đang hướng tới việc cung cấp hỗ trợ chủ động thông qua Spark, tác nhân CNTT cá nhân của Nexthink, để nhân viên có thể nhận trợ giúp trước khi phải yêu cầu. Quy trình này kết hợp các phép đo gần đây về CPU, bộ nhớ, ổ đĩa, độ ổn định của ứng dụng và kết nối với các sự kiện có dấu thời gian, cấu hình thiết bị và phiên bản phần mềm. Mô hình cung cấp bản tóm tắt trạng thái kèm các tín hiệu làm căn cứ, một bước kiểm tra và hành động được đề xuất, cùng kết quả dự kiến để Spark xác minh.

Ví dụ về tình trạng sắp hết dung lượng ổ đĩa của AWS chỉ nhằm minh họa. Mô hình liên hệ dung lượng trống giảm, hàng đợi ổ đĩa tăng và tình trạng ứng dụng bị treo thường xuyên hơn với các triệu chứng như hiệu suất chậm hoặc khó lưu tệp. Spark kiểm tra xem có phù hợp để dọn dẹp theo quy trình được bộ phận CNTT phê duyệt hay không, cho nhân viên biết nội dung nào sẽ bị xóa và yêu cầu xác nhận trước khi thực hiện. Sau đó, Spark kiểm tra kết quả và đề nghị chuyển yêu cầu lên bộ phận hỗ trợ CNTT nếu sự cố vẫn tiếp diễn.

Giới hạn triển khai và cửa sổ đầu vào

Điểm cuối mặc định ml.g6.2xlarge của AWS đáp ứng yêu cầu một GPU và bfloat16 với một NVIDIA L4 24 GB cùng bộ nhớ máy chủ 32 GB. Mỗi yêu cầu có thể chứa tối đa bốn mục câu hỏi; mỗi mục gồm từ một đến 32 chuỗi số liệu, với tối đa 32.768 giá trị trong mỗi chuỗi. Để triển khai mô hình JumpStart có quyền truy cập hạn chế, cần chấp nhận Điều khoản sử dụng Gemma.

Điểm cuối chuẩn hóa từng chuỗi về giá trị trung bình bằng không và độ lệch chuẩn bằng một, đồng thời cung cấp giá trị trung bình và độ lệch chuẩn ban đầu dưới dạng văn bản để mô hình nhận được cả hình dạng lẫn quy mô. Các lệnh gọi theo thời gian thực bị giới hạn trong 60 giây, với kích thước phần thân yêu cầu tối đa 6 MB. AWS báo cáo tốc độ tạo khoảng 20 token mỗi giây trên cấu hình mặc định; các phiên bản được xử lý tuần tự và AWS khuyến nghị suy luận bất đồng bộ cho những tác vụ kéo dài hơn.

Biểu diễn có kích thước cố định của Flamingo giới hạn lượng thông tin được đưa đến mô hình ngôn ngữ, nhưng điều đó không giúp toàn bộ hệ thống có bộ nhớ vô hạn hay bảo đảm một sự kiện ngắn vẫn có thể được nhận diện trong bản ghi rất dài. AWS khuyến nghị thử nghiệm các cửa sổ dữ liệu bình thường và bất thường có tính đại diện, giữ đủ độ phân giải lấy mẫu cho các sự kiện ngắn, căn chỉnh các kênh liên quan, đồng thời đưa đơn vị đo, khoảng lấy mẫu và thời gian quan sát vào ngữ cảnh. Giới hạn dung lượng dữ liệu gửi đi và cửa sổ phân tích hữu ích của mô hình là hai ràng buộc riêng biệt.

Tinh chỉnh cho câu hỏi về sự cố

Quy trình thích ứng của AWS sử dụng TimeNet, cung cấp định dạng tập dữ liệu chung và API Python đi kèm các bộ kết nối cùng phiên bản bất biến. Tài liệu của TimeNet nêu rõ phạm vi của công cụ chỉ giới hạn ở dữ liệu; việc huấn luyện, suy luận, định nghĩa mô hình và các chỉ số đánh giá đều nằm ngoài phạm vi đó. Ví dụ này tải một điểm kiểm tra đã huấn luyện trước từ Hugging Face và dữ liệu ARFBench qua TimeNet, chạy một tác vụ huấn luyện trên SageMaker, lưu mô hình đã thích ứng vào Amazon S3 rồi triển khai lên một điểm cuối thời gian thực riêng biệt sử dụng cùng định dạng yêu cầu.

ARFBench của Datadog gồm 750 cặp câu hỏi và câu trả lời trắc nghiệm, được xây dựng từ 142 chuỗi thời gian thuộc 63 sự cố nội bộ thực tế, sử dụng dữ liệu đo từ xa trong môi trường sản xuất và ngữ cảnh bổ sung. Tác vụ huấn luyện cập nhật bộ mã hóa chuỗi thời gian, Perceiver Resampler, các lớp chú ý chéo và phần nhúng token của mô hình ngôn ngữ, đồng thời giữ nguyên các phần còn lại của Gemma 3.

Trong lần chạy của chính AWS trên một phiên bản ml.g7e.2xlarge, độ chính xác trên 135 câu hỏi ARFBench được giữ lại để đánh giá tăng từ 5,0% trước khi tinh chỉnh lên 45,9% sau đó. Mô hình đã huấn luyện trước để trống hầu hết câu trả lời, trong khi mô hình đã thích ứng trả lời mọi câu hỏi bằng một lựa chọn được cung cấp. Lần chạy này cho thấy mô hình có thể thích ứng với một tác vụ và định dạng câu trả lời mới; đây không phải là phép so sánh với các mô hình khác hay kết quả chính thức trên bảng xếp hạng ARFBench.

Bản phát hành trên JumpStart giúp triển khai và điều chỉnh kiến trúc chuỗi thời gian chuyên biệt dễ dàng hơn, trong khi bằng chứng hiện có vẫn chỉ gắn với những khoảng thời gian, tác vụ và định dạng câu trả lời cụ thể. Với các nhóm vận hành, câu hỏi cốt lõi là liệu những ví dụ tiêu biểu đã được đánh giá có cho thấy phần giải thích và hành động được đề xuất của mô hình đủ đáng tin cậy cho các quy trình mà chúng được thiết kế để hỗ trợ hay không.

Jonas Reeve là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, tập trung vào AI nhận thức, trí tuệ nhân tạo chung (AGI), và các nền tảng lý thuyết của trí thông minh máy móc. Công việc của ông khám phá cách mà học tập, suy luận, trí nhớ và trừu tượng xuất hiện trong cả hệ thống sinh học và nhân tạo, tạo ra các mối liên kết giữa kiến trúc AI hiện đại và những câu hỏi lâu đời trong khoa học nhận thức và triết học tâm trí.

Với cách tiếp cận khái niệm và suy ngẫm, Jonas xem xét các khung như mô hình suy luận, hệ thống tác nhân AI, nhận thức nổi lên, và lý thuyết cân chỉnh, nhằm làm rõ tiến bộ hướng tới AGI thực sự có nghĩa là gì — và không phải là gì. Thay vì chạy theo các thời gian biểu hay sự thổi phồng, ông nhấn mạnh các nguyên tắc nền tảng, tính chặt chẽ khái niệm, và giới hạn của các mô hình hiện tại.

Các bài viết do Jonas Reeve viết được tạo ra bằng AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác, rõ ràng và thảo luận có trách nhiệm về các khái niệm AI tiên tiến.