Mô hình và nền tảng AI

Baseten mở rộng mô hình ra quyết định với ngữ cảnh 128K và khả năng nhận đầu vào hình ảnh

Jonas Reeve
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhBison-1 dẫn đầu Chỉ số Quyết định của Artificial Analysis với điểm Brier thấp nhất…
Xem thêm
  • Bison-1 dẫn đầu Chỉ số Quyết định của Artificial Analysis với điểm Brier thấp nhất trong số các mô hình quyết định được đánh giá.
  • Baseten từ chối các yêu cầu vượt quá giới hạn độ dài đã huấn luyện thay vì cắt bớt chúng để bảo toàn các đầu ra quyết định đã được hiệu chỉnh.
  • Groundhog-1 thiếu điểm Chỉ số Quyết định độc lập khiến hiệu suất hỗn hợp các chuyên gia của nó chưa được xác minh.

Ngày 20 tháng 11 năm 2026, Baseten ra mắt bison-1 và groundhog-1, hai mô hình có trọng số mở được hậu huấn luyện từ Gemma 4 của Google, nhằm đưa ra xác suất đã hiệu chỉnh cho các quyết định được xác định trước. Artificial Analysis chấm bison-1 đạt 76 điểm trong Decision Index v2.1, đưa mô hình này lên vị trí đầu tiên trong số 19 mô hình ra quyết định được đánh giá.

Cả hai đều có thể được sử dụng thông qua Baseten Model APIs và dưới dạng trọng số trên Hugging Face. Chúng nhận văn bản và hình ảnh, đồng thời hỗ trợ 131.072 token; Baseten cho biết độ dài ngữ cảnh này gấp tám lần mức 16K của các API mammoth-1, elephant-1 và joey-1 trước đây. Một yêu cầu có thể gộp một trạng thái cùng với số lượng tùy ý câu hỏi có dạng có/không, lựa chọn theo tên hoặc chấm điểm theo thứ tự vào một lần tiền nạp có tiền tố dùng chung mà không cần tạo văn bản.

Hai kích cỡ mô hình, cùng điều kiện triển khai

Bison-1 là mô hình dày đặc có 31 tỷ tham số, được hậu huấn luyện từ Gemma 4 31B. Groundhog-1 là mô hình hỗn hợp chuyên gia có 26 tỷ tham số, dựa trên Gemma 4 26B-A4B, với khoảng 4 tỷ tham số hoạt động trên mỗi token. Baseten định giá hai mô hình lần lượt ở mức 0,10 USD và 0,035 USD cho mỗi triệu token, tương đương mammoth-1 và elephant-1.

Cả hai sử dụng cùng API với các mô hình ra quyết định trước đây của Baseten; các yêu cầu vượt quá giới hạn độ dài đã được huấn luyện sẽ bị từ chối thay vì cắt ngắn. Các mô hình nền Gemma 4 của Google tuân theo các điều khoản của Apache License 2.0; những sửa đổi của Baseten được phát hành theo MIT License và việc sử dụng phải tuân theo cả hai giấy phép.

Kết quả độc lập trên Decision Index

Decision Index v2.1 của Artificial Analysis kết hợp sáu bài đánh giá do Artificial Analysis thực hiện độc lập. AA-Paperclip, đánh giá khả năng ra quyết định và trích xuất thông tin từ 1.500 hồ sơ xin việc, biên lai, hóa đơn và bài nghiên cứu, chiếm 30% trọng số. Bài đánh giá khả năng gọi công cụ When2Call chiếm 10%, trong khi các bài kiểm tra về khả năng phán đoán trong công việc, kiến thức và hiện tượng ảo giác, suy luận, cũng như tính bất biến của quyết định, mỗi bài chiếm 15%.

Điểm Quyết định được tính bằng cách lấy độ chính xác trừ đi mức phạt hiệu chỉnh Brier. Các xác suất nền tảng cũng hỗ trợ thiết lập ngưỡng tin cậy để trả lời một số trường hợp và chuyển những trường hợp khác đến nơi xử lý khác, khiến việc hiệu chỉnh trở thành yếu tố quan trọng trong cách triển khai hệ thống ra quyết định.

Kết quả ngày 19 tháng 11 năm 2026 của Artificial Analysis xếp d1.2-ultra ở vị trí thứ hai với 75 điểm và mammoth-1 đạt 71 điểm, trong khi điểm Brier 0,14 của bison-1 là mức thấp nhất trong chỉ số, so với 0,15 của d1.2-ultra. Chỉ số Brier tính độ chênh lệch bình phương trung bình giữa xác suất được gán cho câu trả lời đã chọn và việc câu trả lời đó có chính xác hay không. Giá trị thấp hơn cho thấy mức độ tin cậy khớp sát hơn với kết quả thực tế.

Thẻ mô hình của bison-1 ghi nhận kết quả đứng đầu ở When2Call, EvalSafe-O*NET-AA, HLE-MultiChoice v1.1 và AA-Symmetry v1.1, cùng vị trí thứ hai ở AA-Paperclip. Điểm 60 ở AA-Omniscience-Decision v1.1 xếp mô hình thứ 11, cho thấy vị trí dẫn đầu chung bao gồm sự chênh lệch đáng kể giữa các hạng mục, chứ không phải ưu thế đồng đều.

Thẻ mô hình của Groundhog-1 cho biết mô hình này chưa nhận được điểm Decision Index của Artificial Analysis.

Dữ liệu huấn luyện và kiểm thử ngữ cảnh dài

Cả hai mô hình được huấn luyện trên 6,71 triệu ví dụ ra quyết định, bao quát các kỹ năng ra quyết định cốt lõi, an toàn và từ chối trả lời, đánh giá và các lĩnh vực chuyên môn, tài liệu cùng các tác vụ ngữ cảnh dài, bao gồm cả những bộ dữ liệu chuẩn công khai. Mục tiêu kết hợp hàm mất mát entropy chéo với một thành phần hiệu chỉnh Brier, đồng thời bao gồm một I don't know lựa chọn được huấn luyện. Khoảng một trong bảy ví dụ có mục tiêu xác suất thay vì chỉ có một đáp án đúng duy nhất.

Baseten cho rằng việc mở rộng các mục tiêu nhãn mềm này cùng với mô hình nền Gemma đã giúp cải thiện đáng kể khả năng hiệu chỉnh. Quá trình huấn luyện sử dụng 192 GPU B200 cho bison-1 và 128 GPU cho groundhog-1.

Trong các đợt chạy thử nghiệm ngữ cảnh dài của riêng Baseten với 128K token, bison-1 đạt 84,8 điểm trên LongMemEval M và 87,1 điểm trên LongMemEval S, còn groundhog-1 lần lượt đạt 77,4 và 79,3 điểm. Các bài kiểm tra do công ty thực hiện này đánh giá hiệu suất với ngữ cảnh dài riêng biệt với chỉ số tổng hợp gồm sáu phần của Artificial Analysis.

Đợt phát hành này mở rộng khả năng ra quyết định đa phương thức với ngữ cảnh dài trên cả hai phân khúc giá đã được thiết lập của Base Labs. Kết quả độc lập trên chỉ số của Groundhog-1 vẫn là câu hỏi bỏ ngỏ khi đánh giá liệu thiết kế hỗn hợp chuyên gia của mô hình có đạt được hiệu suất ngang mammoth-1 như Baseten kỳ vọng hay không.

Jonas Reeve là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, tập trung vào AI nhận thức, trí tuệ nhân tạo chung (AGI), và các nền tảng lý thuyết của trí thông minh máy móc. Công việc của ông khám phá cách mà học tập, suy luận, trí nhớ và trừu tượng xuất hiện trong cả hệ thống sinh học và nhân tạo, tạo ra các mối liên kết giữa kiến trúc AI hiện đại và những câu hỏi lâu đời trong khoa học nhận thức và triết học tâm trí.

Với cách tiếp cận khái niệm và suy ngẫm, Jonas xem xét các khung như mô hình suy luận, hệ thống tác nhân AI, nhận thức nổi lên, và lý thuyết cân chỉnh, nhằm làm rõ tiến bộ hướng tới AGI thực sự có nghĩa là gì — và không phải là gì. Thay vì chạy theo các thời gian biểu hay sự thổi phồng, ông nhấn mạnh các nguyên tắc nền tảng, tính chặt chẽ khái niệm, và giới hạn của các mô hình hiện tại.

Các bài viết do Jonas Reeve viết được tạo ra bằng AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác, rõ ràng và thảo luận có trách nhiệm về các khái niệm AI tiên tiến.