AI 모델 및 플랫폼
Baseten, 의사결정 모델의 컨텍스트 길이를 128K로 늘리고 이미지 입력 지원

핵심 포인트바이슨-1은 평가된 의사결정 모델 중 가장 낮은 브라이어 점수로 인공 분석의 의사결정 지수에서 선두를 차지합니다.
더 보기
- 바이슨-1은 평가된 의사결정 모델 중 가장 낮은 브라이어 점수로 인공 분석의 의사결정 지수에서 선두를 차지합니다.
- 베이스텐은 보정된 의사결정 출력을 보존하기 위해 요청을 잘라내는 대신 훈련된 길이 제한을 초과하는 요청을 거부합니다.
- 그라운드호그-1은 독립적인 의사결정 지수 점수가 없어 전문가 혼합 성능이 검증되지 않은 상태로 남아 있습니다.
Baseten은 2026년 11월 20일, Google의 Gemma 4를 기반으로 후속 학습한 오픈 웨이트 모델 bison-1과 groundhog-1을 출시했다. 두 모델은 사전에 정의된 의사결정에 대해 보정된 확률을 반환한다. Artificial Analysis의 Decision Index v2.1에서 bison-1은 76점을 받아 평가 대상 의사결정 모델 19개 가운데 1위를 차지했다.
두 모델은 Baseten Model APIs와 Hugging Face의 가중치 형태로 모두 이용할 수 있다. 텍스트와 이미지를 입력받고 131,072개 토큰을 지원한다. Baseten에 따르면 이는 이전 mammoth-1, elephant-1, joey-1 API의 16K 컨텍스트보다 8배 긴 길이다. 요청 하나에 하나의 상태와 개수 제한 없이 여러 예·아니요 질문, 이름이 지정된 선택지 질문 또는 순위 점수 질문을 묶어 공통 접두부 프리필 한 번으로 처리할 수 있으며, 텍스트를 생성하지 않는다.
두 가지 모델 크기, 동일한 배포 조건
Bison-1은 Gemma 4 31B를 기반으로 후속 학습한 조밀한 31B 매개변수 모델이다. Groundhog-1은 Gemma 4 26B-A4B를 기반으로 한 26B 전문가 혼합 모델이며, 토큰당 활성 매개변수는 약 4B다. Baseten은 두 모델의 가격을 각각 토큰 100만 개당 0.10달러와 0.035달러로 책정했으며, 이는 mammoth-1 및 elephant-1과 동일한 가격이다.
두 모델은 Baseten의 이전 의사결정 모델과 동일한 API를 사용한다. 학습된 길이 제한을 초과하는 요청은 잘라내는 대신 거부한다. Google의 Gemma 4 기반 모델에는 Apache License 2.0 조건이 적용되고, Baseten의 수정 사항은 MIT License에 따라 공개되며, 사용 시 두 라이선스를 모두 준수해야 한다.
독립적인 Decision Index 평가 결과
Artificial Analysis Decision Index v2.1는 Artificial Analysis가 독립적으로 수행한 평가 6개를 종합한다. AA-Paperclip은 이력서, 영수증, 송장 및 연구 논문 1,500건을 대상으로 의사결정과 정보 추출 능력을 평가하며, 전체 가중치의 30%를 차지한다. 도구 호출 평가인 When2Call은 10%를 차지하고, 직장 내 판단력, 지식과 환각, 추론, 의사결정 불변성을 평가하는 각 항목은 15%씩 반영된다.
Decision Score는 정확도에서 Brier 보정 페널티를 차감해 산출한다. 기본 확률값을 활용하면 신뢰도 임계값을 설정해 일부 사례에는 답하고 나머지는 다른 곳으로 전달할 수도 있으므로, 보정은 의사결정 시스템의 배포 방식에도 중요한 요소다.
Artificial Analysis가 2026년 11월 19일 발표한 결과에서 d1.2-ultra는 75점으로 2위, mammoth-1은 71점을 기록했다. 한편 bison-1의 Brier 점수는 0.14로, d1.2-ultra의 0.15보다 낮아 지수에서 가장 낮은 점수를 기록했다. Brier 측정값은 선택한 답변에 부여한 확률과 그 답변의 정오 여부 사이의 차이를 제곱해 평균한 값이다. 값이 낮을수록 모델의 확신도가 실제 결과와 더 잘 일치한다.
bison-1 모델 카드에 따르면 When2Call, EvalSafe-O*NET-AA, HLE-MultiChoice v1.1, AA-Symmetry v1.1에서 1위를 차지했으며, AA-Paperclip에서는 2위를 기록했다. AA-Omniscience-Decision v1.1에서는 60점으로 11위에 올랐다. 따라서 종합 1위는 모든 평가 항목에서 고르게 우세했다는 뜻이 아니라, 항목별 성적에 상당한 편차가 있었음을 포함한다.
Groundhog-1의 모델 카드에는 아직 Artificial Analysis Decision Index 점수를 받지 않았다고 명시되어 있다.
학습 데이터와 장문 컨텍스트 테스트
두 모델은 핵심 의사결정 기술, 안전성과 응답 보류, 판단 및 전문 분야, 문서와 장문 컨텍스트 작업을 아우르는 671만 개의 의사결정 예시로 학습했다. 여기에는 공개 벤치마크 데이터 세트도 포함된다. 학습 목표는 교차 엔트로피와 Brier 보정 항을 결합하며, 학습된 I don't know 옵션도 포함한다. 예시 7개 중 약 1개에는 정답 하나 대신 확률 목표값이 포함된다.
Baseten은 Gemma 기반 모델을 확장하면서 이러한 소프트 레이블 목표값을 늘린 것이 보정 성능을 크게 높였다고 설명한다. 학습에는 bison-1에 B200 GPU 192개, groundhog-1에 128개를 사용했다.
Baseten이 128K 토큰으로 자체 수행한 장문 컨텍스트 테스트에서 bison-1은 LongMemEval M에서 84.8점, LongMemEval S에서 87.1점을 기록했다. groundhog-1은 각각 77.4점과 79.3점을 기록했다. 이 기업 자체 테스트는 Artificial Analysis의 6개 항목 종합 지수와는 별도로 장문 컨텍스트 성능을 평가한다.
이번 출시는 Base Labs가 기존에 운영해 온 두 가격대 모두에서 장문 컨텍스트와 멀티모달 의사결정 기능을 확장한다. Groundhog-1의 독립 지수 평가 결과는 아직 공개되지 않아, 전문가 혼합 구조가 Baseten이 기대하는 mammoth-1 수준의 성능을 내는지는 여전히 확인이 필요하다.












