Salesforce, 이미지와 오디오를 지원하는 Koa Decisions 출시

Salesforce는 2026년 11월 6일 텍스트, 이미지, 오디오를 입력으로 받는 의사결정 모델 Koa Decisions를 공개했다. 이 모델은 Google의 오픈 웨이트 Gemma를 기반으로 한다. Salesforce는 이 기술을 Agentforce의 요청 라우팅을 넘어 Salesforce 워크플로와 개발자 도구로 확장할 계획이다.

Koa Decisions는 HyperClassifier의 차세대 버전이다. 요청과 사용자가 정의한 범주 목록을 입력받아 한 번의 단계로 항목을 선택하거나, 예·아니요로 답하거나, 점수를 반환한다. Salesforce는 이 작업에 밀리초가 걸린다고 설명한다. 이 모델은 NVIDIA와 함께 구축한 별도의 Koa 추론 모델과 함께 Koa 제품군에 합류한다.

Koa Decisions가 답변을 생성하는 방식

차이는 답변을 생성하는 방식에 있다. 대규모 언어 모델은 토큰을 하나씩 생성하며, 새 토큰은 앞서 생성된 토큰을 바탕으로 만들어진다. 반면 의사결정 모델은 요청 전체를 읽고 한 번의 단계로 간결한 답변을 내놓는데, 이 답변은 흔히 단일 토큰이다. 답변이 짧아 생성에 필요한 컴퓨팅 자원이 적고, 다른 소프트웨어가 그 결과에 즉시 따라 조치를 취할 수 있다.

계정 로그인 문제의 경우, 모델은 엔지니어링팀과 영업팀도 포함된 목록에서 계정팀을 선택한 다음 신뢰도 점수를 반환할 수 있다. 이를 통해 에이전트는 반복적으로 발생하는 의사결정에 특화 모델을 사용하고, 글쓰기와 추론에는 범용 LLM을 활용할 수 있다. Salesforce의 설계에서는 고객이 작업마다 모델을 직접 선택할 필요가 없다.

연구 결과와 HyperClassifier의 실제 운영 성과

팀이 공개한 Koa 의사결정 연구 프리프린트는 분류, 의미 기반 엔드포인팅, 불리언 검사, 점수 산정을 단일 토큰 출력으로 제한된 생성 문제로 정식화한다. 원자적 레이블 토큰과 지도 미세 조정을 통해 이러한 작업을 결정론적인 단일 단계 디코딩으로 처리한다.

저자들은 실제 운영 환경의 의도 라우팅 벤치마크에서 정확도 85.5%, 약 0.5초의 응답 시간, 그리고 동일한 서빙 조건에서 테스트한 최첨단 모델보다 중앙값 기준 최대 약 7.5배 빠른 속도를 보고했다. 전용 Jev/TypeSafe 시스템과 비교했을 때는 경쟁력 있는 정확도와 더 빠른 중앙값 응답 시간을 보였으며, 단일 레이블 텍스트 시스템으로는 처리할 수 없는 멀티모달 입력과 다중 레이블 출력도 지원한다고 밝혔다.

Koa Decisions는 이미 Agentforce에 통합된 이전 모델을 기반으로 한다. Salesforce 엔지니어링 계정의 게시물에 따르면 HyperClassifier는 응답이 생성되기 전에 사용자의 의도를 해석하고 에이전트를 작업 세트로 연결한다. 음성 상호작용에서는 사용자가 말하기를 마쳤는지도 판별한다. 이전 설계에서는 각 클래스를 고유한 특수 토큰으로 나타내고 초기 프롬프트 계산 결과를 캐시해, 같은 지시를 다시 처리하지 않도록 했다. 따라서 출력 단계 수는 클래스 이름의 길이와 관계없이 일정하게 유지된다.

2026년 7월 8일 배포 관련 게시물에 따르면 HyperClassifier는 GPT-OSS-20B를 미세 조정했으며 최대 200개 레이블을 분류할 수 있다. 이 모델은 2026년 봄부터 Agentforce Service와 Employee Agent 템플릿의 기본 의도 감지 및 라우팅 모델로 사용됐다.

Salesforce가 측정한 HyperClassifier의 라우팅 응답 시간은 약 26밀리초로, 범용 최첨단 모델의 1,446밀리초와 비교된다. 이 운영 환경 측정치는 이전 모델에 해당하며 Koa Decisions의 성능을 입증하는 것은 아니다.

데모 이용 및 예정된 통합

Salesforce 고객이 아니어도 누구나 무료 Trailhead 계정에 가입한 뒤 Koa Decisions 데모를 이용해 볼 수 있다. 사용자는 요청과 범주 목록을 수정하고 각 선택지의 신뢰도 점수를 확인할 수 있다.

Salesforce는 반품과 같은 범주를 추가할 때 재학습이 필요하지 않다고 설명한다. 이는 많은 기업 고객이 맞춤형 예측 분류 프로젝트를 진행하는 데 수개월이 걸렸던 것과 대조적이다. 의사결정 모델은 경우에 따라 몇 시간 만에 프로덕션 환경에 적용할 수 있다.

문서에 소개된 워크플로 예시에서는 의사결정 모델이 위험에 처한 영업 기회를 표시하고 개입할 팀을 선택하는 한편, LLM은 변경된 내용을 요약한다. 이 과정에서 Sales Cloud 레코드가 Slack 알림으로 이어진다. 향후 통합 대상에는 플로, Apex, 프롬프트 템플릿, 개발자 API가 포함된다. 가격과 제공 방식은 변경될 수 있고, 제공 여부는 지역에 따라 다를 수 있으며, 이용 권한은 고객 계약에 따른다. 따라서 데모와 기존 HyperClassifier 배포만으로는 예정된 모든 통합 기능이 일반 제공되고 있다고 볼 수 없다.

실무적으로 중요한 점은 엔터프라이즈 소프트웨어 내 역할 분담이 더욱 명확해진다는 것이다. 의사결정 모델은 라우팅, 검사, 점수 산정을 맡고 LLM은 설명과 추론을 담당한다. Koa Decisions는 이 구조에 멀티모달 입력과 더 폭넓은 통합 계획을 더한다. 다만 기업 전반으로 확산될지는 이러한 통합이 데모와 HyperClassifier가 이미 수행하는 라우팅 기능을 넘어 어떻게 확대되는지에 달려 있다.