Fortytwo, Engine API 출시…코딩 작업에서 토큰 사용량 24.7% 감소 보고

Fortytwo가 추론 API인 Fortytwo Engine을 출시했다. 이 API는 서로 협력하는 AI 모델을 활용해 추론 능력을 높이고 작업 완료에 필요한 생성 텍스트의 양을 줄인다. 회사에 따르면 첫 지원 모델인 Qwen 3.8 27B는 DeepSWE 소프트웨어 엔지니어링 작업 450회 실행에서 단독으로 작동할 때보다 토큰을 24.7% 적게 사용했으며, 더 많은 작업을 해결했다.

이번 발표는 AI 에이전트의 비용 문제가 커지고 있는 상황을 겨냥한다. 토큰당 가격이 낮다고 해서 작업을 하나 완료하는 데 드는 비용도 반드시 낮은 것은 아니다. 장시간 코딩과 연구를 수행하면 맥락이 반복해서 누적되고, 불필요한 도구 호출과 재시도가 늘어날 수 있다. 회사에 따르면 Fortytwo는 추론 과정에서 낭비되는 작업을 줄이고, 토큰당 가격은 기본 모델 수준으로 유지하는 방식을 택했다.

실수가 누적되기 전에 추론 방향을 조정하다

Fortytwo는 새 Engine의 기반 기술을 Swarm Decoder라고 부른다. 여러 모델 참여자가 응답이 완성되기 전에 생성 중인 공동 추론 경로를 함께 형성하며, 어느 방향이 더 나은지 평가한다. 목표는 잘못된 방향으로 진행된 뒤 추가 생성과 복구 작업이 발생하기 전에 약한 가정을 초기에 찾아내는 것이다.

이는 Fortytwo의 이전 아키텍처와 달라진 점이다. 2025년 군집 추론 연구에서 개별 노드는 독립적인 답변을 내놓은 뒤 이를 직접 비교하고, 가장 강력한 기여를 결합했다. 회사는 검증된 노드에 더 높은 가중치를 부여하는 통계적 순위 산정 메커니즘을 설명하며, 동료 평가가 노드의 평판을 쌓는 데 도움이 된다고 밝혔다. 이전 방식은 완성된 답변을 평가했지만, 새 Engine은 동료 간 순위 산정을 추론 과정 자체에 적용한다.

이 차이는 여러 단계를 거치는 에이전트에서 중요하다. 완성된 답변 중 가장 강력한 것을 고르면 응답 품질은 높아질 수 있지만, 더 약한 대안을 생성하는 데 이미 사용한 토큰을 되돌릴 수는 없다. 지속적인 방향 조정은 비생산적인 추론 경로가 애초에 길어지지 않도록 하는 데 목적이 있다. Fortytwo는 최종 응답만이 아니라 참여한 모든 모델의 토큰을 집계한다고 밝혔다.

CEO 겸 공동 창업자인 Ivan Nikitin은 이점이 두 가지라고 설명했다. “집단 추론은 두 가지 측면에서 효과를 냅니다. 답변의 질이 높아지고, 작업에 필요한 토큰도 줄어듭니다.”

Fortytwo의 테스트 결과

회사의 DeepSWE 평가에서 Engine은 47.8점을 기록해 기본 모델의 42.2점보다 5.6%포인트 높았다. 실행당 평균 토큰 사용량은 1,630만 개에서 1,230만 개로 줄었다. Fortytwo는 450회 실행 전체에서 기본 모델은 총 74억 개, Engine은 총 56억 개의 토큰을 사용했다고 보고했다.

출시 자료에는 과학, 코딩, 일반 추론 분야에 걸친 다른 벤치마크 5종에서도 점수가 더 높게 나왔다고 나와 있다.

출처: Fortytwo의 출시 발표. 회사의 평가 프로토콜에 따라 Qwen 3.8 27B를 Engine을 적용한 경우와 적용하지 않은 경우로 나눠 점수를 비교했다.

이는 회사가 보고한 결과다. 토큰 사용량 24.7% 감소는 DeepSWE 실행에서 나온 결과이며, 모든 벤치마크나 실제 운영 환경의 모든 작업에서 확인된 절감 효과로 해석해서는 안 된다. 개발자가 실제로 확인해야 할 것은 자신의 작업을 모델이 정확하게 완료하면서 전체 토큰 사용량과 재시도, 도구 호출을 줄이는지 여부다.

익숙한 API, 명확한 호환성 한계

이 서비스는 Fortytwo 개발자 플랫폼에서 이용할 수 있다. API 문서에 따르면 OpenAI Chat Completions API와 호환되므로 기존 SDK나 클라이언트에서 Fortytwo API 키와 기본 URL, 지원되는 모델 ID를 사용해 연결할 수 있다.

문서에 명시된 기능으로는 스트리밍, 함수 도구, 병렬 도구 호출, 구조화된 출력이 있다. 개발자는 추론 강도 수준도 선택할 수 있다. 이러한 기능은 대화형 텍스트 생성에 그치지 않고 소프트웨어 도구를 호출해 기계가 읽을 수 있는 결과를 반환해야 하는 에이전트에 적합하다.

호환성에는 한계가 있다. 문서에는 Chat Completions와 모델 목록 조회가 지원 엔드포인트로 나와 있지만, Responses, Embeddings, Audio, Files, Assistants 등의 API는 지원되지 않는다. 일부 요청 필드는 부분적으로만 지원되거나 선택한 모델에 따라 지원 여부가 달라지며, 지원하지 않는 필드는 조용히 무시되는 대신 오류를 반환한다. 따라서 기존 애플리케이션을 이전하려는 팀은 실제 요청이 호환성 가이드에 부합하는지 확인해야 한다.

협력형 AI에 대한 더 큰 승부수

Engine은 자체 인프라에 스웜 추론을 배포하려는 조직을 위한 회사의 서비스인 Fortytwo Harbor와 함께 제공됩니다. Fortytwo는 조직의 경계 안에 데이터를 보관하고 토큰당 API 요금 대신 고정 하드웨어 비용을 적용하는 점을 Harbor의 특징으로 내세웁니다.

회사의 더 광범위한 연구 프로그램에는 모델 네트워크를 통한 학습 데이터 생성도 포함됩니다. 웹사이트에서는 Fortytwo가 생성한 데이터셋으로 학습한 오픈 모델 Strand-Rust-Coder-14B를 소개합니다. 이 연구는 모델 학습에 초점을 맞추는 반면, 새로운 Engine은 기존 오픈 웨이트 모델이 추론 시점에 추론하는 능력을 향상하는 데 주력합니다.

2024년에 설립된 Fortytwo는 Mountain View와 아부다비를 포함해 엔지니어 15명으로 구성된 팀을 보유하고 있으며, 2025년에 시드 전 단계 투자금 230만 달러를 유치하고 2026년에 아부다비의 Hub71 생태계에 합류했다고 밝혔습니다. Qwen 3.8 27B에 이어 Engine에 더 많은 오픈 모델을 추가할 계획입니다.

이번 출시에서는 성공적으로 작업을 완료하는 데 드는 비용을 강조합니다. 지속적인 동료 평가가 그 자체의 추가 비용을 상쇄할 만큼 낭비되는 추론을 안정적으로 줄일 수 있다면, 개발자들은 더 나은 모델과 더 빠른 하드웨어에 더해 에이전트 운영 비용을 개선할 또 다른 방법을 확보할 수 있습니다.