2026년 CFO 예산을 무너뜨리는 토큰 비용

AI 토큰 비용은 사소한 기술 세부 사항에서 1년도 채 안 되어 이사회 수준의 예산 문제로 변했습니다. 12개월 전만 해도 대부분 CFO들의 관심 항목에 “토큰 비용”이 포함되지 않았지만, 이제는 뉴스, 내부 메모, 예산 동결, 실적 발표 등 잘못된 곳곳에 나타나고 있습니다.

Uber는 2025년 말에 엔지니어들에게 Claude Code에 대한 접근 권한을 부여했습니다. 2026년 4월까지 회사는 연간 AI 코딩 예산 전체를 4개월 만에 소진했습니다. 그 대응으로는 직원당, 월당, 도구당 $1,500으로 지출을 제한했으며, 이는 Bloomberg가 처음 보도한 바와 같습니다. 두 개의 에이전트 기반 코딩 도구(예: Claude와 Cursor)를 동시에 사용하도록 허용하면 한도는 월 $3,000으로 두 배가 되며, 엔지니어당 연간 $36,000의 AI 사용 비용이 됩니다. Uber는 약 4,000명의 엔지니어를 보유하고 있는 것으로 추정되며, 이는 AI에 약 $1억 4,400만 달러를 지출하는 것과 같습니다.

Meta의 비용은 더 클 수 있습니다. 내부 메모는 AI 토큰 비용이 2026년에 수십억 달러에 이를 것으로 경고했습니다. 그 이유는 에이전트가 대규모로 작동하는 메커니즘에 있습니다. AI 에이전트가 버그를 수정하거나 소프트웨어를 작성하기 위해 코드베이스에 연결하면, 각 프롬프트마다 수천 개의 백그라운드 컨텍스트 토큰을 처리합니다. 이제 이를 Meta 규모의 조직에 적용하고 엔지니어링이 Claude를 사용하도록 기업 차원에서 추진하면, 토큰 사용량은 단순히 증가하는 것이 아니라 폭발합니다.

Ramp의 AI 지수에 따르면 70,000개가 넘는 기업의 실제 공급업체 지불을 추적하는 이 지수에서 AI를 채택한 상위 1% 기업은 현재 직원당 월 평균 약 7,500달러를 AI에 지출하고 있으며, 이 지출은 월간 14.1%씩 증가하고 있습니다. AI 채용 스타트업 Mercor의 경영진은 공개적으로 말했다 AI 토큰 비용이 일부 조직에서 직원 보상을 접근하거나 초과하기 시작했다고 합니다.

여기서 얻을 수 있는 교훈이 있습니다. 세계 최대 기술 기업들이 이 비용에 놀랄 수 있다면, 누구든지 놀랄 수 있습니다. 토큰 소비는 실제로 새로운 비용 범주가 되었으며, 이는 2년 전 어느 손익계산서에도 존재하지 않았습니다. 이는 재무팀이 수십 년 동안 모델링하고 전통적인 ROI 계산에 반영해 온 소프트웨어 비용과는 다르게 행동합니다. 왜 AI 토큰 비용이 전통적인 소프트웨어 지출과 이렇게 다르게 작동하는지를 이해하는 것이 이를 통제하기 위한 첫 번째 단계입니다.

AI 토큰 비용이 예측하기 어려운 이유

전통적인 소프트웨어 예산은 간단한 가정에 기반합니다: 비용은 인원 수에 비례한다. 직원 10명을 추가하면 알려진 가격의 좌석 10개가 추가되는 것입니다. 이는 기업이 성장하거나 새로운 소프트웨어 플랫폼을 라이선스할 때 예측하고 계획하기 쉽습니다.

AI 토큰은 그 가정을 깨뜨립니다. 비용은 인원 수가 아니라 사용량에 비례하며, 사용량은 매우 고르지 않고 예측하기 어렵고, 자율 에이전트의 경우 인간이 키보드 앞에 앉아 있는 것과도 연결되지 않습니다. 에이전트 기반 코딩 세션을 진행하는 단일 엔지니어는 경고 없이도 한 달에 수천 달러를 소모할 수 있는데, 이는 결과물이 유용하든 아니든 미터가 계속 작동하기 때문입니다. 많은 모델은 답변하기 전에 단계별로 “생각”하기 위해 수천 개의 숨겨진 보이지 않는 토큰을 생성하여 프롬프트당 비용을 배가시킵니다.

이것이 대부분의 조직이 가격에 반영하지 못한 부분입니다: 새로운 에이전트 AI 지출의 모든 달러는 어디선가 나와야 합니다. 대부분의 CFO에게 이는 혁신 기금으로 흡수되는 소수점 오류가 아니라, 2년 전에는 존재하지 않았던 수백만 달러 규모의 새로운 지출을 의미합니다. 이는 인원 수, 다른 기술 투자, 혹은 사업 내 다른 재량 예산과의 실질적인 트레이드오프가 됩니다.

기업 AI 지출 위험의 세 단계

조직들이 실제로 AI에 어떻게 지출하고 있는지를 살펴보면, 보다 명확한 패턴이 나타납니다. AI 비용 위험은 고르게 분포되지 않고 특정 영역에 집중됩니다. 일반적인 조직에서는 현재 세 단계 중 하나만이 통제되고 있을 가능성이 높습니다.

영업, 마케팅, 운영 부문의 비즈니스 사용자는 주로 좌석당 가격이 책정된 도구($20~$30/사용자/월)를 사용합니다. 이는 재무 부서가 이미 예산을 어떻게 잡아야 할지 알고 있는 단계이며, 지난 20년간 구매해 온 다른 모든 SaaS 항목과 정확히 동일하게 작동합니다.

에이전트 기반 코딩 도구를 사용하는 개발자들이 Uber식 사례의 출처이며, 전체 카테고리는 정액 요금에서 사용량 기반 과금으로 전환되었습니다. GitHub Copilot이 토큰 기반 청구로 전환되었습니다은 2026년 6월에 이루어졌으며, 개발자들은 청구액이 월 $29에서 $750으로, 그리고 집중적인 에이전트 세션에서는 $50에서 $3,000으로 급증할 것으로 예상하고 있습니다. Uber는 여기서 예외가 아니라, 전체 카테고리가 향하는 방향을 조기에 보여주는 사례입니다.

자율 에이전트는 아직 거의 아무도 모델링하지 않은 단계입니다. 에이전트에 대한 “좌석” 개념이 없습니다. 에이전트는 무인으로 실행되며, 하위 에이전트를 생성하고, 실패 시 재시도하며, 가치 있는 결과를 생성하지 않더라도 전체 기간 동안 토큰을 소비합니다. 이는 비용 데이터와 예산 선례가 가장 적은 계층입니다.

간단히 말해, CFO가 가장 편안하게 여기는 단계가 가장 작은 재무 위험이기도 합니다. 실제로 예산을 급증시키는 두 단계는 사용량이 가장 빠르게 증가하는 시점에 예측 가능한 가격 모델에서 벗어나고 있는 단계입니다.

AI 비용 관리 격차 해소

Uber, Meta 및 더 넓은 Ramp 데이터셋 전반에 걸친 공통된 문제는 가시성 부족입니다. 대부분의 조직은 도구를 여는 직원이나 에이전트와 그 사이에 위치하는 계층을 가지고 있지 않습니다. Uber와 같은 지출 상한선은 문제의 근본 원인을 해결하기보다는 사후에 적용되는 거친 해결책에 불과합니다.

이러한 격차를 해소하기 위해 종종 에이전트 오케스트레이션 또는 에이전트 게이트웨이라고 불리는 새로운 범주의 도구가 구축됩니다. 이 도구는 각 작업을 가장 저렴한 모델에 라우팅하고, 지출 한도가 초과되기 전에 이를 강제하며, 재무 부서에 월간 놀라움이 아닌 실시간 미터를 제공합니다.

이 범주는 빠르게 성장하고 있으며 이미 몇 개의 뚜렷한 계층으로 나뉘고 있습니다. 첫 번째 계층은 비용 제어 게이트웨이로, 조직의 애플리케이션과 모델 제공자 사이에 위치해 팀별 지출 상한선, 간단한 작업에 대한 저렴한 모델 자동 라우팅, 응답 캐싱 등을 추가합니다. 이는 Uber가 상한선을 적용할 때 수동으로 수행했던 동일한 레버와 같습니다. 두 번째 계층은 에이전트 오케스트레이션으로, 여러 에이전트가 함께 작업하도록 조정하고, 비용 가시성을 사후에 부착하는 것이 아니라 점점 더 내재화합니다. 그리고 최신의 재무 지향 계층은 AI 지출을 FinOps 팀이 오랫동안 클라우드 지출을 다루어 온 방식으로 다루기 시작했습니다: 팀 및 기능별로 할당하고, 예산을 책정하며, 사후에 발견되는 것이 아니라 매월 검토합니다.

그 다음에는 대형 LLM에 대한 의존도를 줄여 지출을 제한하려는 아키텍처 접근 방식이 있습니다. 일부 기업은 작은 언어 모델을 기업 내부의 제한된 작업(예: 내부 정책, 고객 서비스, 대출 문서 처리, 선적 명세서 파싱) 집합에 맞춰 훈련시키는 하이브리드 SLM/LLM 아키텍처를 구축하기 시작했습니다. 이러한 경제성은 매력적일 수 있습니다.

한 2026 기업 LLM 비교에 따르면, 월 100만 건의 대화량에서 호스팅된 최첨단 LLM 비용은 월 $15,000에서 $75,000 사이이며, 동일한 규모에서 사내에 배포된 파인튜닝된 소형 언어 모델은 월 $150에서 $800 정도입니다. Goldman Sachs는 예를 들어 중앙 집중식 모델 게이트웨이를 통해 AI 지출을 대규모로 관리합니다. 이 게이트웨이는 각 요청을 작업 유형별로 분류하고, 경량 오픈소스 모델부터 최첨단 LLM까지 가장 비용 효율적인 모델에 라우팅하며, 모두 자체 보안 경계 내에서 이루어집니다.

공통된 흐름은 오늘날 대부분의 도구가 엔지니어를 위해, 엔지니어에 의해 구축되어 에이전트 활용을 통해 생산성을 급증시키는 데 초점이 있다는 점입니다. 대부분의 조직이 아직 갖추지 못한 계층은 CFO의 질문에 직접 답하도록 설계된 계층입니다: 어느 팀, 어느 예산, 어떻게 비용을 예측하고, 이 지출이 지원하는 비즈니스 사용 사례는 무엇인가? 이는 에이전트 기반 AI 지출이 계속해서 복합적으로 증가함에 따라 가장 중요한 격차가 될 것입니다.

2년 전만 해도 이러한 항목은 회계 항목에 존재하지 않았습니다. 오늘날 AI 토큰 비용은 대차대조표에서 가장 빠르게 성장하고 가장 이해되지 못한 항목 중 하나이며, AI 비용 관리가 부수적인 프로젝트가 아니라 핵심 재무 분야로 빠르게 자리 잡고 있습니다. 클라우드가 처음 도입되고 비용이 급증했을 때와 비슷한 이야기를 우리는 목격했습니다. 에이전트 기반 AI 도입을 계획하는 조직은 지금 엔지니어링과 재무 사이에 이 대화를 나누고 관리 방안을 마련하는 것이 현명합니다. Uber와 Meta는 사후에 문제가 발생했을 때와 사전에 대비했을 때의 차이를 이미 보여주었습니다.