아마존 엔지니어가 AI 지출을 제한하기 위해 움직임 – 비용 초과 이후

아마존의 엔지니어 팀은 手書き 코드에서 AI 모델로 작업을 이동함으로써 프로젝트 예산을 초과한 경우를 발견했습니다. 이는 Anthropic의 Claude Sonnet을 사용하여 1,800만 달러를 지출한 경우와 같이, 프로젝트가 출시되지 않은 경우도 포함됩니다. 2026년 7월 28일 내부 회의에서 고위 엔지니어들은 이러한 결과를 “재난적인 비용”이라고 설명했으며, 파이낸셜 타임즈는 여러 사람으로부터 이 발표를 인용했습니다. 그들은 향후 프로젝트에서 지출할 수 있는 금액을 제한하는 자동화된 가드레일을 구축하고 있다고同僚들에게 전했습니다.

가장 큰 예는 아마존의 소매 사이트에서 저자 레코드를 제품 목록과 일치시키는 것이었습니다. 이 프로젝트의 비용은 예산의 860%를 초과했으며, 5개월이 지나서야 발견되었으며, 배포는 실패했습니다. 두 가지 더 작은 경우도 함께 표시되었습니다. 하나는 재무 감사 도구에 대한 예상치外 비용으로 약 54만1000달러였으며, 다른 하나는 아마존의 물류 네트워크에서 배송 속도를 개선하기 위한 작업으로 13만4000달러였으며, 두 周以上가 지나서야 발견되었습니다.

아마존은 이 기술을 사용하여 비용 효율성을 높이는 방법을 포함하여 실험, 학습, 개선하고 있다고 말했습니다. 회사는 또한 몇 가지 분리된 예를 일반적인 비즈니스로 제시하는 것은 그들의 팀이 AI와 함께 일하는 방식을 잘못 표현한다고 말했으며, 이러한 경우는 약 30만명의 직원으로 구성된 기업 내의 소규모 그룹을 다루고 있다고 했습니다.

토큰 청구가 코딩 실수에 미치는 영향

직원들은 전통적인 시스템에서 거의 비용이 들지 않는 실수가 모델이 작업을 수행할 때 비용이 많이 들게 된다는 것을 들었습니다. 이유는 가격 목록에 있습니다. Anthropic은 Claude Sonnet 4.5 및 4.6에 대해 1백만 개의 입력 토큰당 3달러, 1백만 개의 출력 토큰당 15달러를 청구하며, Sonnet 5는 2026년 8월 31일까지 2달러 및 10달러의 도입 가격을 가지고 있으며, 이후에는 동일한 요금이 적용됩니다. Sonnet의 표준 입력 가격에서 1,800만 달러는 약 6000억 개의 입력 토큰을 구입할 수 있습니다.

리트라이 루프가 동일한 컨텍스트를 재전송하거나 배치 작업이 샘플 대신 전체 카탈로그를 대상으로 하는 경우, 예외가 발생하지 않고 아무 것도 충돌하지 않습니다. 그것은 인보이스를 생성하며, 인보이스는 빌드 로그가 아닌 월별 청구 주기에 따라 도착합니다. 실수와 금액 사이의 거리는 나쁨으로 구성된 것을 다섯 개월 문제로 만드는 것입니다.

청구 단위도 변경되고 있습니다. Anthropic의 문서는 Claude 4.7 및 이후 모델이 동일한 텍스트에 대해 약 30% 더 많은 토큰을 생성하는 새로운 토크나이저를 사용한다고 언급합니다. 따라서 동일한 작업은 새로운 모델에서 동일한 헤드라인 요금으로 더 높은 요금이 청구됩니다. 평면 좌석에서 측정된 토큰으로의 더 넓은 전환은 배경입니다. Unite.AI는 Claude Fable 5가 측정된 유틸리티로 가격이 책정될 때 이를 다루었으며, 항상 켜져 있는 Claude 에이전트의 저렴한 시대가 조용히 끝났을 때 다시 다루었습니다.

AWS가 이미 판매하는 컨트롤

이 정확한 문제에 대한 레버는 아마존의 자체 Bedrock 가격 페이지에 게시되어 있습니다. 배치 추론은 요청에 따라 반응하는 것보다 반응하는 속도가 절반입니다. Flex 서비스 계층은 표준 가격에 50% 할인된 가격을 제공하며, Priority 계층은 작업에 속도가 필요할 때 75% 프리미엄을 제공합니다. 지능형 프롬프트 라우팅은 1,000개의 요청당 1달러의 비용이 들며, 더 간단한 프롬프트를 동일한 계열의 더 저렴한 모델로 푸시하여 비용을 최대 30%까지 줄일 수 있다고 AWS는 말합니다.

Anthropic의 측면에서 두 가지가 더 있습니다. 캐시 읽기는 표준 입력 요금의 10분의 1로 청구되므로, 고정 시스템 프롬프트 또는 문서를 재전송하는 것은 캐싱이 켜져 있는 경우 저렴한 부분입니다. 그리고 Claude Haiku 4.5는 1백만 토큰당 1달러 및 5달러의 가격을 가지고 있으며, 이는 Sonnet의 요금의 3분의 1입니다. 이는 기본 모델을 선택한 모든 팀에게 사용할 수 있는 가장 큰 단일 절약입니다.

이 모든 것은 작업당 결정입니다. 모델은 무엇인가, 컨텍스트가 캐싱되는지 여부, 작업이 상호 작용으로 실행되거나 배치 창에서 실행되는지 여부, 계정이 갖는 상한은 무엇인가입니다. 벤더는 이제 자체적으로 시행 계층을 판매하기 시작했습니다. 이는 Spectro Cloud의 PaletteAI 추론 런치패드를 포함하며, 이는 기업이 AI 토큰 비용을 낮추려는 것을 목표로 합니다.

아마존이 바꾸는 것

아마존은 이미 잘못된 방향으로 가리키는 인센티브를 하나 제거했습니다. 2026년 초에 회사는 직원들이 토큰 소비를 늘려서 등급을 올리기 위해 “토큰 맥스킹”이라고 불리는 습관을养하게 된 내부 리더보드를 폐쇄했습니다. 자동화된 가드레일을 설명한 엔지니어들의 다음 움직임은 예산 시행을 배포 경로에 넣는 것입니다. 즉, 월별 검토가 아닌 것입니다.

규모는 1,800만 달러가 재정적인 것이 아니라 治理적인 이야기로 읽히는 이유를 설명합니다. 아마존은 2026년 전체에 걸쳐 약 2조 달러의 자본 지출을 할 것으로 예상되며, 대부분이 AI 및 데이터 센터 인프라에 대한 것입니다. 회사는 2026년 7월 30일 마감 후 2분기 실적을 발표할 예정이며, 자본 지출 라인은 대부분의 관심을 받을 것입니다. 가드레일이 작동하는지 여부를 보여주는 지표는 더 작고 내부적인 것입니다. 즉, 도망친 작업이 얼마나 빨리 플래그되는지입니다. 저자 일치 프로젝트는 5개월이라는 기준을 설정했으며, 자동화된 확인은 이를 빌드에 넣으려는 것입니다.