Amazon-ingeniører begrenser AI-utgifter etter overskridelser

Amazon’s (AMZN ) ingeniørteam har funnet eksempler på hvor arbeid som ble flyttet fra håndskrevet kode til AI-modeller overskred prosjektbudsjettene, inkludert 1,8 millioner dollar brukt på å kjøre Anthropics Claude Sonnet på en jobb som aldri ble levert. Senioringeniører presenterte disse eksemplene for ansatte under et internt møte den 28. juli 2026 og beskrev resultatene som “katastrofalt dyre”, ifølge Financial Times, som siterte flere personer som var kjent med presentasjonen. De fortalte kollegene at de nå bygger automatiske sikkerhetsforanstaltninger for å begrense hva fremtidige prosjekter kan bruke.

Det største eksemplet var å sammenligne forfatterrekorder mot produktlistinger på Amazons detaljhandelsnettsted. Utgiftene kom inn 860% over det som prosjektet hadde budsjettert, tok fem måneder å avdekke, og distribusjonen feilet likevel. To mindre eksempler ble vist sammen med det: om 541 000 dollar i uforutsette kostnader på en samling av finansielle revisjonsverktøy, og 134 000 dollar på arbeid for å forbedre leveringshastigheter over Amazons logistikknettverk, fanget etter mer enn to uker.

Amazon sa at de “eksperimenterer, lærer og forbedrer” hvordan de bruker teknologien, inkludert hvordan de driver kostnadseffektivitet. Selskapet sa også at å presentere et fåtall isolerte eksempler som vanlig praksis misrepresenterer hvordan deres team arbeider med AI, og at eksemplene dekket et lite antall grupper innen en korporativ arbeidsstyrke på omtrent 300 000.

Hva token-regningen gjør med en kodefeil

Ansattene ble fortalt at feil som kostet nesten ingenting i konvensjonelle systemer blir dyre når en modell gjør arbeidet. Årsaken ligger på prislappen. Anthropic beregner 3 dollar per million inndata-token og 15 dollar per million utdata-token for Claude Sonnet 4.5 og 4.6, med Sonnet 5 til en introduserende 2 og 10 dollar til 31. august 2026, før den går over til samme takst. Ved Sonnets standard inndata-pris, kjøper 1,8 millioner dollar omtrent 600 milliarder inndata-token.

En retry-løkke som sender samme kontekst på nytt, eller en batch-jobb som peker på hele katalogen i stedet for et utvalg, kaster ingen unntak og krasjer ingenting. Den produserer en faktura, og fakturaen ankommer på en månedlig faktureringscyklus i stedet for i en byggelogg. Den avstanden mellom feilen og tallet er det som gjør en dårlig konfigurasjon til et fem-måneders problem.

Enhetene for fakturering har også flyttet seg. Anthropics dokumentasjon bemerker at Claude 4.7 og senere modeller bruker en nyere tokenizer som produserer omtrent 30% flere token for samme tekst, så identisk arbeid faktureres høyere på en nyere modell til samme overskriftsrate. Den bredere skiftet fra flate plasser til målte token er bakgrunnen: Unite.AI dekket det da Claude Fable 5 ankom som en målt utility og igjen som den billige æraen for alltid-på Claude-agenter endte.

De kontroller AWS allerede selger

Reguleringshåndtakene for dette eksakte problemet er publisert på Amazons egen Bedrock-prisside. Batch-inferens kjører til halv pris. En Flex-tjenestekategori har en 50% rabatt på standardprisen, med en Priority-kategori til en 75% premie for arbeid som trenger hastighet. Intelligent Prompt Routing koster 1 dollar per 1 000 forespørsler og skyver enklere forespørsler til en billigere modell i samme familie, som AWS sier kan redusere kostnadene med opptil 30% uten å skade nøyaktigheten.

Anthropics side legger til to flere. En cache-lesing er priset til en tiendedel av standard inndata-prisen, så å sende en fast system-prompt eller dokument på nytt er den billige delen når caching er slått på. Og Claude Haiku 4.5 lister til 1 og 5 dollar per million token, en tredjedel av Sonnets takst, som er den største enkeltbesparelsen tilgjengelig for ethvert team som valgte frontier-modellen som standard.

Hver enkelt av disse er en per-arbeidsbelastningsbeslutning: hvilken modell, om konteksten er cachet, om jobben kjører interaktivt eller i en batch-vindu, og hva taket kontoen bærer. Leverandører har begynt å selge selv kontroll-laget, inkludert Spectro Clouds PaletteAI-inferens-lanseringsrampe, rettet mot bedrifter som prøver å holde token-kostnadene nede.

Hva Amazon endrer

Amazon har allerede fjernet en incitament som pekte feil vei. Tidligere i 2026 stengte de et internt leaderboard som rangerte ansattes bruk av deres Kiro-utviklerplattform etter at ansatte blåste opp sin token-forbruk for å klatre det, en vane som fikk navnet “tokenmaxxing”. De automatiske sikkerhetsforanstaltningene ingeniørene beskrev er neste trekk, og setter budsjettenkontroll inn i distribusjonsveien i stedet for en månedlig gjennomgang.

Skalaeffekten forklarer hvorfor 1,8 millioner dollar leses som en styringshistorie i stedet for en finansiell. Amazon forventes å bruke omtrent 200 milliarder dollar i kapitalutgifter over 2026, mest på AI- og data-senter-infrastruktur, mot kvartalsinntekter på omtrent 180 milliarder dollar. Selskapet rapporterer andre-kvartalsresultater etter stengetid den 30. juli 2026, og kapitalutgiftslinjen vil ta mest oppmerksomhet. Målet som viser om sikkerhetsforanstaltningene fungerer er mindre og internt: hvor raskt en løpsk jobb blir flagget. Forfatter-matching-prosjektet satte den standarden til fem måneder, og de automatiske sjekkenes hensikt er å flytte den inn i byggingen.