Yapay zeka modelleri ve platformları

Amazon Mühendisleri, Maliyet Aşımından Sonra AI Harcamalarını Sınırlandırmaya Geçiyor

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Amazon’un (AMZN ) mühendislik ekipleri, el yazısı kod yerine AI modellerini kullanarak projelerin bütçelerini aşan örneklerle karşılaştı. Bunlar arasında Anthropic’in Claude Sonnet’i kullanarak bir işe 1,8 milyon dolar harcandı, ancak proje asla yayınlanmadı. Kıdemli mühendisler, 28 Temmuz 2026’da yapılan bir iç toplantıda personelle bu örnekleri paylaştı ve sonuçları “felaket derecesinde pahalı” olarak nitelendirdi, Financial Times rapor etti, birden fazla kişiye atıfta bulunarak. Gelecek projelerin ne kadar harcama yapabileceğini sınırlayan otomatik güvenlik kontrolleri oluşturduklarını söylediler.

En büyük örnek, Amazon’un perakende sitesindeki ürün listeleriyle yazar kayıtlarını eşleştirdi. Harcama, dựlenenden %860 daha yüksek çıktı, beş ay sürdü ve dağıtım yine de başarısız oldu. İki küçük örnek de gösterildi: mali denetleme araçlarında 541.000 dolarlık plansız maliyetler ve Amazon’un lojistik ağındaki teslimat hızlarını iyileştirme çalışmalarında 134.000 dolar, her ikisi de iki haftadan fazla bir süre sonra keşfedildi.

Amazon, teknolojiyi kullanma şeklini “deneysel, öğrenme ve iyileştirme” olarak nitelendirdi ve bu örneklerin şirketin AI ile çalışma şeklini temsil etmediğini, sadece şirket içinde yaklaşık 300.000 kişilik bir işgücünün küçük bir bölümünü kapsadığını belirtti.

Token faturalandırmasının bir kodlama hatasına ne yaptığı

Personelin, geleneksel sistemlerde neredeyse hiçbir şey maliyeti olmayan hataların, bir model tarafından yapıldığında pahalı hale geldiğini söylendi. Sebep fiyat listesinde yatıyor. Anthropic, Claude Sonnet 4.5 ve 4.6 için girişte 3 milyon token başına 3 dolar ve çıkışta 15 milyon token başına 15 dolar alıyor, Sonnet 5 ise 31 Ağustos 2026’ya kadar 2 milyon token başına 2 dolar ve 10 milyon token başına 10 dolar olarak sunuluyor. Standart girişte, 1,8 milyon dolar yaklaşık 600 milyar girişe karşılık geliyor.

Bir yeniden deneme döngüsünün aynı bağlamı yeniden göndermesi veya bir toplu işin tüm bir kataloğu hedeflemesi yerine bir örneği hedeflemesi, hiçbir istisna oluşturmaz ve hiçbir şeyi çökertmez. Fatura üretir ve fatura, derleme günlüğünde değil, aylık faturalandırma döngüsünde gelir. Hatanın ve sayının arasındaki bu uzaklık, kötü bir yapılandırmayı beş aylık bir problema dönüştürür.

Faturalandırmanın birimi de değişiyor. Anthropic’in belgeleri, Claude 4.7 ve sonraki modellerin aynı metin için yaklaşık %30 daha fazla token üreten yeni bir tokenleştirici kullandığını belirtiyor, bu nedenle aynı iş, aynı başlıklı oranda daha yeni bir modelde daha yüksek faturalandırılır. Düz koltuklardan ölçülen tokene geçiş, arka planı oluşturuyor: Unite.AI, Claude Fable 5’in ölçülen bir hizmet olarak fiyatlandırıldığını ve her zaman açık Claude ajanlarının ucuz döneminin sessizce sona erdiğini kapsadı.

AWS’nin zaten satmakta olduğu kontroller

Bu exact problem için kontroller, Amazon’un kendi Bedrock fiyatlandırma sayfasında yayımlanıyor. Toplu çıkarım, talebe bağlı oranın yarısına çalışıyor. Esnek bir hizmet katmanı, standart fiyatlandırmaya göre %50 indirim taşıyor, Öncelikli katman ise hız gerektiren işler için standart fiyatın %75’ine premium ücret alıyor. Akıllı İstek Yönlendirme, 1000 isteğe 1 dolar alıyor ve daha basit istekleri aynı aileden daha ucuz bir modele yönlendiriyor, AWS bu sayede maliyetleri %30’a kadar azaltabileceğini ve doğruluğu etkilemeyeceğini belirtiyor.

Anthropic’in tarafında iki tane daha var. Önbellek okuması, standart girişin onda biri fiyatla faturalandırılıyor, bu nedenle sabit bir sistem istemini veya belgeyi yeniden göndermek, önbelleğe alındıktan sonra ucuz kısmı oluyor. Ve Claude Haiku 4.5, Sonnet’in oranlarının üçte biri olan 1 milyon token başına 1 dolar ve 5 milyon token başına 5 dolar olarak listeleniyor, bu da varsayılan sınır modelini seçen herhangi bir ekibe sunulan en büyük tek tasarruf.

Bunların her biri iş yükü başına kararlar: Hangi model, bağlam önbelleğe alınıyor mu, iş interaktif olarak mı yoksa toplu bir pencerede mi çalışıyor ve hesap ne tür bir tavana sahip? Satıcılar, token maliyetlerini kontrol etmeye yardımcı olan uygulama katmanını satmaya başladılar, Spectro Cloud’un PaletteAI çıkarma platformu gibi, şirketlerin AI token maliyetlerini kontrol etmelerine yardımcı olmak için.

Amazon’un değiştirdiği şey

Amazon, yanlış yöne işaret eden bir teşvikten zaten vazgeçti. 2026’nın başlarında, personelin Kiro geliştirici platformunun kullanımını gösteren bir dahili sıralamayı kapattı, çünkü personel token tüketimlerini artırmak için sıralamayı tırmandırmıştı, bu da “tokenmaxxing” olarak adlandırıldı. Mühendislerin tanıttığı otomatik güvenlik kontrolleri, sonraki hamle, bütçe uygulamasını aylık gözden geçirme yerine dağıtım yoluna koyuyor.

Ölçek, neden 1,8 milyon doların bir mali hikaye yerine bir yönetim hikayesi okunduğunu açıklıyor. Amazon’un, 2026 boyunca AI ve veri merkezi altyapısı için yaklaşık 200 milyar dolarlık sermaye harcaması yapması bekleniyor, bu da yaklaşık 180 milyar dolarlık çeyrek geliriyle karşılaştırılıyor. Şirket, 30 Temmuz 2026’da kapanıştan sonra ikinci çeyrek sonuçlarını açıklamaya hazırlanıyor ve sermaye harcaması çizgisi en çok dikkat çekecek. Güvenlik kontrollerinin işe yarayıp yaramadığını gösteren ölçüt, daha küçük ve dahili: bir kaçak işin ne kadar hızlı bayraklandığı. Yazar eşleştirme projesi, bu çubuğu beş aya koydu ve otomatik kontrollerin bunu derleme aşamasına getirmesi amaçlanıyor.

Aiden Cross AI tarafından oluşturulan bir stratejisttir ve Unite.AI'de AI ürün stratejisi, yürütme ve deneysel modelleri ölçeklenebilir, piyasa hazır ürünler haline getirmenin pratik zorlukları hakkında yazmaktadır. Çalışmaları, startup'ların ve entreprise takımlarının prototiplerden ve demo'lardan gerçek müşteriler tarafından kullanılan güvenilir sistemlere nasıl geçtiklerini ele almaktadır.
Pragmatik ve detay odaklı bir perspektifle, Aiden ürün yol haritalarını, pazara girme stratejilerini, platform kararlarını ve organizasyonel trade-off'ları analiz etmektedir. Özellikle dağıtım gerçeklikleri, kullanıcı benimseme, altyapı kısıtlamaları ve teknik yetenek ile iş değeri arasındaki uyuma dikkat etmektedir.
Aiden Cross tarafından yazılan makaleler AI tarafından oluşturulmakta ve Unite.AI'in editör ekibi tarafından gerçek dünyada AI ürünlerinin nasıl inşa edildiği, gönderildiği ve ölçeklendirildiği hakkında netlik, doğruluk ve sorumlu bir şekilde kapsanmasını sağlamak için gözden geçirilmektedir.