Büyük Ölçekte Yapay Zekâ’nın Gizli Maliyetleri

tarihinde 1 Haziran 2026, GitHub, Copilot için sabit ücretli “premium requests” özelliğini kalıcı olarak kaldırdı ve bunları kullanım bazlı AI kredileriyle değiştirdi. Yeni modelin ilk faturaları bir ay sonra geldiğinde, bazı ajans kullanıcıları hazırlıksız oldukları faturalarla karşılaştı: Bir geliştirici bildirdi en yoğun ajans iş akışları için aylık maliyetlerin $29’dan $750’ye yükseldi.

Bu, 2026 boyunca AI araçları pazarında daha geniş bir kaymanın görülebilir bir örneğiydi – ve hâlâ sabit ücret ödeyen kuruluşları bekleyen bir durum olabilir.

Kuruluşlar tasarruf ettikleri saatleri sayar. Birçoğu, sabit ücretin görünmez kıldığı şeyleri saymaz: bağlam tüketimi ve hatadan sonraki yeniden denemeler. Diğer maliyetler ise satıcı faturasına hiç yansıtılmaz; örneğin çıktıyı gözden geçirme ve istemleri bakımına harcanan zaman. Faturalama gerçek tüketime geçtiğinde, mali disiplin eksikliği olan kuruluşlar, Copilot’un yeni modelinin bazı kullanıcıları şaşırttığı şekilde, onları şaşırtacak bir fatura riskiyle karşı karşıya kalır.

Kimsenin Fiyatlandırmadığı Bağlam

AI’nin bağlama ihtiyacı açık; bu bir soru değildir. Soru, gönderilen bağlamın ilgili olup olmadığı ya da sadece elinizin altında olup olmadığıdır. Tüm bir belgeyi göndermek, modele bilgi vermenin en hızlı yoludur. Bu otomatik olarak en ucuz ya da en iyi yol değildir.

Mayıs 2026’da Stanford’un Dijital Ekonomi Laboratuvarı, sekiz öncü modeldeki ajans kodlama görevlerine ilişkin bir analiz yayınladı ve bu görevlerin basit bir kod sohbetine göre bin kat daha fazla token tükettiğini buldu; ana etken modelin çıktısı değil, tekrar tekrar gönderilen giriş bağlamıdır. Ajans, sonraki her adımda tüm geçmişini yeniden okur. Aynı görev, birden çok kez çalıştırıldığında token tüketimi otuz katına kadar değişiklik gösterdi.

Doğruluk da bağlam hacmiyle doğrusal olarak ölçeklenmez: genellikle orta bir miktarda zirve yapar ve ardından sadece değer katmadan maliyet ekler.

Token körlüğü, o zaman, AI’nin bağlama ihtiyaç duymamasıyla ilgili değildir. Ölçüm olmadan, kimsenin bu bağlamın gerçekten gerekli olup olmadığını sormaması gerçeğiyle ilgilidir. Sabit ücret altında, bu soru göz ardı edilmesi kolaydır. Tüketim bazlı faturalama altında ise bu, maliyetin bir parçası haline gelir.

Başarısızlık İçin İki Kez Ödeme Yapınca

Ajans iş akışları, ROI hesaplamalarında neredeyse hiç görülmeyen başka bir maliyet taşır. On adımlı, her birinin %95 doğru çalıştırılma şansına sahip basitleştirilmiş bir zinciri hayal edin. Bu yeterince güvenilir görünse de, bir araya getirildiğinde, bu zincirin tek bir hata olmadan tüm çalışmayı tamamlayabilme ihtimali sadece yaklaşık %60’tır.

Bir iş akışında birikmiş bağlam her çağrıda tekrar gönderildiğinde, her başarısızlık ve ardından gelen yeniden deneme sadece tekrarlanan adım için maliyet oluşturmaz: önceden gönderilen her şey için de tekrar ödeme yaparsınız.

Bu, ilk ajans hattını (pipeline) kurarken neredeyse herkesin yaşadığı ortak bir sorundur. Ben de bunu yaşadım. Başlangıçta, sadece birkaç ajansla, pek bir şey değildi. Ancak hat hattı büyüdükçe, her başarısız çalıştırma daha pahalı hale geldi ve bu beni, çalışmanın geçip geçmediğini sormak yerine, her ajansın hangi bağlama ihtiyacı olduğunu ve bunu nasıl önbelleğe alabileceğini sormaya itti.

Aynı analiz, adım başına %95 güvenilirliğe sahip on adımlı bir ajansın, tamamen güvenilir bir sisteme göre yeniden denemelerde yaklaşık %40 daha fazla token harcadığını hesaplıyor. Bu, faturada göreceğiniz bir maliyet, ancak muhtemelen hiçbir ROI tablosunda yer almayacak.

Denetim Bir Hata Değildir. Bütçeye Dahildir

Bu nokta kesin olarak belirtilmelidir, çünkü yanlış anlaşılması kolaydır. AI çıktısını gözden geçirmek bir sistem hatası değildir; geliştiricilerle çalışırken kod incelemesinin meşru bir parçası olduğu gibi, AI ile çalışırken de meşru ve beklenen bir bölümdür. Sorun, çıktının gözden geçirilmesi değil. Sorun, bu çalışmanın AI’nın gerçekte ne kadar tasarruf sağladığının hesaplamasına neredeyse hiç dahil edilmemesidir.

Glean’in Work AI Institute’i 6.000 çalışanı anketledi ve otomasyonun onlara haftada yaklaşık 11 saat tasarruf sağladığını buldu, ancak bu saatlerin neredeyse altı buçuk saatini bakım görevlerine harcıyor: AI sistemlerine bağlam sağlamak, çalışmalarını kontrol etmek ve hataları temizlemek. Net tasarruf ise yaklaşık dört buçuk saat – başlık rakamının yarısından az. AI hâlâ zaman tasarrufu sağlıyor, ancak ilk sayı kadar büyük değil.

İstemler (Prompts) Bakım Gerektirir, Sadece Bir Yazar Değil

İstemler günümüzde daha çok üretim kodu gibi davranır: bir model güncellemesi, bağlamda bir değişiklik ya da görünüşte küçük bir düzenleme performanslarını değiştirebilir. Versiyonlama ve test olmadan, bu değişiklikler sessizce sorunlar yaratabilir. Kod için standart olan regresyon testleri, istemleri doğrularken hâlâ sıkça atlanır. Tek bir cümledeki küçük bir düzenleme gibi görünen bir değişiklik, üretime ulaşabilir ve kimse fark etmeden doğruluğu azaltabilir; sorun görünür bir hal alana kadar fark edilmez.

Doğru bir değerlendirme çerçevesi oluşturmak – bir test seti ve her değişiklikte otomatik regresyon testleri dahil – “AI zaman tasarrufu sağlar” hesabında neredeyse hiç yer almayan ekstra bir iştir.

Daha Ucuz Tokenler, Daha Yüksek Faturalar

GitHub Copilot bir istisna değildi. CFO Dive tarafından atıfta bulunulan bir anket, yaklaşık on şirketten yedi tanesinin en az kısmi bir AI bütçe aşımı bildirdiğini geçen yıl boyunca, çoğunlukla tüketim temelli faturalamaya tam geçişten önce, sonrasında değil, ortaya koydu.

Bain & Company, Haziran ayındaki token ekonomisi analizinde, durumu en iyi özetleyen bir paradoks ekliyor: token başına fiyat yıl içinde yarıya düştü, aynı dönemde tüketim ise 4,5 kat arttı.

Model daha ucuz hale geldi, ancak fatura inatla yüksek kalıyor. Şirketler daha yeni modellere geçti, ajanlara daha karmaşık görevler verdi ve onlar için daha fazla iş akışı buldu. Daha ucuz bir token, harcamanın azaldığı anlamına gelmiyordu; bunun yerine bir token tüketmek için daha fazla neden olduğu anlamına geliyordu.

Fatura Gelmeden Nasıl Hazırlanmalı

Bundan sonraki çerçeve daha az AI kullanmakla ilgili değil. AI maliyetlerini, ölçeklendirmeye karar vermeden önce bilmekle ilgili.

1. Önce görünürlüğü elde edin

Takım, iş akışı, uygulama ve tamamlanan görev bazında tüketimi ayrıntılandırana kadar, her genişleme kör bir bahis olur. Bu görünürlük de ücretsiz değildir: özellikle ajan tabanlı iş akışları için, her adımı izlemek, neyin ve neden gerçekleştiğini kaydetmek ve kontrol dışı döngüleri izlemek kendi mühendislik zamanını ve araçlarını gerektirir. Bunu, AI çalıştırma maliyetinin bir parçası olarak bütçele, üzerine ek bir düşünce olarak değil.

2. Net temelde ROI’yi yeniden hesaplayın

Rapor edilen tasarruf edilen saatlerden inceleme, düzeltmeler ve istem bakımı için harcanan zamanı çıkarın. Zaman tasarrufu kullanım durumunun amacıysa ve net sonuç negatif ya da doğrulanamazsa, ölçeklendirmeye hazır değildir. Bunun yerine amaçlanan fayda kalite, kapasite, risk azaltma ya da gelir ise, o sonucu doğrudan ölçün.

3. Maliyet disiplinini uygulayın, ancak tek tip olmayacak şekilde

Başarısızlığın ucuz olduğu durumlarda katı bir harcama sınırı mantıklıdır: iç araçlar, deneysel ajanlar, geliştirme ortamları. Kritik, müşteriyle doğrudan etkileşen işlevsellik – örneğin bir müşteri hizmetleri asistanı – için katı bir sınır uygulanamaz, çünkü kesinti riski yaratır. Bu durumda, daha ucuz bir modele katmanlı geri dönüşler ve erken uyarı bildirimlerine ihtiyaç vardır, sıfırda kapatma yerine.

4. İstemleri ve değerlendirmeleri mühendislik varlıkları olarak ele alın

Sürümlerini oluşturun, dağıtımdan önce test edin ve değişiklikleri gözden geçirin, tıpkı üretim kodunu yönettiğiniz gibi.

Yenilemelere Kendi Verilerinizle Girin

Satıcı fiyatlandırması, kendi kullanım verileriniz olmadan değerlendirilmesi zordur. Bir yenileme veya model değişikliği öncesinde, mevcut iş akışlarınızın önerilen şartlar altında ne kadar maliyetli olacağını hesaplayın. Hedef sadece daha düşük bir fiyat pazarlığı yapmak değildir. Faturadan öğrenmek yerine, o fiyatın gerçek tüketim seviyenizde nasıl davranacağını bilmektir.

Bu hafta yapabileceğiniz üç şey: AI tüketimini takım ve iş akışına göre ayırıp ayıramadığınızı kontrol edin; bir kullanım durumunu seçin ve inceleme için harcanan zamanı rapor edilen tasarruf saatleriyle yan yana koyun; ve katı bir harcama sınırının maliyeti kontrol etmek yerine nerede bir kesinti yaratabileceğini öğrenin.

AI maliyetleri yönetilebilir. Ancak bunları ilk kez faturadan öğrenirken değil.