Şirketinizin Hafızası AI Modellerinden Daha Uzun Süre Dayanmalı

İnsanlar sık sık şirketimi hangi modelin beslediğini sorar. Cevap önemlidir: kaliteyi, maliyeti ve sınırlamaları belirler ve bunun üzerine bir saat harcamaktan mutluyum. Ayrıca ikinci bir şeyi de bilmek istiyorum: model değiştiğinde organizasyonun hâlâ neye sahip olacağı.

Bunu bir tarih olarak düşünün. Sağlayıcınız bir Salı günü fiyatını ikiye katlarsa ya da üzerine inşa ettiğiniz uç noktayı kapatırsa, Çarşamba sabahı hâlâ neye sahip olursunuz?

Birçok şirket için dürüst cevap şudur: bir API anahtarı, bir fatura ve bir başkasının sunucularında, bir başkasının saklama takvimine göre depolanan çok uzun bir sohbet geçmişi.

Benim geçmişim kimyadır. Yıllarca kimyasal tesisler için gri kutu modelleri inşa ettim, bunları SCADA, laboratuvar sonuçları ve operatörün kendi notlarıyla entegre ettim. Bu çalışma hızlı bir kural öğretir: koşulları olmayan bir sayı sonuç değildir. Birisi geçen hafta bir sensörü değiştirmiş ve kimse bunu kaydetmemişse, ekrandaki okuma hiçbir şey açıklamaz.

Bu bir laboratuvar defteri problemidir. Şimdi bir tedarik sorunu olarak ortaya çıkıyor ve AI bütçesinin belirlendiği sayfada nadiren yer alır.

Tek Bir Cevapla Yanıtlanan Üç Soru

Daha büyük bir bağlam penceresi, bir modelin tek bir istekte daha fazla bilgi kullanmasını sağlar. Dayanıklı depolama, istekler arasında neyin hayatta kalacağını belirler. Taşınabilirlik ise sağlayıcı değiştiğinde bu bilginin kullanılabilir kalıp kalmayacağını belirler. Bunlar ayrı mimari sorulardır ve milyon tokenlık pencere, herkesin bunları bir bütün olarak ele almasını teşvik etti.

Google’ın kendi belgeleri analojiyi doğrudan sunar: “Bağlam penceresi için bir analoji kısa vadeli hafızadır.” Bunu kelimesi kelimesine alın. Kısa vadeli hafıza kaybettiğiniz şeydir.

Bu yüzden devasa bir pencere satan her satıcı, durumu kalıcı kılmak için ayrı bir şey de satar. Bu katmanları kendi ifadeleriyle dar bir şekilde okuyun ve her birinin gerçekte neyi kapsadığını not edin.

OpenAI varsayılan olarak Yanıt nesnelerini 30 gün saklar; Konuşma nesneleri ve bunların öğeleri bu TTL’den muaf tutulur. Amazon’un 30 günlük silme politikası Bedrock Oturum Yönetimi API’si‘ne uygulanır ve yalnızca bu API’yi kapsar. Anthropic’in istemci tarafı bellek aracı, faydalı bir sınırı gösterir: model bellek işlemleri talep eder, uygulama depolamayı kontrol eder, aynı şirket ise yönetilen bellek depoları‘nı barındırdığı ajanlar için sunar.

Bunların hepsi açıkça yayınlanan sıradan mühendislik kararlarıdır. Ayrıca, şirketinizin çalışma bağlamı için saklama kurallarının başkasının sürüm notlarında yer aldığı anlamına gelir ve hangi kuralın verilerinizin hangisine uygulandığını adlandırabilmelisiniz.

Geçiş Maliyeti Gerçekten Nerede Yaşar

Bir metin üretim çağrısını diğerine değiştirmek bir haftasonu işidir. Bu yüzden “çoklu modeliz” demek çok ucuz bir ifadedir. Pahalı katmanlar, kimsenin demo yapmadığı katmanlardır.

Gömme temsilleri. Değiştirmek gömme modeli genellikle korpusu yeniden gömmeyi ve dizini taşıma ya da yeniden oluşturmayı gerektirir. Bir değişiklik üretim modeli böyle bir gereklilik taşımaz ve ikisi sürekli karışır — genellikle geçişin hızlı olacağına söz veren kişi tarafından. 2025 literatürü standart yolu şöyle tanımlar: “tüm korpusu yeniden kodlayıp Yaklaşık En Yakın Komşu (ANN) dizinini yeniden inşa etmek, önemli operasyonel kesintiye ve hesaplama maliyetine yol açar”; o makalenin kendi katkısı, Drift-Adapter, şunun bir yöntemidir: ertelemek yeniden inşayı, gömme uzayları arasında bir dönüşüm öğrenerek. Her iki durumda da, geçiş maliyeti geri getirme doğrulamasını ve operasyonel çalışmayı, ayrıca gömme çağrılarını da kapsar.

İnce ayarlı davranış. Cohere’ın bir cümlesi Eylül 2025 kullanım dışı bırakma bildirimi her satın alma masasının üstünde yer alır: “Önceden ince ayarlı modeller artık erişilebilir olmayacak.” Oluşturmak için ödediğiniz davranış, onu barındıran uç nokta ile birlikte emekli edildi. Herkes yayımlanan süreci izledi. Modeliniz yine de ortadan kayboldu.

Komut ve araç davranışı. Aynı talimatlar farklı bir modelde farklı bir uygulama üretir. Bir kurumsal uygulamada, araştırmacılar regresyon geçiş oranının düşüşünü rapor etti orijinal modelde %100 iken, aynı komutlarla yeni bir modelde %97,3’e düştü, yalnızca kasıtlı komut yeniden tasarımı sonrası toparlandı. Test senaryoları üretimde kendi sıklıklarında ortaya çıkar, bu yüzden bu rakam canlı iş akışlarının ne sıklıkta başarısız olduğunu tahmin etmez. Desteklediği operasyonel kural daha basittir: her model yükseltmesini uygulama seviyesinde, kendiniz doğrulayın, müşteriye ulaşmadan önce.

Bunların tümü sonunda faturaya yansır, fiyatlandırma sayfaları karşılaştırıldıktan çok sonra.

Başkasının Takviminizi Tutması

Kaldırma, yayınlanmış bir takvime göre yürütülür ve takvimler sizin değildir. OpenAI bir yıllık bildirim verdi ardından Assistants API’sini Ağustos 2026’da kapattı – aynı sayfanın standartlarına göre cömert bir yaklaşım, GPT-4.5 Preview’ın yaklaşık üç ay alması gibi. Mistral’ın politikası GA modelleri için altı ay, önizleme ve üçüncü‑taraf modelleri için bir ay olup, “dönen bir takma adın model davranışı ve fiyatlandırmada sessiz güncellemeler ortaya çıkarabileceği” uyarısını içerir.

AWS, sessiz kısmı yaşam döngüsü politikasında yüksek sesle söyler: “EOL tarihinden önce bir Aktif modele geçin; geçiş otomatik olarak gerçekleşmez.”

Yol haritanızın bir ortak yazarı vardır. O, planlama toplantılarınıza asla katılmaz ve hangi çeyrekte olduğunuzla ilgilenmez.

Fiyat da Hareketli Bir Parçadır

Gemini 3.7 Flash’ın listelenen Standart tarifelerinde, beş milyar önbelleğe alınmamış giriş token’ı ve bir milyar faturalı çıkış token’ı ayda 7.500 $ tutar. Şu anda planlanan 1 Ocak 2027 tarifeleri, diğer ücretler veya indirimler öncesinde bu token faturasını 15.000 $’a çıkarır, ürününüz ise daha önceki gibi aynı işlevi görür.

Dondurulmuş bir fiyat listesi daha büyük bir fatura da oluşturabilir. Anthropic’in fiyatlandırma belgeleri, yeni model nesilleri tarafından kullanılan tokenleştiricinin “aynı metin için yaklaşık %30 daha fazla token ürettiğini” belirtir – içerik‑bağımlı ve bu nesillere özgü bir durum – bu da her fatura üzerindeki etkiyi ölçmenizi gerektirir. Bu yüzden faturalandırılan token’ları ölçün. Tek başına bir fiyat kartı size bunu söylemez.

İş akışlarını çalıştıran bir ürün için faydalı ekonomik ölçüt, yeniden denemeler ve insan incelemesi dahil olmak üzere başarılı bir şekilde tamamlanan görevin maliyetidir. Model değiştiğinde bu sayı hareket eder, fiyat kartı değişmese bile.

Ve hiçbir şey, ayrılmanın bir yıl sürdüğü bir konumdan pazarlık edilemez. Capgemini 1,300 yöneticiyi araştırdı ve 2026 baharında milyar‑dolar değerindeki kuruluşlarda kritik teknoloji tedarikçileri hakkında sorular yöneltti: %36’sı bir tedarikçiden ayrılmanın on iki aydan fazla süreceğini söyledi, on üzerinden bir tanesi ise hiç geçerli bir alternatifinin olmadığını belirtti. Bu, ikinci bir kaynağı olmayan bir tedarikçi ilişkisini tanımlar.

Satın Alma Birimine Taşı

Fransa’da, Marsilya’da kayıtlı, Avrupa’da barındırılan bir şirket yönetiyorum ve soyutta hâlâ egemenlik konuşmasını atlayacağım. Her teknoloji tedarikçisinden bağımsız olmak normal bir şirket için ulaşılamaz bir hedeftir. Aynı Capgemini çalışması, yöneticilerin %59’unun tam dijital egemenliği gerçekçi bulmadığını ortaya koydu ve ben de onlarla aynı fikirdeyim.

Kritik bağımlılıklarınızı anlamak ve kontrol etmek daha küçük, mümkün bir görevdir. Üç soru, bir toplantıda yanıtlanabilir: verilerimiz nerede depolanıyor ve işleniyor, kim erişebiliyor ve başka bir sağlayıcıyla çalışmaya devam etmek ne kadar maliyetli olur?

Her şirket lojistik, ödemeler ve bulut depolama hakkında nasıl sorulacağını bilir. Çalışma bağlamı sorulduğunda, Avrupa bağımlılığı toplantıda ikinci kaynak tartışması olarak, sayısal bir değerle birlikte ortaya çıkar; bu da satın almanın harekete geçebileceği bir formdur.

Burada insanların alıntı yaptığı sayılar hakkında bir uyarı var. Bir işletmenin birkaç modeli kullanması, çalışma bağlamını sağlayıcılar arasında taşıyıp taşıyamayacağı hakkında çok az şey söyler. Bunun için ayrı bir test gerekir: kayıtlar, izinler ve tamamlanmamış işler taşınabilir ve hâlâ kullanılabilir mi?

Bir Modelin Gerçekten Değiştirilebilir Olmasını Sağlayan Nedir

Modeller arasında ortak bir arayüz faydalıdır ve ben bir tane inşa ederim. Bu arayüz, model‑özel yetenekleri ve bağımlılıkları görünür kılmalıdır. Taşınabilirlik, her modelin aynı şekilde davrandığına dair bir yanılsama içermez; farkları sessizce düzleştiren bir soyutlama, iyi bir model için ödediğiniz nedeni ortadan kaldırır.

Daha ağır iş, durumu sahiplenmek ve hiçbir sağlayıcının tek custodian olmasına izin vermemektir. Dört unsur, kırılma sırasına göre.

Kontrolünüz altındaki otoriter bir kayıt. Mesajlar, alınan kaynaklar, onaylar, yürütme kontrol noktaları. Dış sistemlerde ne tamamlandığını ve neyin güvenle yeniden denenebileceğini kaydedin: e‑posta gönderilmiş olabilir ancak onay kaydedilmemişse, bunu bilmeyen bir kurtarma prosedürü e‑postayı iki kez gönderebilir. Yeniden oluşturamadığınız herhangi bir sağlayıcı durumu bir bağımlılıktır. Bir olay bunu sizin yerinize belgelemeye başlamadan önce, bunu tek bir kayıt olarak, açıkça yazın.

Her vektörün yanındaki kaynak. Bir vektör, derlenmiş bir artefakt; parça ise kaynak kodudur. Kaynak belgeyi ve sürümünü, belge kimliğini, parça sınırlarını, parçalama sürümünü, gömme modelini sürüm ve boyutlarıyla, indeks sürümünü ve metni üreten işleme kaydedin. Tek bir metin fragmenti bir tabloyu, resmi ya da OCR sonucunu yeniden oluşturmaz. Tüm bunları tutmak, yeniden indekslemeyi planlı bir geçişe dönüştürür; bu da vaat edebileceğim kadar bir rahatlıktır.

Kaynak, çıkarım ve karar ayrımı yapan kayıtlar. Hafıza, bir kaynağın ne dediğini, bir modelin ne çıkarımda bulunduğunu ve bir kişinin ne onayladığını ayırmak zorundadır. Bir müşterinin Perşembe günü ödeme yapacağını vaat etmesi, bir modelin ödemenin gecikeceği tahmini ve Cuma gününe uzatılan mutabık bir uzatma, üç farklı durumla üç farklı kayıttır ve sistem hangi kayda göre hareket edeceğini bilmelidir. Her birinin kaynağı, kapsamı, erişim kuralları ve mevcut durumu gerekir; ayrıca düzeltilmiş mi yoksa yerine geçilmiş mi olduğu da dahil. Bir transkript kanıtı içerebilir; ancak onu yeniden oynatmak, hangi sonuçların hâlâ geçerli ve hangi kararların hâlâ geçerli olduğunu güvenilir bir şekilde belirlemez.

Gerçekten test ettiğiniz taşınabilirlik. Bunu iki şekilde test edilebilir hâle getirin: bir dışa aktarım‑ve‑geri yükleme denemesi ve uygulamanın ne başarması gerektiğini tanımlayan bir değerlendirme paketi. Böylece “geçiş yapabiliriz” ifadesi, birinin çalıştırabileceği bir ölçüme dönüşür: yedek, kalite, izinler, gecikme ve maliyet gereksinimleriniz içinde değiştirilen sistem temsilci iş akışlarını sürdürebiliyor mu? Ve yeniden kullanma hakkınız olan eğitim verilerini, sürümlerini, ayar yapılandırmasını ve kabul testlerini koruyun. Bunlar yeniden eğitimi mümkün kılar, aynı davranışın garanti edilmediği ve ince ayarlı model kimliğinin, hiç tanımadığınız birinin belirlediği bir tarihte sona erdiği anlamına gelir.

Ardından, barındırılan oturumları, prompt önbelleklerini ve sağlayıcı geri getirmeyi yardımcı oldukları her yerde kullanın. Bunlar genellikle mükemmeldir ve onları prensip gereği reddetmek kendi içinde pahalı bir durumdur. Gereksinim, tuttukları kayıtların geri alınabilir ve erişim ve saklama kuralları bozulmadan başka yerlerde kullanılabilir olmasıdır. Hesaplamayı kiralayın; kaydı kontrol altında tutun.

Ben de mimariyi abartmayacağım. Ürün‑pazar uyumu sağlanmadan önce, altı hafta daha erken gönderim genellikle herhangi bir soyutlama katmanını geride bırakır ve müşterileri olmadan üç geri getirme arka ucunu inşa eden bir startup bir müze inşa etmiş olur. Bu takasın doğru olup olmadığı, ürün ve nihai yeniden inşa maliyetine bağlıdır. Ham materyali geri alınabilir tutun ve bir kısayol bir kısayol olarak kalır.

Değişen Kısım

Yapay zeka yalnızca soruları yanıtladığında, bağlam kaybı sadece bir rahatsızlıktı. Promptu yeniden yazıp devam ediyordunuz. Şimdi ise toplantıyı planlıyor, bileti dosyalıyor ve CRM’ye dokunuyor; bağlam eksikliği, müşterilerinize ait sistemlerde yinelenen ya da yarım kalmış işlere yol açıyor.

Model sağlayıcıları olağanüstü şeyler inşa ediyor ve ben onları günlük olarak kullanıyorum. Bahsettiğim sorumluluk, aradaki platformları inşa eden bizlere ait: bağımlılıkları görünür kılmak ve yetkilendirilen ile tamamlanan şeylerin güvenilir bir kaydını korumak.

Tamamlanan her iş akışı, organizasyona yeniden kullanılabilecek bir şey bırakmalıdır — doğrulanmış bir sonuç, izlenebilir bir geçmişe sahip bir karar, bir sonraki görev için daha net bir başlangıç noktası. Birikmiş bu değer, onu yaratan modelin ömründen daha uzun sürmelidir.

Çarşamba sabahı hâlâ neye sahip olacağınızı sorun.