Özel Yapay Zekâ, İş Yüküyle Birlikte Gelişebilen Bir Altyapı Gerektiriyor

İki yıl önce, konuştuğum şirketlerin neredeyse tamamı yapay zekânın bir API üzerinden öncü bir modeli çağırmak anlamına geldiğini varsayıyordu. Bu varsayım artık geçerliliğini yitiriyor. Açık ağırlıklı modeller gündelik işlerin büyük bölümünü yapabilecek düzeye geldi ve kurumsal bir yapay zekâ uygulamasını değerli kılan şey genellikle arkasındaki model değil, şirketin kendi verileri. Şirketler bunu böyle gördüğünde modeli verilerine yakın tutmanın ve kontrolü altında bulundurmanın sağduyulu bir tercih olduğu açıkça anlaşılıyor.

Özel yapay zekâ tam olarak budur. Modeli kendi ortamınızda çalıştırır, kendi bilgilerinizle ince ayar yapar, nerede çalışacağına ve nelere erişebileceğine siz karar verirsiniz. Banka ya da ilaç şirketiyseniz, özel araştırmalarınızı veya müşteri kayıtlarınızı başka birinin ortamına koyma konusunda zaten hiçbir zaman rahat hissetmezdiniz. Diğer şirketler içinse bu yönelimin nedeni, ölçek büyüdükçe artan çıkarım maliyetleri ve işleyişin temel unsurlarından biri hâline gelen bir konuda tek bir sağlayıcıya bağımlı kalmak istememeleri. Linux Vakfı araştırmasına göre, ankete katılan şirketlerin %63’ü açık bir yapay zekâ modeli kullanıyordu; bu da söz konusu alternatiflerin ne kadar yaygın biçimde benimsendiğini gösteriyor.

İnsanların gözden kaçırdığı nokta, modeli şirket bünyesine aldığınızda altyapı gereksinimlerinin de beraberinde gelmesidir: enerji, soğutma, işlem gücü, modelin nerede barındırılacağı ve diğer her şeye nasıl bağlanacağı. Eskiden bunlar bulut sağlayıcınızın sorunuydu. Artık sizin sorununuz. Çoğu şirket daha önce bu tür kararlar almak zorunda kalmadı ve teknoloji, herhangi birinin beton dökebileceğinden daha hızlı değişiyor. Kapasiteyi yanlış hesaplarsanız, sonunda ortaya çıkan iş yüküne uymayan bir kapasiteye sahip olursunuz. Esneklik en baştan tasarıma dâhil edilmelidir. Mevcut altyapıyı sonradan uyarlamak mümkün olsa bile maliyetli olabilir; ayrıca bazı sağlayıcıların tesisleri bu yoğunluk düzeyi için tasarlanmadığından bunu yapmaları mümkün değildir.

Temel Kapasiteyi Kurun, Talep Sıçramalarını Kiralayın

İşe, her görev için en büyük modele ihtiyaç duymadığınızı kabul ederek başlayın. Belgeleri özetlemek, destek taleplerini sınıflandırmak ve kendi bilgi tabanınızı kullanarak soruları yanıtlamak, açık ağırlıklı bir modelin gizlilik içinde ve maliyetini öngörebileceğiniz şekilde yerine getirebileceği görevlerdir. Öncü modelleri gerçekten gerektiren işler için kullanın.

Bu, altyapının nasıl şekillenmesi gerektiğini gösterir. Her hafta karşılayacağınızı öngörebildiğiniz istikrarlı talep için özel kapasite kurun. Talep sıçramaları ve mevcut kapasitenizi aşan ağır işler için dışarıdan kapasite kiralayın. Şirketler uzun zamandır işlem gücünü bu şekilde yönetiyor; yapay zekâ bu mantığı değiştirmiyor, yalnızca temel kapasite yoğunluğunu artırıyor ve tepe talebindeki dalgalanmanın boyutunu büyütüyor.

Zorluk, özel ortamla kiralanan ortamı tek bir sistem gibi çalıştırırken temel kapasiteyi doğru ölçülendirmektir. İş yükü bir ortamdan diğerine her taşındığında şirketleri veri hattını yeniden kurmaya zorlamadan, her iki ortamın da aynı verilere erişmesi ve aynı denetimlere tabi olması gerekir.

Altyapı Nereye Yerleştirilmeli?

GPU’ları satın almanın kolay karar olduğu ortaya çıkıyor. Sonrasında onları bir yere yerleştirmeniz, çalıştırmanız için gereken enerjiyi sağlamanız, soğutmanız ve diğer tüm sistemlerinize bağlamanız gerekiyor. Yüksek yoğunluklu yapay zekâ donanımı, güç ve soğutma sistemlerinde önemli değişiklikler yapılmadan standart bir kurumsal veri merkezine yerleştirilemez; ayrıca işlettiğiniz her tesise de uygun değildir. Uptime Institute’un 2025 Yapay Zekâ Altyapısı Araştırması’nda, katılımcıların %37’si, yapay zekâ çıkarım iş yüklerini nerede çalıştıracaklarını belirleyen başlıca etkenlerden biri olarak güç kullanılabilirliğini gösterdi.

Çoğu şirket kolokasyon ile bulutun bir arada kullanıldığı bir modelde karar kılıyor. Bu kararı genellikle veriler belirliyor. Veriler zaten birden fazla yere dağılmış durumda, taşınmaları pahalı ve düzenlemelere tabi sektörlerde bazı verilerin ülke dışına ya da belirli bir ortamın dışına çıkarılması mümkün değil. Her şeyi GPU’ların yanındaki tek bir binada toplama fikri kulağa düzenli geliyor ama bu neredeyse hiç gerçekleşmiyor.

Dolayısıyla mesele yalnızca işlem gücünün nerede bulunduğu değil. Mesele, işlem gücünün ihtiyaç duyduğu verilere güvenli biçimde nasıl ulaşacağı ve üç yıl sonra pişman olacağınız maliyetleri ve karmaşıklığı nasıl önleyeceğiniz. Bunu üçüncü büyük dönüşüm olarak düşünün. Birincisi internetti ve bağlantı bu sorunu çözdü. İkincisi buluttu; ağ altyapısı bu sorunu çözerken işletmelerin tek bir konumdan farklı sağlayıcılara bağlanmasını sağlayan yazılım tanımlı ara bağlantıyı mümkün kıldı. Yapay zekâ üçüncü dönüşüm ve ağ altyapısı tek başına bu sorunu çözemiyor. Güce, hem de büyük miktarda güce, ağ altyapısıyla aynı yerde ihtiyaç var. Özel yapay zekâyı başarıyla hayata geçiren şirketler, işlem gücünü güç ve bağlantının buluştuğu yerde konumlandıranlar olacak; bunları iki ayrı satın alma süreci olarak yürütenler değil.

İş Yükleri Değişirken Özel Yapay Zekâyı Bağlamak

Ajan tabanlı yapay zekâ, bağlantı meselesini daha da acil hâle getiriyor. Geleneksel bir uygulama bir istem alır, bir modeli çağırır ve yanıtı geri iletir. Ajan ise tüm süreç boyunca hareket hâlindedir. Birden fazla modeli çağırır, çeşitli sistemlerde sorgular yapar, verileri bulundukları yerden çeker ve işleri başka ajanlara devreder. Bu adımların her biri bir sınırı aşar; gecikmeye yol açar ve kimin nelere erişmesine izin verildiği sorusunu gündeme getirir.

Şimdi modeli bir konuma, verileri başka bir konuma yerleştirin ve verilerin bir bölümünün belirli bir ülkenin sınırları içinde ya da özel bir ortamda kalması gerektiğine dair bir kural koyun. Şirketlerin bu akışlar üzerinde gerçek bir denetime ihtiyacı var: Hangi sistemler hangi verilere erişebilir, bir iş yükü taşındığında ne olur ve hâlihazırda çalışan hiçbir şeyi aksatmadan yeni bir model sisteme nasıl bağlanır?

Altyapının programlanabilir olması bu yüzden gerekli. Modeller, veriler ve ortamlar arasındaki bağlantıları her seferinde bir mühendislik projesine dönüştürmek yerine yapılandırıp değiştirebilmelisiniz. Üstelik bu yapılandırmayı giderek daha fazla insan dışındaki aktörler yapacak. Model Context Protocol (MCP) gibi standartlar, bir ajana çevresindeki araçlarla ve sistemlerle iletişim kurmak için ortak bir yöntem sunuyor. Yeni bir veri kaynağına ya da modele bağlanması gereken bir ajan, tıpkı başka bir hizmeti çağırır gibi bu bağlantıyı talep edebilir; bu sırada uygun politika ve denetimler yürürlükte kalır. Programlanabilir altyapının uygulamadaki karşılığı budur. Birkaç ayda bir yeni modeller ortaya çıkıyor. Yeni uygulamalar, bugün var olmayan bağlantı yollarına ihtiyaç duyacak. Her değişiklik yeniden kurulum gerektiriyorsa, özel ortama geçme nedeniniz olan esnekliği yitirmişsiniz demektir.

Ekonomik Modeli İşler Hâle Getirmek

Kapasiteyi doğru belirlemek, başarı için kritik bir etkendir ve mesele yalnızca toplam kapasite değildir. Bu işi iyi yapan şirketler, sağladıkları güç ile elde ettikleri token miktarı arasındaki ilişkiyi net biçimde anlıyor. Güç-token dengesi, özel yapay zekânın ekonomik temelini oluşturuyor. Kendi iş yükleriniz için bu dengeyi anlarsanız, ortamınızın boyutunu gerçekten güvenle belirleyebilirsiniz. Bir diğer önemli unsur da kapasite payı bırakmaktır. Her çeyrekte yeni yetenekler pazara sunuluyor; iyi planlama yapan kurumlar, bugünkü gereksinimlerin tam sınırına göre sistem kurmak yerine sırada gelecek yenilikler için her zaman yer bırakıyor. En iyi plan, bu iki unsuru bir araya getirir. Güç-token ekonominizi iyice anlayın, ardından bunun üzerinde makul bir kapasite payı planlayın.

GPU’lar toplam maliyetin yalnızca bir bölümünü oluşturur. Bunları barındırmanın, soğutmanın, çalıştırmanın ve işletmenin geri kalanına bağlamanın maliyeti, donanım harcamalarına denk olabilir. Bir de personel maliyeti var. Çoğu kurum daha önce yüksek yoğunluklu bir bilgi işlem ortamı işletmedi; bu uzmanlığı da bir çeyrek içinde işe alıp edinemezsiniz.

Temel kapasite ile talep artışının bu yüzden önemi var. Normal yükünüzü karşılayacak kadar özel kapasite kurun, talep bunu aştığında ek kapasite kiralayın; böylece yılın büyük bölümünde atıl kalacak donanıma para ödemezsiniz. Ayrıca modeller ve uygulamalar değiştikçe, ki değişecekler, yönünüzü değiştirme olanağınızı da korursunuz.

Geleceğe Hazırlık

Bütün bunların temelinde bir zamanlama sorunu yatıyor. Bir veri merkezinin kurulması yaklaşık iki yıl sürüyor. İki yıl içinde kurumların çalıştırmak istediği modeller, donanımlar ve uygulamalar bugünkülerden oldukça farklı olacak. Şimdi üstlendiğiniz taahhütlerin her biri, henüz kimsenin tümüyle tarif edemediği iş yüklerini çalıştırıyor olacak.

Şirketler, hangi iş yüklerinin özel bir ortama ait olduğunu ve ne zaman dış kapasiteye ihtiyaç duyduklarını hâlâ belirlemeye çalışıyor; bu aşamada bulunmaları son derece makul. Kaçınılması gereken şey, karar verme fırsatı bulamadan bu hakkı elinizden alacak altyapı taahhütlerinde bulunmak. Farklı modeller, ihtiyaç duyduğunuzda daha fazla kapasite ve iş yüklerinin taşınabilmesi için esneklik bırakın.

Özel yapay zekânın uzun vadede karşılığını verip vermeyeceği, seçtiğiniz modelden çok, gereksinimleriniz netleştikçe altyapınızın bunlara ayak uydurabilmesine bağlı olacak. Bugünkü iş yükünüz için kurulum yapın, bağlantıları programlanabilir tutun ve hesaplama kaynaklarını ağ altyapısının güçle buluştuğu noktaya yerleştirin.