Val Bercovici, WEKA’da Baş AI Sorumlusu – Röportaj Serisi

Val Bercovici, WEKA’da Baş AI Sorumlusu, bir AI ve veri altyapısı yöneticisidir ve bir sonraki nesil yapay zekanın temelini oluşturan teknolojileri ilerletmeye odaklanmaktadır. Ocak 2025’te Baş AI Sorumlusu olarak WEKA’ya katıldıktan sonra, AI ajan altyapısı oluşturma, eğitim ve çıkarım iş yüklerini hızlandırma ve AI hesaplama ekonomisini iyileştirme üzerine yoğunlaştı. WEKA’daki görevine ek olarak, Bercovici Home Dock’a AI danışmanı, FermiHDI ve The Hive’e stratejik danışman ve PencilDATA Başkanı olarak hizmet vermekte; çalışmaları AI, siber güvenlik, blokzincir, bulut bilişim ve veri altyapısını kapsamaktadır. Kariyeri, giderek daha fazla veri yoğun AI sistemlerini desteklemek üzere tasarlanmış yeni teknolojileri geliştirme ve danışma üzerine uzun vadeli bir odaklanmayı yansıtmaktadır.

WEKA, yapay zeka, makine öğrenimi, yüksek performanslı bilişim ve diğer hızlandırılmış iş yüklerinin yoğun veri gereksinimlerine yönelik, yazılım tanımlı bir platform inşa eden AI‑yerel veri altyapısı şirketidir. WEKA Veri Platformu, kuruluşlara yerel, bulut, hibrit ve uç ortamlar arasında çalışabilen birleşik bir mimari sunar; depolama darboğazlarını ortadan kaldırır, GPU kullanımını artırır ve AI model eğitimi ile çıkarımını hızlandırır. Şirket, giderek ortaya çıkan çıkarım ekonomisi ve ajan‑temelli AI etrafında teknolojisini konumlandırmakta; altyapısı, devasa ölçekli veri erişiminde yüksek verimlilik, düşük gecikme sağlayarak karmaşık AI veri boru hatlarını basitleştirir. WEKA, dünyanın en yüksek performanslı bilişim ortamlarını kullanan işletmeler, bulut sağlayıcıları, araştırma kurumları ve AI geliştiricilerine hizmet vermektedir.

Kariyeriniz NetApp’ın erken bulut stratejisini şekillendirmekten, Kubernetes’in kurucu yönetim kurulunda görev almaktan WEKA’da AI altyapısı inşa etmeye kadar uzandı. Bu evrim, AI’nin bir sonraki aşaması için altyapıyı hazırlama konusundaki düşünce tarzınızı nasıl şekillendirdi?

Kariyerimin her dönemi aynı kalıbı izledi: darboğaz yer değiştiriyor ve sektör bunu fark etmek için yıllar harcıyor. Erken bulut ve Kubernetes döneminde, hesaplama elastik hâle geldi ve orkestrasyon yeni sıkışma noktası oldu. SolidFire satın alımının ardından NetApp’ta CTO olduğum dönemde, hızlı ne demektir düşündüm: üretim iş yükleri altında gerçek rastgele bir ilk bayt okuması için düşük milisaniyeler.

WEKA’ya katılmam tamamen geek bir sebepten kaynaklandı. Tek bir istatistik: önbelleğe alınmamış rastgele bayt okuması 70 mikrosaniye, bu bir depolama sınıfı sayı değildir. Bu sınıftaki sistemlerde mikrosaniye seviyesinde gecikme kavramını hiç düşünmemiştim. İşte ışık yanıp söndü: bu teknoloji sadece depolama değil, bellek uygulamaları, Redis ve KV önbellek gibi DRAM‑sınıfı uygulamalara da hizmet verebilir. Ve tam zamanında, çıkarım eğitimden üstün hâle geldi; sektör bu modelleri paraya dönüştürmek zorunda kaldı ve ajanlar bellek bütünlüğünü oyunun tamamı hâline getirdi.

Bu bakış açısı AI altyapısına yön veriyor. Daha önce bu filmi görmüştük. Cloud FinOps, şirketler birim ekonomisi disiplinine bakmadan altyapı kurup faturayı gördüklerinde ortaya çıktı. AI da aynı eğriden, daha hızlı bir şekilde geçiyor. İşletmeler, planlanan token bütçelerini aşan API tüketim faturalarına karşı token‑maksimumu geri itmeye başladıkça, AI FinOps yükselişe geçiyor. Bu aşamada kuruluşlar çıkarımı ucuz bir hizmet olarak görmeyi bırakıp token verimliliğini finansal bir disiplin olarak yönetmeye başlıyor. AI FinOps, tokenomik ile başlar: çıkarım yığınına etki eden her donanım ve yazılım katmanını optimize ederek token başına birim maliyeti düşürmek. Şu anda bu yığının en büyük israfı, boşta bekleyen pahalı GPU ve yeni ASIC’ler; bunlar bellek ve veri (yani ‘decode’) beklerken FLOPS (yani ‘prefill’) üretmiyor. Bunu çözen, AI’nin bir sonraki aşamasının sahibi olur.

Beyaz Saray yeni AI güvenlik çerçevesinin ayrıntılarını gizli tutuyor. İşletmeler, henüz tam olarak neyin test edileceğini ya da neyin talep edileceğini bilmediklerinde düzenleyici gereksinimlere nasıl hazırlanabilir?

Şirketler son kontrol listesini beklememeli. Belirli testler değişecek, ancak bunların altında yatan zorunluluk değişmeyecek: AI modelinizin ne yaptığını, hangi verileri dokunduğunu ve belirli bir zamanda nasıl davrandığını göstermeniz gerekecek. Ve beklemek artık küresel olarak bir seçenek değil. AB AI Yasası bu ay yürürlüğe girdi ve çoğu ajan orkestrasyonunu yüksek riskli olarak sınıflandırıyor.

Bu, hazırlık işinin altyapı işi olduğu anlamına geliyor. Veri kökeni, gözlemlenebilirlik, yeniden üretilebilirlik ve talep üzerine model durumunu yeniden oluşturma yeteneği, işletmelerin doğru yapması gereken kritik unsurlardır. Son olarak, çıktılardan önce koruma modelleri uygulanmalı; bu modellerle ilişkili gecikme ve token bütçeleri semantik savunma katmanları için belirlenmelidir. Bu yetenekleri şimdi inşa ederseniz, herhangi bir çerçeve sadece bir formatlama egzersizi haline gelir. Son kuralları bekleyip, sistemleri geriye dönük sorumlu hâle getirmeye çalışırsanız, bu yeniden yapılandırma başlangıçtan çok daha pahalı olur.

Sonuçta, güvenli AI inşa etmenin çözümü, daha fazla AI, optimal ve çok kasıtlı bir şekilde uygulanmasıdır.

AI güvenlik testleri hangi yeni altyapı taleplerini doğurabilir ve bu iş yükleri geleneksel model eğitimi ya da çıkarımından nasıl farklı görünebilir?

Eğitim bir yangın hortumu gibidir. Model üzerinden devasa veri hacimlerini sürekli ve öngörülebilir bir desenle itersiniz. Güvenlik testi ise tam tersidir: binlerce değerlendirme senaryosu, tekrarlı sondaj, sürüm‑sürüm davranış karşılaştırmaları ve asla bitmeyen bir adversarial kırmızı‑takım.

Bu profil önemlidir. Güvenlik eğitimi ve testi patlamalı, okuma‑ağır ve karşılaştırmalı bir yapıya sahiptir. Devasa ara durum verileri üretir ve tüketir. Koruma modelleri doğası gereği heterojen ve katmanlı olmalı, sıkı gecikme bütçeleri içinde uygulanmalı ve bu yeni güvenlik kriteri boyutuyla değerlendirmeleri artırmalıdır. Böyle ileri ya da siber‑yetenekli modeller için iş yükü profili kesintisiz 7/24 sürer, bölümlü değil. Bir testi bir kez çalıştırıp sonuçları dosyalamazsınız; üretimdeki hesaplama, bellek ve veri bant genişliğiyle rekabet eden sürekli ajan sürüsü iş yüklerini çalıştırırsınız. Kalite ve hızdan sonra, bugün çoğu altyapı bu üçüncü ilkeyi karşılayamaz.

Altında bir ölçüm sorunu da var. Günümüzde çoğu AI benchmark’ı 8.000 token ya da daha az, bir prompt, bir yanıt üzerinden çalışır. Onların yapay zeka benchmark’ı olduğunu şaka gibi söyleyebilirim. 2026 ortalarında gerçek ajan iş yükleri 100.000‑400.000 token bağlamını binlerce turda çalıştırıyor. Güvenlik değerlendirmeleri bu oyuncak benchmark’ları miras alırsa, var olmayan bir dünya için sistemleri onaylamış oluruz. Düzenleyiciler zaten burada daha iyi bir kas geliştirmeye başladı: NIST, ajan güvenlik değerlendirme araçlarını açık kaynak yaptı ve erken yayımlanan sonuçlar, bilinen temellere göre birkaç kat daha yüksek oranlarda yeni ajan‑ele geçirme saldırılarını gösteriyor. Bu, güvenlik çerçevelerinin yönelmesi beklenen, sürekli, adversarial ve maliyetli test tipidir.

Şirketler, gelecekteki uyumluluk ve güvenlik iş yükleri için özellikle fazla hesaplama ve veri kapasitesi inşa etmeli mi, yoksa bu belirsizlik için daha verimli bir tasarım yolu var mı?

Fazla GPU satın alıp kullanım oranının artmasını beklemek, sadece değer kaybeden donanımda sermaye sıkışmasına yol açar.

Verimli cevap, üretim ve değerlendirme iş yükleri arasında ayrı bir yığın olmadan esneyebilen bir altyapıdır. Bu temelde bir veri problemidir. Veriyi verimli bir şekilde taşıyıp yeniden kullanabilir, iş yükleri arasında bağlamı koruyabilir ve hızlandırıcılarınızı gerçek iş yaparken meşgul tutabilirseniz, uyumluluk artı bir maliyet yerine kademeli bir maliyet haline gelir. AI ekonomisi giderek her token, bayt ve watt’tan ne kadar değer çıkardığınıza dayanır. Bunu doğru yaparsanız, aynı altyapıdan 3‑4 kat daha fazla değer üretebilir ya da raf ayak izini %75’e kadar azaltabilirsiniz. Uyumluluk aynı standartta tutulmalıdır.

Mevcut çerçeve, gelişmiş kapalı modelleri odak noktasına alırken açık‑ağırlıklı modelleri dışarıda tutuyor. Bu iki kategoriye farklı davranmanın altyapı ya da güvenlik açısından hangi zorlukları doğurabilir?

Kapalı modelleri ve açık‑ağırlıklı modelleri farklı ele alırsanız, aynı işleri yapan iki uyumluluk çerçevesi ortaya çıkar ve aradaki boşluk riskin yaşandığı yerdir.

Açık‑ağırlıklı bir model, orijinal sağlayıcının hiçbir görünürlüğünün olmadığı ortamlarda ince ayar yapılabilir ve dağıtılabilir. Sağlayıcıyı düzenlemek burada bir şey değiştirmez. Bölünme zaten görülüyor: bu yıl en yeni kapalı sınır modellerine ihracat kontrolleri getirildi, açık‑ağırlıklı modeller ise sınırları serbestçe geçerek artık kamu yetenek sıralamalarının zirvesinde yer alıyor. Ancak yönetim sınır modellerini tanımladığında, yönetişim modele kadar duramaz. Modellerin nerede çalıştığını, hangi verilere eriştiğini, hangi prompt’ların, yanıtların ve meta verilerin saklandığını, nasıl değiştirildiğini ve altyapının ölçekli yönetişimli AI’yi gerçekten destekleyip desteklemediğini görmeniz gerekir. ISO27001 ve SOC2’ye yeni güncellemeler gerekecek.

Cevabım “güven ama doğrula”. Altyapınız token kapasitesini sağlıyorsa, herhangi bir modelin çıktısı gönderilmeden önce heterojen koruma katmanları çalıştırabilirsiniz: yerel ya da yabancı, açık ya da kapalı. Nesnel doğrulama, modelin nereden geldiğine dayalı kör güven ya da kör güvensizliğin önüne geçer. Açık modeller yaygınlaştıkça, bu doğrulama yeteneği altyapı katmanında yaşar ve işletmeler burada farklılaşır. Politika hangi modellerin izinli olduğunu belirleyebilir. Altyapı ise bu modellerin sorumlu ve ekonomik bir şekilde dağıtılıp dağıtılamayacağını belirler.

AI ajanları daha özerk hâle geldikçe ve daha uzun bağlamlarda çalıştıkça, bu durum organizasyonların izleme ve güvenlik için ayırması gereken veri, bellek ve hesaplama miktarını nasıl değiştirir?

Bir sohbet botu bir prompt ve bir yanıt içerir. Özerk bir ajan ise çalışan bir süreçtir. Onlar onlarca sistemi dokunur, bilgi alır, ara kararlar verir ve bir görevi bitirene kadar saatler ya da günler süren bir durum biriktirir.

Bunu tek tek token ya da yanıt örnekleyerek izleyemezsiniz. Tam diziyi yakalamanız gerekir: ajan ne bildi, ne zaman bildi ve sonrasında ne yaptı. Bir ajan her saat çalıştığında durumu büyür, aynı zamanda bu durumu yakalamak ve analiz etmek için gereken bellek, veri hareketi ve altyapı da büyür. İzleme artık bir kayıt özelliği olmaktan çıkar, kendi kaynak bütçesine sahip bir birincil iş yüküne dönüşür.

Savunma burada acil bir hal alır. AI’nın bellek sorunu bir güvenlik sorunu hâline geliyor. Kod yazan bir ajan açılabilir, gönderilebilir ve kapatılabilir. Bir siber güvenlik ajanı ise kapatılamaz; günlük vardiya değişikliklerinde, sık model güncellemelerinde ve haftalar süren çok aşamalı saldırı kampanyalarında bağlamı tutmalıdır. Bu AI çalışma belleği her birkaç dakikada bir sıfırdan yeniden hesaplanıp atıldığında, birinci saat içinde anormal bir davranışı tespit eden ajan ikinci saatte buna dair bir belleğe sahip olmaz. Saldırganların bu sorunu yoktur; ajanları sürekli zayıflıkları tespit edip takip eder ve zincirler artık token‑ekonomi‑optimize makine hızlarında tamamlanır; bu yüzden AI destekli siber savunma 7/24 özerk çalışmak zorundadır. Ve bu sadece teorik bir durum değildir. Güvenlik satıcıları şu anda 7/24 kalıcı siber ajanlar için hazırlık yapıyor ve ilk keşfettikleri şey, bu iş yüklerinin ekonomisinin sohbet iş yüklerinden hiç farklı olmamasıdır. Bazı organizasyonların bu ajanları kenarda, bir GPU rafı ya da hatta bir soğutucu gönderilemeyecek tesislerde çalıştırması gerekir. Gerçek kurumsal AI sınavı, anlık çıkarımdan çok sürdürülebilir bağlam tutma yeteneğidir. Bu bir token tüketim savaşı hâline gelir ve ölçekli kalıcı bağlam belleğini çözen taraf, kurumsal AI’da ilk yatay “killer app”i – sürekli çalışan mavi ajan sürülerini – güçlendirecektir.

“Bağlam belleği”nin, AI iş yükleri basit sohbetlerin ötesine geçip kalıcı ajanlara dönüşürken artan öneminden bahsettiniz. Bağlam belleği, AI davranışının denetlenmesi, yeniden üretilmesi ya da incelenmesi için de önemli olabilir mi?

Kesinlikle, bu önemli bir kullanım senaryosudur. Yıllarca bellek sadece performans hikayesi olarak görülmüştür: GPU’yu ne kadar hızlı besleyebileceğiniz, ne kadar bağlam tutabileceğiniz. Ajanlar özerk hâle geldiğinde, aynı bellek kanıt haline gelir. Bir ajan günlerce biriktirdiği bağlam üzerine karar veriyorsa, son prompt ve çıktı neden o şekilde davrandığını neredeyse hiç açıklamaz. Açıklama, birikmiş durumdadır.

Teknik açıdan bakıldığında, bu durumun büyük bir kısmı KV önbelleğinde saklanır ve sektör hâlâ bunu geçici bir kazı alanı olarak görür; dayanıklı veri olarak değil. Bu durumu korur ve verimli bir şekilde geri alabilirseniz, sistemin hareket anında ne bildiğini yeniden oluşturabilirsiniz. Takımlar önce bunu hata ayıklama, ardından güvenlik değerlendirmeleri ve sonunda bir soruşturma için kullanacak. Bağlam belleğini atmak, AI’nın neden o kararı verdiğini açıklayan tek kaydı atmak demektir.

AI düzenlemeleri, şirketleri model girişleri, çıktıları, kontrol noktaları, veri kökeni ve ajan etkinliği hakkında çok daha fazla bilgi saklamaya zorlayabilir mi? Bu, AI altyapısı mimarisini nasıl etkiler?

Yönsel olarak evet. AI sistemleri daha kritik hâle geldikçe, görünürlük gereksinimleri tüm veri hattının her adımını kapsayacak şekilde genişleyecek. Düzenleme henüz zorunlu kılmadan önce, ekiplerin denetim amaçlı daha ucuz nesne depolama katmanlarında bayat bağlam belleğini saklamayı planladığını zaten görebiliyorsunuz.

İzleme ile birlikte değişmezlik çok önemli. Kötü niyetli ajanların logları ve diğer adli kanıtları manipüle etmesi artık rutin; bu da merkezi, yoğun hedefli saldırılara karşı dayanıklı olmayan karmaşık kriptografik doğrulama sistemlerini zorunlu kılıyor. Basit şeffaflık logları ya da hash zincirleri, koordine ajan sürülerinin iş birliği yeteneklerine karşı yeterli değil. Çok dağıtık, halka açık blokzincir mimarileri bu amaç için ideal; bu, siber güvenliğin C‑I‑A üçgeninin ortasındaki “Integrity” değerine ışık tutar.

Saklama sadece ölçekli, değişmez bir depolama sorunu değildir. Zor olan, bu bilgiyi güvenilir, düzenli, indeksli ve yeterince hızlı bir şekilde geri alınabilir hâle getirmektir; bu, bir düzenleyiciden, bir olay müdahalesinden ya da bir mahkeme kararından gelen zaman kısıtlamasına karşı kullanılabilir olmalıdır. Sorgulanamayan bir petabayt ajan etkinliği bir sorumluluk, kayıt değil bir sorundur. Mimari değişim, “daha fazla depolama”dan “nesnel olarak doğrulanabilir, kalıcı, sorgulanabilir AI verisi” üzerine tasarlanmış altyapıya kaymaktadır.

Birçok organizasyon daha fazla GPU satın almaya odaklanıyor, ancak AI iş yükleri ölçeklendikçe ve güvenlik gereksinimleri artınca daha az belirgin altyapı darboğazları nerede ortaya çıkıyor?

GPU başlıkları alıyor çünkü bütçenin gözden kaçmayan bir kalemi. Ancak GPU’lar ve özellikle yeni decode‑optimize hızlandırıcılar (ASIC+SRAM) nadiren asıl kısıtlama olur. Bellek bant genişliği, veri yerçekimi ve hareketi, depolama performansı ve ağ, bu hızlandırıcıların üretken iş yapıp yapmadığını ya da beklemede mi kaldığını belirler.

AI daha bağlam‑ağır hâle geldikçe, bellek duvarı tanımlayıcı kısıtlama olur. GPU ekleyebilirsiniz, ama döngülerini tokenları yeniden hesaplamak ya da bağlamı sistemler arasında taşıma harcamasına harcarlarsa, boşa harcanan iş için ödeme yaparsınız, tekrar tekrar. Bellek duvarını ölçeklendirmek, veri katmanının paylaşımlı depolama gibi davranmasını ama gerçek bellek hızlarında çalışmasını gerektirir. Bu HBM‑yanı hız çubuğu, KV önbellek dışa aktarım çözümlerinin kâr merkez dalgası için kritiktir: bunların her biri token‑ekonomi hesabını geçerli kılmak için gerçek bellek‑sınıf performansı sunmalıdır. KV önbellek için saklama değeri bir maliyet merkezi tartışmasıdır, kâr merkezinin ikincilidir. Ve önbellekten okuma, yeniden hesaplamaktan daha yavaşsa, önbellek iş modeline katkı sağlamaz. Önemli olan kaç GPU’ya sahip olduğunuz değil, her birinin ne kadar üretken olduğudur. AI ekonomisi, her token, bayt ve watt’tan ne kadar değer çıkardığınıza dayanır ve güvenlik gereksinimleri bu matematiği daha da zorlayacaktır.

İleriye bakarak, AI güvenliği ve uyumluluğunun, siber güvenliğin ayrı bir teknoloji katmanı hâline gelmesi gibi, kendi başına ayrı bir altyapı iş yükü hâline gelmesini bekliyor musunuz?

AI güvenliği ve uyumluluğunun ayrı bir iş yükü hâline geldiğini göreceğiz ve siber güvenlik paralelliği iki yönde de kesişecek. Güvenlik, bir kezlik bir egzersiz olamayacağını sektör kabul ettiğinde kendi katmanını oluşturdu; siber sigorta sektörü bunu zorunlu kıldı. AI güvenliği de modeller daha yetenekli ve özerk hâle geldikçe aynı zorunlu yörüngeyi izliyor.

Ancak güvenliğin nerede yanlış gittiğinden ders almalıyız. O, bir ek‑parça hâline geldi: ayrı bir yığın, ayrı bir bütçe, sorunu sonradan keşfeden ayrı bir ekip. Güvenlik altyapısı bu hatayı tekrarlamamalı. İzleme, değerlendirme, denetlenebilirlik ve değişmez saklama AI altyapısının içinde, baştan tasarlanmış olarak yer almalı.

Çoğu insanın kaçırdığı nokta şudur: güvenli AI daha fazla AI gerektirir. Koruma modelleri ücretsiz değildir; sürekli eğitilmeli, ince ayar yapılmalı ve ajan çalışma zamanının her adımında çıkarım yapılmalıdır. Token gecikme bütçeleri bunu somut hâle getirir: her yanıtın sabit bir zaman penceresi vardır ve bu pencere içinde ne kadar token işleyebiliyorsanız, çıktıya gönderilmeden önce o kadar doğrulama çalıştırabilirsiniz. Ve sınır modellerinin gerçek tehdidi, onların ajan‑temelli uygulamalarıdır. Ajanlar yüksek hacimli çıkarım döngülerinde çalışır, uzun ufuklarda model çağrılarını tekrar eder. Her döngü gözlemler, yönelir, karar verir, hareket eder ve her adım token tüketir. Bu, AI güvenliğini bir token tüketim savaşı hâline getirir. Saldırganlar kırmızı ajan sürüleri, savunucular mavi ajan sürüleri oluşturur ve daha fazla token‑i dolar ve watt başına üretebilen taraf kazanır. Tokenomik, hem saldırı hem savunma için kritik yol üzerinde yer alır. Bu bir düşünce deneyi olmaktan çıktı bu yaz, büyük bir model deposuna karşı kırmızı ajan sürüsü saldırısı sektörü uyandırdı ve birkaç gün içinde güvenli AI ittifakı kuruldu. Bu arada hacimler katlanarak artıyor: sektör token işleme trilyonlardan katrilyonlara yükseldi.

Güvenlik sürekli‑çalışan bir gereklilik hâline geldiğinde, onun hesaplama, bellek ve veri maliyetleri artık bir ek yük değildir. Bunlar AI çalıştırmanın temel birim ekonomisinin parçası hâline gelir. Bu yaklaşımı erken benimseyen şirketler güvenliği tasarım girdisi olarak görür. Diğerleri ise bunu bir vergi olarak görür.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular WEKA‘yı ziyaret etmelidir.