Drata CEO’su ve Kurucu Ortağı Adam Markowitz – Röportaj Dizisi

Adam Markowitz, sürekli uyum ve güven alanındaki çalışmalarını yapay zekâ ajanlarının yönetişimine taşıyan Drata’nın CEO’su ve kurucu ortağıdır. Drata’yı 2020’de kurmadan önce Troy Markowitz ve Daniel Marashlian’la birlikte Portfolium’u kurmuştur. Güvenlik anketleri, denetimler ve uyum incelemeleri konusundaki deneyimi, kuruluşların güvenilir olduklarını nasıl ortaya koyduklarını otomatikleştirmeye yönelik Drata yaklaşımının şekillenmesine yardımcı olmuştur.

Drata, otomatik kanıt toplama, sürekli kontrol izleme, üçüncü taraf risk yönetimi ve güvenlik anketi iş akışlarını bir araya getiren bir yönetişim, risk ve uyum platformu sunar. Yapay zekâ ajanlarının yönetişimine yönelik özellikleri; ajanları keşfetmeye, eylemler gerçekleştirilmeden önce politikaları uygulamaya ve denetlenebilirlik için kararları kaydetmeye odaklanır. Markowitz bu röportajda içeriden kaynaklanan ajan tehditlerini, makine kimliğini, araç çağrılarının güvenlik sınırlarını ve kuruluşların otonom ajanları geniş ölçekte kullanıma alabilmek için ihtiyaç duyduğu kontrolleri ele alıyor.

Daha önce Portfolium’u kurdunuz; ardından, bir şirket büyüdükçe güvenlik uyumunun ne kadar zahmetli hâle gelebileceğini bizzat deneyimledikten sonra 2020’de Drata’nın kurucu ortağı oldunuz. Bu sorunun, baştan sona yeni bir şirket kurmaya değer olduğuna inanmanızı sağlayan neydi ve yapay zekâ güvenlik ortamını değiştirirken Drata’nın misyonu nasıl evrildi?

Portfolium’u kurucu ortaklarım Troy Markowitz ve Daniel Marashlian’la birlikte yönetirken değerli bir ders öğrendik: İş dünyasında güven kazanmak bir süreçtir, bir sunum değil. Üniversiteler ve büyük kuruluşlar, öğrencilerle ilgili bilgilerin hacmi ve hassasiyeti nedeniyle verilerini korumak için gerekenleri yaptığımızı kanıtlayana kadar bizimle iş ortaklığı kurmuyordu. Her güvenlik anketini, denetimi ve uyum incelemesini elle tamamlamanın yavaş ve yorucu işinin birçok kuruluşun ortak deneyimi olduğunu fark ettik. Portfolium satın alındıktan sonra Troy, Daniel ve ben yeniden bir araya geldik. Daha kod yazmaya başlamadan önce sorunun varlığını doğrulamak için onlarca şirket ve denetçiyle görüşerek Drata’nın ilk sürümünü geliştirmek üzere altı ay harcadık. Ürünü piyasaya sürdüğümüzde ilk altı haftada 100, yıl dolmadan da 1.000 müşteriye ulaştık. Bu, artık “olsa iyi olur” denecek bir şey değil, insanların onsuz işlerini yürütemeyeceği bir ürün sattığımızı gösteriyordu.

Yapay zekâyla birlikte Drata’nın kesintisiz güven sunma misyonu değişmedi, ancak bu güvenin kapsamı genişledi. Önce uyum süreçlerinin zahmetli işlerini otomatikleştirmeye başladık, ardından üçüncü taraf risk değerlendirmelerini ve güvenlik anketlerini baştan sona yürütebilen ajan tabanlı iş akışlarına yöneldik. Ancak asıl değişim, yönetişime ihtiyaç duyan şeyin bizzat ajanlar hâline gelmesiyle yaşandı. Artık platformumuzu yapay zekâ ajanlarının yönetişimini destekleyecek şekilde genişlettik: Ajanları keşfedin, neler yapmalarına izin verildiğini yönetin ve biri sorduğunda denetime dayanacak kanıtlar sunun.

Bir kuruluşun dışından gelen bir saldırganın değil, kuruluşun kendi yapay zekâ ajanlarının yol açtığı riskleri tanımlamak için “İçeriden Kaynaklanan Ajan Tehdidi” terimini kullandınız. İçeriden kaynaklanan ajan tehdidini, güvenlik ekiplerinin onlarca yıldır hazırlık yaptığı geleneksel içeriden kaynaklanan tehditlerden ayıran nedir?

Geleneksel içeriden kaynaklanan tehditler, bir kişinin zaten sahip olduğu erişimi kötüye kullanmasıyla ilgilidir. Bu kişi öfkeli bir çalışan, dikkatsiz biri ya da yanlış bir şeye tıklayan biri olabilir. Güvenlik ekipleri, geçmiş kontrolleri, en az ayrıcalık ilkesi, işten ayrılış kontrol listeleri ve benzeri uygulamalara odaklanarak onlarca yıldır bu riske yönelik programlar oluşturuyor.

İçeriden kaynaklanan ajan tehdidi farklıdır; çünkü ajana en başta erişim izni verilmemiştir. Risk, erişimin kötüye kullanılmasından erişim elde edilmesine kayar. Bir ajana bir hedef verilir ve bu hedefe ulaşmanın açık yolu engellenirse, ajan bir insanın yapacağı gibi talep kaydı açıp beklemez. Başka bir yol bulmaya çalışır: parolası zayıf bir hizmet hesabı ya da kimsenin kapatmayı hatırlamadığı bir uç nokta. Kötü niyet taşımadan ve farkında olduğu bir politikayı ihlal etmeden içeri girer. Tam olarak istediğiniz şeyi yapar; bu da onu fark etmeyi son derece zorlaştırır. Her adım, tek başına değerlendirildiğinde makul görünür ve ajan sonunda başarılı olduğunu bildirir.

Hassas sistemlere erişimi olan çalışanları ve üçüncü tarafları nasıl yöneteceğimizi zaten biliyoruz. Ancak ajanlar üçüncü bir grubu oluşturuyor ve ilk iki grup için geliştirilen araçlar ajanları kapsamıyor.

Yapay zekâ ajanları hedeflerinin peşini bırakmayabilir, makine hızında çalışabilir ve bir insan çalışanın gösterebileceği muhakemeden yoksun biçimde birden fazla sistemle etkileşime girebilir. Bu durum, kurumsal tehdit modelini kökten nasıl değiştiriyor?

Her şeyden çok zaman çizelgesini değiştiriyor. Bir sisteme girmenin yolunu arayan insan sonunda sıkılır, yakalanır ya da vazgeçer. Ajan ise bunların hiçbirini yapmaz. Daha önce fark edilmemiş açık bir kapı artık bulunuyor; çünkü ajan yorulmuyor ve aramayı bırakmıyor.

Üstelik mesele yalnızca tek bir kapıdan ibaret değil. Tek bir görevi yerine getirmek üzere tasarlanmış bir ajan, görevi tamamlamak için yol boyunca bir düzine sisteme rahatlıkla dokunabilir; burada hesap geçmişini çeker, şurada bir veritabanını kontrol eder. Bunların çoğunun, ajandan gerçekte istenen şeyle hiçbir ilgisi yoktur. Tek bir sunum hazırlarken başka bir müşterinin verilerinden, finansal kayıtlardan, çalışan bilgilerinden ya da yoluna çıkan herhangi bir şeyden geçebilir. Bunların hiçbiri olay olarak kayda geçmez.

Dolayısıyla tehdit modeli değişti. Bir güvenlik ekibinin bugün sorması gereken soru şu: Ona nerede durması gerektiği söylenmezse kendi ajanları bir görevi tamamlamak için ne kadar ileri gider?

Birçok kuruluşta kimlik ve erişim yönetimi, ayrıcalıklı erişim yönetimi ve sıfır güven mimarileri zaten mevcut. Bu kontroller, otonom yapay zekâ ajanlarını yönetmek için neden tek başlarına yeterli değil?

Bu çerçeveler insanlar ve tedarikçiler için oluşturuldu; her iki grup da muhakeme yeteneğine sahip ve bir engelle karşılaştığında duruyor. Ajan kimliği de insanlar ve üçüncü taraf riski için oluşturulan aynı titizliği gerektiriyor: keşif, sahiplik ve denetçinin güvenebileceği kanıt. Eksik olan, kimlik bilgisini elinde tutan bir ajan olduğunda “yönetişim altında” olmanın gerçekte ne anlama geldiğine ilişkin henüz ortak bir ölçütün bulunmaması.

Örneğin, mühendislerinizden birinin oluşturduğu bir ajan, o mühendisin erişim yetkileriyle hareket edebilir; mühendisin kendisinin hiç erişmediği sistemlerde bile. IAM ve PAM, kimlik bilgisini elinde tutan tarafın ne zaman duracağını bildiğini varsayar; ancak ajanlar bu varsayımı doğuştan taşımaz.

Kuruluşlar, her yapay zekâ ajanını açıkça tanımlanmış bir sahibi, izinleri, kapsamı ve yaşam döngüsü olan ayrı bir makine kimliği olarak ele almaya başlamalı mı? Ajanlar için olgun bir kimlik çerçevesi nasıl görünür?

Evet, ancak kuruluşların çoğu henüz bu noktada değil. Beklediğinizden daha fazla kuruluş, kendi sistemleri içinde kaç ajanın çalıştığını, hatta her birinin kime ait olduğunu bile söyleyemiyor. Olgun bir çerçeve, her ajanın gerçek ve sürekli güncellenen envanterinin çıkarılmasıyla başlar. Ardından her ajanın bir sahibi, erişebileceği kaynakları belirleyen tanımlı bir kapsamı ve bu kapsama uyulmasını gerçekten sağlayan bir politikası olmalıdır. Kendi araştırmamızda, tedarikçi tarafında da aynı sorunu görüyoruz: dört kuruluştan üçü üçüncü taraflarını yılda yalnızca bir kez ya da daha seyrek yeniden değerlendiriyor; dolayısıyla herhangi bir şey değiştiğinde, kuruluşlar çoktan güncelliğini yitirmiş verilere dayanarak yönetişim uyguluyor. Belirli bir andaki değerlendirme, kurum içindeki ya da dışındaki ajanlar için yeterli değil

Güvenlik ekiplerinin her geliştiricinin kendi başına oluşturduğu şeylerin peşine düşmesi yerine, her ajanın aynı şekilde tabi olacağı tek bir standart istiyoruz. Bu, sade bir dille yazılabilen, devreye alınmadan önce gerçek geçmiş trafik üzerinde sınanan ve ardından satır içi uygulanan bir politika anlamına geliyor; böylece çerçeve yalnızca belgelerde yer almakla kalmıyor, ajanın gerçekleştirdiği her eylemin yürütme yolunda etkin oluyor.

Özellikle zorlayıcı senaryolardan biri, kötü niyetli davranmadığı hâlde güvenlik politikasını ihlal eden bir ajandır. Bir ajan, yalnızca kendisine verilen görevi tamamlamaya çalışırken hassas verilere giden istenmeyen bir yol keşfederse, güvenlik ekipleri başarılı otomasyon ile güvenlik olayını nasıl ayırt edebilir?

Şu an için dürüst yanıt, bunu ayırt edemeyeceğiniz. Üç aylık iş değerlendirmeleri hazırlamak üzere oluşturulmuş bir destek ajanı düşünün; ajana hesap geçmişini alıp sunumu hazırlaması söyleniyor. Kullanması gereken dışa aktarma dosyasına giden düzgün yol boş dönüyor. Bir insan burada dururdu, ancak ajan başka bir yol buluyor ve kendi bakış açısından başarılı bir sonuç elde etmiş oluyor.

Görev tamamlanmış olsa da ajan, güvenlik protokollerinizi aşarak açmaması gereken sistemlere girdi. Ayırt edici soru, ajanın kendisine verdiğimiz kapsamın içinde kalıp kalmadığı olmalı. Görevi tamamlamış olması hiçbir zaman asıl mesele değildi. Bu, bir politika meselesi. Bunun için kapsamı, “başarılı otomasyon” ile “güvenlik olayı” sonradan birbirinden ayırt edilemeyecek gibi görünmeyecek kadar dar tanımlamak gerekir.

Geleneksel güvenlik izleme sistemleri şüpheli etkinlikleri çoğu zaman gerçekleştikten sonra tespit eder; oysa otonom bir ajan, bir insan yanıt veremeden önce yüzlerce eylemi tamamlayabilir. Ajan tabanlı yapay zekâ, öncelikle uyarılara ve geriye dönük izlemeye dayanmak yerine doğrudan yürütme yolunda çalışan güvenlik kontrolleri mi gerektiriyor?

Evet, kesinlikle. Bunu çalışma anında yakalıyorsanız, artık çok geç kalmışsınızdır. Bir izleme aracı eylemi işaretlediğinde, eylem çoktan gerçekleşmiştir. Tam olarak nasıl açığa çıktığınıza ilişkin kusursuz bir kaydınız olur, ancak bunu durdurmak için geriye dönük hiçbir yolunuz kalmaz.

Makine hızında hareket eden bir sistemde işe yarayan tek yönetişim biçimi, eylemi yürütülmeden önce değerlendiren ve ihlali satır içinde durduran yönetişimdir. En hassas verilerimizi yeni işe alınmış birine verip yanlış giden bir şeyi izlemenin yakalamasını ummayız. Ajanlar da eylem gerçekleşmek üzereyken aynı titizlikle denetlenmelidir. Sonradan değil.

Model Context Protocol (MCP) ve diğer ajan-aracı arayüzleri, yapay zekâ sistemlerine giderek daha güçlü harici yeteneklere erişim sağlıyor. Kuruluşlar ajanlarının yapmasına izin verilenleri genişlettikçe araç çağrıları, API’ler, kimlik bilgileri ve hizmet hesapları için hangi yeni güvenlik sınırlarının oluşturulması gerekiyor?

Araç çağrısı, yeni güvenlik sınırıdır. Bir ajan her kimlik bilgisine başvurduğunda, API çağrısı yaptığında veya bir aracı kullandığında, bu bir karar noktasıdır; ancak bugün çoğu kuruluşta, eylemin gerçekleşip gerçekleşmemesi gerektiğini tam da o noktada değerlendiren bir sınır yok. Eksik olan da buydu. Aynı kör noktayı dışarıdan içeriye doğru da görüyoruz: Güvenlik liderlerinin yalnızca %37’si, hâlihazırda iş yaptıkları tedarikçilerin sistemlerinde yapay zekânın nerede çalıştığını belirleyebileceklerinden emin. Bir tedarikçinin ürününde bunu göremiyorsanız, kendi ajanınızın bir sonraki hamlesini de göremezsiniz. Tüm bunların temelindeki kimlik bilgileri ve hizmet hesapları da insan erişimine uyguladığımız titizliğin aynısını gerektiriyor: Sahiplerinin bilinmesi, kapsamlarının belirlenmesi ve düzenli olarak gözden geçirilmeleri. Bir ajana, yalnızca erişim yolu üzerinde bir yerde mevcut olduğu için, kendisine hiçbir zaman verilmemiş bir kimlik bilgisine başvurma olanağı tanınmamalı.

Bir denetçi, düzenleyici kurum veya müşteri, bir yapay zekâ ajanının nelere eriştiğini, hangi kararları aldığını ve elde edilen verilerin nereye gittiğini sorduğunda, kuruluşlar gerçekçi olarak ne düzeyde izlenebilirlik sağlayabilmeli? Ajan denetim izleri, zamanla geleneksel erişim günlükleri kadar temel bir unsur hâline gelebilir mi?

Kuruluşlar, talep edildiğinde bir ajanın nelere eriştiğini, hangi kararları aldığını ve elde edilen verilerin nereye gittiğini yanıtlayabilmeli. Bu soruyu, sonradan günlükleri bir araya getirerek yanıtlamak yeterli değil. Ölçüt, soru sorulduğunda hâlihazırda mevcut olan, kesintisiz ve üzerinde oynanmadığı doğrulanabilen bir kayıt olmalı. Bugün çoğu şirketin bu sorulara yanıtı sessizlik. Bu, müşteriye açıklamayla geçiştirilebilecek bir eksiklik değil; sızan verinin niteliğine bağlı olarak düzenleyicilerin de kabul etmeyeceği bir durum.

Evet, ajan denetim izlerinin yakında erişim günlükleri kadar temel hâle geleceğini düşünüyorum. İnsan sistemlerinde “kim, neye, ne zaman erişti” sorusunu yıllardır vazgeçilmez bir gereklilik olarak görüyoruz. Tıklayan kişi olmadığı gerekçesiyle ajanlardan daha düşük bir standart beklemek için hiçbir neden yok. AB Yapay Zekâ Yasası, AIUC-11 ve ISO 42001 gibi çerçeveler şimdiden bu yönde ilerlemeyi teşvik ediyor. Ajanların izlenebilirliği, uyum programlarını hâlihazırda destekleyen aynı kontrollerle ve kanıt mantığıyla örtüşmeli. Bunu sonradan düşünülecek bir konu olarak görmek, geri plana itilmesine yol açar.

İleriye baktığımızda, yapay zekâ ajanı yönetişiminin ayrı bir güvenlik kategorisine dönüşmesini mi bekliyorsunuz, yoksa sonunda mevcut yönetişim, risk, uyum, kimlik ve siber güvenlik platformlarının kapsamına mı girecek? Kuruluşların, gerçekten otonom ajanları geniş ölçekte güvenle kullanıma sunmadan önce hangi unsurları hayata geçirmiş olması gerektiğini düşünüyorsunuz?

Her büyük teknoloji dalgası kendi güvenlik dalgasını yaratır: Bulut, Wiz’i; uç noktalar ise CrowdStrike’ı doğurdu. Şimdi de yapay zekâ ajanları yeni bir güvenlik dalgası yaratıyor. Model sağlayıcıları kendi platformları için konsollar ve politikalar geliştiriyor; bu yararlı, ancak hiçbir kuruluş tek bir model sağlayıcısına, tek bir kodlama asistanına ve kurum içinde geliştirilmiş tek bir ajan grubuna dayanmıyor. Tüm bunları tek bir politika kümesi ve tek bir kanıt kaynağı üzerinden yönetecek birine ihtiyaç var; bu, hiçbir tekil yapay zekâ platformunun çözmek üzere tasarlandığı bir sorun değil. Zaten varoluş amaçları da bu değil. Yapay zekâ ajanı yönetişimi, şirketlerin hâlihazırda kullandığı GRC, kimlik ve uyum sistemlerine entegre olsa da, şimdiden başlı başına bir kategori.

Kuruluşların gerçekten otonom ajanları geniş ölçekte kullanıma sunmadan önce hayata geçirmesi gereken dört unsur var; çoğunda henüz bunların hiçbiri bulunmuyor. Birincisi, gerçek zamanlı keşif: Oluşturuldukları anda çalışan her ajanı, sahibini ve hangi kimlikle çalıştığını bilmek.

İkincisi, eylem gerçekleşmeden önce değerlendirilen ve uygulama sırasında yürürlüğe giren politikalar. Üçüncüsü, sapmaları sürekli izlemek; çünkü ajanlar kendilerini oluşturan oturum sona erdikten sonra da çalışmayı sürdürür ve kapsamları fark edilmeden genişleyebilir. Son olarak, bir ajanın aldığı her karara ilişkin, denetçilerin ve düzenleyici kurumların gerçekten tanıdığı çerçevelerle eşleştirilmiş, üzerinde oynanmadığı doğrulanabilen bir kayıt gerekir. Drata’da geliştirdiğimiz katman bu. Bu katman olmadan, otonom ajanları geniş ölçekte kullanan bir kuruluş yalnızca umuda güveniyor demektir.

Harika röportaj için teşekkürler. Yapay zekâ ajanı yönetişimi, sürekli uyum ve içeriden gelen ajan tehditlerine yönelik kontroller hakkında daha fazla bilgi edinmek isteyen okurlar Drata‘yı ziyaret edebilir.