Röportajlar
Ocean Security’nin Kurucu Ortağı ve CTO’su Oran Moyal – Röportaj Serisi

Öne çıkan noktalarYapay zeka yerel statüsü, her ekibin işi nasıl ele aldığını değiştirdiği için teknik…
Daha fazla göster
- Yapay zeka yerel statüsü, her ekibin işi nasıl ele aldığını değiştirdiği için teknik değil örgütseldir.
- Adımlar arasındaki gerçek darboğazlar devir teslimler ve onaylar olarak kaldığında bireysel görevleri hızlandırmak başarısız olur.
- Ajanlar zorunlu izinlere ve bağımsız doğrulamaya ihtiyaç duyar çünkü talimatlar tek başına güvenlik kontrolleri değildir.
Oran Moyal, karmaşık e-posta tehditlerini araştırmaya yönelik ajan tabanlı yapay zekâ geliştirdiği Ocean Security’nin Kurucu Ortağı ve CTO’sudur. Siber güvenlik alanındaki araştırma ve geliştirme çalışmalarının yanı sıra saldırı amaçlı sosyal mühendislik ve kurumsal güvenlik konularında deneyim sahibidir. Güvenilen iletişim kanallarının saldırganlar tarafından nasıl istismar edildiğini ve güvenlik sistemlerinin giderek daha hedefli hâle gelen tehditlere nasıl karşılık verebileceğini analiz etme konusundaki deneyimlerinden yararlanarak 2024’te Shay Shwartz ile birlikte Ocean’ı kurdu.
Ocean Security, hedefli kimlik avı saldırılarını, iş e-postalarının ele geçirilmesini ve mali dolandırıcılığı araştırmak üzere tasarlanmış, ajan tabanlı bir e-posta güvenlik platformu geliştiriyor. Özel amaçlı yapay zekâ ajanları, güvenlik ekiplerinin görünüşte meşru iş iletişimleri içindeki tehditleri belirlemesine yardımcı olmak için iletişimin bağlamını ve gönderenin niyetini analiz ediyor. Moyal bu röportajda, bir kuruluşu yapay zekâyı temel alan bir kuruluş yapan özellikleri, iş akışlarının ajanlar etrafında nasıl yeniden tasarlanabileceğini ve etkili otomasyon için açık gereksinimlerin, bağımsız doğrulamanın, uygulanan izinlerin ve insan muhakemesinin neden hâlâ temel önem taşıdığını ele alıyor.
2024’te Ocean’ı kurucu ortak olarak hayata geçirmeden önce, İsrail Savunma Kuvvetleri ve VisibleRisk / Microsoft Security’deki görevleriniz de dâhil olmak üzere, siber güvenlik alanında araştırma ve geliştirme çalışmalarına yıllarınızı verdiniz. Ocean’ı kurmaya yönelten deneyimler nelerdi ve yapay zekânın ortaya çıkışı, şirket vizyonunuzu en başından itibaren nasıl etkiledi?
Hedefli bir kimlik avı kampanyası için eskiden özel bir ekip ve haftalar süren manuel araştırma ve hazırlık gerekiyordu. Üretken yapay zekâ ortaya çıktığında, artık her kurumdaki her çalışanın ulus devlet düzeyinde yıkıcı bir kimlik avı saldırısının hedefi olabileceğini fark ettik. Bir gecede, 20 dolarlık bir abonelik her saldırgana ulus devlet düzeyinde yetenekler kazandırdı.
Shay ve ben saldırı tarafında sosyal mühendislik konusunda derin bir uzmanlığa sahibiz; ayrıca ikimiz de kurumsal güvenlik şirketleri kurup büyüttük. Bu nedenle eski araçların gelişmelere ayak uyduramayacağını biliyorduk. Bu araçlar kural ihlallerini ve anormallikleri arıyor; oysa bu saldırılar olağan iş iletişiminin içine gizleniyor: gerçek yazışma dizilerine, güvenilen hesaplara ve meşru hizmetlere. Hiçbir şey anormal görünmüyor. Bu nedenle, kurumların bu yeni tehdide uyum sağlamasına yardımcı olmak üzere 2024’te Ocean’ı kurduk. Bunun için, bir güvenlik uzmanının yapacağı gibi, ihlal gerçekleşmeden önce bağlamı ve gönderenin niyetini gerçek zamanlı olarak analiz eden yapay zekâ destekli e-posta güvenliği geliştiriyoruz.
Birçok kuruluş, sırf yapay zekâ araçlarını benimsediği veya bazı süreçleri otomatikleştirdiği için kendisini “yapay zekâyı temel alan” bir kuruluş olarak tanımlıyor. Sizce yapay zekâyı gerçekten temel alan bir kuruluşu, yapay zekâyı mevcut operasyonlarına entegre etmekle yetinen bir kuruluştan temelden ayıran nedir?
Birçok şirket yapay zekâ araçları satın aldığı için kendisini yapay zekâyı temel alan bir şirket olarak tanımlıyor. Bu, teknolojiyi benimsemektir. Yapay zekâyı temel almak ise şirketin günlük işleri yürütme ve darboğazları çözme biçimini değiştirir.
Her şey, liderlerin bir darboğaza nasıl karşılık verdiğiyle başlar. Geleneksel ilk tepki, “Bu iş çok zaman alıyor; gelin bunu yapması için birini işe alalım,” olur. Yapay zekâyı temel alan bir kuruluş ise önce, “Yapay zekâ bu işlevin tamamını nasıl hızlandırabilir?” diye sorar. Bu soruyu her ekip için tekrar tekrar sorun; şirketin tamamı farklı biçimde çalışmaya başlar.
Yapay zekâyı temel alan gerçek dönüşüm teknik değil, kurumsaldır. Bir departmanı hızlandırırsanız darboğaz yalnızca bir sonrakine taşınır ve şirket en yavaş işlevinin temposunda ilerlemek zorunda kalır. Yapay zekâyı temel alan kuruluşlar hep birlikte dönüşür; böylece bilgi daha hızlı akar, geri bildirim döngüleri kısalır ve ekipler birbirine bağlı tek bir sistem gibi çalışır.
Bu modelde insanların üstlendiği rollerin değeri değişir. Yapay zekâ işlerin daha fazlasını üstlendikçe, kıt bulunan beceriler net bir yön belirlemek, niyeti tanımlamak ve muhakeme yürütmek olur. İnsanlar ve ajanlar yan yana çalışır. Yapay zekâ uygulama işlerinin daha fazlasını üstlenirken, neyin ve neden geliştirmeye değer olduğuna insanlar karar verir.
Amaç, her ekibin aynı kaynaklarla daha fazlasını yapması, daha hızlı ilerlemesi ve kaliteden ödün vermeden daha iyi iş birliği yapmasıdır.
Yapay zekâ kaynaklı verimlilik artışlarının, temel iş akışları verimsiz olduğunda kısa sürede ortadan kalkabileceğini savundunuz. Şirketlerin yapay zekânın tüm yararlarından faydalanmasını engelleyen en yaygın operasyonel darboğazlar nelerdir ve liderler bu iş akışlarını yeniden tasarlamaya nasıl yaklaşmalıdır?
Tek tek görevleri hızlandırmak, kuruluşun tamamının da otomatik olarak hızlanacağı anlamına gelmez. Süreçler, bağımlılıklar ve ekipler arasındaki iletişim aynı kalırsa, yapay zekânın sağladığı verimlilik artışının büyük bölümü süreç içinde kaybolur.
En yaygın darboğazlar teknik değildir. Tekrarlanan işlere yol açan belirsiz gereksinimler, ekipler arasındaki yavaş devirler ve onay beklerken beklemede kalan işler bu darboğazların başlıcalarıdır. Yapay zekâ her adımı hızlandırır, ancak adımlar arasındaki sürede kayıp yaşanır.
Liderler, önce zamanın gerçekte nereye harcandığını ölçmeli; çünkü asıl darboğaz çoğu zaman herkesin varsaydığı yerde değildir. Ardından yalnızca tek tek görevleri değil, devirleri, tanımları ve geri bildirim döngülerini iyileştirerek iş akışını baştan sona yeniden tasarlamalıdırlar. Son olarak, her yapay zekâ çalışmasını ekiplerin hâlihazırda sorumluluğunu üstlendiği temel performans göstergeleriyle ilişkilendirmelidirler.
En önemlisi, liderlerin düşünce biçimini değiştirmesi gerekir. Otomasyon ve hızlandırma varsayılan yaklaşım hâline gelmelidir. Mevcut süreçleri olduğu gibi kabul etmek yerine ekipler, daha hızlı ilerlemek ve kaliteden ödün vermeden etkilerini artırmak için işlerin nasıl yapıldığını sorgulamayı sürdürmelidir.
Vurguladığınız ilkelerden biri, yapay zekâ ajanlarını bir iş akışına dahil etmeden önce gereksinimlerin açıkça tanımlanmasının önemidir. Yapay zekâ ajanları işin önemli bir bölümünü üstlendiğinde kuruluşlar görevleri tanımlama, beklentileri iletme ve başarı ölçütlerini belirleme biçimlerini nasıl yeniden düşünmeli?
Yapay zekâ ajanları işin büyük bölümünü üstlendiğinde kuruluşların görevleri tanımlama ve iletişim kurma biçimlerini yeniden gözden geçirmesi gerekir. Belirsiz bir istek, ajanın çalışmasını durdurmaz; ajan tahminde bulunur ve her yanlış tahmin daha fazla işin yeniden yapılmasına yol açar.
Bunu üç katman üzerinden düşünüyorum:
Açık görevler, hedefler ve bağlam. Ajanın ne yapılması gerektiğini, bunun neden önemli olduğunu ve çevresindeki bağlamı anlaması gerekir. Çalışma başlamadan önce, net olmayan konular hakkında soru sorabilmeli; böylece eksikler sürecin ortasında değil, en başta giderilmelidir.
Kendi kendini doğrulama. Başarı ölçütleri önceden, ajanın kendi başına denetleyebileceği şekilde tanımlanmalıdır. Örneğin yazılım alanında ajan kodu çalıştırabilmeli, beklendiği gibi işlediğini test edebilmeli ve biri incelemeden önce testleri geçtiğini doğrulayabilmelidir.
Son aşamada insanlar. İnsanlara, üzerinde uzlaşılan ölçütlere göre birkaç kez iyileştirilmiş bir sonuç sunulmalıdır. İnsanların görevi temel hataları düzeltmek değil, değerlendirme ve karar yetilerini kullanmaktır.
Tanım ne kadar iyiyse her bir sonuç için insan emeğine o kadar az ihtiyaç duyulur.
Yapay zekâ ajanlarının çalışmalarını insan incelemesine sunmadan önce doğrulamasını savunuyorsunuz. Uygulamada etkili bir yapay zekâ destekli doğrulama süreci nasıl görünür ve kuruluşlar otomatik kalite kontrollerinin, uygulama sırasında yapılan hataların aynısını pekiştirmemesini nasıl sağlayabilir?
Etkili bir doğrulama süreci, çalışmayı gerçekten kullanılacağı koşullarda sınar. Ajan gerçek sistemi baştan sona çalıştırmalı, sonucun başarı ölçütlerini karşıladığını doğrulamalı ve herhangi bir kişiye sunmadan önce başarısız olan noktaları düzeltmelidir.
Doğrulama sürecinin ajanın kendi hatalarını tekrarlamasını önlemek için birkaç ilke önem taşır:
Ölçütleri uygulamadan ayrı tutun. Başarının ne anlama geldiğini çalışma başlamadan önce insanlar tanımlamalıdır. Ajan “tamamlanmış” olmanın ne demek olduğuna kendisi karar verirse kendi ödevini kendi notlandırmış olur.
Kesin sınırlar belirleyin. Her kontrol ajanın değerlendirmesine bağlı olmamalıdır. Bazı kontroller, belirli parametreleri, standartları ve politikaları doğrulayan sabit ve deterministik testler olmalıdır. Bu testler ajana, akıl yürüterek aşamayacağı net sınırlar koyar.
Bağımsız bir inceleyici kullanın. İlk yaklaşımda çıkarı olmayan ve konuya yeni bir bakışla yaklaşan ikinci bir ajan, ilkinin gözden kaçırdığı hataları yakalar.
Yalnızca sonuç değil, kanıt da sunun. Test sonuçları, ekran görüntüleri ve kayıtlar, insanların bir “başarılı” sonucuna güvenmek yerine ne olduğunu görmesini sağlar.
Böylece insanların dikkati riskin en yüksek olduğu noktalara yönelir. Amaç insanları süreçten çıkarmak değil, zamanlarını mekanik kontroller yerine değerlendirme ve karar vermeye ayırmalarını sağlamaktır.
Geleneksel kuruluşlarda genellikle birden fazla yönetim katmanı, onay süreci ve ekipler arası devir bulunur. Yapay zekâyı temel alan bir çalışma modeli; mühendislik, ürün, güvenlik ve iş ekiplerinin iş birliği yapma biçimini nasıl değiştirir? Ajanlar uygulamanın daha büyük bölümünü üstlendikçe geleneksel roller ve sorumluluklar nasıl dönüşür?
Yapay zekâ, her kişinin ve her ekibin daha fazla iş üretmesini sağlar. Ancak iş devirleri, onaylar ve koordinasyon aynı kalırsa bu ek çıktı, bir sonraki adımı bekleyerek yığılır. Kuruluş daha hızlı ilerlemez; yeni darboğazlar oluşur. Yapay zekâyı temel alan bir çalışma modeli, yalnızca her ekibin çalışma biçimini değil, ekiplerin birlikte çalışma biçimini de yeniden tasarlamalıdır.
Bu dönüşüm, bilginin nasıl aktığıyla başlar. Bilginin daha büyük bir bölümü otomasyon yoluyla aktarılmalı; böylece toplantılar güncelleme paylaşmak yerine karar almak için kullanılmalıdır. Sahadan gelen içgörüler doğrudan ürün ekibine ulaştığında kararlar daha hızlı ve isabetli alınır; bunun sonucunda tanımlar netleşir ve uygulama iyileşir.
Onay süreçlerinin de aynı şekilde yeniden düşünülmesi gerekir. Bu en zor kısımdır; çünkü kuruluşun normal kabul ettiği şeyleri değiştirmeyi gerektirir. Onaylar önemini korur, ancak her değişiklik aynı biçimde ele alınmamalıdır. Örneğin, belirli bir onay sürecine risk değerlendirmesi eklemek, düşük riskli işler için manuel onayları azaltırken gerekli noktalarda insan incelemesini sürdürmeyi sağlayabilir. Bu, kontrolden vazgeçmeden bir süreci hızlandırmanın yalnızca bir yoludur.
Roller de yeniden tanımlanıyor. Ajanlar uygulamanın daha büyük bölümünü üstlendikçe insanlar görevlerin sorumluluğunu almaktan sonuçların sorumluluğunu almaya yöneliyor. Bütün bağlamı anlamaları, varsayımları sorgulamaları ve geleneksel sınırlarının ötesine geçmeleri gerekiyor. Başarıya ulaşacak kuruluşlar, yalnızca en fazla yapay zekâ çözümünü ekleyenler değil, insanların birlikte çalışma biçimini yeniden tasarlayanlar olacak.
Ocean, karmaşık e-posta tehditlerini araştırmak için uzmanlaşmış yapay zekâ ajanlarından yararlanıyor. Siber güvenlik için ajan tabanlı yapay zekâ geliştirme deneyiminiz, yapay zekâyı kurum içinde kullanma biçiminizi nasıl etkiledi? Otonom güvenlik sistemleri geliştirirken edindiğiniz ve yapay zekâyı temel alan bir kuruluşu yönetmeye uygulanabilecek dersler var mı?
E-posta güvenliği için otonom ajanlar geliştirmek, yapay zekâyı kurum içinde kullanma biçimimizi iki yönden şekillendirdi.
İlk çıkarılacak ders, ajanların ancak bağlamı ne ölçüde anlıyorlarsa o kadar iyi performans gösterdiğidir. Bir güvenlik ajanı, koruduğu kuruluşu anladığında daha isabetli kararlar verir. Aynı durum kuruluş içindeki ajanlar için de geçerlidir. Ajanlardan iyi sonuçlar almak için kuruluşun nasıl işlediğini, her görevin amacını ve bu görevin büyük resimle nasıl bağlantılı olduğunu gerçekten anlamalarını sağlamalıyız.
İkinci ders, ajanların sürekli değerlendirilmesi gerektiğidir. Üretim ortamında ajanlarımızın nasıl performans gösterdiğini, nerelerde başarısız olduğunu ve hangi araç ya da verilerin eksik olduğunu sürekli değerlendiriyoruz. Kuruluş içinde de aynı yaklaşımı uyguluyoruz. Ajanları sınamak ve eğitmek, ayrıca onlar hakkında geri bildirim almak için özel bir alana ihtiyacımız var. Böyle bir alan olmadan bir ajanın gelişip gelişmediğini ya da sırada neye ihtiyaç duyduğunu anlamak zor.
Yapay zekâyı temel alan bir kuruluşu yönetmek, özerk bir güvenlik sistemi kurmaya çok benzer: ajanlara kapsamlı bağlam sağlayın, performanslarını sürekli değerlendirin ve sağduyunun önemli olduğu noktalarda insanları sürece dahil edin.
Kuruluşlar yapay zekâ ajanlarına daha fazla özerklik tanıdıkça hesap verebilirlik, güvenlik ve istenmeyen sonuçlar konusunda kaygılar ortaya çıkıyor. Siber güvenlik alanındaki deneyiminizden yola çıkarak şirketler, güvenlikten ödün vermeden ve insan gözetimini anlamlı olmaktan çıkarmadan ajanların bağımsız çalışmasına olanak tanıyan koruyucu önlemleri nasıl oluşturmalı?
Ajanların yöneldiği nokta özerklik ve kuruluşlar bu noktaya adım adım ulaşmalı. Etkisi iyi anlaşılan alanlardan başlayın, değerini kanıtlayın ve ardından kapsamı genişletin.
Gerçek koruyucu önlemler talimatlardan ibaret değildir. Bir ajana “bunu yapma” demek, bir güvenlik kontrolü sayılmaz. Koruyucu önlemler uygulanmalı ve zorunlu kılınmalıdır: ajanın erişebileceklerine kesin sınırlar koyulmalı, kapsamı dışındaki hiçbir şeye ulaşamadığı doğrulanmalı ve kimsenin öngörmediği eylemleri engelleyen sürekli izleme yapılmalıdır. Sistemin diğer tüm bileşenleri gibi bu önlemler de düzenli olarak test edilmeli ve doğrulanmalıdır.
Hesap verebilirlik, operatörle başlar. Ajanı çalıştıran kişi onun sınırlarını belirler: kendi başına neler yapabileceğini, hangi işlemler için onay gerektiğini ve nerelere erişemeyeceğini. E-posta tehditlerine yanıt veren bir ajanı ele alalım. Bu ajan şüpheli iletileri hızlı ve güvenilir biçimde kendi başına karantinaya alabilir. Kuruluş genelinde bir göndericiyi engellemek gibi etkisi daha geniş eylemlerde operatör, işe bir inceleme adımı ekleyerek başlayabilir. Ajanın başarı geçmişi genişledikçe bu sınırlar güvenle artırılabilir. Daha fazla özerkliği mümkün kılan, net koruyucu önlemlerdir.
Saldırganlar yapay zekâ ajanlarını giderek daha fazla hedef aldığı için bu konu daha da önem kazanıyor. İşletme daha hızlı ilerlemek istiyor, ancak güvenlik ekiplerinin ajanları korumaya yönelik net bir yol haritası hâlâ yok. Bu nedenle temel dayanak, uygulanması zorunlu kılınan izinler ve sürekli izleme olmalı.
Birçok şirket yapay zekâ kullanımını tasarruf edilen zaman, otomatikleştirilen görevler veya çalışan verimliliği üzerinden ölçüyor. Yeniden çalışma, kalite ve koordinasyon maliyetlerini de hesaba kattığımızda, yapay zekâyı temel alan bir çalışma modelinin sürdürülebilir iş değeri sağladığını gerçekte hangi ölçütlerin gösterdiğine inanıyorsunuz?
Tasarruf edilen zaman önemli bir ölçüttür ve yapay zekânın değer yarattığının çoğu zaman ilk açık göstergesidir. Ancak kuruluşun bu zamanı ne yapmak için kullandığını ve elde edilen kazanımların uzun vadede devam edip etmediğini gösteren ölçütlerle birlikte değerlendirildiğinde etkisi bütünüyle ortaya çıkar.
Kalite. Kalite korunuyor ya da artıyorsa hızın tek başına bir anlamı vardır. Yeniden çalışma ve kusurları, ayrıca teslimattan sonra sonuçların ne sıklıkla düzeltilmesi gerektiğini takip edin. Hız ve kalite birlikte iyileştiğinde kazanımlar gerçek ve kalıcıdır.
İşin büyümesi. Yapay zekâyı temel alan bir kuruluşun asıl değeri, tasarruf ettiği zamanın neleri mümkün kıldığıdır. Çalışan sayısını artırmadan kaç yeni yetkinlik ve girişimi hayata geçirdiğimizi ölçüyoruz.
Uçtan uca hız. Bir ajanın bir özelliği geliştirmesinin ne kadar sürdüğü, tablonun yalnızca bir parçasıdır. Gerçek ölçüt, bir işi önceliklendirmeye karar verdiğimiz andan ürün içinde kullanıma sunulduğu ana kadar geçen sürecin tamamıdır; tüm devir ve teslim adımları da buna dahildir. Gerçekte ne kadar hızlı çalıştığımızı bu gösterir ve görev düzeyindeki ölçümlerin gözden kaçırdığı koordinasyon maliyetlerini ortaya koyar. Güvenlikte uçtan uca hız kritik önem taşır. Saldırganlar yapay zekâ ajanlarını şimdiden kullanıyor; bu nedenle bir tehdidi tespit edip ona yanıt verme süresinin sürekli kısalması gerekiyor.
Tasarruf edilen zaman, yapay zekânın işe yaradığını gösterir. Bu ölçütler ise işletme için kalıcı değer oluşturduğunu ortaya koyar.
Daha küçük ve çevik teknoloji şirketlerinin faaliyetlerini yapay zekâ etrafında yeniden tasarlayarak anlamlı bir rekabet avantajı elde edebileceğini öne sürdünüz. Yapay zekâyı temel alan girişimlerin yerleşik şirketlere kıyasla ne gibi avantajları var ve önümüzdeki üç ila beş yıl içinde başarılı teknoloji şirketlerinin yapısının nasıl değişeceğini öngörüyorsunuz?
Yapay zekâyı temel alan girişimlerin yapısal bir avantajı var. İş akışlarını, teknolojiyi ve ekipleri daha ilk günden yapay zekâ ajanları etrafında kurabilirler; yerleşik şirketler ise onlarca yıllık eski altyapı ve kurumsal karmaşıklıkla uğraşmak zorundadır. Asıl fark teknik değildir. Herkes aynı yapay zekâ araçlarına erişebiliyor. Avantaj, öncesinde ortadan kaldırılması gereken onay katmanları, devir ve teslim adımları ya da sabit roller olmadan çalışma biçimlerini yeniden tasarlayabilen şirketlere aittir.
Önümüzdeki üç ila beş yıl içinde başarılı teknoloji şirketlerinin temel yapay zekâ otomasyonunun ötesine geçerek, uzmanlaşmış yapay zekâ ajanlarının tüm iş akışlarını yürüttüğü ajan tabanlı çalışma modellerine yöneleceğine inanıyorum. İnsan ekipleri ortadan kalkmayacak; ancak insanlar görevleri elle yerine getirmeye daha az, bağlam sağlamaya, sınırlar belirlemeye ve sonuçları yönlendirmeye daha çok zaman ayıracak. Bunun sonucunda daha hızlı ölçeklenebilen, daha verimli çalışabilen ve kendilerinden kat kat büyük şirketlerle rekabet edebilen daha yalın kuruluşlar ortaya çıkacak.
Harika röportaj için teşekkürler. Ajan tabanlı e-posta güvenliği hakkında daha fazla bilgi edinmek isteyen okurlar Ocean Security‘yi ziyaret edebilir.












