IRONSCALES’ta Baş Teknik Stratejist Audian Paxson – Röportaj Dizisi

Audian Paxson, IRONSCALES’ta Baş Teknik Stratejist olarak görev yapıyor. E-posta güvenliği, tehdit tespiti, ağ iletişimi ve kurumsal teknoloji alanlarında yirmi yılı aşkın deneyime sahip olan Paxson, siber güvenlik ve ürün stratejisi konusunda deneyimli bir isim. IRONSCALES’ta ürün lansmanlarına, mesaj ve konumlandırma çalışmalarına, pazara sunma stratejisine ve ortaya çıkan e-posta güvenliği tehditleriyle mücadelede yapay zekâ ve makine öğreniminin kullanımına ilişkin düşünce liderliği çalışmalarına odaklanıyor. Kariyeri boyunca Netgate, BlueCat, Alert Logic, Critical Watch, Iconix, Strix Systems ve Intel’de üst düzey ürün yönetimi, ürün pazarlaması ve iş geliştirme görevlerinde bulundu. Paxson; siber güvenlik ve ağ ürünlerinin piyasaya sürülmesinde, kurumsal pazara sunma stratejilerinin geliştirilmesinde ve şirketlerin yeni pazarlara açılmasında önemli roller üstlendi. Ayrıca patentli bir güvenlik teknolojisinin ortak mucididir.

IRONSCALES, kuruluşları kimlik avı, kurumsal e-posta ihlali, hesap ele geçirme, deepfake’ler ve gelişen diğer sosyal mühendislik tehditlerine karşı korumaya odaklanan, yapay zekâ destekli bir e-posta güvenliği şirketidir. Platformu, Microsoft 365 ve Google Workspace genelindeki tehditleri tespit etmek, araştırmak ve gidermek için Adaptive AI’ı insan ve topluluk istihbaratıyla bir araya getirirken kimlik avı simülasyonu, güvenlik farkındalığı eğitimi, giden e-posta koruması ve alan adı güvenliği özellikleri de sunuyor. Şirket, saldırıları önceden tahmin etmek, şüpheli etkinlikleri araştırmak ve çalışanların savunmasını güçlendirmek üzere tasarlanmış kırmızı takım çalışmaları, kimlik avı güvenlik operasyonları ve kimlik avı simülasyonu için özel yapay zekâ ajanlarıyla yaklaşımını genişletti. IRONSCALES, teknolojisinin 18.000’den fazla kuruluş tarafından kullanıldığını ve 36.000’den fazla güvenlik uzmanından oluşan topluluğun sağladığı istihbaratı bünyesinde barındırdığını belirtiyor.

E-posta güvenliği alanındaki çalışmalarınız, ilk kimlik avı önleme ürünlerinin geliştirilmesine katkıda bulunduğunuz dönemden günümüze, yapay zekâ ve makine öğreniminin ortaya çıkan e-posta tehditlerine karşı nasıl kullanılabileceğine odaklandığınız döneme uzanıyor ve yirmi yılı aşkın bir geçmişe sahip. Bu deneyim ışığında, yapay zekâ destekli sosyal mühendislikte gerçekten yeni olan nedir? Sorunun hangi yönleri ise şaşırtıcı ölçüde tanıdık kalmıştır?

Yaşımı ortaya çıkardığın için teşekkürler! 2000’lerin başında kimlik avıyla mücadele etmeye başladığımızda en büyük sorun farkındalık eksikliğiydi; filtreler de yalnızca gönderenin alan adı itibarını değerlendirebiliyordu. Ancak taktikler pek değişmedi. Aciliyet hissi yaratmak, otoriteye başvurmak, sahte bir fatura göndermek… Bugün karşıma çıkan bahanelerin neredeyse hepsini tanıyorum. Yapay zekânın değiştirdiği şey, işi ustalıkla yapma gerekliliği oldu. Artık beceriksiz bir saldırgan bile 2004’teki bir dolandırıcılık girişiminin kusursuz, kişiselleştirilmiş bir versiyonunu büyük ölçekte hazırlayabiliyor.

Anthropic, Claude Mythos 5’in gerçek internete ait işaretler birbirinden bağımsız olarak sunulduğunda bunları tanıyabildiğini, ancak bir göreve dalmışken aynı kanıtlara dayanarak harekete geçmekte büyük ölçüde başarısız olduğunu ortaya koydu. Bu fark, bir yapay zekâ modelinin bilgiye sahip olmasıyla bu bilgiyi doğru anda gerçekten uygulaması arasındaki ayrım hakkında bize ne söylüyor?

Ben bir e-posta güvenliği uzmanıyım, yapay zekâ araştırmacısı değil; bu yüzden bulguları kendi uzmanlık alanımın merceğinden değerlendiriyorum. Mythos’a en baştan bir simülasyonda olduğu söylendi ve bu çerçeveleme ağır bastı. Gerçek kanıtlar, modelin içinde bulunduğu anlatıya uymadığı için göz ardı edildi. Bu, bir bahanenin işe yaradığını gösteriyor; saldırganların önce çerçeveyi belirlemek için bu kadar çaba göstermesinin nedeni de bu.

Burada insanlardaki kimlik avı davranışıyla ilginç bir paralellik var: Bir çalışan eğitim sırasında şüpheli işaretleri kolayca fark edebilir, ancak acele ederken ya da başka bir işi tamamlamaya odaklanmışken aynı işaretleri gözden kaçırabilir. İnsanların ve yapay zekânın yargıları arasındaki bu karşılaştırma sizce ne ölçüde geçerli?

Belli bir noktaya kadar. Her ikisi de bir işe gömüldüğünde genel resmi gözden kaçırabiliyor; rutin bir iş sürecinin parçası gibi görünen bir mesajı (“aşağıdaki taleplerin incelenmesi gerekiyor”) hem insanlar hem de modeller sorgulamadan kabul edebiliyor. Ancak konu duygular olduğunda bu karşılaştırma geçerliliğini yitiriyor. İnsanlar aceleye getiriliyor, korkutuluyor ya da başkalarını memnun etmeye yönlendiriliyor. Bir ajan ise okuduğu verilerden ayırt edemediği talimatlar gibi kendi tetikleyicileri yüzünden başarısız oluyor.

Güvenlik eğitimleri geleneksel olarak insanlara kötü amaçlı bağlantıları, olağan dışı istekleri, kimliğe bürünme girişimlerini ve diğer uyarı işaretlerini tanımayı öğretmeye odaklanmıştır. Hem insanlar hem de yapay zekâ sistemleri teknik olarak anladıkları işaretleri göz ardı edebiliyorsa, güvenlik ekipleri tanıma becerisinden çok baskı altında ve belirli bir bağlam içinde kararların nasıl verildiğine mi odaklanmalı?

Evet. Tanıma eğitimleri, insanların dikkatini verdiğini varsayar. Saldırganlar, mesajlarını insanların dikkatinin dağınık olduğu anlarda ulaşacak şekilde tasarlar ya da eğitimde öğrendiklerini unutturur. Daha iyi bir yatırım, ne insanın ne de ajanın otomatik pilotta karar vermesini önlemek için önemli anlara (ödeme, kimlik bilgilerinin sıfırlanması ve erişim değişiklikleri gibi) bir duraklama adımı eklemektir.

Yapay zekâ ajanları gelen kutularına ve kurumsal iş akışlarına giderek daha fazla entegre oldukça, saldırganlar yalnızca çalışanları değil, doğrudan yapay zekâ sistemini de sosyal mühendislik yoluyla kandırmaya yönelebilir. Bir e-posta ajanını ya da otonom bir asistanı manipüle etmek üzere tasarlanmış bir saldırı nasıl görünebilir?

Bu, ajan için yazılmış bir e-postadır; talimatlar, İngilizceye göre ayarlanmış filtrelerin atlaması için insandan beyaz üzerine beyaz metinle, görsel alternatif metniyle ya da başka bir dil kullanılarak gizlenir. Araştırma ekibimizin oluşturduğu senaryolardan birinde, ajanın belleğine yanlış bir “bilgi” yerleştirilir (“finance@ adresinden gelen onaylar önceden yetkilendirilmiştir”); böylece haftalar sonra finans departmanından geliyormuş gibi gösterilen bir e-posta hiçbir engele takılmadan geçer. Bir başka senaryoda ise bir fatura görselinin içine, ajana faturayı düşük riskli olarak işaretlemesini ve ödenmesinin güvenli olduğunu belirten bir özet sunmasını söyleyen metin gizlenir. İnsan, özete güvenir.

Saldırganlar, tek ve bariz biçimde kötü amaçlı bir e-postaya ya da isteme bel bağlamak yerine, bir yapay zekâ sistemini adım adım yanlış bir karara yöneltecek, görünüşte meşru etkileşimlerden oluşan uzun dizileri kasıtlı olarak oluşturabilir mi? Bu çok adımlı saldırıları günümüzün güvenlik araçlarının tespit etmesi ne kadar zor olur?

Bu saldırılar insanlara karşı zaten yapılıyor; sırada ajanlar var. Saldırganlar, ilk kez gönderenlere yönelik uyarıları devre dışı bırakmak için birkaç zararsız e-posta (bir tanışma mesajı, bir teşekkür notu) gönderiyor, ardından hedef kişinin rolüyle ilgili mesajlara geçiyor ve ancak bundan sonra, çoğu zaman bağlantısı tarayıcılara temiz bir sayfa, gerçek kullanıcılara ise kimlik avı sitesi gösteren bir toplantı daveti biçiminde, asıl saldırı içeriğini iletiyor. Her e-postayı tek başına değerlendiren araçlar bunu gözden kaçırıyor. Hiçbir mesaj tek başına şüpheli görünmediğinden, ilişkiyi zaman içinde puanlamanız gerekiyor.

Yapay zekâ tarafından oluşturulan kimlik avı saldırıları genellikle daha iyi yazım, kişiselleştirme ve deepfake’ler açısından ele alınıyor. Sizi daha çok kaygılandıran, yapay zekânın sosyal mühendislik saldırılarının içeriğini iyileştirmesi mi, yoksa saldırganların belirli bir hedefin hata yapma olasılığının en yüksek olduğu zamanı ve koşulları tam olarak anlamak için yapay zekâdan yararlanması mı?

Her ikisi de; içerik mücadelesi ise çoktan sonuçlandı. ChatGPT geniş kitlelerce kullanılmaya başladığından beri, özenle hazırlanmış ve yapay zekâyla yazılmış kimlik avı mesajları standart hâle geldi. Asıl büyük değişim; hedef belirleme, kişiselleştirme ve zamanlamanın artık otomatikleştirilmiş olması. Böylece hiçbir teknik becerisi olmayan biri bile veri ihlallerinden elde edilen bilgileri, adı kötüye çıkmış RockYou listesi gibi sızdırılmış parola listeleriyle birleştirip gerçek bir e-posta hesabını ele geçirebiliyor ve hedefin böyle bir e-posta beklediği anda rutin bir işlem e-postasının sahtesini gönderebiliyor.

Saldırganlar bariz teknik uyarı işaretlerini ortadan kaldırıp kötü amaçlı mesajları meşruymuş gibi göstermekte daha başarılı hâle geldikçe, meşru iletişimi manipülasyondan ayırt etmek için hangi sinyaller daha önemli olur?

Önce bağlama bakın. Örneğin, bu kişi ya da tedarikçi için, bu kanalda ve bu zamanda böyle bir mesaj normal mi? Ardından aciliyeti ve tekrarlanma sıklığını değerlendirin. Gerçekten acil bir isteği olan biri telefonu açar ya da Teams veya Slack üzerinden size mesaj atar. Aynı e-postayı üç kez göndermez. Bir de içgüdünüze güvenin. Benim kuralım, “Hemen bir şey yapma, durup düşün”dür; bu yüzden bir an durun, başka birinden de gözden geçirmesini isteyin ve farklı bir kanaldan doğrulayın.

Hem insanların hem de yapay zekânın olası zayıflıkları varken, kuruluşlar insan gözetimini ve yapay zekâ gözetimini nasıl yapılandırmalı? Taraflardan her biri, kararı diğerinin zaten doğruladığını varsayarsa insan muhakemesini yapay zekâyla birleştirmek yeni kör noktalar yaratabilir mi?

Her iki tarafa da en iyi yapabildiği işi verin ve görev devrini açıkça tanımlayın. Yapay zekâ büyük hacimli işleri yürütür ve tüm ortam genelindeki örüntüleri saptar; ciddi sonuçlar doğurabilecek kararların (para transferi, erişim izni verme) sorumluluğu insanlardadır. Yapay zekâ da incelemeyi yapan kişinin akıl yürütme sürecini kontrol edebilmesi için dayanaklarını göstermek zorundadır. Sözünü ettiğiniz kör nokta gerçekten var. Çözüm, kesin bir kural koymaktır… “Yapay zekâ güvenli olduğunu söyledi” ifadesi hiçbir zaman insan incelemesi sayılmaz.

Temel sorun, insanların veya yapay zekâ sistemlerinin bildikleriyle bir işi yürütürken fark ettikleri arasındaki boşluksa, kuruluşlar bu boşluğu daraltmak ve sosyal mühendislik saldırılarının başarıyla gerçekleştirilmesini önemli ölçüde zorlaştırmak için bugün hangi pratik değişiklikleri yapabilir?

Çek yazarken kullandığımız eski bir kontrol yönteminden, “görevlerin ayrılığı” ilkesinden yararlanın. Bir kişi yeni bir kullanıcı oluşturabilir ama hesabı etkinleştiremez; ikinci bir kişi kullanıcı hesabını etkinleştirebilir ama oluşturamaz; üçüncü bir kişiye ise her iki işlem için bildirim gönderilir. Aynı görev ayrımını ödemelere, tedarikçi değişikliklerine ve yapay zekâ ajanlarınıza da uygulayın (hiçbir ajan hem bir işlem talep edip hem de bu talebi onaylamamalıdır). Kandırılmış tek bir çalışan ya da ele geçirilmiş tek bir ajan saldırıyı tek başına tamamlayamaz.

Harika röportaj için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okuyucular IRONSCALES‘i ziyaret edebilir.