AI Hype İnsan Kararlarını Gölgeliyor ki Bu Kararlar Güvenlik Zafiyetlerine Yol Açıyor

AI, organizasyonların tehditlere bakış açısını değiştirdi, dikkat genellikle büyük ölçekli operasyonlara, otomatik keşiflere ve giderek daha ikna edici taklitlere odaklandı. Bu gelişmeler dikkat çekiyor, ancak endüstrinin en yaygın maruz kalmanın nerede başladığını anlamasını da bozmuşlardır.

Organizasyonlar daha gelişmiş, AI tarafından yönlendirilen tehditlere odaklanırken, saldırganlar hala insan içgüdüsünü manipüle ederek kapıdan giriyorlar. ClickFix saldırıları, sosyal mühendisliğin sofistike bir biçimi, geçen yıl gözlemlenen ilk erişim olaylarının %47’sini oluşturdu. Bu, bir ihlalin genellikle bir teknoloji açığında değil, bir kişinin baskı altında hızlı bir karar vermesiyle başladığını gösteriyor.

İnsan Yanıt Açığı

ClickFix saldırıları etkili çünkü teknik ekiplere hitap eden sinyalleri taklit ediyorlar. Yazılım açıklarına veya yapılandırma ihmalkarlıklarına bağlı değil. Bunun yerine, basit bir beklentiyi sömürenler: bir şey yanlış görünüyorsa, biri onu hemen düzeltmeye çalışacak.

Bu içgüdü, teknik ortamlarda, çalışma zamanı, yanıt ve hızlı eylem core beklentilerinde yoğunlaşıyor. Yöneticiler ve destek personeli, uyarılara, sistem istemlerine veya erişim taleplerine nhanh bir şekilde cevap vermeye şartlandırılmışlardır. Saldırganlar bu baskıyı anlıyorlar ve profesyonellerin ele almasına yönelik sinyalleri taklit eden kampanyalar tasarlıyorlar.

AI, bu hesaplamayı daha da tehlikeli hale getirdi. Üretken araçlar, saldırganlara neredeyse mükemmel gramer, bağlamsal olarak doğru sistem terminolojisi ve gerçek işletme yazılımlarına benzeyen sahte arayüzler ile tuzaklar oluşturmasına olanak tanır. Bir zamanlar hantal bir istem, sosyal mühendislik girişimini verdi, bugünün saldırıları gerçek bir BT uyarısından ayırt edilemez, kullanıcıların eğitim aldığı şeyi ve sahada gerçekten karşılaştıkları şeyi arasındaki açığı genişletir.

Şeyler Yanlış Gittiğinde

ClickFix olaylarıyla ilgili bir ana zorluk, kritik anın normal görünmesidir. Bir kullanıcı, bir istem onaylar, erişimi sıfırlar veya bir değişikliği yetkilendirir. Eylem itself, günlük aktiviteye karışır, bu da geleneksel güvenlik araçları için bir zorluk yaratır. Bu sistemler teknik anormallikleri tespit edebilir, ancak bir acele kararı arkasındaki bağlamı kolayca yorumlayamazlar.

Tipik bir dizi şöyle görünebilir: Bir kullanıcı, oturumunun sona erdiği veya gereken bir eklentin güncellenmesi gerektiği hakkında bir tarayıcı uyarısı ile karşılaşır. Arka planda görmediği bir PowerShell komutunu çalıştıran bir istem üzerinden geçer – sadece arayüzün vấnın çözüldüğünü söyler. Tüm etkileşim 30 saniyeden kısa sürer. Sistem günlüğünde hiçbir şey bunu şüpheli olarak işaret etmez, çünkü teknik olarak hiçbir şey şüpheli olmadı. Bir meşru kullanıcı, meşru bir makinede bir komut çalıştırdı.

Bu, birkaç sonucu doğurur. Bugün, ihlallerin %74’ü insan unsurunu içeriyor, sosyal mühendislik saldırıları, hatalar ve suistimaller dahil. İnsan davranışsal riskleri nadiren panellerin içinde görünür. Kontroller sorun değil. Eksik olan katman, hangi kararların en muhtemel şekilde aceleyle verileceği ve bu kararların saldırganlar için açıklar oluşturduğu görünürlüktür.

İnsan Hatasını Yeniden Düşünmek

İnsan davranışı, izole bir eğitim sorunu olarak değil, güvenlik mimarisinin temel bir bileşeni olarak ele alınmalıdır.

Bunu, öngörülemez bir sonuç olarak değil, ölçülebilir bir risk faktörü olarak ele alabilirler. Güvenlik liderleri, savunma duruşlarına insan merkezli içgörüler dahil ederek bunu başarmaya çalışabilirler. Sistemler, insanların ideal koşullarda her zaman davranacağı varsayımı ile değil, insanların gerçek olarak nasıl davrandıkları beklentisiyle tasarlanmalıdır.

Buradaki ölçüm somuttur, soyut değildir. Organizasyonlar, karar hızını, yüksek etkili istemleri operasyonel zirve saatlerinde onaylama hızını izleyebilir ve standart uyarıların tekrar tekrar aşılması gibi anormallikleri ortaya çıkarmak için onay kalıp izlemeyi kullanabilir. Bireysel veya rol düzeyinde uygulanan davranış standartlaştırması, güvenlik ekiplerine “normal” neye benzediği konusunda bir referans noktası verir, böylece sapmalar gürültü yerine bir sinyal olarak kaydedilir.

Kök Nedeni Çözme

ClickFix tarzı saldırılarına karşı savunmaları geliştirmek, acele kararlar dẫn đến koşullarını anlama ile başlar. Liderler, hızlı onaylar, tekrarlanan near misses veya sistem istemlerine tutarlı olmayan yanıtlar gibi kalıpları inceleyebilir. Bu gözlemler, içgüdünün dikkatli olmayı aşabileceği yerleri ortaya koyar.

Ayrıca, hatalara davetiye çıkaran baskı noktaları için iş akışları değerlendirilmelidir. Yüksek etkili eylemler, kullanıcıların neyi onayladıklarını değerlendirmelerine olanak tanıyan küçük doğrulama adımlarından yararlanabilir. Aynı zamanda, rutin görevler, dikkatli düşünmeden istemleri tıklamaya teşvik eden yorgunluğu azaltmak için basitleştirilmelidir.

Organizasyonlar, gerçekçi baskıları yansıtan simülasyonlar kullanarak daha fazla içgörüler elde edebilir. Geleneksel phishing testleri, farkındalık için faydalıdır, ancak bir kullanıcı aynı anda birden fazla görevi veya acil bir operasyonel endişeyi ele alırken nasıl tepki verdiğini değerlendirmaz. Zaman baskısı veya sistem kesintisi etrafında oluşturulan senaryolar, otherwise zor tespit edilebilecek davranış kalıplarını ortaya koyar.

Etkili simülasyonlar, geleneksel testlerin ihmal ettiği değişkenleri tanır: eşzamanlı görev yükü, geç gün yorgunluğu pencereleri ve bir yüksek riskli istemden hemen önce bir bağlam değişikliği doing. Bir kullanıcı, izole edilmiş olarak bir phishing e-postasını tespit edebilir, ancak 16:45’te aktif bir olayla uğraşırken, şüpheli bir istem onaylayabilir. Bu koşulları taklit eden testler, organizasyonların gerçekten kullanabileceği davranışsal verileri oluşturur, bu da baskı altındaki geliştirilmiş yanıtın yerine geçer.

Hata Noktasını Güçlendirmek

AI destekli tehditler devam edecek, ancak birçok ihlal hala bir insan kararına dayanıyor. Bu gerçeği ele almak, operasyonları yavaşlatmak veya otomasyonu terk etmek gerektirmez. Sistemleri ve iş akışlarını, insanların doğal olarak nasıl çalıştığını yansıtan bir şekilde tasarlamak ve içgüdünün dikkati aşmaya eğilimli olduğu noktalara etrafında koruma oluşturmak gerektirir.

Organizasyonlar, insan karar verme sürecini saldırı yüzeyinin bir parçası olarak anlarlarsa, operasyonel riskin daha precisa bir görünümüne sahip olurlar. Bu, teknik kontroller ve kullanıcıların günlük çalışma sırasında sistemlerle nasıl etkileşimde bulunduğuna ilişkin daha gerçekçi bir anlayış tarafından desteklenen daha güçlü savunmalara yol açar.