Siber Güvenlikte Üretken AI: Savaş Alanı, Tehdit ve Şimdi Savunma

Savaş Alanı

Üretken AI’nin yeteneklerine yönelik heyecan hızla endişeye dönüştü. ChatGPT, Google Bard, Dall-E gibi Üretken AI araçları güvenlik ve gizlilik endişeleri nedeniyle sürekli manşetlerde yer alıyor. Gerçek ve sahte arasındaki çizgi bulanıklaşıyor. Üretken AI, çok inandırıcı ve bu nedenle ikna edici içerikler üretebiliyor. Örneğin, bir 60 Minutes segmentinde AI hakkında konuşan sunucu Scott Pelley, “Bu, 60 Minutes’ta daha önce hiç görülmemiş bir nottur, ancak AI devriminde sık sık duyacağınız bir şey: önceki içerik %100 insan içeriğiyle oluşturulmuştur” dedi.

Üretken AI siber savaşı, bu inandırıcı ve gerçekçi içerikle başlıyor ve savaş alanı, siber suçluların Üretken AI’yi ChatGPT gibi araçlar kullanarak yararlandıkları yer. Özellikle kaynakları sınırlı ve teknik bilgisi hiç olmayan siber suçlular için, sosyal mühendislik, oltalama ve kimliğe bürünme saldırıları yoluyla suç işlemek çok kolay.

Tehdit

Üretken AI, giderek daha sofistike siber saldırıları teşvik etme gücüne sahiptir.

Üretken AI, insan benzeri ve inandırıcı içerikler üretebildiği için, AI tarafından oluşturulan dolandırıcılıklar, güvenlik ekipleri tarafından kolayca tespit edilemiyor. AI tarafından oluşturulan dolandırıcılıklar, e-posta ve mesajlaşma uygulamaları üzerinden yürütülen çok kanallı oltalama saldırıları gibi sosyal mühendislik saldırıları biçiminde ortaya çıkabilir. Örneğin, üçüncü taraf bir tedarikçi Outlook (e-posta) veya Slack (mesajlaşma uygulaması) üzerinden bir şirket yöneticisine belge içeren bir e-posta ya da mesaj gönderebilir. Mesaj, faturayı görüntülemek için belgeye tıklamasını ister. Üretken AI ile, sahte ve gerçek e-posta veya mesajı ayırt etmek neredeyse imkansızdır, bu da çok tehlikelidir.

En alarm verici örneklerden biri, Üretken AI’nin siber suçluların birden fazla dilde saldırılar yapmasına olanak sağlamasıdır, siber suçluların gerçekten o dili konuşup konuşmadığına bakılmaksızın. Hedef, geniş bir ağ oluşturmak ve siber suçluların dil temelinde kurbanları ayırt etmemesidir.

Üretken AI’nin gelişmesi, bu saldırıların ölçeği ve verimliliğinin artmaya devam edeceğine işaret ediyor.

Savunma

Üretken AI kaynaklı tehditlere karşı siber savunma, uzun süredir eksik olan parça olarak görülüyordu. Ancak şimdi değil. Makine ile makine mücadelesi veya AI’yi AI’ye karşı kullanmak, bu yeni ve büyüyen tehdide karşı savunmamızı sağlayabilir. Ancak bu strateji nasıl tanımlanmalı ve nasıl görünmeli?

İlk olarak, endüstri, insanı bilgisayara karşı koymak yerine bilgisayarı bilgisayara karşı koymalıdır. Bu çabayı gerçekleştirmek için, Üretken AI’den kaynaklanan tehditleri tespit edebilen, sosyal mühendislik saldırılarını işaretlemek ve çözmek için gereken süreyi azaltan gelişmiş tespit platformlarını dikkate almalıyız. Bir insan bunu yapamaz.

Bunun nasıl görünebileceğini test ettik. ChatGPT’yi, birden fazla dilde dil kullanarak alıcıyı telefonla geri aramaya yönlendiren bir oltalama e-postası oluşturması için yönlendirdik ve bir Doğal Dil Anlama platformunun veya gelişmiş bir tespit platformunun bunu bir sosyal mühendislik saldırısı olarak tespit edip edemeyeceğini görmek için. ChatGPT’ye, “bir yazılım lisans sözleşmesi hakkındaki son bildirim için birini telefon etmeye çağıran acil bir e-posta yaz” talimatını verdik ve bunu İngilizce ve Japonca olarak yazmasını istedik.

Gelişmiş tespit platformu, e-postaları hemen bir sosyal mühendislik saldırısı olarak işaretleyebildi. Ancak e-posta sistemine yerleşik güvenlik mekanizmaları, örneğin Outlook’un phishing tespit platformu, bunu yapamadı. ChatGPT’nin piyasaya sürülmesinden önce, dil tabanlı, konuşmalı saldırılar, geleneksel kontrolleri atlayabildikleri ve bağlantı veya zararlı içerik olmadan posta kutusuna ulaşabildikleri için başarılı oldu. Evet, savunma için makineye karşı makine mücadelesi gerekiyor, ancak etkili savunma araçları kullandığımızdan da emin olmalıyız, örneğin gelişmiş bir tespit platformu. Bu araçlara sahip olan herkes, Üretken AI’ye karşı mücadelede avantajlıdır.

ChatGPT ve diğer Üretken AI formları tarafından sağlanan sosyal mühendislik saldırılarının ölçeği ve inandırıcılığı konusunda, makineye karşı makine savunması da rafine edilebilir. Örneğin, bu savunma birden fazla dilde kullanılabilir. Ayrıca yalnızca e-posta güvenliğiyle sınırlı olmak zorunda değildir, diğer iletişim kanalları gibi uygulamalar için de kullanılabilir, örneğin Slack, WhatsApp, Teams vb.

Uyanık Kalın

Çalışanlarımızdan biri LinkedIn’de gezinirken, bir Üretken AI sosyal mühendislik girişimiyle karşılaştı. Garip bir “beyaz kitap” indirme reklamı ortaya çıktı ve bu, sadece garip reklam tasarımı olarak tanımlanabilir. Çalışan, daha yakından baktı ve Dall-E tarafından üretilen resimlerin sağ alt köşesinde bir renk deseni gördü, Dall-E, metin tabanlı istemlerden resimler üreten bir AI modelidir.

Bu sahte LinkedIn reklamı, Üretken AI ile birlikte ortaya çıkan yeni sosyal mühendislik tehlikelerine önemli bir hatırlatma oldu. Şimdi daha da kritik olan, uyanık ve şüpheli olmak.

Üretken AI’nin siber suç için kullanıldığı çağ geldi ve her araçla mücadeleye hazır olmak için uyanık kalmalıyız.