Düşünce Liderleri

Yapay zekâ güvenliği ölçeklendirebilir. Peki neyi?

Eyal Fisher
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarKurumsal bağlam olmadan daha fazla veri işlemek tehdit tespitini otomatik olarak…
Daha fazla göster
  • Kurumsal bağlam olmadan daha fazla veri işlemek tehdit tespitini otomatik olarak iyileştirmez.
  • İnce ayarlı modeller, büyük ölçekli soruşturmaları öncü modellerden daha öngörülebilir bir maliyetle destekleyebilir.
  • Özerklik riskle orantılı olmalı ve yönetişim ajanlar ölçeklendirilmeden önce tasarlanmalıdır.

Kurumsal güvenlik ekipleri bugün, gerçekçi biçimde manuel olarak inceleyebileceklerinden daha fazla etkinlik, telemetri ve uyarıyla karşı karşıya. Tahminler değişmekle birlikte, bazı araştırmalar ortalama bir güvenlik operasyonları ekibinin günde 4.400’den fazla uyarı aldığını gösteriyor. Kuruluşlar büyüyüp daha fazla araç ekledikçe ve yapay zekâ daha fazla saldırıya olanak tanıdıkça bu sayının artması kaçınılmaz. Ortamlarında iki milyon uç nokta bulunan kuruluşlara şimdiden rastlıyoruz. Bu uyarıları manuel olarak inceleyen güvenlik ekipleri, giderek daha fazla yapay zekâ ajanı kullanan saldırganlara karşı adil olmayan bir mücadele veriyor.

Yapay zekâ ajanları, ortam genelindeki incelemeleri ve diğer tekrarlayan işleri üstlenerek savunma ekiplerinin bu durumu değiştirmesine yardımcı olabilir. Ancak daha fazla veriyi işleyebilmek, tehditlerin daha iyi tespit edilmesini veya bunlara daha etkili biçimde karşılık verilmesini kendiliğinden sağlamaz. Gereken yalnızca ölçek değil, bağlamdır.

Ölçeklendirmeyi Değerlendirirken Bağlamın Önemi

Milyonlarca uç noktayı inceleyen bir ajan; ne aradığını, söz konusu ortamda hangi davranışların olağandışı sayıldığını ve hangi bulguların daha ayrıntılı inceleme gerektirdiğini anlamalıdır. Bu bağlam olmadan otomasyon, gürültüyü ölçeklendirme ve ilgisiz ya da yanıltıcı sonuçlar üretme riski taşır.

Her kuruluşun her uyarıyı incelemek için en gelişmiş modelleri kullanamayacağını da unutmamak önemlidir; bunun maliyeti çok yüksek olacaktır.

Güvenlik ortamları altyapı, uygulamalar, operasyonel gereksinimler, mevzuata uyma yükümlülükleri ve risk toleransı açısından farklılık gösterir. Savunma ekipleri, mevzuata uyma gerekliliklerini yönetirken ve operasyonel aksaklıklardan kaçınırken uygulamaların çalışır durumda kalmasını sağlamalıdır.

Ajanların etkili olabilmesi için geçmiş incelemeler, yerleşik prosedürler ve deneyimli analistlerin muhakemesi dâhil olmak üzere kurumsal bilgiyi kullanmaları gerekir. Bu bilginin büyük bölümü, bir elektronik tabloya veya başka bir biçime aktarılıp ajana verilebilecek türden değildir; deneyimli savunma uzmanlarının iş başındaki davranışlarını gözlemleyerek öğrenilmesi gerekir.

Kuruluşlar açısından temel soru, bu kurumsal bilgiyi alıp makine hızında tutarlı ve bağlama uygun kararlar verebilen sistemlere nasıl dönüştürecekleridir.

Kurumsal Bilgi Operasyonel Hâle Nasıl Getirilir?

Kuruluşların, önceki vaka kararları, yerleşik prosedürler ve analistlerin kanıtları nasıl yorumladığı dâhil olmak üzere incelemelere yön veren bilgiyi yakalayıp uygulayacak mekanizmalara ihtiyacı vardır. Kuruluşların yakalanması gereken kendilerine özgü süreçleri, araçları ve yazılı olmayan kurumsal bilgileri de olabilir.

Model uzmanlaşması olası yaklaşımlardan biridir. Modellerin her kurumsal müşteri için ince ayardan geçirilmesi, yüksek performansı korurken büyük ölçekli incelemelerin daha öngörülebilir maliyetlerle yapılmasını sağlayabilir. İnce ayardan geçirilmiş açık kaynaklı modeller, çok büyük uç nokta topluluklarını kapsayan görevlerde özellikle yararlı olabilir.

Kuruluşlar, modeller, iş akışları ve kurumsal ortamlar değiştikçe ajan performansını da değerlendirmelidir. Sentetik ortamlar veya dijital ikizler, üretim verilerinin artık kullanılamadığı ya da güncelliğini yitirdiği durumlarda farklı ajan sürümlerini test etmek için gerçeği temsil eden ortamlar sağlayabilir.

Bağlam sağlamanın tek yolu ince ayar değildir. Bilgi erişimi, bellek, iş akışı düzenlemesi ve açık politika denetimleri alternatif yaklaşımlardır. Temel gereklilik, seçilen yöntemin ajanın çalışacağı ortamdaki performansını artırmasıdır.

Ölçekli Otonomi İçin Net Sınırlar, Gözetim ve Koordinasyon Gerekir

Bir tehdidi doğru biçimde belirlemek, zorluğun yalnızca bir kısmıdır. Ajanlar hangi eylemleri gerçekleştirmeye yetkili olduklarını, ne zaman insan onayı gerektiğini ve meşru iş operasyonlarını aksatmaktan nasıl kaçınacaklarını anlamalıdır. Ajanların nerelerde özerk hareket edebileceğini, nerelerde insan kararının gerekli olduğunu belirlemek, güvenilir bir dağıtım için şarttır.

Ölçekli otonomi için ölçek ekonomisi de gerekir. Milyonlarca incelemede en gelişmiş modelleri kullanan şirketler kendi iflaslarına yol açacaktır. Bu nedenle, ister Küçük Dil Modeli (SLM) ister tescilli bir model olsun, yapay zekâ modeliyle inceleme yapmanın en verimli yolunu bulmak son derece önemlidir.

Otonomi, riskle orantılı olmalıdır. Rutin ve iyi anlaşılmış görevler otonom yürütmeye uygun olabilirken önemli sonuçlar doğurabilecek veya aksaklığa yol açabilecek eylemler için insan onayı ya da ek yetkilendirme gerekebilir. Kurumsal güvenlik, ekipler arasındaki koordinasyona da bağlıdır. Bir güvenlik duvarı yapılandırma değişikliği gerektiren bir tehdidi belirleyen incelemenin, uygun yetkilendirme ve düzeltme çalışmalarına ilişkin hesap verebilirlik sağlanarak, ilgili sistemden sorumlu ekibe sorunsuz biçimde aktarılması gerekir.

Bu nedenle yönetişim ve iş akışı tasarımı, ajanların devreye alınmasının temel unsurlarıdır; teknoloji ölçeklendirildikten sonra eklenebilecek denetimler değildir.

Güvenlikte Yapay Zekâ Başarısının Bir Sonraki Ölçütü, Sonuçların Niteliğidir

Kurumlar, ajanları soruşturma doğruluğu, yanlış pozitif ve yanlış negatif oranları, soruşturma ve düzeltme süresi, soruşturma başına maliyet, konuyu üst kademelere taşıma kalitesi ve yetkilendirme politikalarına uyum gibi sonuç odaklı ölçütlerle değerlendirmelidir.

Modeller ve iş akışları değiştikçe sürekli değerlendirme yapmak büyük önem taşır. Farklı ajan sürümlerini temsili vakalarla test etmek ve sentetik ortamlardan yararlanmak, kurumların güncellemeleri canlı ortama almadan önce gerilemeleri belirlemesine yardımcı olabilir.

Güvenlik yöneticileri, otomasyonun faydalarıyla uygulamaya almanın operasyonel riskleri arasında denge kurmalıdır. Uygulamaların kullanılabilirliği, uyumluluk yükümlülükleri, kurumun risk toleransı ve uygulama takvimleri, yeni kabiliyetlerin ne kadar hızlı benimsenebileceğini etkiler.

Yapay zekâ, güvenlik ekiplerine uzun süredir devam eden kapasite sorununu çözme fırsatı sunuyor; ancak ham ölçek tek başına nihai hedef değil. Asıl fırsat, ajanların neyin önemli olduğunu ayırt edebilmesi, doğru adımları atabilmesi ve gerektiğinde doğru kişileri sürece dahil edebilmesi için makine hızını kurumsal bağlam, uygun yetki ve insan muhakemesiyle birleştirmekte yatıyor.

Eyal Fisher, Legion Security'ın kurucu ortağı ve CTO'su olarak şirketin ajan tabanlı güvenlik operasyonları platformunun teknik vizyonuna liderlik ediyor. Yapay zekâ alanında düşünce önderi ve girişimci olan Eyal, daha önce üretken yapay zekâ şirketi ART AI'ın ve bir bulut güvenliği girişiminin kurucu ortakları arasında yer aldı; ayrıca University of Cambridge'den araştırma deneyimi edindi. Üretken yapay zekâ alanında tanınmış bir öncü olan Eyal, kariyeri boyunca makine öğrenmesinin gerçek dünyadaki güvenlik operasyonlarına nasıl uygulanabileceğinin sınırlarını zorladı.