Exabeam’de Chief AI ve Ürün Sorumlusu Steve Wilson – Röportaj Serisi

Steve Wilson, Exabeam’de Chief AI ve Ürün Sorumlusu’dur ve ekibi, gerçek dünya siber güvenlik zorluklarını çözmek için son teknoloji AI teknolojilerini uygular. OWASP Gen AI Güvenlik Projesi’nin kurucusu ve ortak başkanıdır ve endüstri standardı OWASP Top 10 için Büyük Dil Modeli Güvenlik listesinin arkasındaki organizasyondur.

Aldığı ödülü kazanan kitabı, “Büyük Dil Modeli Güvenlik için Geliştiriciler Kılavuzu” (O’Reilly Media), Cyber Defense Magazine tarafından En İyi Çığır Açan Siber Güvenlik Kitabı olarak seçildi.

Exabeam, dünyanın en akıllı şirketleri için güvenlik operasyonlarını güçlendiren zeka ve otomasyon lideridir. AI’nin ölçeği ve gücünü, endüstri lideri davranış analitiği ve otomasyonumuzun gücü ile birleştirdiğimizde, organizasyonlar güvenlik olaylarına daha kapsamlı bir bakış açısına sahip olur, diğer araçların kaçırdığı anomalileri ortaya çıkarır ve daha hızlı, daha doğru ve tekrarlanabilir yanıtlar elde eder. Exabeam, küresel güvenlik ekiplerinin siber tehditlerle mücadele etmesine, riski azaltmasına ve operasyonları basitleştirmesine olanak tanır.

Exabeam’de yeni unvanınız Chief AI ve Ürün Sorumlusu. Bu, siber güvenlik içinde AI’nin önemini nasıl yansıtıyor?

Siber güvenlik, makine öğrenimini ilk benimseyen alanlardan biriydi – Exabeam’de, insanların tek başına kaçırabileceği anomali davranışlarını tespit etmek için bir thập yıldan fazla süredir ML’yi tespit motorumuzun核心 olarak kullanıyoruz. Yeni AI teknolojilerinin gelmesiyle birlikte, AI, önemli olmaktan ziyade mutlak merkezi haline geldi.

Exabeam’deki Chief AI ve Ürün Sorumlusu olarak birleşik rolüm, AI stratejisinin ve ürün stratejisinin birleştirilmesini yansıtıyor. AI’yi ürünlerimizde yerleştiren ve siber güvenlik gibi AI’nin rolünün giderek daha kritik olduğu bir endüstri içinde, AI stratejisi ve ürün stratejilerini birleştirmek mantıklıydı. Bu entegrasyon, güvenlik analistlerine ve operasyon ekiplerine dönüştürücü AI destekli çözümler sunmak için stratejik olarak hizalanmamızı sağlar.

Exabeam, güvenlik operasyonlarında “agentic AI”yi öncülük ediyor. Bu, uygulamada ne anlama geliyor ve geleneksel AI yaklaşımlarından nasıl farklılaşıyor?

Agentic AI, geleneksel AI yaklaşımlarından önemli bir evrimi temsil ediyor. Eylem odaklı – süreçleri proaktif olarak başlatma, bilgi analiz etme ve analistlerin sormadan önce içgörüler sunma. Sadece veri analizinin ötesinde, agentic AI, bir danışman olarak hareket eder, tüm SOC boyunca stratejik öneriler sunar, kullanıcıları en kolay kazanımlara yönlendirir ve güvenlik duruşunu iyileştirmek için adım adım rehberlik sağlar. Ayrıca, ajanlar, her biri analistlerin, mühendislerin ve yöneticilerin iş akışlarına sorunsuz bir şekilde entegre olan özel kişiliklere ve veri kümelerine sahip uzmanlaşmış paketler olarak çalışır.

Exabeam Nova, SOC iş akışında birden fazla AI ajanını entegre ediyor. Güvenlik analisti rolü gelecekte nasıl görünüyor? Evrim geçiriyor mu, küçülüyor mu yoksa daha uzmanlaşıyor mu?

Güvenlik analisti rolü kesinlikle evrim geçiriyor. Analistler, güvenlik mühendisleri ve SOC yöneticileri, veri, uyarı ve vakalarla bunalmış durumdadır. Gelecek gerçek değişim, sadece rutin görevlerde zaman kazanmakla ilgili değil – ajanlar kesinlikle burada yardımcı oluyor – ancak herkesin rolünü bir takım liderine dönüştürmek. Analistler hala güçlü teknik becerilere sahip olacaklar, ancak şimdi ajanlarla hızlanan görevleri, kararlarını güçlendiren ve gerçekten güvenlik duruşunda iyileştirmeler sağlayan bir takım lideri olacaklar. Bu dönüşüm, analistleri, siber tehditlere karşı mücadelede stratejik bir şekilde liderlik yapma ve güvenle karar alma konumuna getiriyor.

Recent verilere göre, yöneticiler ve analistler arasında AI’nin üretkenlik etkileri konusunda bir uyumsuzluk var. Bu algı boşluğu neden oluştuğunu düşünüyorsunuz ve nasıl giderilebilir?

Recent data açık bir uyumsuzluk gösteriyor: yöneticilerin %71’i AI’nin üretkenliği önemli ölçüde artırdığını düşünürken, sadece %22’si ön cephe analistleri aynı fikirde. Exabeam’de, siber güvenlikte AI vaatlerinin son furyası ile birlikte bu boşluğun büyüdüğünü gördük. AI demosunu yaratmak hiç bu kadar kolay olmadı ve satıcılar, her SOC zorluğunu çözdüklerini iddia etmeye nhanh. Bu demo ilk başta yöneticileri etkiliyor, ancak analistlerin eline geçtiğinde çoğu zaman gerçek anlamda ödemesi gereken yerde başarısız oluyor. Bu algı boşluğunu kapatmak için, yöneticilerin analistleri gerçekten güçlendiren AI araçlarına öncelik vermesi gerekiyor. AI gerçekten analistlerin etkinliğini artırduğunda, güven ve gerçek üretkenlik iyileştirmeleri takip edecek.

AI, tehdit tespiti ve yanıtı hızlandırıyor, ancak yüksek riskli siber güvenlik olaylarında otomasyon ve insan yargısı arasındaki dengeyi nasıl korursunuz?

AI yetenekleri hızla ilerlemesine rağmen, günümüzün temel “dil modelleri” akıllı ajanları desteklemek için orijinal olarak dil çevirisi gibi görevler için tasarlandı – değil nüanslı karar verme, oyun teorisi veya karmaşık insan faktörlerini ele alma. Bu, siber güvenlikte insan yargısının daha da önemli olmasını sağlıyor. Analist rolü AI tarafından azaltılmıyor, aksine yükseltiliyor. Analistler artık takım liderleri, deneyim ve içgörülerini kullanarak birden fazla ajanı yönlendiriyor ve kararların bağlam ve nüans tarafından bilgilendirildiğini đảmınıyor. Sonunda, otomasyonu insan yargısı ile dengelemek, AI’nin insan uzmanlığını güçlendirmesini, yerini almasını değil, sağlamakla ilgili.

Ürün stratejisi, AI core bir tasarım ilkesi haline geldiğinde nasıl evrimleşir?

Exabeam’de, ürün stratejimiz AI’yi core bir tasarım ilkesi olarak şekillendiriyor, değil yüzeyel bir ekleme. Exabeam’ı, makine öğrenimi desteklemek için sıfırdan inşa ettik – günlükleri alma, ayrıştırma, zenginleştirme ve normalleştirme – ve ML sistemlerini beslemek için optimize edilmiş bir Ortak Bilgi Modeli oluşturmak. Yüksek kaliteli, yapılandırılmış veri, AI sistemleri için önemli değil, hayat damarı. Bugün, akıllı ajanlarımızı kritik iş akışlarına doğrudan entegre ediyoruz, genel ve hantal sohbet botlarından kaçınıyoruz. Bunun yerine, kullanıcılarımıza gerçek dünya, somut faydalar sağlayan kritik kullanım durumlarına odaklanıyoruz.

Exabeam Nova ile “yardımcıdan özerkliğe” geçiş yapmak istiyorsunuz. Tamamen özerk güvenlik operasyonlarına ulaşmak için ana kilometre taşları nelerdir?

Tamamen özerk güvenlik operasyonları fikri ilginç, ancak преждевремен. Tamamen özerk ajanlar, herhangi bir alanda, henüz verimli veya güvenli değil. Karar verme AI’de gelişiyor, ancak insan düzeyindeki güvenilirliğe ulaşmadı ve bir süre ulaşmayacak. Exabeam’de, yaklaşımımız total özerklik peşinde koşmak değil – benim ekibim tarafından OWASP’de tanımlanan birincil zayıflık olarak bilinen Aşırı Ajans. Ajanlara, güvenilir bir şekilde test edilebileceğinden daha fazla özerklik verilmesi, operasyonları riskli bir zemine koyar. Bunun yerine, hedefimiz, insan uzmanlarının gözetiminde çalışan, yetenekli ancak dikkatli bir şekilde yönlendirilen akıllı ajan takımları. İnsan denetimi ve hedefe yönelik ajans yardımı birleşimi, gerçekçi ve etkili bir yol.

Gerçek zamanlı siber güvenlik için gerekli ölçekte GenAI ve makine öğrenimi entegre etmenin en büyük zorlukları nelerdir?

GenAI ve makine öğrenimini gerçek zamanlı siber güvenlik için gerekli ölçekte entegre etmenin en büyük zorluklarından biri, hız ve doğruluk arasında denge kurmaktır. GenAI alone, yüksek hızlı ML motorumuzun işlediği terabaytlarca verinin yerini tutamaz. En gelişmiş AI ajanlarının bile bir “bağlam penceresi” vardır ve bu, yeterli değildir. Bunun yerine, reçetemiz, ML’yi kullanarak büyük verileri eyleme geçirilebilir içgörülere dönüştürmeyi ve ardından akıllı ajanlarımızın bunları etkili bir şekilde çevirmesini ve operasyonelleştirmesini içerir.

OWASP Top 10 için LLM Uygulamaları’nın kurucususunuz. Bu, size nasıl ilham verdi ve AI güvenlik en iyi uygulamalarını nasıl şekillendireceğini düşünüyorsunuz?

OWASP Top 10 için LLM Uygulamaları’nı 2023 başlarında başlattığımda, LLM ve GenAI güvenlik hakkında yapılandırılmış bilgi azdı, ancak ilgi çok yüksekti. Girişimin ilk günlerinde, 200’den fazla gönüllü farklı görüş ve uzmanlık getirerek orijinal listeyi şekillendirmek için katıldı. O günden bu yana, listeyi 100.000’den fazla kez okundu ve uluslararası endüstri standartlarına temel oldu. Bugün, çaba, AI Red Teaming, agentic sistemlerin güvenliğini sağlama ve siber güvenlikte Gen AI’nin saldırı amaçlı kullanımını ele alma gibi konuları kapsayan OWASP Gen AI Güvenlik Projesi’ne genişledi. Grubumuz最近 10.000 üyesini geçti ve AI güvenlik uygulamalarını küresel olarak ilerletmeye devam ediyor.

Kitabınız, ‘LLM Güvenlik için Geliştiriciler Kılavuzu‘, bir ödül kazandı. Kitaptan en önemli çıkarım veya prensip nedir ve her AI geliştiricisinin güvenli uygulamalar oluştururken anlaması gereken nedir?

Kitabımın, “LLM Güvenlik için Geliştiriciler Kılavuzu”ndan en önemli çıkarım, basit: “büyük güç, büyük sorumlulukla gelir.” Geleneksel güvenlik kavramlarını anlamak hala çok önemliyken, geliştiriciler şimdi LLM’lerle ilgili olarak tamamen yeni bir dizi zorlukla karşı karşıya. Bu güçlü teknoloji, bir無料 geçiş değil, proaktif ve düşünceli güvenlik uygulamalarını gerektirir. Geliştiriciler, bu yeni güvenlik açıklarını baştan itibaren ele almak ve güvenlik uygulamalarını AI uygulamalarının yaşam döngüsünün her adımına entegre etmek için perspektiflerini genişletmelidir.

Agentic AI’nin daha yaygın hale gelmesiyle birlikte, siber güvenlik işgücü önümüzdeki 5 yıl içinde nasıl evrimleşecek?

Şu anda bir AI silah yarışındayız. Düşmanlar, kötü amaçlı hedeflerine ulaşmak için AI’yi agresif bir şekilde dağıtıyor, bu da siber güvenlik profesyonellerini daha da önemli hale getiriyor. Gelecek 5 yıl, siber güvenlik işgücünü azaltmayacak, aksine yükseltecek. Profesyoneller, AI’yi takımlarına ve iş akışlarına entegre etmelidir. Güvenlik rolleri, bireysel çabadan daha çok, AI destekli ajanlarla etkili bir şekilde yanıt vermeyi düzenleyen stratejik komuta doğru kayacak. Bu dönüşüm, siber güvenlik profesyonellerini, siber tehditlere karşı mücadelede kararlı ve güvenle liderlik yapma konumuna getiriyor.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Exabeam‘i ziyaret edebilir.