Yapay zeka modelleri ve platformları
Rob Gurzeev, CyCognito’nun CEO’su ve Kurucu Ortağı – Röportaj Serisi

CyCognito’nun CEO’su ve Kurucu Ortağı Rob Gurzeev, özel sektör ve istihbarat ajansları için saldırı güvenlik çözümlerinin geliştirilmesine liderlik etti.
CyCognito’yu kurmadan önce, C4 Güvenlik’te (Elbit Systems (ESLT ) tarafından satın alındı) Saldırı Güvenlik Direktörü ve Ar-Ge başkanı ve 8200 İsrail İstihbarat Birliğinin Ürün Departmanının CTO’su olarak görev yaptı. İsrail Savunma Kuvvetleri Subayı olarak aldığı ödüller arasında Mükemmellik Ödülü, Yaratıcı Düşünce Ödülü ve Hayat Kaynağı Ödülü yer aldı.
CyCognito, ulusal istihbarat ajanslarının veterenler tarafından kuruldu ve en güvenilir siber güvenlik şirketlerinden bazılarının deneyimli yöneticileri tarafından katıldı.
Siber güvenlik alanında ilk olarak ne sizi çekti?
Teknolojiye ilk olarak 13 veya 14 yaşlarında ilgi duymaya başladım. IRC kanallarında teknolojiye meraklı insanlarla sohbet etmeye başladım ve o zamanlar “hacking” olarak adlandırılan şeylerle ilgilenmeye başladım.
O zamanlar insanlar, mesaj uygulamalarındaki kriptografi gibi ilginç şeylerle deneyler yapıyorlardı. Ayrıca dosya paylaşımı ile deneyler yapıyorlardı. Çocuklar, arkadaşlarına bir yürütülebilir dosya göndererek bir şeyler yapıyorlardı. Eğer düşünürseniz, bu, bugün “sosyal mühendislik” saldırıları olarak adlandırdığımız şeyin temelini oluşturuyordu.
Bütün bunlar beni düşündürdü: Kötü niyetli bir kişi bu teknolojiye sahip olursa ne olur?
Bu erken deneyimler, güvenlik alanında kariyerime başlangıç yaptı. Sonunda İsrail Unit 8200 İstihbarat Birliğinde keşif çalışması yaptım ve daha sonra CyCognito’yu kurduk.
CyCognito’nun kuruluş hikayesini paylaşabilir misiniz?
CyCognito, saldırganların her zaman savunuculardan önde olduğu bilinci üzerine kuruldu. Saldırganlar zeki, azimli ve her zaman en az direncin yolunu arıyorlar. Ve mientras tüm savunma ekipleri tüm olası girişleri güvence altına almak zorundalar, saldırganların sadece bir zayıf nokta bulmaları yeterli.
Bu sorunu daha da zorlaştıran şey, çoğu organizasyonun güvenlik ekipleri tarafından görünmeyen ancak tehdit aktörleri tarafından kolayca keşfedilebilecek potansiyel girişleri olmasıdır.
Bir gün, kurucu ortaklarım Dima Potekhin ile birlikte, bir çözüm geliştirmeye karar verdik. Bu çözüm, bir dünya sınıfı saldırgan gibi çalışacaktı, yani sadece bir şirketin adını bilerek başlayacaktı ve sonra en riskli varlıkları ve en açık yolları belirleyecekti.
Bir saldırganın operasyonunu simüle etmek istedik, yani saldırganın sadece hedef şirketin adını bildiği ve hassas verilere erişmek istediği ilk adımdan başlayarak.
2017’de, ulusal istihbarat ajanslarında edindiğimiz deneyimi kullanarak, organizasyonların ihlallere karşı korunmasına yardımcı olmak amacıyla, sürekli olarak dış 노출 noktalarını haritalamak ve en az direncin yollarını bulmak için bir çözüm geliştirmeye başladık. Bu, sadece gelişmiş saldırı siber güvenlik bilgisini değil, aynı zamanda endüstride nadiren kullanılan modern teknolojiyi de gerektiriyordu, zoals Bayesian makine öğrenimi modelleri, LLM, NLP ve grafik veri modelleri.
Bugün, yeni ve büyük Küresel 100 şirketlerine, artan tehditlerden korunmaları için yardım ediyoruz. Müşterilerimiz arasında Colgate-Palmolive (CL ), California Eyaleti, Berlitz, Hitachi, Tesco gibi şirketler yer alıyor.
Dış Saldırı Yüzeyi Yönetimi nedir?
Dış Saldırı Yüzeyi Yönetimi (EASM) nin tanımlı bir süreci ve teknolojisi, bir organizasyonun dijital varlıklarının internetten erişilebilen veya görülebilen exposure’unu tanımlamak, değerlendirmek ve yönetmektir.
Dış saldırı yüzeyleri geniş ve karmaşıktır. Bir organizasyon, yüzlerce ve binlerce sistem, uygulama, bulut örnekleri, tedarik zinciri, IoT cihazları ve internete açık veri ile karşı karşıya kalabilir – genellikle çoklu bulutlar ve üçüncü taraf tarafından yönetilen varlıklar arasında yayılır.
Güvenlik ekipleri bu varlıkları keşfetme yeteneğine sahip değildir. Binlerce uyarı ile karşı karşıyalar, ancak hangilerinin kritik olduğunu ve hangilerini önceliklendirmeleri gerektiğini bilemezler.
Gerçekten kritik sorunları izole etmek, saldırı yüzeyinde görünürlük gerektirir, ancak daha da önemli olarak, etkilenen varlıkların bağlamını ve amacını anlamak gerekir. Bunu belirledikten sonra, güvenlik ekipleri saldırı yollarını hesaplayabilir ve hangi tehditlerin önemli olduğunu öngörebilir – bunlar, iş için ciddi mali veya itibar kaybına neden olabilecek tehditlerdir. Ardından, organizasyon doğru şekilde önceliklendirebilir ve en büyük etkiye sahip olanları düzeltmeye odaklanabilir.
Saldırgan gibi düşünmenin bilinmeyen riskleri keşfetmek için önemini paylaşabilir misiniz?
Verizon’un DBIR göre, %82’si dışardan gelen saldırılar. Ayrıca, çoğu ihlal, Gartner’a göre bilinmeyen ve yönetilmeyen varlıklarla ilgili.
Bu, dışa dönük bir yaklaşım benimsemek ve saldırı yüzeyini değerlendirmek ve yönetmek için kritik öneme sahiptir. Saldırganın ayakkabılarına girmek, sistemlerimizdeki taç varlıklarını ve hangilerinin maruz kaldığını ve savunmasız olduğunu objektif bir şekilde görmek için önemlidir.
Önceden de söylediğim gibi, saldırı yüzeyleri sürekli büyüyor ve karmaşıktır. Çoğu güvenlik ekibi, maruz ve savunmasız varlıklara tam spektrumlu görünürlüğe sahip değildir. Saldırganlar bunu biliyor! Ve onlar, en az direncin yolunu avlamak için saldırı yüzeyini acımasızca keşfedecekler. Maalesef, bir güvenlik açığı onlara yeterli.
Dış uygulamalar ve API’lerin izlenmediği veya test edilmediği için tehditleri ne sıklıkla tespit ediyorsunuz?
İstediğimizden daha sık.最近, hassas verileri ortaya çıkaran savunmasız genel bulut, mobil ve web uygulamaları hakkında bir araştırma yaptık. İşte bazı önemli bulgular:
- Kişisel bilgilerini içeren varlıkların %74’ü en az bir büyükexploit’e karşı savunmasız ve 10’da 1’i kolayca sömürülebilecek bir sorun var.
- Web uygulamalarının %70’i ciddi güvenlik açıkları var, örneğin WAF koruması veya HTTPS gibi şifreli bir bağlantı eksikliği, ve %25’i hiçbiri yok.
- Tipik bir küresel şirketin 12.000’den fazla web uygulaması var, bunlar API’ler, SaaS uygulamaları, sunucular ve veritabanları gibi şeyleri içerir. Bunların en az %30’u – 3.000’den fazla varlık – en az bir sömürülebilecek veya yüksek riskli güvenlik açığı var. Bu potansiyel olarak savunmasız web uygulamalarının yarısı bulutta barındırılıyor.
- Web uygulamalarının %98’i, çerezlerden çıkma opportunity olmaması nedeniyle GDPR’ye uygun değil.
Araştırmamızın dışında, bu tehditlerin kanıtları bugün mevcut. MOVEit exploit, halen devam eden bir örnek.
Saldırı yüzeyini test etmek ve yönetmek için süreçleri ve araçları birleştirmenin önemini tartışabilir misiniz?
‘Stack bloat’ çoğu girişimin yaşadığı bir şey. Güvenlikte özellikle belirgindir. Çoğu organizasyon, silolanmış, bağlantısız güvenlik araçlarına sahiptir. Güvenlikte, güvenlik açıklarını ortadan kaldırmak için daha fazla platforma ihtiyaç duyulduğu şeklinde bir mantra vardır. Ancak bu, insan hatalarına,冗余lere, artan operasyonel yüküne ve kör noktalara yol açar.
CyCognito, birçok eski nokta çözümünün işini yapmak üzere inşa edildi. Şirketlere, yığınlarını konsolide etmelerine ve işlerine odaklanmalarına yardımcı oluyoruz.
Saldırganlar, saldırıları ölçeklemek için LLM’leri ve Üretken AI’yi nasıl kullanıyor?
Henüz büyük ölçekli saldırılar görmüyoruz, ancak bu sadece zaman meselesi. LLM’ler, çeşitli siber saldırı aşamalarına daha büyük ölçek, kapsam, ulaşım ve hız sağlayabilir.
Örneğin, LLM’ler, bir organizasyonun varlıklarını, markalarını ve hizmetlerini haritalamak ve hassas bilgileri keşfetmek için otomatik keşfi hızlandırabilir. LLM’ler ayrıca, bir ağ içinde zayıflıkları keşfetmeye ve sömürmeye yardımcı olabilir ve kimlik avı veya su ikmali saldırıları gibi tekniklerle ağ güvenlik açıklarını sömürebilir. LLM’ler ayrıca, bir ağdan hassas verileri kopyalamak veya çıkarmak için de yardımcı olabilir.
Tüketici uygulamaları, özellikle ChatGPT, kasıtlı veya kasıtsız olarak şirketlerin IP’sini sızdırma tehdidi oluşturabilir.
Kimlik avı kampanyaları başka bir kullanım örneğidir. Yüksek kaliteli kimlik avı, hedefin derin bir anlayışına dayanır; bu, büyük dil modellerinin çok iyi yapabileceği bir şeydir, çünkü büyük miktarda verileri çok hızlı bir şekilde işler ve mesajları etkili bir şekilde özelleştirir.
Şirketler, kendilerini korumak için Üretken AI’yi nasıl kullanabilir?
Harika bir soru. Bütün bunların güzel tarafı bu. Saldırganlar Üretken AI’yi kullanabiliyorsa, güvenlik ekipleri de kullanabilir. Üretken AI, güvenlik ekiplerinin kendi şirketlerini keşfetmesine ve güvenlik açıklarını düzeltmesine yardımcı olabilir. Daha快速 ve maliyet-etkin bir şekilde, kendi saldırı yüzeylerini taramak ve maruz kalan hassas varlıkları, kişisel bilgilerini ve diğerlerini bulmak için yardımcı olabilir.
Üretken AI, bir varlığın iş bağlamını anlamaya da yardımcı olabilir. Örneğin, bir veritabanının kişisel bilgilerini tuttuğunu ve gelir işlemlerinde önemli olduğunu tanıyabilir. Bu, çok değerli bir şeydir.
Üretken AI, bir varlığın iş amacını da belirlemeye yardımcı olabilir. Örneğin, bir ödeme mekanizması, kritik bir veritabanı ve rastgele bir cihaz arasında ayrım yapabilir ve risk profilini sınıflandırabilir. Bu, güvenlik ekiplerinin riski daha iyi önceliklendirmesine olanak tanır. Önceliklendirme yeteneği olmadan, güvenlik ekipleri, çoğu aslında kritik olmayan, “acil” olarak işaretlenmiş sonsuz güvenlik açıklarıyla uğraşmak zorundadır.
Şirketler, savunma amaçları için Üretken AI’ye fazla bağımlı olmaktan neden kaçınmalıdır?
Üretken AI büyük bir potansiyele sahip, ancak endüstrinin çalışması gereken içkin sorunlar var. Büyük resim için, Üretken AI modelleri, güvenlik ekiplerini kendilerini güvende hissetmelerine neden olabilir. Otomasyonun çekiciliği büyük, ancak günümüz Üretken AI modellerinin durumunda, manuel inceleme kritik öneme sahiptir. Örneğin, Üretken AI modelleri “hayal görür”. Yani, yanlış çıktılar üretirler.
Ayrıca, Üretken AI modelleri (LLM’ler özellikle) bağlamı anlamazlar, çünkü istatistiksel, zamanlı metin analizi üzerine kuruludur – bu da daha da zorlu “hayal görme”ye yol açabilir.
Anlıyorum ki, güvenlik ekipleri, “daha azla daha fazla” yapmak istiyorlar, ancak insan denetimi her zaman güvenlik sürecinin bir parçası olmalıdır.
CyCognito, otomatik dış saldırı yüzeyi yönetimini ve sürekli testi nasıl sunar?
Saldırı yüzeyleri geniş ve karmaşıktır – ve sürekli büyümeye devam ediyor.
CyCognito’yu, bir organizasyonun tüm saldırı yüzeyini, iştirakler, ortak girişimler ve marka operasyonlarını kapsayacak şekilde sürekli olarak haritalamak için inşa ettik ve her birini haklı sahibi ile ilişkilendirdik.
Birkaç teknik özellik vurgulanmaya değer.
Kara kutu saldırı yüzeyi keşif sürecinde, platformumuz, “atama hipotezleri” için dozens of kaynaklardan biri olarak LLM’yi kullanır ve organizasyonun iş yapısını (1000’e kadar iş birimi ve iştirak) ve varlıkları sahiplerine (milyonlarca IT varlığı) otomatik olarak atamak için Bayesian ML modellerini analiz eder.
Platform ayrıca, Doğal Dil İşleme (NLP) ve heuristik algoritmalar aracılığıyla varlık sınıflandırmasını hızlandırır – bu, genellikle maliyetli ve kaynak yoğun bir görevdir.
Ayrıca, riskleri etkili bir şekilde önceliklendirmek için gerekli iş bağlamını sağlıyoruz. Bir güvenlik açığı binlerce makineyi etkilese bile, CyCognito, en kritik olanını, maruziyet düzeyi, iş önemliliği, sömürülme ve hacker konuşması hakkında bilgi sağlayarak belirleyebilir.
Dış Saldırı Yüzeyi Yönetimi’ne holistik bir yaklaşım sunuyoruz, bu da tüm kritik konulara eşit aciliyetle davranma tuzağından kaçınmaya yardımcı olur. Güvenlik ekiplerinin gerçek kritik vektörleri önceliklendirmesine ve böylece zaman ve para kazanmasına olanak tanır.
Harika bir röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular CyCognito’yu ziyaret edebilir.












