Aarti Samani, Shreem Growth Partners’ın Kurucu Ortağı ve CEO’su – Röportaj Serisi

Aarti Samani, Shreem Growth Partners’ın Kurucu Ortağı ve CEO’su, iki thập kỷ以上 AI, dijital kimlik ve biyometrik güvenlik alanında büyümeyi sağlayan bir teknoloji lideri ve AI stratejisti. iProov ve Digital Surgery (Medtronic tarafından satın alındı) gibi şirketlerde üst düzey rollerde bulunmuş, küresel ürün ve pazarlama stratejileri yönetmiş ve önemli finansman turularını güvence altına almıştır. BBC yorumcusu ve Money 20/20 ve CogX Festivali gibi küresel etkinliklerde ana konuşmacı olarak görev yapan Samani, şirketlere AI etiği, yönetim ve risk konularında danışmanlık hizmeti vermektedir.

Shreem Growth Partners, şirketlere derin sahtecilik dolandırıcılığına karşı koruma sağlamak için insan katmanına odaklanan bir yaklaşım sunar. Şirket, eğitim, yönetim brifingleri, güvenlik açığı değerlendirmeleri ve stratejik danışmanlık hizmetleri sunarak ekiplere ve liderlere manipülasyon girişimlerini tanıma, yanıtlama ve önleme yetenekleri kazandırır. Farkındalık, hazırlık ve kültürel direnci teşvik ederek, şirketler AI tehditlerine karşı kimliklerini, itibarlarını ve işgücünü korumaya yardımcı olur.

Shreem Growth Partners’ı, iProov, Medtronic Digital Surgery ve diğer AI odaklı şirketlerde üst düzey rollerden sonra neden kurmaya karar verdiniz?

2022’nin sonlarında ChatGPT’nin piyasaya sürülmesinden sonra, AI güçlendirilmiş medya araçlarının sesleri ve yüzleri birkaç dakika içinde klonlayabilmesi için bir patlama yaşandı. Çoğu şirket bunları tasarım ve pazarlama için yaratıcı hızlandırıcılar olarak gördü. Ancak suçlular, sosyal mühendislik için yeni bir fırsat gördü.

Derin sahtecilik, dolandırıcıların insanları manipüle etmek için tercih edilen aracı haline geldi. Güvenlik ekipleri, algılama teknolojisine yatırım yaparak yanıt verdi, ancak algılama alone insan güvenine dayanan bir sorunu çözemeyecektir. Psikoloji, endüstrinin kör noktasıydı.

Bu anlayış, beni derin sahtecilik dolandırıcılığına karşı direnci inşa etmek için farkındalık, simülasyon ve bilişsel direnci üzerine odaklanan Shreem Growth Partners’ı kurmaya yöneltti. İnsanların eleştirel düşünmesini, yüzleri ve sesleri ile etkileşime girdikleri kişilerin kimliklerini sorgulamalarını ve algının nasıl kolayca manipüle edilebileceğini anlamalarını öğretmek, bu tür dolandırıcılığı azaltmak için anahtardır.

iProov’da, yüz biyometrisi ve kimlik doğrulama alanındaki ön saflardaydınız. Bu deneyim, derin sahteciliklerin kimlik doğrulama sistemlerine yönelik artan tehdidi nasıl açığa çıkardı?

iProov’da Ürün ve Pazarlama Başkanı olarak, güvenlik duyarlı kurumların yüz biyometrik doğrulamayı getirmeye yardımcı oldum. Bu kurumlar, organize siber suçun sürekli hedefleridir. Their adversaries, akıllı, iyi finanse edilmiş ve teknoloji açısından donanımlıdır.

Çalınan kimliklerden oluşturulan derin sahtecilikler kullanarak biyometrik sistemleri atlatma girişimlerini görmeye başladık. iProov, bir bulut tabanlı yönetilen hizmet olarak çalıştığı için, bu saldırıları gerçek zamanlı olarak gözlemleyebildik ve her bir saldırı nasıl evrildiğini analiz ettik. Suçluların pazarın adapte olduğundan daha hızlı öğrendiği açıktı.

Bu deneyim, derin sahtecilikle etkin dolandırıcılık tehdidine karşı içgörüler kazandırdı ve aynı zamanda siber suçun nasıl yaratıcılık ve psikoloji tarafından sürüldüğünü anlamamı sağladı. Aynı anlayış, şimdi derin sahtecilik dolandırıcılığına karşı çalışmama rehberlik etmektedir.

Yöneticiler için sahtecilik, ses klonlama ve sosyal mühendislik saldırıları için derin sahtecilik giderek daha fazla kullanılmaktadır. Şu anda en çok hangi senaryoları görüyorsunuz?

Güvenlik sistemlerini kırmaktan daha kolay olan, sosyal mühendisliktir. İnsanlar geleneksel dolandırıcılıklara karşı daha fazla farkındalık kazandıkça, suçlular güveni manipüle etmek için yeni yollara başvuruyorlar.

Derin sahtecilik teknolojisi, sosyal mühendislik için şimdiye kadar gördüğümüz en güçlü araçtır. Gerçekçi yüzler, sesler ve anlatılar oluşturarak insan yargısını atlatmayı sağlar.

Suçluların avantajı, yalnızca yöneticilerin taklit edilmesi veya ödemelerle sınırlı değildir. Hedefler, giderek daha fazla entelektüel mülkiyet, hassas veri ve erişim kimlik bilgilerini içermektedir. AI ajanlarını eğitmek ve onlara klonlanmış sesler vermek, dolandırıcılığı insan saldırganların eşleştiremeyeceği bir ölçek, hız ve hassasiyetle gerçekleştirmeyi sağlar. Bu, girdiğimiz tehdit ufku budur.

Derin sahtecilik dolandırıcılığına karşı bir direnci program, geleneksel siber güvenlik veya anti-phishing eğitimi ile nasıl farklılık gösterir?

Siber güvenlik eğitimi, 2000’lerin başlarında, internet ve ticari hesaplamanın şekillenmeye başladığı dönemde oluşturuldu. O zamandan beri, içerik, uyum ihtiyaçlarını karşılamak için geliştirildi, LMS platformları ve katılım için oyunlaştırma üzerine odaklandı. Ancak tehdit manzarası ilerledi.

Bugünün dolandırıcılığı, zeki, yaratıcı ve psikolojik olarak tasarlanmıştır. Suçlular, akademiden veya kurumsal dünyadan daha az sophisticated olmayan AI kullanıyorlar. Eğitim, uyumdan ve bilişsel süreçlere kadar gitmelidir.

Derin sahtecilik dolandırıcılığına karşı eğitim, yalnızca bir bağlantıyı tıklamakla ilgili değildir. İnsanların yüzleri ve sesleri ile etkileşime girdikleri kişilerin kimliklerini sorgulamayı, algının nasıl kolayca manipüle edilebileceğini anlamayı ve kritik düşünmeyi öğretmelidir.

Bilişsel direnci aynı şekilde vurgulamak önemlidir. Artan duygular, dağılmış zihinler ve sürekli çoklu görev, kritik düşünmeyi zayıflatır. Bilişsel direnci inşa etmek, çalışanların duygusal dengesini korumalarını, analitik ve uyanık kalmalarını sağlar. Bu, manipülasyona karşı direnmek için gereken zihniyettir.

Şirketiniz, Derin Sahtecilik Zafiyet Değerlendirmeleri ve Masaüstü Alıştırmaları sunmaktadır. Bir simülasyonun nasıl çalıştığını ve müşterilerin genellikle hangi içgörüler kazandığını açıklar mısınız?

Zafiyet değerlendirmelerimiz ve masaüstü alıştırmalarımızda, gerçek olaylardan alınan son derin sahtecilikli saldırı vektörlerini yeniden oluştururuz. Common senaryolar, klonlanmış bir kimlikle sahte bir iş başvurusu, çok faktörlü kimlik doğrulama kimlik bilgilerini sıfırlamak için tehlikeye atılan bir IT yardım masası veya çalışanları kötü amaçlı yazılım indirmeye ikna eden AI tarafından oluşturulan bir video görüşmesidir.

Bu simülasyonlar, insanların baskı altında nasıl tepki verdiğini ortaya koyar ve iletişim, süreç ve olay yanıtında kör noktaları açığa çıkarır. Yöneticiler, genellikle eksik uzmanlık ve belirsiz karar sahibiğini keşfeder. Sonuçlar genellikle bir direnci programına yol açar. Bu program, dolandırıcılık okuryazarlığını, süreç değişikliğini, kültürel değişimi ve krize hazırlığı tüm organizasyon boyunca güçlendirir.

İnsan merkezli risk yönetiminden sık sık bahsedin. Şirketler, çalışanlarını derin sahtecilik manipülasyonuna karşı nasıl direnmeye ve yalnızca teknik araçlara güvenmekten kaçınmaya teşvik edebilir?

Derin sahtecilik, güveni ve duyguyu değerlendirmemize yardımcı olan aynı nöral devreleri sömürür. Beyinlerimiz, görsel ve işitsel ipuçlarını önceliklendirmeye ayarlanmıştır, çünkü bunlar geliştirdiğimiz ilk duyulardır. Ancak bu ipuçlarını sorgulamayı öğrenmemiz ve bu beceriyi sürekli olarak pekiştirmemiz gerekir.

Şirketler, çalışanlarını dijital etkileşimlere karşı temkinli ve meraklı bir şekilde yaklaşmaya teşvik ederek onları güçlendirebilir. Ses veya video görüşmesindeyken, bir artefakt ile etkileşime giriyoruz. Bu, gerçek bir kişi olabilir veya yapay bir kişi olabilir. Görsel olarak bunu belirleyemeyiz.

Tek savunma, aktif doğrulamadır: doğru sorular sormak, ayrıntıları çapraz kontrol etmek ve anlatıda tutarsızlıkları fark etmek. Yeni mantra basit olmalıdır – sıfır güven, her zaman doğrula.

Derin sahtecilik, yanlış bilgi ve dolandırıcılık arasında bir çizgi çizmektedir. Yöneticiler, sentetik medya olaylarından kaynaklanan itibar ve operasyonel krizlere nasıl hazırlanabilir?

Liderlik ekipleri, derin sahtecilik olaylarını artık bir iş riski olarak değerlendirmelidir, değil bir varsayım olarak. Her yönetici, bir kriz ortaya çıktığında rolünü bilmelidir.

Risk kayıtlarını gözden geçirdikleri gibi, olay yanıt planlarını da gözden geçirmelidirler ve bu planlar statik olmamalıdır. Tehdit manzarası çok hızlı bir şekilde değişmektedir. Planlar, en az yılda iki kez, ideal olarak bir masaüstü alıştırmasının ardından stres testi yapılarak güncellenmelidir.

Derin sahtecilik krizleri, genellikle bir fonksiyonda düzgün bir şekilde oturmadığından, iletişimden, hukuktan, güvenlikten ve insan kaynaklarından koordinasyon gerektirir. En iyi yanıtları veren organizasyonlar, gerçek bir olay meydana gelmeden önce bu işbirliğini prova edenlerdir.

Çalışanların veya yöneticilerin derin sahteciliklerin inandırıcı hedefi haline gelmesi, aynı zamanda psikolojik bir maliyeti de vardır. Bu insan etkisine karşı organizasyonlar hangi tür protokoller veya destekleri oluşturmalıdır?

“Dolandırıcılık utancı” her türlü koşulda kaçınılmalıdır. Organizasyonlar, bir olay meydana gelmeden önce psikolojik güvenlik kültürü oluşturmalıdır. Çalışanların veya yöneticilerin derin sahteciliklerin hedefi haline gelmesi, bir saldırı gibi hissedilebilir. Dijital kimliklerinin kontrolünü kaybetmek, bir kaybıdır.

Cevap, hem prosedürel hem de insani olmalıdır. Açık raporlama protokolleri, mental sağlık desteği, gizli brifingler ve dijital adli tıp erişimi ile birlikte olmalıdır, böylece bireyler neler olduğunu anlayabilir.

Liderler, tavrı belirler. Yöneticiler, manipülasyon girişimleri ve kurtarma hakkında açıkça konuştuğunda, damgalama ortadan kalkar ve şeffaflık teşvik edilir. Bu açıklık, bireysel zayıflığı kolektif dirence dönüştürür.

Derin sahtecilik dolandırıcılığına karşı danışmanlık yapan bir şirketin kurucu olarak, AI’nin ne kadar hızlı geliştiğinden en çok neler endişe ediyorsunuz ve derin sahtecilik yeteneklerinin bir sonraki dalgasının nereden ortaya çıkacağını görüyorsunuz?

Yaratıcı AI, olağanüstü bir hızda gelişmektedir. Bu, itself bir endişe kaynağı değildir. Gerçek risk, hızlı benimsenmesi ve günlük iş operasyonlarındaki yaygınlığıdır. Tehdit yönetimi ve farkındalığın hızı, bu açığı kapatamamıştır. Bu, dolandırıcıların thrivedığı yerdir ve derin sahtecilik, en etkili araçlarıdır.

Her yeni inovasyon, bir başka sömürme yüzeyi oluşturur. Şu anda, AI ajanları, artan bir risk oluşturmaktadır. Derin sahtecilik teknolojisi ile birleştirildiğinde, insan saldırganların eşleştiremeyeceği bir ölçek, hız ve hassasiyetle dolandırıcılık gerçekleştirebilirler.

Derin sahtecilikle yönlendirilen dolandırıcılık ve yanlış bilgilendirme karşısında bizleri öne geçmeye iten teknolojiler veya işbirliği çabaları nelerdir?

Bu konuşmanın saygın bir yayında gerçekleşmesi itself, bir ilerleme işaretidir. İnovatörler, düzenleyiciler, medya ve şirketlerin hepsi yanlış bilgilendirme tarafından etkilenmiştir.

Beni iyimser yapan, artan bir şekilde işbirliği yapma isteğidir. Derin sahtecilik direnci, bir araçtan veya bir organizasyondan gelmeyecektir, ancak paylaşılan istihbarattan gelecektir. Bilgileri değiştirmeyi ve topluluğu eğitmeyi öğrenmek, suçluların yaptıkları gibi.

Bu işbirliğinin nasıl gerçekleşeceği konusunda hala bir şeyler çözmemiz gerekiyor, ancak niyet orada. Ve bu kolektif niyet, sonunda güveni yeniden tesis edecektir.

Harika röportaj için teşekkür ederiz, okuyucular daha fazla bilgi edinmek isteyenler Aarti Samani‘yi ziyaret edebilir.