Vaishnav Anand, Tech Demystified: Cybersecurity Kitabının Yazarı – Röportaj Serisi

On yedi yaşındaki, Atina Okulu öğrencisi, Vaishnav Anand, coğrafi derin sahteciliklerin – askeri siteleri gizleyebilecek, kaynak yataklarını uydurabilecek veya felaket verilerini bozabilecek yapay zeka tarafından değiştirilmiş uydu görüntüleri – tespit edebilen ilk yapay zeka sistemini geliştirdi. Bu, ulusal güvenliğe ve küresel istikrara risk oluşturabilir. Herhangi bir kamu veri setinin bu tür bir tespiti için mevcut olmamasıyla, Anand kendi sentetik görüntüsünü Oluşturucu Karşıtı Ağlar (GAN’lar) kullanarak oluşturdu, modelleri sıfırdan eğitti ve şimdi doğruluğu artırmak için difüzyon yöntemlerini uyguluyor. Araştırması zaten Esri Uluslararası Kullanıcı Konferansı ve Cambridge Üniversitesi’nde sergilendi ve Esri başkanı Jack Dangermond’dan tanınma aldı.

Yapay zeka güvenliği alanındaki çalışmalarının yanı sıra, Anand iki siber güvenlik kitabı yazdı ve bu kitaplar özel okullar tarafından benimsendi. Son kitabı, Tech Demystified: Siber Güvenlik: Modern Siber Savunma İlkeleri, 5.0 yıldız puanı aldı. Kitap, phishing, malware, güvenlik duvarları ve şifreleme gibi karmaşık konuları öğrenciler, eğitimciler ve dijital güvenlik ile ilgilenen herkes için net, pratik derslere ayırıyor. Anand, siber güvenliği erişilebilir ve çekici hale getirerek, yalnızca yapay zeka alanında bir yenilikçi değil, aynı zamanda eğitim ve teknoloji alanında ortaya çıkan bir ses olarak kendini kuruyor.

Siz hala lisedesiniz, ancak yapay zeka ve siber güvenlik alanında already bir etki yaratıyorsunuz. Bu alana ilk olarak ne sizi çekti ve genç yaşta böyle gelişmiş projeler geliştirmeye nasıl başladınız?

Bu alana beni çeken, yapay zekanın çift yönlü doğasıydı. Yapay zeka inanılmaz bir potansiyele sahip, ancak aynı zamanda zarar da verebilir. Derin sahtecilik teknolojisiyle doğrudan bir deneyimim oldu ve bu, benim bakış açımı değiştirdi. Sentetik medyanın gençleri nasıl ciddi şekilde incitebileceğini görünce, bu sadece bir teknik merak değil, aynı zamanda kritik bir toplumsal sorun olduğunu anladım.

Araştırmama bir büyük planla başlamadım, sadece derin bir merakla başladım. Her soru bana bir sonraki soruyu sordu ve böylece bir keşif döngüsü oluşturdum. Karmaşık sorunlara ilgi duymaya başladım. Tanınma aramıyordum, sadece sorulara gerçekten ilgi duyuyordum.

Bireysel keşiften anlamlı araştırmaya, ağ oluşturma ve ısrar yoluyla geçtim. Beğendiğim araştırmacılarla, özellikle LinkedIn gibi platformlar aracılığıyla bağlantı kurmaya başladım. Çoğu cevap vermedi, ancak yapay zeka güvenliği ve derin sahtecilik tespiti üzerine çalışan iki doktora araştırmacıyla bağlantı kurmayı başardım. Onlar bana büyük araştırmalarının içinde küçük görevler verdi. Güvenilirliğimi ve içgörülerimi kanıtladıkça, bu görevler daha önemli hale geldi.

Bu mentorluk hayatımı değiştirdi. Deneyimli araştırmacıların rehberliği, merakımı nghiêmli bir çalışmaya dönüştürmeme yardımcı oldu. İçsel motivasyonum, onların yapılandırılmış rehberliği ve sürekli çabam, yavaş yavaş ilgilimi önemli araştırma katkılarına dönüştürdü. Gerçek ilerlemenin genellikle dramatik atılımlardan değil, önemli sorunlarla sürekli etkileşimden geldiğine inanıyorum.

İnsanlar genellikle yüzler veya sesler hakkında derin sahteciliklerden bahseder. Coğrafi derin sahtecilikleri özellikle neden araştırdınız ve neden bunu kritik bir kör nokta olarak gördünüz?

İnsanların “derin sahtecilik” dediklerinde, genellikle sahte video veya değiştirilmiş sesleri düşünürler. Ben de ilk başta öyle düşündüm. Ancak daha fazla öğrendikçe, bu teknolojinin nerede kullanılabileceğini merak etmeye başladım. O zaman uydu görüntülerinin genellikle tamamen güvenilir olduğuna karar verdim. Hükümetler, şirketler ve hatta afet yardım ekipleri, önemli kararlar için buna dayanır.

Bu, bir kör nokta gibi görünüyordu. Bir sahte video bir kişinin itibarını zarar verebilir, ancak bir sahte harita veya değiştirilmiş uydu görüntüsü, tedarik zincirlerini bozabilir, kurtarma çabalarını yanlış yönlendirebilir veya hatta ulusal güvenlik kararlarına yanlış yönlendirebilir. Savunma ve savaş, yapay zeka sistemlerine, insansız hava araçlarına ve otomatik karar vermeye daha fazla bağımlı hale geldikçe, riskler artar. Bir manipüle edilmiş uydu beslemesi, yalnızca insanları değil, makineleri de aldatabilir.

Satellite görüntülerini nasıl çalıştırıyorsunuz ve coğrafi derin sahteciliklerin ulusal güvenlik, ekonomik ve afet yanıt risklerine nasıl neden olabileceğini keşfettiğiniz süreci anlatır mısınız?

Dönüm noktam, bir derin sahtecilikle karşılaştığımda ve bu, gördüğüm şeye olan inancımı sarsdı. Bu şüphe anı, önemli bir şeyi ortaya çıkardı: İnsanlar doğal olarak görsel kanıtlara güvenirler ve bu güven bozulduğunda, her şeyi farklı şekilde görürler. Bu deneyim, sentetik medyanın nasıl ciddi şekilde insanları incitebileceğini gösterdi ve bu, sadece teknik bir merak değil, aynı zamanda kritik bir toplumsal sorun olduğunu anladım.

İlk olarak, diğer birçok insan gibi, yüz deepfakes ve değiştirilmiş sesler üzerine odaklandım. İlk deepfake tespiti projelerim, bu teknolojilerin nasıl çalıştığını anlamak için önemli içgörüler verdi, ancak aynı zamanda daha geniş etkilerini de gösterdi.

Gerçek açığa çıkarma, Ulusal 4-H GIS liderlik ekibinin bir parçası olarak coğrafi verilere ve uydu görüntülerine çalışırken oldu. Bu verilerin, afet yanıtlarını, çevresel politikaları ve milyonlarca dolarlık topluluk planlama projelerini nasıl yönlendirdiğini gördüm. En çok şaşırdığım şey, bu verilere olan kör güvendi. Bu, tam anlamıyla doğru olarak görülüyordu.

Her şey o zaman anlam kazandı. Bir sahte video, bir kişinin itibarını zarar verebilir, ancak bir manipüle edilmiş uydu görüntüsü, gerçek dünya sonuçlarına yol açabilir. Acil kaynakların yanlış afet bölgelerine gönderilmesi, hükümetlerin yanlış çevresel verilere dayanarak kararlar alması veya finansal piyasaların değiştirilmiş tarım raporlarından etkilenmesi düşünün. Potansiyel zarar büyüktü.

Yapay zeka güvenliği alanındaki araştırmalarınız, coğrafi derin sahteciliklerin tespiti için Oluşturucu Karşıtı Ağlar (GAN’lar) kullanıyor. Sisteminizi nasıl çalıştırıyorsunuz ve genel amaçlı deepfake dedektörlerinden farklı olan nedir?

Bugün kullanılan çoğu dedektör, yüzleri veya sesleri tespit etmek için tasarlanmıştır. Bunlar, uyumsuz lip hareketleri veya ses sorunları gibi işaretleri arar. Uydu görüntüleri çok farklıdır. Bunlar, manzaralar, tarım arazileri, okyanuslar ve şehirler boyunca ince dokular ve spektral desenlerden oluşur. Bu desenler daha zor fark edilir ve farklı bir yaklaşım gerektirir.

İlk projemde, SpaceNet-7 gerçek uydu görüntüsü veri setini kullanarak bir GAN çerçevesi eğittim. Oluşturucu sentetik görüntüler oluşturur ve ayrımcı, gerçek olanları sahtelerinden ayırt etmeyi öğrenir. Ayrımcıya odaklanarak, gerçek uydu verilerinin istatistiksel “imzasını” anlayan bir modeli eğittim. Bu, kentsel alanlardaki dokuların nasıl davrandığını, tarım arazilerindeki desenlerin nasıl olduğunu ve farklı bölgelerdeki piksel yoğunluğu desenlerinin nasıl akacağını içerir.

Bu eğitim süreci boyunca, sistem sahte uydu görüntülerini tespit etmede yüksek bir doğruluk seviyesine ulaştı. Genel amaçlı dedektörlerden farklı olan, bu dedektörün özellikle coğrafi verilere yönelik tasarlanmasıdır. Açık görsel hatalar yerine, sentetik uydu görüntülerini ortaya çıkaran ince spektral ve dokusal tutarsızlıkları öğrenir.

MIT URTC makalenizde, yaklaşık %88’lik bir doğrulukla sahtecilikten gerçek uydu görüntülerini ayırt ettiğinizi belirtiyorsunuz. Bu performansı sağlayan ana atılımlar nelerdi?

Ana atılım, mevcut hiçbir veri setinin sentetik uydu görüntüleri için eğitimdedektörleri oluşturmadığını fark etmekti. Bu, benim için bir çift yaklaşım oluşturdu: Hem sentetik görüntüleri oluşturma hem de dedektörleri eğitime odaklanmak. Kendi sentetik veri setimi GAN’lar kullanarak oluşturdum ve ayrımcıları bu veri setiyle eğittim. Bu, gerçek coğrafi görüntülerin istatistiksel özelliklerini gerçekten anlayan bir sistem oluşturmama olanak sağladı.

Coğrafi derin sahtecilik tespitinde kullanılan sentetik görüntüleri nasıl oluşturuyorsunuz, given bahwa kamu veri setleri mevcut değil?

Sentetik veri setini oluşturmak, SpaceNet-7 gerçek uydu görüntüsü veri setini kullanarak bir GAN mimarisi oluşturmayı içeriyordu. Oluşturucu, rastgele gürültüyü daha gerçekçi uydu görüntülerine dönüştürebildi. Gerçek coğrafi veride bulunan karmaşık desenleri yakaladı.

Gelecekteki çalışmanız, coğrafi kimlik doğrulama için tarayıcı uzantıları ve çoklu veri seti çerçeveleri gibi konuları içeriyor. Bu araştırma alanındaki bir sonraki büyük adım nedir?

GAN tabanlı araştırmam, coğrafi sahteciliklerin tespit edilebileceğini gösterdi, ancak iyi laboratuvar sonuçlarının gerçek dünya başarılarını garanti etmediğini öğrendim. Sentetik görüntüler genellikle eğitimdedektörlerinin eğitildiği desenlerle uyuşmuyor ve generatif teknolojiler hızla değişiyor.

Yapay zeka güvenliği ve siber güvenlik konularına ek olarak, video deepfakes, gerçek zamanlı ses kimlik doğrulama ve kredi verirme中的 yapay zeka önyargısı gibi konuları da araştırıyorsunuz. Bir sonraki hangi etik zorluğu ele almayı seçiyorsunuz?

Araştırma yönüm, trend konulara göre şekillenmiyor; insanların temel olarak güvendiği sistemlerde kritik zayıflıkları bulmaya odaklanıyor. Her proje, insanların güvenini bozan ve ciddi sonuçlara yol açan belirli noktaları tanımlamaya başlıyor.

Siber güvenlik kitabınız, Tech Demystified: Siber Güvenlik, okullar tarafından benimsendi. Bu kitabı yazma kararı nasıl aldınız ve böyle teknik bir konuyu öğrencilere ve eğitimcilere nasıl erişilebilir hale getirdiniz?

Kitap, derin sahtecilik araştırmamın doğrudan bir sonucuydu. Bu, genç insanların karmaşık bir teknoloji dünyasıyla karşı karşıya geldiğini ve dijital okuryazarlığa ihtiyaç duyduğunu gösterdi. Siber güvenlik, herkesi etkileyen ve teknoloji becerilerine veya kariyer hedeflerine bakılmaksızın önemli bir konu gibi görünüyordu.

Kitabınızda, phishing’den ransomware’e kadar tehditleri ele alıyorsunuz. Genç insanların bugün anlaması gereken en önemli siber güvenlik ilkesi nedir?

En önemli ilke, “güven ama doğrula” ilkesidir. Dijital bilgiyi sorgulama alışkanlığını geliştirmek önemlidir. Çoğu başarılı siber saldırı, teknik açıklardan değil, insan güveninden yararlanıyor. Şüpheli linklere tıklamak, bilinmeyen dosyaları indirmek veya tanıdık gelen mesajlara cevap vermek, birçok saldırının önlenmesine yardımcı olabilir.

Yapay zeka güvenliği ve sorumlu yenilikler geleceğini şekillendirmek için nasıl bir vizyonunuz var?

Her şeyim, teknolojiye güveni inşa etmek ve korumak üzerine odaklanıyor. Yapay zeka, ancak insanlar bu sistemlerin güvenli, adil ve şeffaf olduğunu düşünürse gerçek potansiyelini ortaya koyabilir. Bu güven olmadan, hatta mucizevi teknolojiler bile kabul görmekte ve kullanılmakta zorluk çekecektir.

Araştırma yoluyla, yaygın sorunlar haline gelmeden önce kritik zayıflıkları bulmayı amaçlıyorum. Coğrafi derin sahtecilikler ve ses kimlik doğrulama gibi alanlarda çalışıyorum, burada riskler her zaman açık olmayabilir, ancak ciddi sonuçlar doğurabilir. Eğitim ve yazma yoluyla, öğrencilerin bu sistemleri anlamalarına yardımcı olmak istiyorum, böylece teknolojiyi sadece uzmanlar için ayrılmış bir sihir olarak görmesinler.

Sorumlu yeniliğin gelecekteki vizyonum, güvenlik ve adaletin, geliştirme sürecinin en başından itibaren önceliklendirilmesini içerir. Bu, yalnızca performanslarını değil, aynı zamanda olası hata noktalarını, kimin zarar görebileceğini ve bu riskleri azaltmak için stratejiler geliştirmeyi de değerlendirmeyi içerir.

Uzun vadede, her yapay zeka ilerlemesinin güvenlik ve sorumlulukla eşit derecede odaklanmasını sağlamak istiyorum. Çalışmam, araştırma, eğitim ve iletişim içerir, çünkü riskleri bulmak, ancak başkalarının da bunları anlamalarına ve ele almalarına yardımcı olmakla değerlidir.

Eğer kritik zayıflıkları tespit etmeye yardımcı olabilirsem ve aynı zamanda teknolojik okuryazarlığı artırabilirsem, insanların gerçekten güvenebileceği ve yararlanabileceği bir yapay zeka geleceğini şekillendirmeye katkıda bulunacağına inanıyorum.

Harika bir röportaj için teşekkür ederiz. Okuyucular, Tech Demystified: Siber Güvenlik: Modern Siber Savunma İlkeleri kitabını okumaya davet ediliyor.