Vaishnav Anand, Autor Tech Demystified: Cybersecurity – Wywiad

Seventeen-year-old, uczennica szkoły Athenian, Vaishnav Anand, stworzyła pierwszy system AI, który potrafi wykrywać „geospatial deepfakes” – obrazowanie satelitarne manipulowane przez AI, które mogłoby ukrywać miejsca wojskowe, fałszować dane o zasobach lub zniekształcać dane o klęskach żywiołowych, narażając na ryzyko bezpieczeństwa narodowego i stabilności globalnej. Ponieważ nie ma publicznie dostępnych zbiorów danych dla tego rodzaju wykrywania, Anand wygenerowała własne syntetyczne obrazowanie przy użyciu sieci Generative Adversarial Networks, wytrenowała modele od podstaw i obecnie stosuje metody dyfuzji w celu poprawy dokładności. Jej badania zostały już zaprezentowane na konferencji Esri International User Conference i Uniwersytecie Cambridge, uzyskując uznanie prezesa Esri, Jacka Dangermonda.

Wraz ze swoją pracą nad bezpieczeństwem AI, Anand jest autorką dwóch książek o cyberbezpieczeństwie, przyjętych przez szkoły prywatne, a jej najnowsza pozycja, Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense, otrzymała ocenę 5,0 gwiazdek. Książka wyjaśnia skomplikowane tematy, takie jak phishing, oprogramowanie szkodliwe, zapory sieciowe i szyfrowanie, w klarowny i praktyczny sposób, dla uczniów, nauczycieli i wszystkich zainteresowanych bezpieczeństwem cyfrowym. Poprzez uczynienie cyberbezpieczeństwa dostępnym i angażującym, Anand ustanawia się nie tylko jako innowator w dziedzinie AI, ale także jako wschodzący głos w edukacji i technologii.

Czy możesz opowiedzieć o swoim procesie odkrycia – jak zrozumiałeś, że zmanipulowane obrazowanie satelitarne może stanowić ryzyko dla bezpieczeństwa narodowego, gospodarczego i reagowania na klęski żywiołowe?

Mój punkt zwrotny nastąpił po spotkaniu z deepfake, które zachwiało moim zaufaniem do tego, co widzę. Ten moment wątpliwości ujawnił coś ważnego: ludzie są naturalnie zaprogramowani, aby ufać dowodom wizualnym, a gdy to zaufanie jest złamane, zmienia to, jak postrzegamy wszystko. Doświadczenie to sprawiło, że zrozumiałem, jak wszyscy jesteśmy podatni na sprytne oszustwa.

Na początku, jak większość ludzi, skupiłem się na oczywistych zastosowaniach – deepfake’ach wideo i zmienionych twarzach. Moje wczesne projekty wykrywania dały mi niezwykle ważne spojrzenie na to, jak te technologie działają, ale także ujawniły mi szersze implikacje, których wcześniej nie brałem pod uwagę.

Prawdziwy przełom nastąpił, gdy pełniłem funkcję Associate Director of the National 4-H GIS leadership team. Pracując z danymi geoprzestrzennymi i obrazowaniem satelitarnym, zobaczyłem, jak te pozornie obiektywne źródła napędzają ważne decyzje. Obserwowałem, jak mapy kierowały reagowaniem na klęski żywiołowe, kształtowały politykę środowiskową i wpływały na projekty planistyczne o wartości wielu milionów dolarów. Co najbardziej mnie zaskoczyło, to ślepe zaufanie do tych danych – były one postrzegane jako niekwestionowana prawda.

Wtedy wszystko stało się jasne. Jeśli fałszywe wideo może powodować emocjonalny dyskomfort i społeczne zamieszanie, zmanipulowane obrazowanie satelitarne może prowadzić do katastrofalnych skutków w świecie rzeczywistym. Pomyśl o tym, że środki ratunkowe są wysyłane do fałszywych stref klęsk żywiołowych, rządy podejmują decyzje oparte na nieprawidłowych danych środowiskowych, lub rynek finansowy jest wpływany przez zmienione raporty rolnicze. Potencjał szkody był oszałamiający.

Ten połączony efekt moich badań nad deepfake’ami i doświadczeń z GIS ujawnił lukę w naszej zbiorowej świadomości. Podczas gdy świat dyskuje o zamianach twarzy i syntetycznych mediach, znacznie większe zagrożenie geospatial deepfakes pozostaje w dużej mierze zignorowane. To zrozumienie stało się napędem moich badań – rozwiązaniem poważnej słabości, która może zmienić, jak postrzegamy prawdę w naszym świecie napędzanym danymi.

Twoje badania wykorzystują Generative Adversarial Networks (GANs) do wykrywania fałszywego obrazowania satelitarnego. Jak działa twój system, a co go wyróżnia od ogólnych wykrywaczy deepfake’ów?

Większość wykrywaczy dzisiaj jest zaprojektowana do identyfikacji twarzy lub głosów. Szukają one oznak takich jak niepasujące ruchy ust lub problemy z dźwiękiem. Obrazowanie satelitarne jest bardzo inne. Składa się z drobnych tekstur i wzorów spektralnych na krajobrazach, terenach rolniczych, oceanach i miastach. Te wzory są trudniejsze do zauważenia i wymagają innego podejścia.

W moim początkowym projekcie wytrenowałem ramę GAN przy użyciu zestawu danych SpaceNet-7 rzeczywistych obrazów satelitarnych. Generator tworzy syntetyczne obrazy, a dyskryminator uczy się rozróżniać prawdziwe od fałszywych. Skoncentrowałem się na dyskryminatorze, wytrenowałem model, który rozumie statystyczny „sygnaturę” prawdziwych danych geoprzestrzennych. Obejmuje to to, jak tekstury zachowują się w obszarach miejskich w porównaniu z krajobrazami naturalnymi i jak wzory intensywności pikseli przepływają przez różne regiony.

Przez ten proces treningu system osiągnął wysoki poziom dokładności w wykrywaniu fałszywych obrazów. Główna różnica w porównaniu z ogólnymi wykrywaczami polega na tym, że ten system jest zaprojektowany specjalnie dla danych geoprzestrzennych. Zamiast szukać oczywistych błędów wizualnych, uczy się on subtelnych nieścisłości spektralnych i teksturalnych, które ujawniają syntetyczne obrazowanie satelitarne.

Moje bieżące badania przesunęły się w kierunku eksploracji modeli dyfuzji jako generatorów. Reprezentują one znaczącą poprawę w jakości obrazu w porównaniu z GANami. Modele dyfuzji, takie jak DDPM i DDIM, tworzą bardzo realistyczne obrazy satelitarne, ucząc się odwrócić proces dodawania szumu. Obrazy syntetyczne, które produkują, są często jaśniejsze i bardziej szczegółowe niż te generowane przez GANy. To zarówno szansa, jak i wyzwanie. Podczas gdy te modele mogą dostarczyć lepsze dane treningowe dla systemów wykrywania, również produkują bardziej zaawansowane fałszywe obrazy, które są trudniejsze do wykrycia.

Aktualnie porównuję różne metody wykrywania, aby znaleźć, które z nich są najbardziej skuteczne przeciwko różnym technikom generowania. Obejmuje to tradycyjne klasyfikatory oparte na CNN, architektury oparte na transformatorach, które mogą przechwytywać dalekosiężne relacje przestrzenne w obrazach satelitarnych, oraz metody hybrydowe, które łączą analizę spektralną z głębokim uczeniem. Każda metoda ma swoje własne zalety: CNN są dobre w wykrywaniu lokalnych problemów teksturalnych, transformatory mogą wykryć większe strukturalne problemy w obszarach obrazu, a analiza spektralna może identyfikować subtelne sygnatury częstotliwości, których sieci neuronowe mogą nie dostrzec.

Jednym z interesujących aspektów jest to, jak różni generatorzy pozostawiają unikalne ślady forensyczne. Obrazy generowane przez GANy często mają określone artefakty w detalach o wysokiej częstotliwości i krawędziach, podczas gdy obrazy generowane przez dyfuzję zwykle wykazują bardziej subtelne nieścisłości w ogólnej spójności i cechach spektralnych. Poprzez trenowanie modeli wykrywania na obu GAN i dyfuzji generowanych fałszywych obrazach, zyskuję głębsze zrozumienie sygnatur obrazowania satelitarnego. To pomaga budować systemy wykrywania, które mogą dostosować się do rozwoju technologii generowania.