Vaishnav Anand, författare till Tech Demystified: Cybersecurity – Intervjuer

Som sjuttonåring och elev vid Athenian School har Vaishnav Anand utvecklat det första AI-systemet som kan upptäcka “geospatiala deepfakes” – AI-manipulerade satellitbilder som kan dölja militära anläggningar, fabricera resursfyndigheter eller förvränga katastrofdata, vilket utgör risker för nationell säkerhet och global stabilitet. Eftersom det inte finns några offentliga datamängder tillgängliga för denna typ av upptäckt genererade Anand sin egen syntetiska bild med hjälp av Generative Adversarial Networks, tränade modeller från scratch och tillämpar nu diffusionsmetoder för att förbättra noggrannheten. Hans forskning har redan presenterats på Esri International User Conference och Cambridge University, och han har fått erkännande från Esri-presidenten Jack Dangermond.

Parallellt med sitt arbete inom AI-säkerhet har Anand skrivit två böcker om cybersäkerhet som antagits av privatskolor, och hans senaste bok, Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense, har fått en 5,0-stjärnig betyg. Boken bryter ner komplexa ämnen som phishing, malware, brandväggar och kryptering till tydliga, praktiska lektioner för studenter, lärare och alla som är intresserade av digital säkerhet. Genom att göra cybersäkerhet tillgänglig och engagerande etablerar Anand sig inte bara som en innovatör inom AI, utan också som en framväxande röst inom utbildning och teknik.

Du är fortfarande i high school men har redan börjat göra avtryck inom AI och cybersäkerhet. Vad var det som först drog dig till det här området, och hur började du utveckla så avancerade projekt i så ung ålder?

Det som drog mig till det här området var att se den dubbla naturen hos AI. Det har en otrolig potential, men det kan också orsaka skada. Jag hade en direkt upplevelse av deepfake-teknologi som förändrade min synvinkel. Att se hur syntetisk media kunde allvarligt skada unga människor gjorde mig medveten om att detta var mer än en teknisk nyfikenhet; det var ett kritiskt samhällsproblem som behövde mer förståelse.

Min inträde i forskningen kom inte från en stor plan, utan från en djup nyfikenhet. Varje fråga jag undersökte ledde mig till nästa en, och skapade en upptäcktscykel. Jag fann mig intresserad av alltmer komplexa problem. Jag sökte inte erkännande; jag var genuint intresserad av frågorna.

Jag gick från individuell utforskning till meningsfull forskning genom nätverkande och uthållighet. Jag började kontakta etablerade forskare vars arbete jag beundrade, främst genom plattformar som LinkedIn. Medan många inte svarade, var jag lycklig att koppla samman med två PhD-forskare som fokuserade på AI-säkerhet och deepfake-upptäckt. De startade mig med små uppgifter inom deras större forskningsprojekt. När jag visade min tillförlitlighet och insikter, blev uppgifterna alltmer betydande.

Denna mentorering var livsförändrande. Att ha erfarna forskare som vägledde min utveckling hjälpte mig att omvandla min nyfikenhet till rigorös forskning. Min inre motivation, deras strukturerade vägledning och konsekvent ansträngning omvandlade gradvis min tillfälliga intresse till betydande forskningsbidrag. Det förstärkte min övertygelse om att verklig framgång ofta kommer inte från dramatiska genombrott, utan från kontinuerligt engagemang med viktiga problem.

De flesta människor tänker på deepfakes i termer av ansikten eller röster. Vad inspirerade dig att undersöka geospatiala deepfakes specifikt, och varför såg du det som en sådan kritisk blind fläck?

När de flesta människor hör ordet “deepfake” tänker de på falska videor med kändisar eller ändrade röster. Jag gjorde det också till en början. Men när jag lärde mig mer, började jag undra var annars denna teknologi kunde användas på sätt som vi inte ansåg. Det var då jag insåg att satellitbilder ofta behandlas som helt tillförlitliga. Regeringar, företag och till och med katastrofhjälpsgrupper fattar viktiga beslut baserat på dem.

Detta verkade som en blind fläck. Om en falsk video kan skada rykten, kan en falsk karta eller en ändrad satellitbild störa leveranskedjor, vilseleda räddningsinsatser eller till och med leda till dåliga nationella säkerhetsbeslut. När försvar och krigföring blir alltmer beroende av AI-system, drönare och automatiserat beslutsfattande, ökar riskerna. En manipulerad satellitmatning kan bedra inte bara människor, utan också maskiner.

Vad som slog mig ännu mer var att geospatiala deepfakes får mycket mindre uppmärksamhet än ansikts- eller röstdjupfalsningar. Det finns mycket få offentliga datamängder eller standardverktyg för att upptäcka dem. Dessutom är det svårt att upptäcka falska satellitbilder. Du letar inte bara efter problem som lip-sync-fel eller suddiga kanter. Satellitdata är multispektral, mycket detaljerad och full av mönster som till och med experter kämpar för att analysera. Den bristen på forskning, i kombination med de höga insatserna, gjorde mig medveten om att detta är ett viktigt område att undersöka.

Kan du gå igenom din upptäcktsprocess – hur du insåg att manipulerade satellitbilder kunde utgöra nationella säkerhets-, ekonomiska och katastrofresponsrisker?

Min vändpunkt kom efter att jag stött på en deepfake som skakade min tro på vad jag såg. Den ögonblicket av tvivel avslöjade något viktigt: människor är naturligt programmerade att lita på visuella bevis, och när den tilliten bryts, förändras det hur vi ser allt. Upplevelsen gjorde mig medveten om hur sårbara vi alla är för listig bedrägeri.

Till en början, som de flesta människor, fokuserade jag på de uppenbara användningarna – deepfake-videor och ändrade ansikten. Mina tidiga upptäcktsprojekt gav mig viktig insikt i hur dessa teknologier fungerar, men de visade också de bredare implikationerna som jag inte hade övervägt.

Den verkliga ögonöppnaren kom när jag tjänstgjorde som biträdande direktör för National 4-H GIS-ledarskapsteamet. Genom att arbeta med geospatiala data och satellitbilder såg jag hur dessa tydligen objektiva källor driver viktiga beslut. Jag såg hur kartor vägledde katastrofinsatser, formade miljöpolitik och påverkade multimilliondollar-gemenskapsplaneringsprojekt. Vad som förvånade mig mest var den blinda tilliten till dessa data – de sågs som obestridliga sanningar.

Det var då allt blev tydligt. Om en falsk video kan orsaka emotionell distress och social oro, kan en manipulerad satellitbild leda till katastrofala verkliga konsekvenser. Tänk på nödresurser som skickas till falska katastrofområden, regeringar som fattar beslut baserat på felaktiga miljödata eller finansiella marknader som påverkas av ändrade jordbruksrapporter. Potentialen för skada var häpnadsväckande.

Denna kombination av min deepfake-forskning och GIS-erfarenhet avslöjade en lucka i vår kollektiva medvetenhet. Medan världen diskuterar ansiktsbyten och syntetisk media, förblir den mycket större risken för geospatiala deepfakes mestadels försummad. Denna insikt blev den drivande kraften bakom min forskning – att hantera en allvarlig sårbarhet som kunde förändra hur vi förstår sanningen i vår data-drivna värld.

Din forskning använder Generative Adversarial Networks (GAN) för att upptäcka falska satellitbilder. Hur fungerar ditt system, och vad gör det annorlunda än allmänna deepfake-detektorer?

De flesta detektorer idag är utformade för att identifiera ansikten eller röster. De letar efter tecken som avvikande läpprörelser eller ljudproblem. Satellitbilder är mycket annorlunda. De består av fina texturer och spektrala mönster över landskap, jordbruk, hav och städer. Dessa mönster är svåra att upptäcka och kräver en annan approach.

I mitt initiala projekt tränade jag en GAN-ram med hjälp av SpaceNet-7-datamängden av riktiga satellitbilder. Generatoren skapar syntetiska bilder, och diskriminatoren lär sig att skilja på äkta och falska. Genom att fokusera på diskriminatoren tränade jag en modell som förstår de statistiska “signaturerna” hos riktiga geospatiala data. Detta inkluderar hur texturer beter sig i urbana områden jämfört med naturliga landskap och hur pixelintensitetsmönster flyter över olika regioner.

Genom denna träningsprocess uppnådde systemet en hög nivå av noggrannhet i att upptäcka förfalskningar. Den viktigaste skillnaden från allmänna detektorer är att detta system är specifikt utformat för geospatiala data. Istället för att leta efter uppenbara visuella fel, lär det sig de subtila spektrala och textur-mässiga inkonsekvenser som avslöjar syntetiska satellitbilder.

Min nuvarande forskning har skiftat till att undersöka diffusionsmodeller som genererare. Dessa representerar en betydande förbättring jämfört med GAN i bildkvalitet. Diffusionsmodeller som DDPM och DDIM skapar mycket realistiska satellitbilder genom att lära sig att reversera en process för att lägga till brus. De syntetiska bilderna de producerar är ofta tydligare och mer detaljerade än de som genereras av GAN. Detta presenterar både en möjlighet och en utmaning. Medan dessa modeller kan ge bättre träningsdata för detekteringssystem, producerar de också mer avancerade förfalskningar som är svårare att upptäcka.

Jag jämför för närvarande olika detekteringsmetoder för att ta reda på vilka som är mest effektiva mot olika genereringstekniker. Detta inkluderar traditionella CNN-baserade klassificerare, transformer-baserade arkitekturer som kan fånga långväga spatiala relationer i satellitbilder, och hybridmetoder som kombinerar spektralanalys med djupinlärning. Varje metod har sina egna styrkor: CNN är bra på att upptäcka lokala texturproblem, transformer kan upptäcka större strukturproblem över bildområden, och spektralanalys kan identifiera subtila frekvenssignaturer som neurala nätverk kanske inte upptäcker.

En intressant aspekt är hur olika genererare lämnar unika forensiska fingeravtryck. GAN-genererade bilder har ofta specifika artefakter i högfrekventa detaljer och kanter, medan diffusionsgenererade bilder vanligtvis visar mer subtila inkonsekvenser i övergripande sammanhang och spektralegenskaper. Genom att träna detekteringsmodeller på både GAN- och diffusionsgenererade förfalskningar får jag en djupare förståelse för syntetiska satellitbildsignaturer. Detta hjälper till att bygga detekteringssystem som kan anpassa sig när genereringsteknologi utvecklas.

Denna multimodala approach till detektering är avgörande. När generativa modeller blir mer avancerade behöver vi detekteringssystem som inte är beroende av fel från någon enskild genereringsmetod. Målet är att identifiera de grundläggande statistiska egenskaperna som skiljer riktiga satellitfångster från alla former av syntetiska bilder, oavsett den underliggande teknologi som används för att skapa dem.

I din MIT URTC-artikel nämner du att du uppnått cirka 88 procents noggrannhet i att skilja äkta satellitbilder från förfalskningar. Vilka var de viktigaste genombrotten som möjliggjorde denna prestation?

Den viktigaste genombrottet var att inse att det inte fanns några befintliga datamängder som innehöll syntetiska satellitbilder för att träna detekteringsmodeller. Detta tvingade mig att arbeta med en dubbel approach, fokusera på både generering och detektering samtidigt. Jag skapade min egen syntetiska datamängd med hjälp av GAN och tränade diskriminatörer med den datan. Detta möjliggjorde att bygga ett system som verkligen förstod de statistiska mönstren i riktiga geospatiala data.

En annan viktig insikt var att satellitbilder kommer med mycket olika utmaningar jämfört med ansiktsdeepfakes. Medan ansikten generellt har konsekventa anatomiska strukturer, täcker satellitbilder ett brett spektrum av terrängtyper – allt från jordbruksmönster till urbana design och naturlandskap. Jag behövde skapa ett detekteringssystem som kunde identifiera äkta egenskaper över alla dessa olika miljöer.

Denna specialiserade metod, istället för att förlita sig på allmänna detektorer, möjliggjorde att systemet lärde sig de subtila spektrala och textur-mässiga inkonsekvenser som avslöjar syntetiska satellitbilder. Men min nuvarande forskning med diffusionsmodeller visar ännu bättre resultat, med högre noggrannhet och större motståndskraft mot avancerade genereringstekniker.

Hur gick du tillväga för att skapa din egen syntetiska bild för att träna, med tanke på att det inte finns offentliga datamängder för geospatial deepfake-detektering?

Att skapa den syntetiska datamängden innebar att bygga en komplex GAN-arkitektur tränad på SpaceNet-7-datamängden av riktiga satellitbilder. Generatoren lärde sig att omvandla slumpmässigt brus till mer realistiska satellitbilder. Den fångade de komplexa mönstren som finns i verkliga geospatiala data.

Processen liknar en tävling mellan en skicklig förfalskare och en tränad kontrollant. Generatoren förbättrar kontinuerligt de syntetiska bilderna medan diskriminatoren blir bättre på att upptäcka subtila tecken på förfalskning. Denna växelverkan under träningsprocessen skapar en cykel där båda delar driver varandra till bättre prestation. Genom att kontrollera både genererings- och detekteringsprocesserna fick jag viktiga insikter i hur syntetiska satellitbilder skapas. Denna dubbla synvinkel var avgörande för att utveckla starka detekteringsmetoder som känner igen vad riktiga bilder ser ut som och hur syntetiska bilder skiljer sig från dessa mönster.

Vilka typer av avvikelser – spektrala, textur-mässiga eller annorlunda – upptäcker ditt system när du skiljer på äkta och manipulerade bilder?

Till skillnad från ansiktsdeepfakes, där problem som onaturlig blinkning eller ljudsynkroniseringsfel vanligtvis är lätta att upptäcka, är satellitbildproblem mycket subtilare. Mitt system upptäcker spektrala inkonsekvenser där interaktionsmönstren mellan olika elektromagnetiska band inte matchar riktiga jordobservationsdata. Det upptäcker också textur-mässiga oregelbundenheter, såsom jordbruk som ser för enhetligt ut, havsytan som saknar naturliga vågmönster eller urbana texturer med konstgjord repetition.

Sammanhangsberoende avvikelser lägger till en annan nivå av detektering. Dessa inkluderar vägnät som inte följer naturliga landformer, jordbrukslayouter som ignorerar riktiga jordbruksbegränsningar eller urbana utvecklingsmönster som inte följer typiskt stadsutveckling. Dessa problem kan undgå mänsklig granskning men skapar tydliga statistiska signaturer som modellen kan känna igen.

Systemet har dock begränsningar med komplexa bilder. Täta urbana områden med överlappande strukturer eller satellitbilder som påverkas av betydande atmosfärisk distortion kan minska detekteringsnoggrannheten. Dessa kanter pekar på områden som behöver ytterligare forskning och modellförbättring.

Om du ser framåt, nämner din poster framtida arbete som webbläsartillägg för realtidsgeospatial autentisering och multijuridiska ramverk. Vad ser du som nästa stora steg i den här forskningslinjen?

Medan min GAN-baserade forskning visade att vi kan upptäcka satellitbildförfalskningar med hög noggrannhet, har jag lärt mig att bra labbresultat inte garanterar framgång i den verkliga världen. Syntetiska bilder stämmer ofta inte överens med de mönster som detekteringsmodellerna har tränats på, och generativa teknologier utvecklas snabbt.

Nästa fas fokuserar på att bygga starka, anpassningsbara system som fungerar bra under varierande förhållanden. Detta innebär att vi behöver skapa bättre utvärderingsmetoder som imiterar den oförutsägbara naturen av att använda syntetiska bilder i den verkliga världen. Vi behöver också utveckla praktiska verktyg som lätta webbläsartillägg, realtids-API:er och integrationsramverk för att hjälpa till i viktiga beslutsprocesser.

Min nuvarande forskningsriktning betonar anpassningsförmåga och praktisk användning. Jag försöker inte bara förbättra modellnoggrannheten i kontrollerade miljöer. Jag syftar till att utforma detekteringssystem som kan förbli tillförlitliga när generativa teknologier utvecklas. Jag vill tillhandahålla tillgängliga verktyg för regeringar, företag och samhällen som förlitar sig på trovärdiga geospatiala data.

Bortom geospatiala data, omfattar din bredare forskning också videodeepfakes, realtidsröstautentisering och AI-fördomar i utlåning. Hur väljer du vilka etiska utmaningar att tackla härnäst?

Min forskningsriktning formas inte av trendy ämnen; den fokuserar på att identifiera kritiska sårbarheter i system där människor placerar grundläggande tillit. Varje projekt börjar med att identifiera specifika punkter där tillit kan undergrävas, vilket leder till allvarliga konsekvenser.

Deepfake-forskningen började med en personlig upplevelse som visade hur syntetisk media kan skada en persons tillit till visuella bevis. Arbetet med National 4-H GIS-ledarskapsteamet betonade hur mycket människor förlitar sig på satellitbilder för katastrofinsatser och politiska beslut. Den kopplingen ledde till forskning om geospatiala deepfakes, där insatserna potentiellt är mycket höga.

Denna mönster gäller också för röstautentisering. Jag övervägde hur syntetiska nödsamtal kunde överväldiga 911-system. Det finns också frågan om AI-fördomar i utlåning, där algoritmisk diskriminering kan neka möjligheter till hela samhällen. Var och en av dessa områden representerar en kritisk tillitsrelation mellan människor och teknik som behöver skyddas.

Jag undersöker var tekniken möter social sårbarhet, fokuserar på forskning som kan stoppa tillitsbrott innan de utvecklas till omfattande kriser.

Du har också publicerat Tech Demystified: Cybersecurity, som har antagits av skolor. Vad motiverade dig att skriva den här boken, och hur gör du sådan tekniskt material tillgängligt för studenter och lärare?

Boken kom direkt från min deepfake-forskningsupplevelse. Den visade mig hur viktig digital litteracitet är för unga människor när de möter en mer komplicerad teknisk värld. Cybersäkerhet verkade som rätt utgångspunkt eftersom det påverkar alla, oavsett tekniska färdigheter eller karriärmål.

Jag riktade mitt skrivande till studenter bara några år yngre än mig. Vad skulle ha hjälpt mig att förstå cyberhot när jag först började lära mig. Jag organiserade innehållet med hjälp av berättelser, jämförelser och visuella hjälpmedel, tillsammans med interaktiva aktiviteter och reflektionsfrågor. Dessa verktyg gör svåra idéer lättare att förstå.

Det har varit särskilt meningsfullt att se högskoleprogram, skolbibliotek och ideella organisationer som betjänar underbetjänade studenter anta boken. Jag ville skapa en resurs som öppnar dörrar för studenter som annars kunde känna sig utanför cybersäkerhetsdiskussioner.

Att fokusera på cybersäkerhet lade grunden för digital säkerhet innan min nästa bok tar itu med AI och deepfakes, som är mitt huvudsakliga forskningsintresse. Studenter behöver lära sig grundläggande säkerhetsprinciper innan de dyker in i de knepiga etiska frågorna kring artificiell intelligens.

I boken täcker du hot från phishing till ransomware. Vad tror du är den viktigaste cybersäkerhetsprincipen som unga människor bör förstå idag?

Den viktigaste principen är “lita men verifiera”. Det är viktigt att utveckla vanan att ifrågasätta digital information innan man vidtar åtgärder. De flesta lyckade cyberattacker utnyttjar mänsklig tillit snarare än att förlita sig på komplexa tekniska brister. Oavsett om det handlar om att klicka på misstänkta länkar, ladda ner okända filer eller svara på meddelanden som verkar bekanta, kan pausen för att verifiera stoppa många attacker.

För unga människor som tillbringar mycket tid online och snabbt växlar mellan plattformar är denna inställning av verifiering särskilt viktig. Att bilda vanan att ifrågasätta innan man klickar bygger en försvarsmekanism som skyddar mot olika hot.

Denna princip sträcker sig bortom cybersäkerhet och in i bredare digital litteracitet. Samma kritiska tänkande som skyddar mot skadlig kod hjälper också till att upptäcka desinformation, deepfakes och andra former av digital bedrägeri.

Mellan din akademiska forskning, STEM-utbildningsinitiativ och publicerade verk är du tydligt passionerad om teknik och etik. Hur hoppas du forma framtiden för AI-säkerhet och ansvarsfull innovation?

Allt jag gör fokuserar på att bygga och upprätthålla tillit i tekniken. AI kan bara nå sin fulla potential om människor tror att dessa system är säkra, rättvisa och transparenta. Utan den tilliten kommer till och med banbrytande teknologier att kämpa för att vinna acceptans och användning.

Genom forskning syftar jag till att identifiera nyckelsårbarheter innan de blir omfattande problem. Jag arbetar med områden som geospatiala deepfakes och röstautentisering, där riskerna inte alltid är uppenbara men kan ha allvarliga konsekvenser. Genom utbildning och skrivande vill jag hjälpa studenter att förstå dessa system snarare än att se tekniken som en mystisk svart låda reserverad för experter.

Min vision för ansvarsfull innovation inkluderar säkerhet och rättvisa från de tidigaste utvecklingsstadierna, inte som eftertanke. Detta innebär att utvärdera modeller inte bara för deras prestanda, utan också för möjliga felpunkter, identifiera vem som kan skadas och skapa strategier för att minska dessa risker.

På lång sikt vill jag bidra till att skapa en kultur där varje framsteg inom AI får lika stor uppmärksamhet för säkerhet och ansvar. Mitt arbete omfattar forskning, utbildning och kommunikation, eftersom att identifiera risker bara är meningsfullt om vi också kan hjälpa andra att förstå och hantera dem.

Om jag kan hjälpa till att identifiera kritiska sårbarheter samtidigt som jag ökar teknisk litteracitet, tror jag att jag kommer att spela en roll i att forma en AI-framtid som människor verkligen kan lita på och dra nytta av.

Tack för den underbara intervjun. Läsare uppmanas att läsa Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense.