Vaishnav Anand, forfatter af Tech Demystified: Cybersecurity – Interviewserie

Seventenårige, Athenian School-elev, Vaishnav Anand, har udviklet det første AI-system, der kan detektere “geospatial deepfakes” – AI-manipulerede satellitbilleder, der kan skjule militære områder, fabrikere ressourcer eller forvrænge katastrofe-data, hvilket udgør en risiko for national sikkerhed og global stabilitet. Da der ikke er offentligt tilgængelige datasæt til denne type detektion, genererede Anand sin egen syntetiske billedsæt ved hjælp af Generative Adversarial Networks, trænede modeller fra scratch og anvender nu diffusionsmetoder til at forbedre nøjagtigheden. Hans forskning er allerede blevet præsenteret på Esri International User Conference og Cambridge University, hvor han har modtaget anerkendelse fra Esri-præsident Jack Dangermond.

Sammen med sit arbejde med AI-sikkerhed har Anand skrevet to cybersecurity-bøger, der er blevet antaget af private skoler, og hans seneste bog, Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense, har modtaget en 5,0-stjernet vurdering. Bogen bryder komplekse emner som phishing, malware, firewalls og kryptering ned i klare, praktiske lektioner for studerende, undervisere og alle, der er interesseret i digital sikkerhed. Ved at gøre cybersecurity tilgængelig og engagerende, etablerer Anand sig selv ikke kun som en innovator inden for AI, men også som en fremvoksende stemme inden for uddannelse og teknologi.

Du er stadig i high school, men allerede har en betydning inden for AI og cybersecurity. Hvad var det, der først trak dig ind i dette felt, og hvordan startede du med at udvikle så avancerede projekter i en så ung alder?

Det, der trak mig ind i dette felt, var at se den dobbelte natur af AI. Det har en utrolig potentiale, men det kan også forårsage skade. Jeg havde en direkte oplevelse med deepfake-teknologi, der ændrede min perspektiv. At se, hvordan syntetisk medie kunne alvorligt skade unge mennesker, gjorde mig klar over, at dette var mere end en teknisk nysgerrighed; det var et kritisk samfundsmæssigt spørgsmål, der krævede mere forståelse.

Mit indtræden i forskningen kom ikke fra en stor plan, men fra en dyb nysgerrighed. Hver gang jeg undersøgte et spørgsmål, førte det mig til det næste. Jeg fandt mig selv interesseret i stadig mere komplekse problemer. Jeg søgte ikke anerkendelse; jeg var ærligt interesseret i spørgsmålene.

Jeg gik over fra individuel udforskning til meningsfuld forskning gennem netværk og udholdenhed. Jeg begyndte at kontakte etablerede forskere, hvis arbejde jeg beundrede, primært gennem platforme som LinkedIn. Selv om mange ikke svarede, var jeg heldig at kunne forbinde mig med to PhD-forskere, der fokuserede på AI-sikkerhed og deepfake-detektion. De startede mig af med små opgaver inden for deres større forskningsprojekter. Da jeg beviste min pålidelighed og indsigt, blev disse opgaver mere omfattende.

Dette mentorat var livsforandrende. At have erfarne forskere guide min udvikling hjalp mig med at omdanne min nysgerrighed til rigorøs arbejde. Min intrinsiske motivation, deres strukturerede vejledning og konstant indsats forvandlede langsomt min tilfældige interesse til betydelige forskningsbidrag. Det bekræftede min overbevisning om, at reel fremgang ofte kommer ikke fra dramatiske gennembrud, men fra kontinuerlig engagement med vigtige problemer.

De fleste mennesker tænker på deepfakes i forbindelse med ansigter eller stemmer. Hvad inspirerede dig til at undersøge geospatial deepfakes specifikt, og hvorfor så du dette som en så kritisk blind plet?

Når de fleste mennesker hører ordet “deepfake”, tænker de på fake-celebrity-videoer eller ændrede stemmer. Jeg gjorde det også til at begynde med. Men da jeg lærte mere, begyndte jeg at undre mig over, hvor andre steder denne teknologi kunne blive brugt på måder, vi ikke ville overveje. Det var da, jeg indså, at satellitbilleder ofte behandles som helt pålidelige. Regeringer, virksomheder og selv katastrofehjælpsgrupper tager vigtige beslutninger baseret på dem.

Dette virkede som en blind plet. Hvis en fake-video kan skade rygte, kan et manipuleret kort eller ændret satellitbillede forstyrre forsyningssystemer, mislede redningsindsats eller endda føre til dårlige nationale sikkerhedsbeslutninger. Da forsvar og krigsførelse bliver mere afhængige af AI-systemer, droner og automatiseret beslutningstagning, vokser risikoen. Et manipuleret satellitbillede kan bedrage ikke kun mennesker, men også maskiner.

Det, der slog mig endnu mere, var, at geospatial deepfakes modtager langt mindre opmærksomhed end ansigt- eller stemme-deepfakes. Der er meget få offentlige datasæt eller standardværktøjer til at detektere dem. Desuden er det meget sværere at spotte fakes i satellitbilleder. Du søger ikke kun efter fejl som lip-sync-fejl eller uklare kanter. Satellitdata er multispektral, meget detaljeret og fuld af mønstre, som selv eksperter kæmper med at analysere. Den manglende forskning kombineret med de høje stakes gjorde mig klar over, at dette er et vigtigt område at udforske.

Kan du føre os igennem din opdagelsesproces – hvordan du indså, at manipuleret satellitbillede kunne udgøre en risiko for national sikkerhed, økonomi og katastrofeberedskab?

Mit vendepunkt kom efter, at jeg stødte på en deepfake, der rystede min tillid til, hvad jeg så. Det øjeblik af tvivl afslørede noget vigtigt: mennesker er naturligt indstillet til at stole på visuelt bevis, og når denne tillid brydes, ændrer det, hvordan vi ser på alt. Oplevelsen gjorde mig klar over, hvor sårbare vi alle er over for intelligent bedrag.

Til at begynde med, som de fleste mennesker, fokuserede jeg på de åbenlyse brug – deepfake-videoer og ændrede ansigter. Mine tidlige detektionsprojekter gav mig vigtig indsigt i, hvordan disse teknologier fungerer, men de viste mig også de bredere implikationer, jeg ikke havde overvejet.

Det egentlige øjeblik kom, da jeg fungerede som associeret direktør for National 4-H GIS-ledelsesholdet. Ved at arbejde med geospatial data og satellitbilleder så jeg, hvordan disse tilsyneladende objektive kilder drev vigtige beslutninger. Jeg så, hvordan kort vejledte katastrofeberedskab, formede miljøpolitik og påvirkede milliondollarskommunale planlægningsprojekter. Det, der overraskede mig mest, var den blinde tillid til disse data – det blev set som ufejlbarlig sandhed.

Det var da, alt gjorde mening. Hvis en fake-video kan forårsage emotionel ubehag og social uro, kan et manipuleret satellitbillede føre til katastrofale virkelige konsekvenser. Tænk på, at nødhjælpsressourcer bliver sendt til falske katastrofezoner, regeringer tager beslutninger baseret på forkert miljødata eller finansielle markeder påvirkes af ændrede landbrugsrapporter. Potentialet for skade var overvældende.

Denne kombination af min deepfake-forskning og GIS-erfaring afslørede en lacune i vores kollektive bevidsthed. Mens verden diskuterer ansigtsskift og syntetisk medie, forbliver den langt større trussel af geospatial deepfakes stort set overset. Denne indsigt blev drivkraften bag min forskning – at adressere en alvorlig sårbarhed, der kan ændre, hvordan vi forstår sandheden i vores data-drevne verden.

Dit forskningsarbejde bruger Generative Adversarial Networks (GANs) til at detektere falske satellitbilleder. Hvordan fungerer dit system, og hvad gør det forskelligt fra almindelige deepfake-detektorer?

De fleste detektorer i dag er designet til at identificere ansigter eller stemmer. De søger efter tegn som mislyd eller lydfejl. Satellitbilleder er meget anderledes. De består af fine teksturer og spektrale mønstre over landskaber, landbrugsområder, hav og byer. Disse mønstre er sværere at opdage og kræver en anden tilgang.

I mit første projekt trænede jeg en GAN-ramme ved hjælp af SpaceNet-7-datasættet af ægte satellitbilleder. Generatoren skabte syntetiske billeder, og diskriminatoren lærte at skelne mellem ægte og falske. Ved at fokusere på diskriminatoren trænede jeg en model, der forstod de statistiske “signaturer” af ægte geospatial data. Dette inkluderer, hvordan teksturer opfører sig i urbane områder i forhold til naturlandskaber, og hvordan pixelintensitetsmønstre flyder over forskellige regioner.

Gennem denne træningsproces opnåede systemet en høj grad af nøjagtighed i at spotte forfalskninger. Det vigtigste, der adskiller dette fra almindelige detektorer, er, at det er designet specifikt til geospatial data. I stedet for at afhænge af åbenlyse visuelle fejl lærer det at genkende de underlige spektrale og teksturmæssige inkonsistenser, der afslører syntetiske satellitbilleder.

Mit nuværende forskningsarbejde har skiftet fokus til at udforske diffusionmodeller som generatore. Disse repræsenterer en betydelig forbedring i forhold til GANs i billedkvalitet. Diffusionmodeller som DDPM og DDIM skaber meget realistiske satellitbilleder ved at lære at omvende en støjtilføjningsproces. De syntetiske billeder, de producerer, er ofte klarere og mere detaljerede end dem, der genereres af GANs. Dette præsenterer både en mulighed og en udfordring. Mens disse modeller kan give bedre træningsdata for detektionssystemer, producerer de også mere avancerede fakes, der er sværere at spotte.

Jeg sammenligner i øjeblikket forskellige detektionsmetoder for at finde ud af, hvilke der er mest effektive mod forskellige generationsteknikker. Dette inkluderer traditionelle CNN-baserede klassificatorer, transformer-baserede arkitekturer, der kan fange lange rumlige relationer i satellitbilleder, og hybride metoder, der kombinerer spektralanalyse med dyb læring. Hver metode har sine egne styrker: CNNs er gode til at detektere lokale teksturproblemer, transformatorer kan spotte større strukturelle problemer over billedområder, og spektralanalyse kan identificere underlige frekvenssignaturer, som neurale netværk måske overser.

En interessant aspekt er, hvordan forskellige generatore efterlader unikke retsmedicinske fingeraftryk. GAN-genererede billeder har ofte bestemte artefakter i højfrekvensdetaljer og kanter, mens diffusion-genererede billeder viser mere underlige inkonsistenser i samlede kohærens og spektrale træk. Ved at træne detektionsmodeller på både GAN- og diffusion-genererede fakes opnår jeg en dybere forståelse af syntetiske satellitbilleders signaturer. Dette hjælper med at bygge detektionssystemer, der kan tilpasse sig, mens generationsteknologien udvikler sig.

Denne multimodale tilgang til detektion er afgørende. Da generative modeller bliver mere avancerede, har vi brug for detektionssystemer, der ikke afhænger af fejl fra en enkelt generationmetode. Målet er at identificere de grundlæggende statistiske funktioner, der adskiller ægte satellitoptagelser fra enhver form for syntese, uanset den underliggende teknologi, der blev brugt til at skabe dem.

I dit MIT URTC-papir nævner du, at du opnår omkring 88 procents nøjagtighed i at skelne mellem ægte og falske satellitbilleder. Hvad var de vigtigste gennembrud, der gjorde denne præstation mulig?

Det vigtigste gennembrud var at indse, at der ikke var offentligt tilgængelige datasæt til denne type detektion. Dette fik mig til at arbejde på både generation og detektion aspekter på samme tid. Jeg skabte mit eget syntetiske datasæt ved hjælp af GANs og trænede diskriminatoren med dette datasæt. Dette gjorde det muligt for mig at bygge et system, der virkelig forstod de statistiske mønstre i ægte geospatial data.

En anden vigtig indsigt var at erkende, at satellitbilleder kommer med meget forskellige udfordringer i forhold til ansigt-deepfakes. Mens ansigter generelt har konsistente anatomiske strukturer, dækker satellitbilleder et bredt spektrum af terræntyper – alt fra landbrugsmønstre til bymæssige design og naturlandskaber. Jeg havde brug for at skabe et detektionssystem, der kunne identificere ægte funktioner på tværs af alle disse forskellige miljøer.

Denne specialiserede metode, i stedet for at afhænge af almindelige detektorer, gjorde det muligt for modellen at fange de underlige spektrale og teksturmæssige inkonsistenser, der afslører syntetiske satellitbilleder. Dog viser mit nuværende forskningsarbejde med diffusionmodeller langt bedre resultater, med højere nøjagtighed og større robusthed over for avancerede generationsteknikker.

Hvordan gik du til at generere dit eget syntetiske billedsæt til træning, da der ikke er offentligt tilgængelige datasæt for geospatial deepfake-detektion?

At skabe det syntetiske datasæt involverede at bygge en kompleks GAN-arkitektur trænet på SpaceNet-7-datasættet af ægte satellitbilleder. Generatoren lærte at ændre tilfældig støj til mere realistiske satellitbilleder. Det fangede de komplekse mønstre, der findes i ægte geospatial data.

Processen ligner en konkurrence mellem en dygtig forfalsker og en trænet checker. Generatoren forbedrer sine syntetiske billeder, mens diskriminatoren bliver bedre til at spotte underlige tegn på forfalskning. Denne træningscyklus skaber en cyklus, hvor begge dele presser hinanden til at yde bedre præstation.

Ved at kontrollere både generation og detektionsprocesser fik jeg essentielle indsighter i, hvordan syntetiske satellitbilleder skabes. Denne dobbelte synsvinkel var afgørende for at udvikle stærke detektionsmetoder, der kan genkende, hvad ægte billeder ligner, og hvordan syntetiske billeder adskiller sig fra disse mønstre.

Hvilke slags anomalier – spektrale, teksturmæssige eller andre – detekterer dit system, når det skelner mellem ægte og manipulerede billeder?

I modsætning til ansigt-deepfakes, hvor problemer som unaturligt blink eller lydfejl normalt er lette at spotte, er satellitbilleder-problemerne meget mere underlige. Mit system fanger spektrale inkonsistenser, hvor interaktionen mellem forskellige elektromagnetiske bånd ikke matcher ægte jordobservationsdata. Det spotter også teksturmæssige uregelmæssigheder, såsom landbrug, der ser for ensartet ud, havoverflader, der mangler naturlige bølgemønstre, eller byteksturer med kunstig gentagelse.

Kontekstuelle anomalier tilføjer endnu en lag af detektion. Disse inkluderer vejnetværk, der ikke følger naturlige landformer, landbrugs-layout, der ignorerer ægte landbrugsbegrænsninger, eller byudviklingsmønstre, der ikke følger typisk byvækst. Disse problemer kan undgå menneskelig gennemgang, men skaber klare statistiske signaturer, som modellen kan genkende.

Systemet har dog begrænsninger med komplekse billeder. Tætte byområder med overlappende strukturer eller satellitbilleder, der er påvirket af betydelig atmosfærisk forstyrrelse, kan reducere detektionsnøjagtigheden. Disse kanttilfælde peger på områder, der kræver yderligere forskning og modelforbedring.

I fremtiden nævner din poster arbejde som browser-udvidelser til realtids-geospatial autentificering og multi-datasæts-rammer. Hvad ser du som det næste store skridt i denne forskningsretning?

Selv om mit GAN-baserede forskningsarbejde viste, at vi kan nøjagtigt detektere satellitbillede-forfalskninger, har jeg lært, at gode laboratorie-resultater ikke garanterer succes i den virkelige verden. Syntetiske billeder afviger ofte ikke fra de mønstre, detektionsmodeller er trænet på, og generative teknologier udvikler sig hurtigt.

Den næste fase fokuserer på at bygge stærke, tilpasningsdygtige systemer, der fungerer godt under varierende betingelser. Dette kræver, at vi skaber bedre evalueringsmetoder, der efterligner den uforudsigelige natur af at bruge syntetiske billeder i den virkelige verden. Vi har også brug for at udvikle praktiske værktøjer som letvægtige browser-udvidelser, realtids-API’er og integrationsrammer til at hjælpe med vigtige beslutningsprocesser.

Min nuværende forskningsretning fremhæver tilpasning og praktisk brug. Jeg forsøger ikke kun at forbedre modelnøjagtigheden i kontrollerede miljøer. Jeg sigter mod at designe detektionssystemer, der kan forblive pålidelige, selv om generative teknikker udvikler sig. Jeg ønsker at give tilgængelige værktøjer til regeringer, virksomheder og samfund, der afhænger af troværdige geospatial data.

Ud over geospatial data omfatter din bredere forskning også video-deepfakes, realtids-stemmeautentificering og AI-forvrængning i lån. Hvordan vælger du, hvilke etiske udfordringer du skal tackle næste?

Min forskningsretning bliver ikke formet af trendy emner; den fokuserer på at finde kritiske sårbarheder i systemer, hvor mennesker placerer grundlæggende tillid. Hvert projekt starter med at identificere bestemte punkter, hvor tillid kan blive brudt, hvilket kan føre til alvorlige konsekvenser.

Deepfake-forskningen begyndte med en personlig oplevelse, der viste, hvordan syntetisk medie kan skade en persons tillid til visuelt bevis. Arbejdet med National 4-H GIS-ledelsesholdet fremhævede, hvor meget mennesker afhænger af satellitbilleder til katastrofeberedskab og politiske beslutninger. Denne forbindelse førte til forskning i geospatial deepfakes, hvor spillepladen potentielt er meget høj.

Denne mønster gælder også for stemmeautentificering. Jeg overvejede, hvordan syntetiske nødhjælpsopkald kunne overbelaste 911-systemer. Der er også spørgsmålet om AI-forvrængning i lån, hvor algoritme-diskrimination kan nægte muligheder for hele samfund. Hver af disse områder afspejler en kritisk tillidsforhold mellem mennesker og teknologi, der kræver beskyttelse.

Jeg udforsker, hvor teknologi møder social sårbarhed, fokuserer på forskning, der kan forhindre tillidsbrud før de udvikler sig til omfattende kriser.

Du har også udgivet Tech Demystified: Cybersecurity, der er blevet antaget af skoler. Hvad motiverede dig til at skrive denne bog, og hvordan gør du sådant teknisk materiale tilgængeligt for studerende og undervisere?

Bogen kom direkte fra min deepfake-forskningsoplevelse. Den viste mig, hvor vigtigt det er med digital litteracitet for unge mennesker, mens de står over for en mere kompliceret teknologi-verden. Cybersecurity syntes som det rette udgangspunkt, da det påvirker alle, uanset deres tekniske færdigheder eller karriere-mål.

Jeg rettede mit skriv til studerende kun få år yngre end mig. Hvad ville have hjulpet mig med at forstå cyber-trusler, da jeg først startede med at lære. Jeg organiserede indholdet ved hjælp af historier, sammenligninger og visuelle hjælpemidler samt interaktive aktiviteter og reflektions-spørgsmål. Disse værktøjer gør svære ideer lettere at forstå.

Det har været særligt meningsfuldt at se high school-programmer, skolebiblioteker og non-profit-organisationer, der betjener underrepræsenterede studerende, antage bogen. Jeg ønskede at skabe en ressource, der åbner døre for studerende, der ellers måske ville føle sig udelukket fra cybersecurity-samtaler.

Fokus på cybersecurity lagde grundlaget for digital sikkerhed, før min næste bog behandler AI og deepfakes, som er mit hovedforskningsområde. Studerende har brug for at lære grundlæggende sikkerhedsprincipper, før de dykker ned i de komplekse etiske spørgsmål omkring kunstig intelligens.

I bogen dækker du trusler fra phishing til ransomware. Hvad mener du er det enkelt vigtigste cybersecurity-princip, som unge mennesker skal forstå i dag?

Det vigtigste princip er “tillid, men verificér”. Det er afgørende at udvikle vanen med at stille spørgsmål om digital information, før man tager handling. De fleste succesfulde cyberangreb udnytter menneskelig tillid i stedet for at afhænge af komplekse tekniske svagheder. Uanset om det handler om at klikke på mistænkelige links, downloade ukendte filer eller svare på beskeder, der ligner kendte, kan en pause til verificering stoppe mange angreb.

For unge mennesker, der tilbringer meget tid online og hurtigt skifter mellem platforme, er denne verificeringsholdning særligt vigtig. At danne vanen med at stille spørgsmål, før man klikker, bygger en forsvarsmæssig tilgang, der beskytter mod forskellige trusler.

Dette princip går ud over cybersecurity og ind i bredere digital litteracitet. De samme kritiske tænkningsevner, der beskytter mod malware, hjælper også med at spotte desinformation, deepfakes og andre former for digital bedrag.

Mellem din akademiske forskning, STEM-uddannelsesinitiativer og udgivne arbejder er du tydeligvis passioneret om teknologi og etik. Hvordan håber du at forme fremtidens AI-sikkerhed og ansvarlig innovation?

Alt, hvad jeg gør, fokuserer på at bygge og opretholde tillid til teknologi. AI kan kun opnå sin fulde potentiale, hvis mennesker tror på, at disse systemer er sikre, retfærdige og gennemsigtige. Uden denne tillid vil selv banebrydende teknologier kæmpe for at opnå accept og brug.

Gennem forskning sigter jeg mod at finde nøgle-sårbarheder, før de bliver til omfattende problemer. Jeg arbejder med områder som geospatial deepfakes og stemmeautentificering, hvor risikoen ikke altid er åbenlys, men kan have alvorlige konsekvenser. Gennem uddannelse og skrivning ønsker jeg at hjælpe studerende med at forstå disse systemer i stedet for at se teknologi som en mystisk sort boks forbeholdt eksperter.

Min vision for ansvarlig innovation inkluderer sikkerhed og retfærdighed fra de tidligste udviklingsfaser, ikke som eftertanke. Dette betyder, at vi skal evaluere modeller ikke kun for deres præstation, men også for mulige fejlpunkter, identificere, hvem der kan blive skadet, og udvikle strategier til at reducere disse risici.

På lang sigt ønsker jeg at bidrage til at skabe en kultur, hvor hver fremgang i AI modtager lige så meget fokus på sikkerhed og ansvarlighed. Mit arbejde indebærer forskning, uddannelse og kommunikation, fordi at finde risici kun er værdifuldt, hvis vi også kan hjælpe andre med at forstå og adressere dem.

Hvis jeg kan hjælpe med at spotte kritiske sårbarheder, mens jeg også øger teknologisk litteracitet, tror jeg, jeg vil spille en rolle i at forme en AI-fremtid, som mennesker kan virkelig stole på og nyde godt af.

Tak for det store interview. Læsere opfordres til at læse Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense.