Vaishnav Anand, autor al cărții Tech Demystified: Cybersecurity – Seria de interviuri

Vaishnav Anand, un elev de 17 ani de la Școala Athenian, a dezvoltat primul sistem de inteligență artificială capabil să detecteze “deepfake-urile geospațiale” – imagini satelitare manipulate de inteligență artificială care ar putea ascunde locații militare, fabrica depozite de resurse sau distorsiona datele despre dezastre, punând în pericol securitatea națională și stabilitatea globală. Fără seturi de date publice disponibile pentru acest tip de detectare, Anand a generat propriile imagini sintetice utilizând Rețele Adversariale Generative, a antrenat modele de la zero și acum aplică metode de difuziune pentru a îmbunătăți acuratețea. Cercetările sale au fost deja prezentate la Conferința Internațională a Utilizatorilor Esri și la Universitatea Cambridge, câștigând recunoașterea președintelui Esri, Jack Dangermond.

Alături de munca sa în domeniul securității inteligenței artificiale, Anand a scris două cărți despre securitatea cibernetică, adoptate de școli private, iar ultima sa carte, Tech Demystified: Cybersecurity: Principiile de bază ale apărării cibernetice moderne, a primit o evaluare de 5 stele. Cartea explică subiecte complexe, cum ar fi phishing-ul, malware-ul, firewalls și criptarea, în lecții clare și practice pentru elevi, educatori și oricine este interesat de securitatea digitală. Prin faptul că face securitatea cibernetică accesibilă și atractivă, Anand se stabilește nu numai ca un inovator în domeniul inteligenței artificiale, ci și ca o voce emergentă în educație și tehnologie.

Sunteți încă elev de liceu, dar deja aveți un impact în domeniul inteligenței artificiale și securității cibernetice. Ce v-a atras inițial în acest domeniu și cum ați început să dezvoltați proiecte atât de avansate la o vârstă atât de fragedă?

Ceea ce m-a atras în acest domeniu a fost dualitatea inteligenței artificiale. Are un potențial incredibil, dar poate și cauza daune. Am avut o experiență directă cu tehnologia deepfake care mi-a schimbat perspectiva. Văzând cum media sintetică putea răni serios tinerii, mi-am dat seama că acesta este mai mult decât o curiozitate tehnică; este o problemă critică societală care necesită o mai bună înțelegere.

Intrarea mea în cercetare nu a venit dintr-un plan grandios, ci dintr-o curiozitate profundă. Fiecare întrebare la care am căutat răspuns m-a condus la următoarea, creând un ciclu de descoperire. M-am găsit interesat de probleme din ce în ce mai complexe. Nu căutam recunoaștere; eram cu adevărat intrigat de întrebări.

Am trecut de la explorarea individuală la cercetarea semnificativă prin networking și perseverență. Am început să contactez cercetători consacrați ai căror lucrări le admiram, în mare parte prin platforme precum LinkedIn. Deși mulți nu au răspuns, am avut norocul să mă conectez cu doi cercetători PhD care se axează pe securitatea inteligenței artificiale și detectarea deepfake-urilor. Ei m-au început cu sarcini mici în cadrul proiectelor lor de cercetare mai ample. Pe măsură ce am dovedit fiabilitatea și perspicacitatea mea, aceste sarcini au devenit mai substanțiale.

Această îndrumare a fost schimbătoare. A avea cercetători experimentați care să îmi ghideze dezvoltarea a ajutat să transform curiozitatea mea într-o muncă riguroasă. Motivația mea intrinsecă, îndrumarea structurată a lor și efortul constant au transformat treptat interesul meu ocazional în contribuții semnificative de cercetare. A întărit convingerea mea că progresul real vine adesea nu din descoperiri dramatice, ci din angajamentul continuu cu probleme importante.

Cei mai mulți oameni consideră deepfake-urile în termeni de fețe sau voci. Ce v-a inspirat să investigați deepfake-urile geospațiale în special și de ce le-ați văzut ca o problemă atât de critică?

Când majoritatea oamenilor aude cuvântul “deepfake”, se gândesc la videoclipuri false sau voci modificate. Și eu am făcut la început. Dar pe măsură ce am învățat mai mult, am început să mă întreb unde altundeva această tehnologie ar putea fi utilizată în moduri pe care nu le considerăm. Atunci am realizat că imaginile satelitare sunt adesea tratate ca fiind complet de încredere. Guvernele, companiile și chiar echipele de intervenție în caz de dezastre iau decizii importante pe baza lor.

Acest lucru părea a fi un punct orb. Dacă un videoclip fals poate dăuna reputației, o imagine satelitară falsificată sau o imagine satelitară modificată ar putea perturba lanțurile de aprovizionare, induce în eroare eforturile de salvare sau chiar duce la decizii greșite de securitate națională. Pe măsură ce apărarea și războiul devin mai dependente de sistemele de inteligență artificială, drone și decizii automate, riscurile cresc. O imagine satelitară manipulată poate înșela nu numai oamenii, ci și mașinile.

Ce m-a izbit și mai mult a fost că deepfake-urile geospațiale primesc mult mai puțină atenție decât deepfake-urile de fețe sau voci. Există foarte puține seturi de date publice sau instrumente standard pentru a le detecta. În plus, detectarea falsurilor în imagini satelitare este mult mai dificilă. Nu căutați doar probleme precum sincronizarea buzelor sau erorile audio. Datele satelitare sunt multispectrale, foarte detaliate și pline de modele pe care chiar experții le-au dificultăți în a le analiza.

Puteți să ne descrieți procesul de descoperire – cum ați realizat că imaginile satelitare manipulate pot reprezenta riscuri pentru securitatea națională, economie și răspunsul la dezastre?

Punctul meu de cotitură a venit după ce am întâlnit un deepfake care mi-a zdruncinat încrederea în ceea ce vedeam. Acela moment de îndoială a revelat ceva important: oamenii sunt în mod natural programați să aibă încredere în dovezi vizuale, și atunci când această încredere este încălcată, schimbă modul în care vedem totul. Experiența mi-a arătat cât de vulnerabili suntem toți la înșelăciunea ingenioasă.

La început, ca majoritatea oamenilor, m-am concentrat pe utilizările evidente – videoclipuri deepfake și fețe modificate. Proiectele mele inițiale de detectare mi-au oferit o perspicacitate vitală cu privire la modul în care funcționează aceste tehnologii, dar mi-au arătat și implicațiile mai largi pe care nu le luasem în considerare.

Adevăratul moment de revelație a venit când am servit ca Director Asociat al echipei de conducere GIS a Naționalului 4-H. Lucrând cu date geospațiale și imagini satelitare, am văzut cum aceste surse aparent obiective conduc la decizii importante. Am urmărit cum hărțile au ghidat răspunsul la dezastre, au modelat politica de mediu și au influențat proiecte de planificare comunitară de milioane de dolari. Ceea ce m-a surprins cel mai mult a fost încrederea oarbă în aceste date – erau considerate adevăruri incontestabile.

Atunci totul a căpătat sens. Dacă un videoclip fals poate cauza tulburări emoționale și tulburări sociale, o imagine satelitară falsificată ar putea duce la rezultate reale dezastroase. Gândiți-vă la resursele de urgență trimise în zone false de dezastre, guverne care iau decizii pe baza datelor înșelătoare despre mediu sau piețe financiare afectate de rapoarte agricole modificate. Potențialul de daune a fost uluitor.

Această combinație a cercetărilor mele despre deepfake-uri și experienței mele cu GIS a dezvăluit o lacună în conștientizarea noastră colectivă. În timp ce lumea discută despre schimbul de fețe și media sintetică, riscul mult mai mare al deepfake-urilor geospațiale rămâne în mare măsură ignorat. Această realizare a devenit forța motrice din spatele cercetării mele – abordarea unei vulnerabilități grave care ar putea schimba modul în care înțelegem adevărul în lumea noastră condusă de date.

Sistemul dvs. de cercetare utilizează Rețele Adversariale Generative (GAN) pentru a detecta imagini satelitare false. Cum funcționează sistemul dvs. și ce îl face diferit de detectoarele generale de deepfake?

Majoritatea detectoarelor de astăzi sunt proiectate pentru a identifica fețe sau voci. Ele caută semne precum mișcări ale buzelor care nu se potrivesc sau probleme cu sunetul. Imaginile satelitare sunt foarte diferite. Sunt alcătuite din texturi fine și modele spectrale de peisaje, terenuri agricole, oceane și orașe. Aceste modele sunt mai greu de observat și necesită o abordare diferită.

În proiectul meu inițial, am antrenat un cadru GAN utilizând setul de date SpaceNet-7 de imagini satelitare reale. Generatorul creează imagini sintetice, iar discriminatorul învață să distingă realul de fals. Concentrându-mă pe discriminator, am antrenat un model care înțelege “semnătura” statistică a datelor geospațiale reale. Acesta include modul în care texturile se comportă în zonele urbane comparativ cu peisajele naturale și modul în care modelele de intensitate a pixelilor curg prin diferite regiuni.

Prin acest proces de antrenament, sistemul a obținut un nivel ridicat de acuratețe în detectarea falsurilor. Principala diferență față de detectoarele generale este că acesta este proiectat special pentru date geospațiale. În loc să caute erori vizuale evidente, el învață incoerențele spectrale și texturale subtile care dezvăluie imaginile satelitare sintetice.

Cercetarea mea curentă s-a mutat către explorarea modelului de difuziune ca generatoare. Acestea reprezintă o îmbunătățire semnificativă față de GAN-uri în ceea ce privește calitatea imaginilor. Modelele de difuziune, cum ar fi DDPM și DDIM, creează imagini satelitare foarte realiste prin învățarea inversării unui proces de adăugare a zgomotului. Imaginile sintetice pe care le produc sunt adesea mai clare și mai detaliate decât cele generate de GAN-uri. Acest lucru prezintă atât o oportunitate, cât și o provocare. În timp ce aceste modele pot oferi date de antrenament mai bune pentru sistemele de detectare, ele produc și deepfake-uri mai avansate care sunt mai greu de detectat.

Acum compar metode de detectare diferite pentru a găsi care sunt cele mai eficiente împotriva diferitelor tehnici de generare. Acest lucru include clasificatori tradiționali bazati pe CNN, arhitecturi bazate pe transformatori care pot capta relații spațiale pe termen lung în imagini satelitare, și metode hibride care combină analiza spectrală cu învățarea automată. Fiecare metodă are propriile sale puncte forte: CNN-urile sunt bune la detectarea problemelor locale de textură, transformatorii pot detecta probleme structurale mai mari pe suprafețe de imagine, iar analiza spectrală poate identifica semnături de frecvență subtile pe care rețelele neuronale le-ar putea ignora.

Un aspect interesant este modul în care diferiții generatori lasă amprente digitale unice. Imaginile generate de GAN-uri adesea au artefacte specifice în detalii de înaltă frecvență și muchii, în timp ce imaginile generate de difuziune prezintă de obicei incoerențe mai subtile în coerența generală și trăsăturile spectrale. Prin antrenarea modelelor de detectare atât pe deepfake-uri generate de GAN-uri, cât și pe cele generate de difuziune, obțin o înțelegere mai profundă a semnăturilor imaginilor satelitare sintetice. Acest lucru ajută la construirea unor sisteme de detectare care pot se adapta pe măsură ce tehnologia de generare evoluează.

Acestă abordare multi-modală a detectării este esențială. Pe măsură ce modelele generative devin mai avansate, avem nevoie de sisteme de detectare care nu depind de erorile unei singure metode de generare. Scopul este de a identifica caracteristicile statistice de bază care diferențiază capturile reale de satelit de orice formă de sinteză, indiferent de tehnologia utilizată pentru a le crea.

În lucrarea dvs. de la URTC de la MIT, menționați obținerea unei acuratețe de aproximativ 88% în diferențierea imaginilor satelitare autentice de falsuri. Care au fost principalele descoperiri care au permis această performanță?

Principala descoperire a fost realizarea faptului că nu există seturi de date publice disponibile pentru antrenarea modelelor de detectare a deepfake-urilor geospațiale. Acest lucru m-a determinat să adopt o abordare duală, lucrând atât la generare, cât și la detectare, în același timp. Am creat propriul set de date sintetice utilizând GAN-uri și am antrenat discriminatoare cu aceste date. Acest lucru mi-a permis să construiesc un sistem care înțelege cu adevărat modelele statistice ale datelor geospațiale reale.

O altă idee importantă a fost recunoașterea faptului că imaginile satelitare prezintă provocări foarte diferite comparativ cu deepfake-urile de fețe. În timp ce fețele au, în general, structuri anatomice consistente, imaginile satelitare acoperă o gamă largă de tipuri de teren – de la modele agricole la proiecte urbane și peisaje naturale. Am trebuit să creez un sistem de detectare care să poată identifica caracteristicile autentice în toate aceste medii diferite.

Această metodă specializată, în loc să se bazeze pe detectoare generale, a permis modelului să identifice incoerențele spectrale și texturale subtile care dezvăluie imaginile satelitare sintetice. Cu toate acestea, cercetarea mea curentă cu modele de difuziune arată rezultate mult mai bune, obținând rate de acuratețe mai mari și fiind mai rezistent la tehnici avansate de generare.

Cum ați procedat la generarea propriilor imagini sintetice pentru antrenament, având în vedere că nu există seturi de date publice pentru detectarea deepfake-urilor geospațiale?

Crearea setului de date sintetice a implicat construirea unei arhitecturi GAN complexe antrenate pe setul de date SpaceNet-7 de imagini satelitare reale. Generatorul a învățat să transforme zgomotul aleator în imagini satelitare mai realiste. A capturat modelele complexe găsite în datele geospațiale reale.

Procesul seamănă cu o competiție între un falsificator priceput și un verificator antrenat. Generatorul își îmbunătățește constant imaginile sintetice, în timp ce discriminatorul devine mai bun la detectarea semnelor subtile de falsificare. Acest antrenament în ciclu creează o situație în care ambele părți se împing una pe alta pentru a obține performanțe mai bune.

Prin controlul ambelor procese de generare și detectare, am obținut perspective esențiale cu privire la modul în care se creează imaginile satelitare sintetice. Această perspectivă duală a fost crucială pentru dezvoltarea unor metode de detectare puternice care recunosc ce înseamnă imagini reale și cum diferă imaginile sintetice de aceste modele.

Ce tipuri de anomalii – spectrale, texturale sau de alt tip – detectează sistemul dvs. atunci când diferențiază între imagini reale și manipulate?

În contrast cu deepfake-urile de fețe, unde probleme precum sincronizarea buzelor sau erorile audio sunt de obicei ușor de detectat, problemele imaginilor satelitare sunt mult mai subtile. Sistemul meu detectează incoerențe spectrale unde interacțiunile dintre diferitele benzi electromagnetice nu se potrivesc cu datele reale de observare a Pământului. De asemenea, detectează incoerențe texturale, cum ar fi terenuri agricole care par prea uniforme, suprafețe oceanice lipsite de modele naturale de valuri sau texturi urbane cu repetiții artificiale.

Anomaliile contextuale adaugă o altă dimensiune de detectare. Acestea includ rețele de drumuri care nu urmează formele naturale ale terenului, amenajări agricole care ignoră limitele reale de cultivare sau modele de dezvoltare urbană care nu se aliniază cu creșterea normală a orașelor. Aceste probleme ar putea scăpa unei examinări umane obișnuite, dar creează semnături statistice clare pe care modelul le poate recunoaște.

Sistemul are limitări cu imaginile complexe. Zonele urbane dense cu structuri suprapuse sau imagini satelitare afectate de distorsionări atmosferice semnificative pot reduce acuratețea detectării. Aceste cazuri marginale indică direcții care necesită cercetare și îmbunătățire a modelului.

Privind spre viitor, posterele dvs. menționează lucrări viitoare, cum ar fi extensiile de browser pentru autentificarea geospațială în timp real și cadrele de lucru multi-dataset. Ce considerați a fi următorul pas mare în această linie de cercetare?

În timp ce cercetarea mea bazată pe GAN-uri a arătat că putem detecta cu acuratețe imagini satelitare false, am învățat că rezultatele bune de laborator nu garantează succesul în lumea reală. Imaginile sintetice adesea nu se aliniază cu modelele pe care modelele de detectare le-au fost antrenate, iar tehnologiile generative se schimbă rapid.

Faza următoare se concentrează pe construirea unor sisteme puternice și adaptabile care funcționează bine în condiții variate. Acest lucru înseamnă că avem nevoie de metode de evaluare mai bune care să imite natura imprevizibilă a utilizării imaginilor sintetice în lumea reală. De asemenea, trebuie să dezvoltăm unelte practice, cum ar fi extensiile de browser ușoare, API-uri în timp real și cadre de integrare pentru a ajuta la procesele de luare a deciziilor importante.

Direcția mea actuală de cercetare subliniază adaptabilitatea și utilizarea practică. Nu încerc doar să îmbunătățesc acuratețea modelului în medii controlate. Îmi propun să proiectez sisteme de detectare care să poată rămâne fiabile pe măsură ce tehniciile generative se schimbă. Vreau să ofer unelte accesibile pentru guverne, companii și comunități care se bazează pe date geospațiale de încredere.

În afara datelor geospațiale, cercetarea dvs. mai cuprinde și deepfake-uri video, autentificarea vocală în timp real și prejudecățile de inteligență artificială în împrumuturi. Cum alegeți care provocări etice să abordați mai întâi?

Direcția mea de cercetare nu este influențată de subiecte în tendințe; se concentrează pe identificarea vulnerabilităților critice în sisteme în care oamenii au încredere fundamentală. Fiecare proiect începe prin identificarea punctelor specifice în care încrederea poate fi subminată, conducând la consecințe grave.

Cercetarea mea despre deepfake-uri a început cu o experiență personală care a arătat cum media sintetică poate dăuna încrederii unei persoane în dovezi vizuale. Lucrând cu echipa de conducere GIS a Naționalului 4-H, am văzut cât de mult oamenii se bazează pe imagini satelitare pentru răspunsul la dezastre și deciziile de politică. Această legătură m-a condus către cercetarea deepfake-urilor geospațiale, unde riscurile sunt potențial foarte mari.

Acest model se aplică și autentificării vocale. Am considerat cum apelurile de urgență sintetice ar putea copleși sistemele 911. Există, de asemenea, problema prejudecăților de inteligență artificială în împrumuturi, unde discriminarea algoritmică poate refuza oportunități întregi comunități. Fiecare dintre aceste domenii reflectă o relație de încredere critică între oameni și tehnologie care necesită protecție.

Explorarea mea se concentrează pe punctele în care tehnologia întâlnește vulnerabilitatea socială, concentrându-mă pe cercetarea care poate preveni întreruperile de încredere înainte de a deveni crize generalizate.

Ați publicat, de asemenea, Tech Demystified: Cybersecurity, care a fost adoptată de școli. Ce v-a motivat să scrieți această carte și cum faceți materialele tehnice accesibile pentru elevi și educatori?

Cartea a venit direct din experiența mea de cercetare despre deepfake-uri. Mi-a arătat cât de importantă este alfabetizarea digitală pentru tineri pe măsură ce se confruntă cu o lume tehnologică mai complexă. Securitatea cibernetică a părut a fi un punct de plecare adecvat, deoarece influențează pe toată lumea, indiferent de abilitățile tehnice sau obiectivele de carieră.

M-am axat pe scrierea cărții pentru elevi cu câțiva ani mai mici decât mine. Ce ar fi ajutat-o pe mine să înțeleg amenințările cibernetice atunci când am început să învăț. Am organizat conținutul utilizând povești, comparații și imagini, împreună cu activități interactive și întrebări de reflecție. Aceste instrumente fac ideile dificile mai ușor de înțeles.

A fost deosebit de semnificativ să văd programe de liceu, biblioteci școlare și organizații care deservesc studenți defavorizați adoptând cartea. Am vrut să creez o resursă care să deschidă porți pentru elevii care s-ar putea simți excluși din discuțiile despre securitatea cibernetică.

Concentrarea asupra securității cibernetice a pus bazele pentru securitatea digitală înainte de a aborda următoarea mea carte despre inteligența artificială și deepfake-uri, care este principala mea direcție de cercetare. Elevilor trebuie să li se prezințe principiile de bază ale securității înainte de a se aventura în problemele etice complexe care înconjoară inteligența artificială.

În cartea dvs., acoperiți amenințări de la phishing la ransomware. Ce credeți că este principiul cel mai important de securitate cibernetică pe care tinerii ar trebui să îl înțeleagă astăzi?

Principiul cel mai important este “încredere, dar și verificare”. Este vital să dezvoltați obișnuința de a pune sub semnul întrebării informațiile digitale înainte de a lua orice acțiune. Majoritatea atacurilor cibernetice reușite profită de încrederea umană, mai degrabă decât de defecte tehnice complexe. Indiferent dacă este vorba de clic pe linkuri suspecte, descărcarea de fișiere necunoscute sau răspunsul la mesaje care par familiare, oprirea pentru a verifica poate opri multe atacuri.

Pentru tinerii care petrec mult timp online și schimbă rapid între platforme, această mentalitate de verificare este deosebit de importantă. Dezvoltarea obișnuinței de a pune sub semnul întrebării înainte de a face clic construiește o abordare defensivă care protejează împotriva diverselor amenințări.

Acest principiu depășește securitatea cibernetică și se extinde asupra alfabetizării digitale mai largi. Aceleași abilități de gândire critică care protejează împotriva malware-ului ajută, de asemenea, la detectarea informațiilor false, a deepfake-urilor și a altor tipuri de înșelăciune digitală.

Între cercetarea dvs. academică, inițiativele de educație STEM și lucrările publicate, sunteți în mod evident pasionat de tehnologie și etică. Cum sperați să modelați viitorul securității inteligenței artificiale și inovației responsabile?

Tot ceea ce fac se concentrează pe construirea și menținerea încrederii în tehnologie. Inteligența artificială poate atinge potențialul său doar dacă oamenii cred că aceste sisteme sunt sigure, corecte și transparente. Fără această încredere, chiar și tehnologiile deosebite vor lupta să câștige acceptarea și utilizarea.

Prin cercetare, îmi propun să identific vulnerabilități cheie înainte de a deveni probleme generalizate. Lucrez la domenii precum deepfake-urile geospațiale și autentificarea vocală, unde riscurile nu sunt întotdeauna evidente, dar pot avea consecințe grave. Prin educație și scriere, vreau să ajut elevii să înțeleagă aceste sisteme, în loc să le vadă ca cutii negre rezervate experților.

Viziunea mea pentru inovația responsabilă include siguranța și corectitudinea din stadiile incipiente ale dezvoltării, nu doar ca gânduri ulterioare. Acest lucru înseamnă evaluarea modelelor nu doar pentru performanță, ci și pentru punctele lor potențiale de eșec, identificarea cui ar putea fi afectat și crearea de strategii pentru a reduce aceste riscuri.

Pe termen lung, vreau să contribui la crearea unei culturi în care fiecare avans în inteligența artificială primește o atenție egală pentru siguranță și responsabilitate. Lucrarea mea implică cercetare, educație și comunicare, deoarece găsirea riscurilor este valoroasă doar dacă putem ajuta și pe alții să le înțeleagă și să le abordeze.

Dacă pot ajuta la identificarea vulnerabilităților critice și, în același timp, crește alfabetizarea tehnologică, cred că voi juca un rol în modelarea unui viitor al inteligenței artificiale în care oamenii pot avea încredere și beneficia cu adevărat.

Mulțumim pentru interviul minunat; cititorilor li se recomandă să citească Tech Demystified: Cybersecurity: Principiile de bază ale apărării cibernetice moderne.