Vaishnav Anand, autor knihy Tech Demystified: Cybersecurity – rozhovor

Sedmnáctiletý student Athenian School, Vaishnav Anand, vytvořil první systém umělé inteligence, který je schopen detekovat “geospatial deepfakes” – umělým způsobem upravené satelitní snímky, které by mohly skrýt vojenské objekty, falzifikovat údaje o zásobách zdrojů nebo zkreslit údaje o katastrofách, a tím ohrozit národní bezpečnost a globální stabilitu. Protože nejsou k dispozici žádné veřejné datové sady pro tento typ detekce, Anand vytvořil自己的 syntetické snímky pomocí Generative Adversarial Networks, vyškolil modely od začátku a nyní aplikuje difuzní metody ke zlepšení přesnosti. Jeho výzkum byl již prezentován na Esri International User Conference a Cambridge University a získal uznání od prezidenta Esri Jacka Dangermonda.

Vedle své práce na bezpečnosti umělé inteligence napsal Anand dvě knihy o kybernetické bezpečnosti, které byly přijaty soukromými školami, a jeho poslední kniha, Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense, získala hodnocení 5,0 hvězdiček. Kniha vysvětluje složité téma, jako je phishing, malware, firewally a šifrování, v jasných a praktických lekcích pro studenty, pedagogy a každého, kdo se zajímá o digitální bezpečnost. Tím, že dělá kybernetickou bezpečnost přístupnou a zajímavou, Anand se etabloval nejen jako inovátor v oblasti umělé inteligence, ale také jako vznikající hlas v oblasti vzdělávání a technologií.

Jste stále na střední škole, ale už máte dopad v oblasti umělé inteligence a kybernetické bezpečnosti. Co vás přitáhlo k tomuto oboru a jak jste začal vyvíjet tak pokročilé projekty v tak mladém věku?

To, co mě přitáhlo k tomuto oboru, byla dvojí povaha umělé inteligence. Má obrovský potenciál, ale může také způsobit škodu. Měl jsem přímou zkušenost s technologií deepfake, která změnila můj pohled. Pozoroval jsem, jak syntetická média mohou vážně poškodit mladé lidi, a uvědomil jsem si, že toto je více než technická zvědavost; je to kritická společenská otázka, která potřebuje větší pochopení.

Můj vstup do výzkumu nepřišel z velkého plánu, ale z hluboké zvědavosti. Každá otázka, na kterou jsem se podíval, mě vedla k další, vytvářející cyklus objevů. Zajímal jsem se o stále složitější problémy. Nehledal jsem uznání; byl jsem skutečně zaujat otázkami.

Přešel jsem z individuálního průzkumu na smysluplný výzkum prostřednictvím sítí a vytrvalosti. Začal jsem kontaktovat etablované výzkumníky, jejichž práci jsem obdivoval, většinou prostřednictvím platforem jako LinkedIn. Ačkoli mnoho z nich nereagovalo, podařilo se mi spojit se dvěma výzkumníky PhD, kteří se zaměřovali na bezpečnost umělé inteligence a detekci deepfake. Začali mě seznámit s malými úkoly v rámci svých větších výzkumných projektů. Jak jsem prokázal svou spolehlivost a vhled, tyto úkoly se staly podstatnějšími.

Toto mentorství bylo životně důležité. Mít zkušené výzkumníky, kteří mě vedli, mi pomohlo proměnit mou zvědavost v rigorózní práci. Moje intrinsická motivace, jejich strukturované vedení a stálé úsilí postupně transformovaly můj neformální zájem do významných výzkumných příspěvků. To posílilo mou víru, že skutečný pokrok často přichází ne z dramatických průlomů, ale z kontinuálního zapojení do důležitých problémů.

Většina lidí si myslí, že deepfakes jsou spojeny s obličeji nebo hlasy. Co vás inspirovalo k prozkoumání geospatial deepfakes konkrétně, a proč jste je považoval za tak kritickou slepou skvrnu?

Když většina lidí slyší slovo “deepfake”, myslí si na falešné videá nebo upravené hlasy. I já tomu tak býval. Ale když jsem se více dozvěděl, začal jsem se ptát, kde ještě může být tato technologie použita způsobem, o kterém bychom nemuseli přemýšlet. To mě vedlo k uvědomění, že satelitní snímky jsou často považovány za zcela spolehlivé. Vláda, podniky a dokonce i týmy pro záchranné práce činí významná rozhodnutí na základě nich.

To se zdálo jako slepá skvrna. Pokud může falešné video poškodit reputaci, falešná mapa nebo upravený satelitní snímek může narušit dodavatelské řetězce, zmást záchranné úsilí nebo dokonce vést k špatným rozhodnutím o národní bezpečnosti. Jak se obrana a válka stávají více závislé na systémech umělé inteligence, drony a automatizovaném rozhodování, rizika rostou. Upravený satelitní kanál může oklamat nejen lidi, ale i stroje.

Můžete nás provést svým procesem objevování – jak jste si uvědomil, že upravené satelitní snímky mohou představovat rizika pro národní bezpečnost, ekonomiku a reakci na katastrofy?

Můj zlomový bod přišel po setkání s deepfake, které otřáslo mou vírou v to, co jsem viděl. Ten okamžik pochybnosti ukázal něco důležitého: lidé jsou přirozeně nakloněni důvěřovat vizuálním důkazům, a když je tato důvěra porušena, změní se to, jak vidíme všechno. Tato zkušenost mě vedla k uvědomění, jak zranitelní jsme všichni vůči chytré deceptivitě.

Na začátku, stejně jako většina lidí, jsem se zaměřil na zřejmé použití – deepfake videa a upravené obličeje. Moje rané detekční projekty mi poskytly vitální vhled do toho, jak tyto technologie fungují, ale také ukázaly mi širší důsledky, o kterých jsem neuvažoval.

Skutečný otevírací okamžik přišel, když jsem působil jako zástupce ředitele Národního týmu GIS leadership. Pracoval jsem s geoprostorovými daty a satelitními snímky, viděl jsem, jak tato zdánlivě objektivní zdroje řídí důležitá rozhodnutí. Sledoval jsem, jak mapy vedly záchranné reakce, formovaly environmentální politiku a ovlivňovaly projekty komunitního plánování v hodnotě milionů dolarů. Co mě nejvíce překvapilo, byla slepá důvěra v tato data – byla považována za nezpochybnitelnou pravdu.

Vaše výzkum používá Generative Adversarial Networks (GANs) k detekci falešných satelitních snímků. Jak funguje váš systém a co ho odlišuje od obecných detektorů deepfakes?

Většina detektorů dnes je navržena k identifikaci obličejů nebo hlasů. Hledají známky, jako jsou nesouladné pohyby rtů nebo problémy s audiem. Satelitní snímky jsou velmi odlišné. Skládají se z jemných textur a spektrálních vzorců přes krajinu, zemědělské plochy, oceány a města. Tyto vzorce jsou obtížnější k rozpoznání a vyžadují jiný přístup.

V mém počátečním projektu jsem trénoval GAN framework pomocí datové sady SpaceNet-7 reálných satelitních snímků. Generátor vytváří syntetické snímky a diskriminátor se učí rozlišovat skutečné od falešných. Zaměřením se na diskriminátor jsem trénoval model, který rozumí statistickému “podpisu” skutečných satelitních dat. To zahrnuje, jak se chovají textury v městských oblastech ve srovnání s přírodními krajinami a jak se chovají intenzitní vzorce pixelů v různých regionech.

Váš výzkum dosáhl kolem 88 procentní přesnosti při rozlišování autentických satelitních snímků od padělků. Jaké byly klíčové průlomy, které umožnily tuto výkonnost?

Klíčový průlom byl uvědomění, že neexistují žádné veřejné datové sady pro tento typ detekce. To mě vedlo k vytvoření dvojího přístupu, práce na generaci a detekci současně. Vytvořil jsem自己的 syntetickou datovou sadu pomocí GANů a trénoval diskriminátory s touto datovou sadou. To mi umožnilo vytvořit systém, který skutečně rozumí statistickým vzorcům geoprostorových snímků.

Jak jste šel o generování vlastní syntetické obrazovky pro trénink, vzhledem k tomu, že neexistují žádné veřejné datové sady pro detekci geospatial deepfakes?

Vytvoření syntetické datové sady zahrnovalo vytvoření komplexní GAN architektury trénované na datové sadě SpaceNet-7 reálných satelitních snímků. Generátor se naučil měnit náhodný šum na více realistické satelitní snímky. Zachytil komplexní vzorce nalezené v skutečných geoprostorových datech.

Jaké druhy anomálií – spektrálních, texturálních nebo jiných – váš systém rozpoznává při rozlišování mezi skutečnými a upravenými snímky?

Na rozdíl od deepfakes obličejů, kde problémy, jako jsou nepřirozené blikání nebo nesouladné pohyby rtů, jsou obvykle snadno rozpoznatelné, satelitní snímky mají problémy mnohem jemnější. Můj systém nachází spektrální nesrovnalosti, kde interakční vzorce mezi různými elektromagnetickými pásmy se neshodují se skutečnými daty pozorování Země. Také rozpoznává texturální nesrovnalosti, jako je zemědělská půda, která vypadá příliš uniformně, oceánské povrchy chybějící přirozené vlnové vzorce nebo městské textury s umělou repeticí.

Co vidíte jako další velký krok ve výzkumu v této oblasti?

Zatímco můj výzkum založený na GANách ukázal, že můžeme přesně detekovat satelitní snímky, které jsou padělky, jsem se dozvěděl, že dobré laboratorní výsledky nezaručují úspěch ve skutečném světě. Syntetické snímky často neodpovídají vzorcům, na které jsou detekční modely trénovány, a generativní technologie se rychle mění.

Další fáze se zaměřuje na budování silných, adaptabilních systémů, které fungují dobře za různých podmínek. To znamená, že potřebujeme vytvořit lepší metody hodnocení, které napodobují nepředvídatelnou povahu používání syntetických snímků ve skutečném světě. Potřebujeme také vyvinout praktické nástroje, jako jsou lehké rozšíření prohlížeče, služby v reálném čase a integrační rámce, aby pomohly při důležitých rozhodnutích.

Můžete nám říci, jak si vyberete, které etické výzvy řešit jako další?

Mým směrem výzkumu není ovlivněn trendovými tématy; zaměřuje se na nalezení kritických zranitelností ve systémech, kde lidé klade důvěru. Každý projekt začíná identifikací konkrétních bodů, kde důvěra může být podkopána, vedoucí k vážným důsledkům.

Výzkum deepfakes začal s osobní zkušeností, která ukázala, jak syntetická média mohou poškodit osobu. Práce s Národním týmem GIS leadership ukázala, jak lidé spoléhají na satelitní snímky pro reakci na katastrofy a rozhodnutí o politice. Tato souvislost vedla k výzkumu geospatial deepfakes, kde jsou sázky potenciálně velmi vysoké.

Můžete nám říci, co považujete za nejdůležitější princip kybernetické bezpečnosti, který by mladí lidé měli rozumět dnes?

Nejdůležitějším principem je “důvěřuj, ale ověř”. Je důležité vyvinout zvyk zpochybňovat digitální informace, než podniknete akci. Většina úspěšných kybernetických útoků využívá lidskou důvěru místo toho, aby se spoléhala na komplexní technické chyby. Bez ohledu na to, zda kliknete na podezřelé odkazy, stáhnete neznámé soubory nebo odpovíte na zprávy, které vypadají povědomě, pozastavení se a ověření může zastavit mnoho útoků.

Mezi vaším akademickým výzkumem, iniciativami STEM a publikovanými pracemi je zřejmé, že jste vášnivě zaujat technologií a etikou. Jak doufáte, že budete formovat budoucnost bezpečnosti umělé inteligence a odpovědné inovace?

Vše, co dělám, se zaměřuje na budování a udržení důvěry v technologii. Umělá inteligence může dosáhnout svého potenciálu pouze tehdy, pokud lidé věří, že tyto systémy jsou bezpečné, spravedlivé a transparentní. Bez této důvěry budou i průlomové technologie bojovat o přijetí a použití.

Prostřednictvím výzkumu se zaměřuji na nalezení klíčových zranitelností, než se stanou široce rozšířenými problémy. Pracuji na oblastech, jako jsou geospatial deepfakes a ověřování hlasu, kde rizika nejsou vždy zřejmá, ale mohou mít vážné důsledky. Prostřednictvím vzdělávání a psaní chci pomoci studentům pochopit tyto systémy místo toho, aby je považovali za tajemnou černou skříňku, vyhrazenou pro odborníky.

Má vize odpovědné inovace zahrnuje bezpečnost a spravedlnost od samého počátku vývoje, ne jako následné myšlenky. To znamená, že systémy musí být hodnoceny nejen podle jejich výkonu, ale také podle možných bodů selhání, identifikace těch, kteří by mohli být poškozeni, a vytváření strategií ke snížení těchto rizik.

Na dlouhém konci chci pomoci vytvořit kulturu, ve které každý pokrok v oblasti umělé inteligence dostává stejnou pozornost bezpečnosti a odpovědnosti. Moje práce zahrnuje výzkum, vzdělávání a komunikaci, protože nalezení rizik je pouze cenné, pokud můžeme také pomoci ostatním je pochopit a řešit.

Pokud mohu pomoci identifikovat kritické zranitelnosti a současně zvyšovat technologickou gramotnost, věřím, že budu hrát roli při formování budoucnosti umělé inteligence, ve které lidé mohou真正 důvěřovat a těžit z ní.

Děkuji za skvělý rozhovor, čtenářům se doporučuje přečíst Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense.