Vaishnav Anand, autor knihy Tech Demystified: Cybersecurity – rozhovor

Sedmnáctiletý studentVaišnav Anand z Aténské školy vytvořil první systém umělé inteligence schopný detekovat „geoprostorové deepfakes“ – uměle pozměněné satelitní snímky, které by mohly skrýt vojenská zařízení, falšovat inventáře zdrojů nebo zkreslovat data o katastrofách, a tím ohrozit národní bezpečnost a globální stabilitu.Vzhledem k tomu, že pro tento typ detekce nejsou k dispozici žádné veřejné datové sady, Anand vytvořil vlastní syntetické snímky pomocí prezidenta Esri Jacka Dangermonda. VedleGenerative Adversarial Networks, vyškolil modely od začátku a nyní aplikuje difuzní metody ke zlepšení přesnosti. Jeho výzkum byl již prezentován na Esri International User Conference a Cambridge University a získal uznání od

své práce na bezpečnosti umělé inteligence napsal Anand dvě knihy o kybernetické bezpečnosti, které byly přijaty soukromými školami, a

jeho poslední kniha, , získala hodnocení 5,0 hvězdiček. Kniha vysvětluje složité téma, jako je phishing, malware, firewally a šifrování, v jasných a praktických lekcích pro studenty, pedagogy a každého, kdo se zajímá o digitální bezpečnost. Tím,

že dělá kybernetickou bezpečnost přístupnou a zajímavou, Anand se etabloval nejen jako inovátor v oblasti umělé inteligence, ale také jako vznikající hlas v oblasti vzdělávání a technologií. Tech

Demystified: Cybersecurity: Core Principles of Modern Cyber Defense Jste stále na střední škole, ale už máte dopad v oblasti umělé inteligence a kybernetické bezpečnosti. Co vás přitáhlo k tomuto oboru a jak jste začal vyvíjet tak pokročilé projekty v tak mladém

věku? To, co mě přitáhlo k tomuto oboru, byla dvojí povaha umělé inteligence. Má obrovský potenciál, ale může také způsobit škodu. Měl jsem přímou zkušenost s technologií deepfake, která změnila můj

pohled. Pozoroval jsem, jak syntetická média mohou vážně poškodit mladé lidi, a uvědomil jsem si, že toto

je více než technická zvědavost; je to kritická společenská otázka, která potřebuje větší pochopení. Můj vstup do výzkumu nepřišel z velkého plánu, ale z hluboké zvědavosti. Každá otázka, na kterou jsem se podíval, mě vedla k další, vytvářející

cyklus objevů. Zajímal jsem se o stále složitější problémy. Nehledal jsem uznání; byl jsem skutečně zaujat otázkami. Přešel jsem z individuálního průzkumu na smysluplný výzkum prostřednictvím sítí a vytrvalosti. Začal jsem kontaktovat etablované výzkumníky, jejichž práci

jsem obdivoval, většinou prostřednictvím platforem jako LinkedIn. Ačkoli mnoho z nich nereagovalo, podařilo se mi spojit se dvěma výzkumníky PhD, kteří se zaměřovali na bezpečnost umělé inteligence a detekci deepfake. Začali mě seznámit s malými úkoly v rámci svých větších výzkumných projektů. Jak jsem prokázal svou spolehlivost a vhled,

tyto úkoly se staly podstatnějšími. Toto mentorství bylo životně důležité. Mít zkušené výzkumníky, kteří

mě vedli, mi pomohlo proměnit mou zvědavost v rigorózní práci. Moje intrinsická motivace, jejich strukturované vedení a stálé úsilí postupně transformovaly můj neformální zájem do významných výzkumných příspěvků. To posílilo mou víru,  

že skutečný pokrok často přichází ne z dramatických průlomů, ale z kontinuálního zapojení do důležitých problémů. Většina lidí si myslí, že deepfakes  

jsou spojeny s obličeji nebo hlasy. Co vás inspirovalo k prozkoumání geospatial deepfakes konkrétně, a proč jste je považoval za tak kritickou slepou skvrnu? Když většina lidí slyší slovo “deepfake”, myslí si na falešné videá nebo upravené hlasy. I já  

tomu tak býval. Ale když jsem se více dozvěděl, začal jsem se ptát, kde ještě může být tato technologie použita způsobem, o kterém bychom nemuseli přemýšlet. To mě vedlo k uvědomění, že satelitní  

snímky jsou často považovány za zcela spolehlivé. Vláda, podniky a dokonce i týmy pro záchranné práce činí významná rozhodnutí na základě nich. To se zdálo jako slepá skvrna. Pokud může falešné video poškodit

reputaci, falešná mapa nebo upravený satelitní snímek může narušit dodavatelské řetězce, zmást záchranné úsilí nebo

dokonce vést k špatným rozhodnutím o národní bezpečnosti. Jak se obrana a válka stávají více závislé na systémech umělé inteligence, drony a automatizovaném rozhodování, rizika rostou. Upravený satelitní

kanál může oklamat nejen lidi, ale i stroje. Můžete nás provést svým procesem objevování – jak jste si uvědomil, že upravené satelitní snímky mohou představovat rizika pro národní bezpečnost, ekonomiku a reakci na katastrofy? Můj zlomový bod přišel po

setkání s deepfake, které otřáslo mou vírou v to, co jsem viděl. Ten okamžik pochybnosti ukázal něco důležitého: lidé jsou přirozeně nakloněni důvěřovat vizuálním důkazům, a když je tato

důvěra porušena, změní se to, jak vidíme všechno. Tato zkušenost mě vedla k uvědomění, jak zranitelní jsme všichni vůči chytré deceptivitě. Na začátku, stejně jako většina lidí, jsem se zaměřil na zřejmé použití – deepfake videa a upravené obličeje. Moje rané detekční projekty mi poskytly vitální vhled

do toho, jak tyto technologie fungují, ale také ukázaly mi širší důsledky, o kterých jsem neuvažoval. Skutečný otevírací okamžik přišel, když jsem působil jako zástupce ředitele Národního týmu GIS leadership. Pracoval jsem s geoprostorovými daty a satelitními snímky, viděl jsem, jak tato zdánlivě objektivní zdroje řídí

důležitá rozhodnutí. Sledoval jsem, jak mapy vedly záchranné reakce, formovaly environmentální politiku a ovlivňovaly projekty komunitního plánování v hodnotě milionů dolarů. Co mě nejvíce překvapilo, byla slepá důvěra v tato data – byla považována za nezpochybnitelnou pravdu. Vaše výzkum používá

Generative Adversarial Networks (GANs) k detekci falešných satelitních snímků. Jak funguje váš systém a co ho odlišuje od obecných detektorů deepfakes? Většina detektorů dnes je navržena k identifikaci obličejů nebo hlasů. Hledají

známky, jako jsou nesouladné pohyby rtů nebo problémy s audiem. Satelitní snímky jsou velmi odlišné. Skládají

se z jemných textur a spektrálních vzorců přes krajinu, zemědělské plochy, oceány a města. Tyto vzorce jsou obtížnější k rozpoznání a vyžadují jiný přístup. V mém počátečním projektu jsem trénoval GAN framework pomocí datové sady SpaceNet-7 reálných 

satelitních snímků. Generátor vytváří syntetické snímky a diskriminátor se učí rozlišovat skutečné od falešných. Zaměřením se na diskriminátor jsem trénoval model, který rozumí statistickému “podpisu” skutečných satelitních dat. To zahrnuje, jak se chovají textury

v městských oblastech ve srovnání s přírodními krajinami a jak se chovají intenzitní vzorce pixelů v různých regionech. Váš výzkum dosáhl kolem 88 procentní přesnosti při rozlišování autentických

satelitních snímků od padělků. Jaké byly klíčové průlomy, které umožnily tuto výkonnost?

Klíčový průlom byl uvědomění, že neexistují žádné veřejné datové sady pro tento typ detekce. To mě vedlo k vytvoření dvojího přístupu, práce na generaci 

a detekci současně.Vytvořil jsem si vlastní syntetickou datovou sadu pomocí GAN a na této datové sadě jsem vyškolil diskriminátory. To mi umožnilo vytvořit systém, který skutečně rozumí statistickým vzorcům geoprostorových 

snímků. Jak jste šel o generování vlastní syntetické obrazovky pro trénink, vzhledem k tomu, že neexistují žádné veřejné datové sady pro detekci geospatial deepfakes?

Vytvoření syntetické datové sady zahrnovalo vytvoření komplexní GAN architektury trénované na

datové sadě SpaceNet-7 reálných satelitních snímků. Generátor se naučil měnit náhodný šum na více realistické satelitní snímky. Zachytil komplexní vzorce nalezené v skutečných geoprostorových datech. Jaké druhy anomálií – spektrálních, texturálních nebo jiných – váš systém rozpoznává

při rozlišování mezi skutečnými a upravenými snímky? Na rozdíl od deepfakes obličejů, kde problémy, jako jsou nepřirozené blikání nebo nesouladné pohyby rtů, jsou obvykle snadno rozpoznatelné, satelitní snímky mají

problémy mnohem jemnější. Můj systém nachází spektrální nesrovnalosti, kde interakční vzorce mezi různými elektromagnetickými pásmy se neshodují se skutečnými daty pozorování

Země. Také rozpoznává texturální nesrovnalosti, jako je zemědělská půda, která vypadá příliš uniformně, oceánské povrchy chybějící přirozené vlnové vzorce

nebo městské textury s umělou repeticí. Co vidíte jako další velký krok ve výzkumu v této oblasti? Zatímco můj výzkum založený na GANách ukázal, že můžeme přesně detekovat 

satelitní snímky, které jsou padělky, jsem se dozvěděl, že dobré laboratorní výsledky nezaručují úspěch ve skutečném světě. Syntetické snímky často neodpovídají vzorcům, na které jsou detekční modely trénovány, a generativní technologie se rychle

mění. Další fáze se zaměřuje na budování silných, adaptabilních systémů, které fungují dobře za různých podmínek. To znamená, že potřebujeme vytvořit lepší metody hodnocení, které napodobují nepředvídatelnou povahu používání

syntetických snímků ve skutečném světě. Potřebujeme také vyvinout praktické nástroje, jako jsou lehké rozšíření prohlížeče, služby

v reálném čase a integrační rámce, aby pomohly při důležitých rozhodnutích. Můžete nám říci, jak si vyberete, které etické výzvy řešit 

jako další? Mým směrem výzkumu není ovlivněn trendovými tématy; zaměřuje se na nalezení kritických zranitelností ve systémech, kde lidé klade důvěru. Každý projekt začíná identifikací konkrétních bodů, kde důvěra může být podkopána, vedoucí

k vážným důsledkům. Výzkum deepfakes začal s osobní zkušeností, která ukázala, jak syntetická média mohou poškodit osobu. Práce s Národním týmem GIS leadership ukázala, jak lidé spoléhají na

satelitní snímky pro reakci na katastrofy a rozhodnutí o politice. Tato souvislost

vedla k výzkumu geospatialdeepfakes, kde jsou sázky potenciálně velmi vysoké. Můžete nám říci, co považujete za nejdůležitější

princip kybernetické bezpečnosti, který by mladí lidé měli rozumět dnes? Nejdůležitějším principem je “důvěřuj, ale ověř”. Je důležité vyvinout zvyk zpochybňovat digitální informace, než podniknete akci. 

Většina úspěšných kybernetických útoků využívá lidskou důvěru místo toho, aby se spoléhala na komplexní technické chyby. Bez ohledu na to, zda kliknete na podezřelé odkazy, stáhnete neznámé soubory 

nebo odpovíte na zprávy, které vypadají povědomě, pozastavení se a ověření může zastavit mnoho útoků. Mezi vaším akademickým výzkumem, iniciativami STEM a 

publikovanými pracemi je zřejmé, že jste vášnivě zaujat technologií a etikou. Jak doufáte, že budete formovat budoucnost bezpečnosti umělé inteligence a odpovědné

inovace? Vše, co dělám, se zaměřuje na budování a udržení důvěry v technologii. Umělá inteligence

může dosáhnout svého potenciálu pouze tehdy, pokud lidé věří, že tyto systémy jsou bezpečné, spravedlivé a transparentní. Bez této důvěry budou i průlomové technologie bojovat o přijetí a použití. Prostřednictvím výzkumu se zaměřuji na

nalezení klíčových zranitelností, než se stanou široce rozšířenými problémy. Pracuji na oblastech, jako jsou geospatial deepfakes a ověřování hlasu, kde rizika

nejsou vždy zřejmá, ale mohou mít vážné důsledky. Prostřednictvím vzdělávání a psaní chci pomoci studentům pochopit tyto

systémy místo toho, aby je považovali za tajemnou černou skříňku, vyhrazenou pro odborníky. Má vize odpovědné inovace

zahrnuje bezpečnost a spravedlnost od samého počátku vývoje, ne jako následné myšlenky. To znamená, že systémy musí být hodnoceny nejen podle jejich

výkonu, ale také podle možných bodů selhání, identifikace těch, kteří by mohli být poškozeni, a vytváření strategií ke snížení těchto rizik. Na dlouhém konci chci pomoci vytvořit kulturu, ve které každý pokrok

v oblasti umělé inteligence dostává stejnou pozornost bezpečnosti a odpovědnosti. Moje práce zahrnuje výzkum, vzdělávání a komunikaci, protože nalezení rizik je pouze cenné, pokud můžeme

také pomoci ostatním je pochopit a řešit. Pokud mohu pomoci identifikovat kritické zranitelnosti a současně zvyšovat technologickou gramotnost, věřím, že budu hrát roli při formování budoucnosti

AI, které mohou lidé skutečně důvěřovat a z níž mohou těžit. Díky za skvělý rozhovor, čtenáři

doporučuje přečíst Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense.