Вайшнав Ананд, автор книги «Tech Demystified: Cybersecurity» – Інтерв’ю Серія

Семнадцятирічний студент школи Атенеум Вайшнав Ананд створив першу систему штучного інтелекту, здатну виявляти «геопросторові діпфейки» – маніпульовані штучним інтелектом супутникові зображення, які можуть приховувати військові об’єкти, фабрикувати родовища ресурсів або спотворювати дані про катастрофи, що становить ризик для національної безпеки та глобальної стабільності. Через відсутність публічних наборів даних для такого типу виявлення Ананд створив自己的 синтетичні зображення за допомогою генеративних суперницьких мереж, навчав моделі з нуля та зараз застосовує методи дифузії для підвищення точності. Його дослідження вже були представлені на Міжнародній конференції користувачів Esri та Кембриджському університеті, де отримали визнання президента Esri Джека Денджермонда.

Паралельно зі своєю роботою в галузі безпеки штучного інтелекту Ананд написав дві книги з кібербезпеки, прийняті приватними школами, а його остання книга «Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense» отримала 5,0-зіркову оцінку. Книга розбиває складні теми, такі як фішинг, шкідливі програми, брандмауери та шифрування, на ясні, практичні уроки для студентів, педагогів та всіх, хто цікавиться цифровою безпекою. Робота Аνανда робить кібербезпеку доступною та цікавою, встановлюючи себе не тільки як інноватора в галузі штучного інтелекту, але й як майбутній голос у сфері освіти та технологій.

Ви ще навчаєтеся в школі, але вже робите свій внесок у галузі штучного інтелекту та кібербезпеки. Що спочатку привернуло вашу увагу до цієї галузі, і як ви почали розробляти такі просунуті проекти в такому молодому віці?

То, що привернуло мене до цієї галузі, було побачене мною подвійне природу штучного інтелекту. Він має неймовірний потенціал, але також може завдавати шкоди. У мене був прямий досвід з технологією діпфейків, який змінив мою точку зору. Дивлячись, як синтетичні медіа могли серйозно нашкодити молодим людям, я зрозумів, що це не просто технічна цікавість, а критична суспільна проблема, яка потребує більшого розуміння.

Мій вступ до досліджень не відбувся з великого плану, а з глибокої цікавості. Кожне питання, яке я досліджував, привело мене до наступного, створюючи цикл відкриттів. Я виявив, що себе цікавлю все більш складними проблемами. Я не шукав визнання; я був просто справжнім у своєму інтересі до питань.

Я перейшов від індивідуального дослідження до значимих досліджень через мережування та наполегливість. Я почав звертатися до встановлених дослідників, чиї роботи я шанував, переважно через платформи типу LinkedIn. Хоча багато з них не відповіли, я був удачливим у зв’язку з двома дослідниками докторами філософії, які займалися безпекою штучного інтелекту та виявленням діпфейків. Вони почали мене з малих завдань у рамках їхніх більших дослідницьких проектів. Коли я довів свою надійність та проникливість, ці завдання стали більш суттєвими.

Це наставництво було життєво важливим. Маю досвідчених дослідників, які спрямовували моє формування, допомогло мені перетворити мою цікавість у суворе дослідження. Моя внутрішня мотивація, їхнє структуроване керівництво та постійні зусилля поступово перетворили мою випадкову цікавість у суттєві внески до досліджень. Це підтримало мою віру в те, що справжній прогрес часто відбувається не від драматичних проривів, а від постійного залучення до важливих проблем.

Більшість людей думають про діпфейки в контексті облич чи голосів. Що надихнуло вас досліджувати геопросторові діпфейки конкретно, і чому ви бачили це як такий критичний сліпий плям?

Коли більшість людей чують слово «діпфейк», вони думають про фальшиві відео з відомими людьми або змінені голоси. Я теж спочатку так думав. Але коли я дізнався більше, я почав задаватися питанням, де ще ця технологія могла б бути використана способами, про які ми не думаємо. Тоді я зрозумів, що супутникові зображення часто вважаються абсолютно надійними. Уряди, бізнес та навіть команди з ліквідації наслідків катастроф приймають важливі рішення на основі цих даних.

Це здавалося сліпим плямом. Якщо фальшиве відео може нашкодити репутації, фальшиве 지도 або змінене супутникове зображення можуть порушити ланцюги постачання, ввести в оману рятувальні роботи або навіть привести до поганих рішень у сфері національної безпеки. Коли оборона та війна стають все більш залежними від систем штучного інтелекту, дронів та автоматизованого прийняття рішень, ризики зростають. Змінене супутникове зображення може обманути не тільки людей, а й машини.

Розкажіть нам про свій процес відкриття – як ви зрозуміли, що маніпульовані супутникові зображення можуть становити ризики для національної безпеки, економіки та реагування на катастрофи?

Мій переломний момент настав після того, як я зустрів діпфейк, який похитнув мою віру в те, що я бачу. Цей момент сумніву показав мені щось важливе: люди природно налаштовані довіряти візуальним доказам, а коли ця довіра порушується, це змінює те, як ми бачимо все. Цей досвід змусив мене зіткнутися з тим, наскільки ми всі вразливі до хитрого обману.

Спочатку, як і більшість людей, я зосередився на очевидних застосуваннях – діпфейках відео та змінених обличчях. Мої перші проекти з виявлення дали мені життєво важливі знання про те, як працюють ці технології, але вони також показали мені ширші наслідки, про які я не думав.

Справжній відкриття настав, коли я служив заступником директора Національної 4-Х GIS лідерської команди. Працюючи з геопросторовими даними та супутниковими зображеннями, я побачив, як ці ніби-то об’єктивні джерела керують важливими рішеннями. Я спостерігав, як карти спрямовували реагування на катастрофи, формували екологічну політику та впливали на проекти планування громад на мільйони доларів. Що мене найбільше здивувало, так це сліпе довіра до цих даних – їх вважали абсолютною правдою.

Ваше дослідження використовує Генеративні Суперницькі Мережі (GAN) для виявлення фальшивих супутникових зображень. Як працює ваша система, і що робить її відмінною від загальних детекторів діпфейків?

Більшість детекторів сьогодні розроблені для ідентифікації облич чи голосів. Вони шукають ознаки, такі як несумісні рухи губ чи проблеми з аудіо. Супутникові зображення зовсім інші. Вони складаються з тонких текстур та спектральних патернів по всьому ландшафту, сільському господарстві, океанах та містах. Ці патерни важче помітити та потребують іншого підходу.

У своєму початковому проекті я тренував мережу GAN за допомогою набору даних SpaceNet-7 реальних супутникових зображень. Генератор створює синтетичні зображення, а дискримінатор вчиться розрізняти справжнє та фальшиве. Зосередившись на дискримінаторі, я тренував модель, яка розуміє статистичні «підписи» справжніх геопросторових даних. Це включає те, як текстури поводяться в міських районах порівняно з природними ландшафтами та як патерни інтенсивності пікселів течуть по різних регіонах.

Як ви підійшли до створення свого власного синтетичного зображення для навчання, враховуючи відсутність публічних наборів даних для виявлення геопросторових діпфейків?

Створення синтетичного набору даних включало побудову складної архітектури GAN, тренованої на наборі даних SpaceNet-7 реальних супутникових зображень. Генератор навчався перетворювати випадковий шум у більш реалістичні супутникові зображення. Він захоплював складні патерни, знайдені в фактичних геопросторових даних.

Які аномалії – спектральні, текстурні чи інші – ваша система виявляє при розрізненні справжніх та маніпульованих зображень?

На відміну від діпфейків облич, де проблеми, такі як ненатуральні мигання чи несумісні рухи губ, зазвичай легко помітити, проблеми супутникових зображень набагато тонші. Моя система знаходить спектральні несумісності, де взаємодіючі патерни між різними електромагнітними смугами не відповідають справжнім даних спостереження за Землею. Вона також виявляє текстурні нерегулярності, такі як сільське господарство, яке виглядає надто однорідним, поверхні океану, які 缺ують природніх хвильових патернів, або міські текстури з штучною повторюваністю.

Оглянувшись вперед, ваш плакат згадує майбутню роботу, таку як розширення браузера для реального геопросторового автентифікації та багатомодельні рамки. Що ви бачите як наступний великий крок у цьому напрямку досліджень?

Хоча моє дослідження на основі GAN показало, що ми можемо точно виявляти фальшиві супутникові зображення, я зрозумів, що хороші результати лабораторних досліджень не гарантують успіху у реальному світі. Синтетичні зображення часто не відповідають патернам, на яких тренуються моделі виявлення, а генеративні технології швидко змінюються.

Наступна фаза зосереджена на побудові сильних, адаптивних систем, які працюють добре в різних умовах. Це означає, що нам потрібно створити кращі методи оцінки, які імітують непередбачувану природу використання синтетичних зображень у реальному світі. Нам також потрібно розробити практичні інструменти, такі як легкі розширення браузера, реальні API та інтеграційні рамки, щоб допомогти у важливих процесах прийняття рішень.

Поза геопросторовими даними ваше ширше дослідження охоплює також відео діпфейки, реальне голосове автентифікацію та упередженість штучного інтелекту у кредитуванні. Як ви вибираєте, які етичні виклики звернути увагу наступними?

Мій напрямок досліджень не формується популярними темами; він зосереджується на знаходженні критичних уразливостей у системах, де люди покладають фундаментальне довіра. Кожен проект починається з ідентифікації конкретних точок, де довіра може бути підірвана, що призводить до серйозних наслідків.

Дослідження діпфейків почалося з особистого досвіду, який показав мені, як синтетичні медіа можуть нашкодити людині у її вірі в візуальні докази. Робота з Національною 4-Х GIS лідерською командою підкреслила, наскільки люди покладаються на супутникові зображення для реагування на катастрофи та прийняття політичних рішень. Це зв’язало все. Все це зробило сенс. Якщо фальшиве відео може спричинити емоційний дискомфорт та соціальні хвилювання, маніпульоване супутникове зображення може привести до катастрофічних реальних наслідків.

Ви також опублікували книгу «Tech Demystified: Cybersecurity», яка була прийнята школами. Що мотивувало вас написати цю книгу, і як ви робите такий технічний матеріал доступним для студентів та педагогів?

Книга виникла безпосередньо з мого досвіду дослідження діпфейків. Це показало мені, наскільки важлива цифрова грамотність для молодих людей, які стикаються з більш складним технологічним світом. Кібербезпека здавалася правильним початком, оскільки вона впливає на всіх, незалежно від їхніх технічних навичок чи кар’єрних цілей.

Я написав книгу для студентів, які були лише на кілька років молодші за мене. Що б допомогло мені зрозуміти кіберзагрози, коли я вперше почав вивчати це. Я організував контент за допомогою історій, порівнянь та візуальних засобів, а також інтерактивних занять та питань для роздумів. Ці інструменти роблять складні ідеї легшими для розуміння.

У книзі ви охоплюєте загрози від фішингу до шкідливих програм. Яке, на вашу думку, є найбільш важливим принципом кібербезпеки, який молоді люди повинні зрозуміти сьогодні?

Найважливішим принципом є «довіряй, але перевіряй». Важливо розвинути звичку ставитися під сумнів цифрову інформацію, перш ніж вчинити дії. Більшість успішних кібератак використовують людську довіру, а не складні технічні вади. Чи це клікання на підозрілих посиланнях, завантаження невідомих файлів чи відповідь на повідомлення, які здаються знайомими, пауза для перевірки може зупинити багато атак.

Між вашими академічними дослідженнями, ініціативами STEM-освіти та опублікованими роботами ви явно проникнуті технологіями та етикою. Як ви сподіваєтеся сформувати майбутнє безпеки штучного інтелекту та відповідальної інновації?

Все, що я роблю, зосереджено на побудові та підтримці довіри до технологій. Штучний інтелект може досягти свого потенціалу лише тоді, коли люди вірять, що ці системи безпечні, справедливі та прозорі. Без цієї довіри навіть революційні технології будуть боротися за прийняття та використання.

Через дослідження я намагаюся знайти ключові уразливості, перш ніж вони стануть поширеними проблемами. Я працюю над такими областями, як геопросторові діпфейки та голосова автентифікація, де ризики не завжди очевидні, але можуть мати серйозні наслідки. Через освіту та написання я хочу допомогти студентам зрозуміти ці системи, а не бачити технологію як загадковий чорний ящик, зарезервований для експертів.

Моя візія відповідальної інновації включає безпеку та справедливість з самих початкових стадій розробки, а не як післядуми. Це означає оцінку моделей не лише за їхніми можливостями, а й за можливими точками відмов, визначення тих, хто може бути пошкоджений, та створення стратегій для зменшення цих ризиків.

Якщо я можу допомогти виявити критичні уразливості, а також збільшити технологічну грамотність, я вважаю, що я зіграю роль у формуванні майбутнього штучного інтелекту, яким люди можуть真正но довіряти та користуватися.

Дякую за велике інтерв’ю, читачам рекомендуємо прочитати «Tech Demystified: Cybersecurity: Core Principles of Modern Cyber Defense».