Вайшнав Ананд, автор книги «Технологии, разобранные: Кибербезопасность» – Интервью

Семнадцатилетний студент школы Атенеум, Вайшнав Ананд, разработал первую систему ИИ, способную обнаруживать «геопространственные глубокие подделки» – манипулированные спутниковые изображения, которые могут скрыть военные объекты, сфабриковать залежи ресурсов или исказить данные о катастрофах, что может представлять угрозу национальной безопасности и глобальной стабильности. Поскольку нет публичных наборов данных для обнаружения этого типа, Ананд сгенерировал свои собственные синтетические изображения с помощью генеративных состязательных сетей, обучил модели с нуля и сейчас применяет методы диффузии для улучшения точности. Его исследования уже были представлены на Международной конференции Esri и в Кембриджском университете, где получили признание президента Esri Джека Денджермонда.

Параллельно с работой в области безопасности ИИ Ананд написал две книги по кибербезопасности, принятые частными школами, а его последняя книга «Технологии, разобранные: Кибербезопасность: Основные принципы современной киберзащиты» получила рейтинг 5,0 звезд. Книга разбивает сложные темы, такие как фишинг, вредоносное ПО, брандмауэры и шифрование, на ясные и практические уроки для студентов, педагогов и всех, кто интересуется цифровой безопасностью. Делая кибербезопасность доступной и интересной, Ананд устанавливает себя не только как инноватора в области ИИ, но и как появляющийся голос в образовании и технологиях.

Вы еще учитесь в школе, но уже делаете вклад в области ИИ и кибербезопасности. Что первым привлекло вас в эту область, и как вы начали разрабатывать такие передовые проекты в таком молодом возрасте?

То, что привлекло меня в эту область, было двойной природой ИИ. У него есть невероятный потенциал, но он также может причинить вред. У меня был прямой опыт с технологией глубоких подделок, который изменил мою точку зрения. Смотря, как синтетические СМИ могли серьезно навредить молодым людям, я понял, что это не просто техническая любопытство, а критическая социальная проблема, которая требует более глубокого понимания.

Мой вход в исследования не был результатом грандиозного плана, а результатом глубокого любопытства. Каждый вопрос, который я исследовал, привел меня к следующему, создавая цикл открытий. Я обнаружил, что я интересуюсь все более сложными проблемами. Я не искал признания; меня действительно интересовали вопросы.

Я перешел от индивидуального исследования к значимым исследованиям через сетевое общение и настойчивость. Я начал связываться с известными исследователями, чью работу я восхищался, в основном через платформы типа LinkedIn. Хотя многие не ответили, мне повезло связаться с двумя исследователями с докторской степенью, занимающимися безопасностью ИИ и обнаружением глубоких подделок. Они начали меня с небольших задач в рамках своих более крупных исследовательских проектов. Когда я доказал свою надежность и проницательность, эти задачи стали более существенными.

Это наставничество было жизненно важным. Имея опытных исследователей, которые руководили моим развитием, помогло мне превратить мое любопытство в строгую работу. Моя внутренняя мотивация, их структурированное руководство и постоянные усилия постепенно превратили мое случайное интерес в значимый вклад в исследования. Это укрепило мою убежденность в том, что настоящий прогресс часто происходит не от драматических прорывов, а от постоянного взаимодействия с важными проблемами.

Большинство людей думают о глубоких подделках в терминах лиц или голосов. Что вдохновило вас исследовать геопространственные глубокие подделки в частности, и почему вы считаете это такой критической слепой зоной?

Когда большинство людей слышат слово «глубокая подделка», они думают о фальшивых видеороликах с знаменитостями или измененных голосах. Я тоже так думал сначала. Но когда я узнал больше, я начал задумываться, где еще эта технология могла бы быть использована способами, которые мы не рассматриваем. Тогда я понял, что спутниковые изображения часто рассматриваются как совершенно надежные. Правительства, бизнес и даже команды по оказанию помощи при катастрофах принимают важные решения на основе этих изображений.

Это показалось мне слепой зоной. Если фальшивое видео может нанести вред репутации, фальшивая карта или измененное спутниковое изображение может нарушить цепочки поставок, ввести в заблуждение усилия по оказанию помощи или даже привести к плохим решениям в области национальной безопасности. Когда оборона и война становятся более зависимыми от систем ИИ, дронов и автоматизированного принятия решений, риски растут. Манипулированная спутниковая передача может обмануть не только людей, но и машины.

Можете ли вы рассказать нам о своем процессе открытия – как вы поняли, что манипулированные спутниковые изображения могут представлять риски для национальной безопасности, экономики и реагирования на катастрофы?

Мой поворотный момент наступил после того, как я столкнулся с глубокой подделкой, которая потрясла мою веру в то, что я видел. Этот момент сомнения показал мне что-то важное: люди естественным образом склонны доверять визуальным доказательствам, и когда это доверие нарушается, оно меняет то, как мы видим все. Этот опыт заставил меня столкнуться с тем, насколько уязвимы мы все для хитрой обмана.

Сначала, как и большинство людей, я сосредоточился на очевидных применениях – видео глубоких подделок и измененных лиц. Мои ранние проекты по обнаружению дали мне важные знания о том, как работают эти технологии, но они также показали мне более широкие последствия, которые я не рассматривал.

Настоящий откровение наступило, когда я служил заместителем директора Национальной команды лидерства 4-H по географическим информационным системам. Работая с геопространственными данными и спутниковыми изображениями, я увидел, как эти кажущиеся объективными источники определяют важные решения. Я смотрел, как карты направляли реагирование на катастрофы, формировали экологическую политику и влияли на многомиллионные проекты планирования сообществ. То, что меня больше всего удивило, было слепым доверием к этим данным – они рассматривались как неоспоримая правда.

Тогда все стало ясно. Если фальшивое видео может вызвать эмоциональный дистресс и социальные волнения, манипулированное спутниковое изображение может привести к катастрофическим реальным последствиям. Подумайте о том, что аварийные ресурсы отправляются в фальшивые зоны катастроф, правительства принимают решения на основе неверных экологических данных или финансовые рынки влияются измененными сельскохозяйственными отчетами. Потенциал вреда был ошеломляющим.

Этот сочетание моих исследований глубоких подделок и опыта работы с географическими информационными системами показал пробел в нашем коллективном сознании. Хотя мир обсуждает замену лиц и синтетические СМИ, гораздо большая угроза геопространственных глубоких подделок остается в значительной степени незамеченной. Это осознание стало движущей силой моих исследований – решением серьезной уязвимости, которая могла бы изменить то, как мы понимаем истину в нашем мире, определяемом данными.

Ваше исследование использует генеративные состязательные сети (GAN) для обнаружения фальшивых спутниковых изображений. Как работает ваша система, и что отличает ее от общих детекторов глубоких подделок?

Большинство детекторов сегодня предназначены для выявления лиц или голосов. Они ищут признаки, такие как несоответствие движений губ или проблемы с аудио. Спутниковые изображения очень khácны. Они состоят из тонких текстур и спектральных закономерностей на ландшафтах, фермах, океанах и городах. Эти закономерности труднее заметить и требуют другого подхода.

В моем первоначальном проекте я обучил框架 GAN с использованием набора данных SpaceNet-7 реальных спутниковых изображений. Генератор создает синтетические изображения, а дискриминатор учится различать настоящие и фальшивые изображения. Сосредоточившись на дискриминаторе, я обучил модель, которая понимает статистическую «подпись» реальных геопространственных данных. Это включает в себя то, как текстуры ведут себя в городских районах по сравнению с природными ландшафтами и как закономерности интенсивности пикселей текут через разные регионы.

Через этот процесс обучения система достигла высокого уровня точности в обнаружении фальшивок. Основное отличие от общих детекторов заключается в том, что эта система предназначена специально для геопространственных данных. Вместо того, чтобы полагаться на очевидные визуальные ошибки, она учится на тонких спектральных и текстурных несоответствиях, которые раскрывают синтетические спутниковые изображения.

Мои текущие исследования сместились в сторону изучения моделей диффузии в качестве генераторов. Эти модели представляют собой значительное улучшение над GAN в плане качества изображений. Модели диффузии, такие как DDPM и DDIM, создают очень реалистичные спутниковые изображения, изучая, как обратить процесс добавления шума. Синтетические изображения, которые они производят, часто яснее и более детализированы, чем те, которые генерируются GAN. Это представляет собой как возможность, так и вызов. Хотя эти модели могут обеспечить лучшие данные для обучения систем обнаружения, они также производят более совершенные фальшивки, которые труднее обнаружить.

Я сейчас сравниваю различные методы обнаружения, чтобы найти те, которые наиболее эффективны против разных методов генерации. Это включает в себя традиционные классификаторы на основе CNN, архитектуры на основе трансформеров, которые могут захватить долгосрочные пространственные отношения в спутниковых изображениях, и гибридные методы, которые объединяют спектральный анализ с глубоким обучением. Каждый метод имеет свои собственные сильные стороны: CNN хорошо обнаруживают местные текстурные проблемы, трансформеры могут обнаружить более крупные структурные проблемы на изображениях, а спектральный анализ может выявить тонкие частотные сигнатуры, которые нейронные сети могут пропустить.

Интересным аспектом является то, что разные генераторы оставляют уникальные следы. Изображения, сгенерированные GAN, часто имеют специфические артефакты в высокочастотных деталях и краях, в то время как изображения, сгенерированные диффузией, обычно показывают более тонкие несоответствия в общей связности и спектральных чертах. Обучая модели обнаружения на обоих GAN и диффузионных фальшивках, я получаю более глубокое понимание синтетических спутниковых изображений. Это помогает строить системы обнаружения, которые могут адаптироваться, когда технология генерации развивается.

Этот многомодальный подход к обнаружению имеет решающее значение. Когда генеративные модели становятся более совершенными, нам нужны системы обнаружения, которые не зависят от ошибок любого одного метода генерации. Цель состоит в том, чтобы выявить основные статистические характеристики, которые отличают реальные спутниковые снимки от любого вида синтеза, независимо от технологии, использованной для их создания.

В вашей статье в MIT URTC вы упоминаете достижение точности около 88 процентов в различении аутентичных спутниковых изображений и фальшивок. Какие были ключевые прорывы, которые позволили достичь этой производительности?

Ключевым прорывом было осознание того, что не существует публичных наборов данных для обучения моделей обнаружения. Это заставило меня работать над двойным подходом, занимаясь как генерацией, так и обнаружением одновременно. Я создал свой собственный синтетический набор данных, используя GAN, и обучил дискриминаторы с помощью этих данных. Это позволило мне построить систему, которая действительно понимает статистические закономерности реальных геопространственных данных.

Другим важным выводом было признание того, что спутниковые изображения представляют собой совершенно другие проблемы по сравнению с глубокими подделками лиц. Хотя лица обычно имеют последовательные анатомические структуры, спутниковые изображения охватывают широкий спектр типов местности – все, от сельскохозяйственных закономерностей до городских дизайнов и природных ландшафтов. Мне нужно было создать систему обнаружения, которая могла бы выявить аутентичные черты во всех этих разных средах.

Этот специализированный метод, вместо того, чтобы полагаться на общие детекторы, позволил модели выявить тонкие спектральные и текстурные различия, которые раскрывают синтетические спутниковые изображения. Однако мои текущие исследования с моделями диффузии показывают еще лучшие результаты, достигая более высоких показателей точности и будучи более устойчивыми к продвинутым методам генерации.

Как вы генерировали свои собственные синтетические изображения для обучения, учитывая, что нет публичных наборов данных для обнаружения геопространственных глубоких подделок?

Создание синтетического набора данных включало в себя построение сложной архитектуры GAN, обученной на наборе данных SpaceNet-7 реальных спутниковых изображений. Генератор научился преобразовывать случайный шум в более реалистичные спутниковые изображения. Он захватил сложные закономерности, найденные в реальных геопространственных данных.

Процесс напоминает соревнование между умелым подделщиком и обученным проверяющим. Генератор постоянно улучшает свои синтетические изображения, в то время как дискриминатор становится лучше в выявлении тонких признаков подделки. Это взаимное обучение создает цикл, в котором обе части толкают друг друга к лучшей производительности.

Контролируя как процесс генерации, так и процесс обнаружения, я получил важные знания о том, как создаются синтетические спутниковые изображения. Этот двойной взгляд был решающим для разработки сильных методов обнаружения, которые могут распознавать, как выглядят реальные изображения и как синтетические отличаются от этих закономерностей.

Какие аномалии – спектральные, текстурные или другие – ваша система выявляет при различении реальных и манипулированных изображений?

В отличие от глубоких подделок лиц, где проблемы, такие как неестественные моргания или несоответствия движений губ, обычно легко заметить, проблемы со спутниковыми изображениями намного тоньше. Моя система выявляет спектральные несоответствия, где закономерности взаимодействия между разными электромагнитными полосами не соответствуют реальным данным наблюдения Земли. Она также обнаруживает текстурные нерегулярности, такие как сельскохозяйственные площади, которые выглядят слишком однородно, поверхности океанов без естественных волновых закономерностей или городские текстуры с искусственной повторностью.

Контекстные аномалии добавляют еще один слой обнаружения. Это включает в себя дорожные сети, которые не следуют естественным ландшафтам, сельскохозяйственные планировки, которые игнорируют реальные ограничения сельского хозяйства, или закономерности городского развития, которые не соответствуют типичному росту города. Эти проблемы могут ускользнуть от человеческого взгляда, но создают четкие статистические сигнатуры, которые модель может распознать.

Система имеет ограничения при работе с сложными изображениями. Плотные городские районы с перекрывающимися структурами или спутниковые изображения, затронутые значительными атмосферными искажениями, могут уменьшить точность обнаружения. Эти крайние случаи указывают на области, требующие дальнейших исследований и улучшения моделей.

Глядя вперед, ваш плакат упоминает будущую работу, такую как расширения браузера для реального времени геопространственной аутентификации и многонаборные рамки. Что вы считаете следующим большим шагом в этой линии исследований?

Хотя мои исследования на основе GAN показали, что мы можем точно обнаруживать фальшивые спутниковые изображения, я понял, что хорошие результаты в лаборатории не гарантируют успеха в реальном мире. Синтетические изображения часто не соответствуют закономерностям, на которых обучались модели обнаружения, и генеративные технологии быстро меняются.

Следующая фаза фокусируется на построении сильных, адаптируемых систем, которые работают хорошо в различных условиях. Это означает, что нам нужно создать лучшие методы оценки, которые имитируют непредсказуемую природу использования синтетических изображений в реальном мире. Нам также нужно разработать практические инструменты, такие как легкие расширения браузера, реальные API и интеграционные рамки, чтобы помочь в важных процессах принятия решений.

Мое текущее направление исследований подчеркивает адаптивность и практическое применение. Я не пытаюсь просто улучшить точность модели в контролируемых средах. Я стремлюсь разработать системы обнаружения, которые могут оставаться надежными, когда генеративные методы меняются. Я хочу предоставить доступные инструменты для правительств, бизнеса и сообществ, которые полагаются на достоверные геопространственные данные.

За пределами геопространственных данных ваши более широкие исследования также охватывают видео глубоких подделок, реальное время аутентификации голоса и предвзятость ИИ в кредитовании. Как вы выбираете, какие этические проблемы решать дальше?

Мое направление исследований не определяется модными темами; оно фокусируется на выявлении критических уязвимостей в системах, где люди размещают фундаментальное доверие. Каждый проект начинается с выявления конкретных точек, где доверие может быть подорвано, что приводит к серьезным последствиям.

Исследования глубоких подделок начались с личного опыта, который показал, как синтетические СМИ могут нанести вред человеку. Работа с Национальной командой лидерства 4-H по географическим информационным системам подчеркнула, насколько люди полагаются на спутниковые изображения для реагирования на катастрофы и принятия политических решений. Эта связь привела к исследованиям геопространственных глубоких подделок, где ставки потенциально очень высоки.

Этот шаблон также применим к аутентификации голоса. Я рассмотрел, как синтетические экстренные вызовы могли бы перегрузить системы 911. Также есть проблема предвзятости ИИ в кредитовании, где алгоритмическая дискриминация может лишить возможности целые сообщества. Каждая из этих областей отражает важную доверительную связь между людьми и технологиями, которая требует защиты.

Я исследую, где технология встречается с социальной уязвимостью, сосредотачиваясь на исследованиях, которые могут предотвратить разрыв доверия до того, как они перерастут в широкомасштабные кризисы.

Вы также опубликовали книгу «Технологии, разобранные: Кибербезопасность», которая была принята в школах. Что мотивировало вас написать эту книгу, и как вы делаете такие технические материалы доступными для студентов и педагогов?

Книга возникла напрямую из моего опыта исследований глубоких подделок. Она показала мне, насколько важна цифровая грамотность для молодых людей, когда они сталкиваются с более сложным технологическим миром. Кибербезопасность казалась правильной отправной точкой, поскольку она влияет на всех, независимо от их технических навыков или карьерных целей.

Я ориентировал свое письмо на студентов, которые были всего лишь на несколько лет моложе меня. Что бы помогло мне понять киберугрозы, когда я только начинал учиться. Я организовал содержание, используя истории, сравнения и визуальные средства, а также интерактивные занятия и вопросы для размышления. Эти инструменты делают трудные идеи более доступными.

Было особенно значимо увидеть, как программы средних школ, школьные библиотеки и некоммерческие организации, обслуживающие студентов из малообеспеченных слоев населения, приняли книгу. Я хотел создать ресурс, который открывает двери для студентов, которые могли бы почувствовать себя отстраненными от разговоров о кибербезопасности.

Сосредоточение внимания на кибербезопасности заложило основу для цифровой безопасности до того, как моя следующая книга займется ИИ и глубокими подделками, которые являются моим основным направлением исследований. Студентам нужно сначала изучить основные принципы безопасности, прежде чем приступить к сложным этическим проблемам, связанным с искусственным интеллектом.

В книге вы охватываете угрозы от фишинга до вредоносного ПО. Что, по вашему мнению, является наиболее важным принципом кибербезопасности, который молодые люди должны понять сегодня?

Самый важный принцип – «доверяй, но проверяй». Важно развить привычку сомневаться в цифровой информации, прежде чем предпринимать какие-либо действия. Большинство успешных кибератак пользуются человеческим доверием, а не полагаются на сложные технические уязвимости. Будь то клик на подозрительных ссылках, загрузка неизвестных файлов или ответ на сообщения, которые кажутся знакомыми, пауза для проверки может остановить многие атаки.

Для молодых людей, которые проводят много времени в Интернете и быстро переключаются между платформами, этот подход проверки особенно важен. Формирование привычки сомневаться, прежде чем кликнуть, строит оборонительную позицию, которая защищает от различных угроз.

Этот принцип выходит за рамки кибербезопасности и распространяется на более широкую цифровую грамотность. Те же навыки критического мышления, которые защищают от вредоносного ПО, также помогают выявить дезинформацию, глубокие подделки и другие виды цифрового обмана.

Между вашими академическими исследованиями, инициативами в области STEM-образования и опубликованными работами вы явно увлечены технологиями и этикой. Как вы надеетесь сформировать будущее безопасности ИИ и ответственной инновации?

Все, что я делаю, фокусируется на построении и поддержании доверия к технологиям. ИИ может реализовать свой потенциал только если люди считают эти системы безопасными, справедливыми и прозрачными. Без этого доверия даже революционные технологии будут бороться за признание и использование.

Через исследования я стремлюсь выявить ключевые уязвимости, прежде чем они станут широкомасштабными проблемами. Я работаю над такими областями, как геопространственные глубокие подделки и аутентификация голоса, где риски не всегда очевидны, но могут иметь серьезные последствия. Через образование и письмо я хочу помочь студентам понять эти системы, а не рассматривать технологию как загадочную черную коробку, зарезервированную для экспертов.

Мое видение ответственной инновации включает в себя безопасность и справедливость с самых ранних этапов разработки, а не как после мысли. Это означает оценку моделей не только по их производительности, но и по возможным точкам отказа, выявление того, кто может быть затронут, и разработку стратегий по снижению этих рисков.

В долгосрочной перспективе я хочу помочь создать культуру, в которой каждое достижение в области ИИ получает равное внимание к безопасности и ответственности. Моя работа включает в себя исследования, образование и коммуникацию, поскольку выявление рисков имеет смысл только если мы также можем помочь другим понять и решить их.

Если я смогу помочь выявить критические уязвимости, одновременно повышая технологическую грамотность, я считаю, что я сыграю роль в формировании будущего ИИ, которое люди могут действительно доверять и использовать.

Спасибо за отличное интервью, читателям рекомендуется прочитать книгу «Технологии, разобранные: Кибербезопасность: Основные принципы современной киберзащиты».