Искусственный интеллект и национальная безопасность: новая битва

Искусственный интеллект меняет способ, которым страны защищают себя. Он стал необходим для кибербезопасности, разработки оружия, контроля границ и даже общественных дискуссий. Хотя он предлагает значительные стратегические выгоды, он также вводит много рисков. Эта статья исследует, как ИИ меняет безопасность, текущие результаты и сложные вопросы, которые эти новые технологии вызывают.

• Кибербезопасность: битва ИИ против ИИ

Большинство современных атак начинаются в киберпространстве. Преступники больше не пишут каждый фишинговый электронный письмо вручную. Они используют языковые модели для составления сообщений, которые звучат дружелюбно и естественно. В 2024 году банда использовала глубокую подделку видео главного финансового директора для кражи 25 миллионов долларов из его собственной фирмы. Видео выглядело так реально, что сотрудник выполнил фальшивую команду без сомнений. Атакующие теперь подают большие языковые модели с утечками резюме или данными LinkedIn для создания личной наживки. Некоторые группы даже используют генеративный ИИ для создания программных ошибок или написания фрагментов вредоносного ПО.

Защитники также используют ИИ для защиты от этих атак. Команды безопасности подают сетевые журналы, клики пользователей и глобальные отчеты о угрозах в инструменты ИИ. Программное обеспечение учится распознавать “нормальную” активность и предупреждать, когда происходит что-то подозрительное. Когда обнаруживается вторжение, системы ИИ отключают подозрительный компьютер, чтобы ограничить ущерб, который мог бы распространиться, если бы люди реагировали медленнее.

• Автономное оружие

ИИ также выходит на физические поля боя. На Украине беспилотники используют бортовое зрение для обнаружения цистерн с топливом или радарных объектов до их взрыва. США использовали ИИ для помощи в выявлении целей для авиаударов в таких местах, как Сирия. Армия Израиля недавно использовала платформу выбора цели с помощью ИИ для сортировки тысяч воздушных изображений для отметки потенциальных укрытий боевиков. Китай, Россия, Турция и Великобритания протестировали “летающие боеприпасы“, которые кружат над территорией до тех пор, пока ИИ не обнаружит цель. Эти технологии могут сделать военные операции более точными и снизить риски для солдат. Но они также вызывают серьезные опасения. Кто несет ответственность, когда алгоритм выбирает неправильную цель? Некоторые эксперты боятся “вспышечных войн“, где машины реагируют слишком быстро для дипломатов, чтобы остановить их. Многие эксперты призывают к международным правилам для контроля над автономным оружием, но государства боятся отстать, если они остановятся.

• Наблюдение и разведка

Службы разведки когда-то полагались на команды аналитиков для чтения отчетов или просмотра видеопотоков. Сегодня они полагаются на ИИ для сортировки миллионов изображений и сообщений каждый час. В некоторых странах, таких как Китай, ИИ отслеживает поведение граждан, от мелочей, таких как переход улицы, до того, что они делают в Интернете. Аналогично, на границе США и Мексики солнечные башни с камерами и тепловыми датчиками сканируют пустынную местность. ИИ обнаруживает движущуюся фигуру, помечает ее как человека или животное, а затем предупреждает патрульных агентов. Эта “виртуальная стена” покрывает обширную территорию, которую люди не смогли бы наблюдать в одиночку.

Хотя эти инструменты расширяют покрытие, они также усиливают ошибки. Системы распознавания лиц были показаны как ошибочное определение женщин и людей с более темной кожей с более высокими скоростями, чем белые мужчины. Одна ложная связь может привести к тому, что невиновный человек столкнется с дополнительными проверками или задержанием. Законодатели требуют проверенных алгоритмов, ясных путей апелляции и человеческого обзора перед любыми сильными действиями.

• Информационная война

Современные конфликты ведутся не только с помощью ракет и кода, но и с помощью нарративов. В марте 2024 года фальшивое видео показало президента Украины, приказывающего солдатам сдаться; оно распространилось в Интернете до того, как фактчекеры опровергли его. Во время конфликта между Израилем и Хамасом в 2023 году фальшивки, сгенерированные ИИ, благоприятные для политики одной стороны, наводнили социальные потоки, чтобы наклонить общественное мнение.

Ложная информация распространяется быстрее, чем правительства могут ее исправить. Это особенно проблематично во время выборов, где контент, сгенерированный ИИ, часто используется для влияния на избирателей. Избиратели с трудом различают реальные и сгенерированные ИИ изображения или видео. Хотя правительства и технологические компании работают над проектами по противодействию ИИ для сканирования цифровых отпечатков ИИ, гонка равна; создатели улучшают свои фальшивки так же быстро, как защитники улучшают свои фильтры.

• Поддержка принятия решений

Армии и агентства собирают огромные объемы данных, включая часы видео с беспилотников, журналы технического обслуживания, спутниковые изображения и открытые источники. ИИ помогает, сортируя и выделяя важную информацию. НАТО недавно приняло систему, вдохновленную проектом Maven США. Она связывает базы данных из 30 государств-членов, предоставляя планировщикам унифицированный вид. Система предлагает вероятные движения противника и выявляет потенциальные нехватки поставок. Командование специальных операций США использует ИИ для помощи в составлении части своего годового бюджета путем сканирования счетов-фактур и рекомендации перераспределения. Аналогичные платформы ИИ предсказывают неисправности двигателей, планируют ремонты заранее и настраивают симуляции полетов для индивидуальных потребностей пилотов.

• Правоохранительные органы и контроль границ

Полицейские силы и иммиграционные чиновники используют ИИ для задач, которые требуют постоянного внимания. В忙ых аэропортах биометрические киоски подтверждают личности путешественников, чтобы сделать процесс более эффективным. Программное обеспечение для анализа закономерностей выделяет записи о путешествиях, которые намекают на торговлю людьми или контрабанду наркотиков. В 2024 году один европейский партнерский проект использовал такие инструменты для раскрытия кольца, перевозящего мигрантов через грузовые суда. Эти инструменты могут сделать границы более безопасными и помочь поймать преступников. Но есть также опасения. Системы распознавания лиц иногда не справляются с определением некоторых классов людей с низкой представленностью, что может привести к ошибкам. Конфиденциальность также является проблемой. Главный вопрос заключается в том, следует ли использовать ИИ для наблюдения за всеми так внимательно.

Итог

ИИ меняет национальную безопасность многими способами, предлагая как возможности, так и риски. Он может защитить страны от киберугроз, сделать военные операции более точными и улучшить принятие решений. Но он также может распространять ложь, нарушать конфиденциальность или совершать смертельные ошибки. По мере того, как ИИ становится более распространенным в сфере безопасности, нам нужно найти баланс между использованием его силы для добра и контролем над его опасностями. Это означает, что страны должны работать вместе и установить четкие правила для использования ИИ. В конечном итоге ИИ является инструментом, и то, как мы его используем, определит будущее безопасности. Мы должны быть осторожны, чтобы использовать его мудро, чтобы он помог нам больше, чем навредит.