Искусственный интеллект и национальная безопасность: новая зона боевых действий

Искусственный интеллект меняет способ, которым страны защищают себя. Он стал необходим для кибербезопасности, разработки оружия, контроля границ и даже общественных дискуссий. Хотя он предлагает значительные стратегические выгоды, он также вводит многие риски. Эта статья исследует, как ИИ меняет безопасность, текущие результаты и сложные вопросы, которые возникают с появлением этих новых технологий.

• Кибербезопасность: битва ИИ против ИИ

Большинство современных атак начинаются в киберпространстве. Преступники больше не пишут каждый фишинговый электронный письмо вручную. Они используют языковые модели для составления сообщений, которые звучат дружелюбно и естественно. В 2024 году банда использовала глубокий фальшивый видеоролик главного финансового директора для кражи 25 миллионов долларов из его собственной фирмы. Видео выглядело так реально, что сотрудник выполнил фальшивую команду без сомнений. Нападавшие теперь подпитывают крупные языковые модели утечками резюме или данными LinkedIn, чтобы создать личную приманку. Некоторые группы даже используют генеративный ИИ для создания программных ошибок или написания фрагментов вредоносного ПО.

Защитники также используют ИИ для защиты от этих атак. Команды безопасности подпитывают сетевые журналы, клики пользователей и глобальные отчеты о угрозах в инструменты ИИ. Программное обеспечение учится распознавать “нормальную” деятельность и предупреждать, когда происходит что-то подозрительное. Когда обнаруживается вторжение, системы ИИ отключают подозрительный компьютер, чтобы ограничить ущерб, который мог бы распространиться, если бы люди реагировали медленнее.

• Автономное оружие

ИИ также выходит на физические поля боя. На Украине дроны используют бортовое зрение, чтобы найти топливные грузовики или радарные объекты, прежде чем они взорвутся. США использовали ИИ, чтобы помочь определить цели для авиаударов в таких местах, как Сирия. Армия Израиля недавно использовала платформу выбора цели ИИ, чтобы отсортировать тысячи воздушных изображений и отметить потенциальные укрытия боевиков. Китай, Россия, Турция и Великобритания протестировали ” летающие боеприпасы“, которые кружат над территорией, пока ИИ не обнаружит цель. Эти технологии могут сделать военные операции более точными и снизить риски для солдат. Но они также вызывают серьезные опасения. Кто несет ответственность, когда алгоритм выбирает неправильную цель? Некоторые эксперты боятся ” молниеносных войн“, где машины реагируют слишком быстро, чтобы дипломаты могли их остановить. Многие эксперты призывают к международным правилам, регулирующим автономное оружие, но государства боятся отстать, если они остановятся.

• Наблюдение и разведка

Службы разведки когда-то полагались на команды аналитиков, чтобы прочитать отчеты или просмотреть видеопотоки. Сегодня они полагаются на ИИ, чтобы просеять миллионы изображений и сообщений каждый час. В некоторых странах, таких как Китай, ИИ отслеживает поведение граждан, от мелочей, таких как переход улицы, до того, что они делают в Интернете. Аналогично, на границе США и Мексики солнечные башни с камерами и тепловыми датчиками сканируют пустынную местность. ИИ обнаруживает движущуюся фигуру, помечает ее как человека или животное, а затем предупреждает патрульных агентов. Эта ” виртуальная стена” покрывает широкую территорию, которую люди не смогли бы наблюдать в одиночку.

Хотя эти инструменты расширяют покрытие, они также увеличивают количество ошибок. Системы распознавания лиц были показаны как ошибочное определение женщин и людей с темной кожей с более высокой скоростью, чем белых мужчин. Одна неправильная совпадение может привести к тому, что невинный человек столкнется с дополнительными проверками или задержанием. Политикам предлагают проверенные алгоритмы, четкие пути обжалования и человеческий обзор перед любыми серьезными действиями.

• Информационная война

Современные конфликты ведутся не только ракетами и кодами, но и нарративами. В марте 2024 года фальшивое видео показало, как президент Украины отдает приказ о капитуляции; оно распространилось в Интернете, прежде чем фактчекеры опровергли его. Во время конфликта между Израилем и Хамасом в 2023 году фальшивки, сгенерированные ИИ, в пользу одной из сторон политики наводнили социальные потоки, чтобы наклонить общественное мнение.

Ложная информация распространяется быстрее, чем правительства могут ее исправить. Это особенно проблематично во время выборов, где контент, сгенерированный ИИ, часто используется для влияния на избирателей. Избирателям трудно различать реальные и сгенерированные ИИ изображения или видео. Хотя правительства и технологические компании работают над проектами противодействия ИИ для сканирования цифровых отпечатков ИИ, гонка равна; создатели улучшают свои фальшивки так же быстро, как защитники улучшают свои фильтры.

• Системы поддержки принятия решений

Армии и агентства собирают огромное количество данных, включая часы видео с беспилотников, журналы технического обслуживания, спутниковые изображения и открытые источники. ИИ помогает, сортируя и выделяя релевантную информацию. НАТО недавно приняло систему, вдохновленную проектом Maven США. Она связывает базы данных из 30 государств-членов, предоставляя планировщикам унифицированный вид. Система предлагает вероятные движения противника и выявляет потенциальные нехватки поставок. Командование специальных операций США использует ИИ для помощи в составлении части своего годового бюджета путем сканирования счетов-фактур и рекомендации перераспределения. Аналогичные платформы ИИ предсказывают неисправности двигателей, планируют ремонты заранее и настраивают симуляции полетов в соответствии с потребностями отдельных пилотов.

• Правоохранительные органы и контроль границ

Полицейские силы и иммиграционные чиновники используют ИИ для задач, которые требуют постоянного внимания. В оживленных аэропортах биометрические киоски подтверждают личности путешественников, чтобы сделать процесс более эффективным. Программное обеспечение для анализа закономерностей выделяет записи о путешествиях, которые намекают на торговлю людьми или контрабанду наркотиков. В 2024 году один европейский партнер использовал такие инструменты, чтобы раскрыть группу, перевозящую мигрантов через грузовые суда. Эти инструменты могут сделать границы более безопасными и помочь поймать преступников. Но есть и опасения. Распознавание лиц иногда проваливается для определенных классов людей с низкой представленностью, что может привести к ошибкам. Конфиденциальность также является проблемой. Главный вопрос заключается в том, следует ли использовать ИИ для наблюдения за всеми так внимательно.

Итог

ИИ меняет национальную безопасность многими способами, предлагая как возможности, так и риски. Он может защитить страны от киберугроз, сделать военные операции более точными и улучшить принятие решений. Но он также может распространять ложь, нарушать конфиденциальность или совершать смертельные ошибки. Поскольку ИИ становится более распространенным в сфере безопасности, нам нужно найти баланс между использованием его силы для добра и контролем его опасностей. Это означает, что страны должны работать вместе и установить четкие правила того, как ИИ можно использовать. В конечном итоге ИИ является инструментом, и то, как мы его используем, определит будущее безопасности. Мы должны быть осторожны, чтобы использовать его мудро, чтобы он помог нам больше, чем навредит.